Un pastor de Florida, identificado como Scott Winters, presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, al asegurar que ChatGPT le proporcionó recomendaciones médicas peligrosas que habrían retrasado la atención de una embolia pulmonar potencialmente mortal que sufrió el año pasado.
La demanda fue interpuesta ante el Tribunal Superior de California, en San Francisco. Según el documento, ChatGPT le indicó a Winters que los primeros síntomas que experimentaba no representaban un peligro y, además, lo habría desalentado de buscar atención médica inmediata. El demandante también afirma que el sistema le expresó que debía confiar en que «Dios no diseñó su cuerpo para fallar sin cesar».
Por estos hechos, Winters acusa a OpenAI y a Sam Altman de negligencia y de ejercer la medicina sin autorización. Junto con la organización sin fines de lucro Tech Justice Law, que lo representa legalmente, solicita una compensación económica y reclama que la empresa implemente mayores medidas de seguridad para impedir que el chatbot ofrezca diagnósticos o tratamientos médicos.
La demanda sostiene que las funciones de seguridad de ChatGPT, diseñadas para recomendar la consulta con profesionales de la salud y detener conversaciones cuando existen señales de una posible emergencia médica, no funcionaron adecuadamente en este caso. Además, alega que el sistema ofreció diagnósticos, planes de tratamiento y habría animado al usuario a ignorar las recomendaciones de familiares y amigos de acudir a un hospital.
En respuesta, OpenAI indicó, a través de su portavoz Drew Pusateri, que los términos de uso de ChatGPT establecen claramente que la herramienta no está diseñada para realizar diagnósticos ni ofrecer tratamientos médicos. No obstante, reconoció que muchas personas la utilizan para consultas de salud y afirmó que la empresa trabaja para que esas respuestas sean cada vez más seguras. También señaló que atribuir las decisiones médicas únicamente a un chatbot simplifica un problema más amplio y destacó que los modelos más recientes han mejorado respecto al utilizado por el demandante.
