Florida, Estados Unidos.– Un hombre identificado como Scott Winters presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, al alegar que recomendaciones médicas proporcionadas por ChatGPT retrasaron su decisión de acudir al hospital, situación que, según afirma, derivó en una embolia pulmonar que puso en riesgo su vida.
La acción judicial fue presentada ante un tribunal estatal de California e incluye acusaciones por presunta negligencia y por el supuesto ejercicio no autorizado de la medicina. De acuerdo con la demanda, el caso podría convertirse en uno de los primeros intentos de responsabilizar legalmente a un sistema de inteligencia artificial de uso general por daños presuntamente ocasionados a raíz de recomendaciones médicas.
Según Winters, comenzó a utilizar ChatGPT en junio de 2024 para consultar sobre diversas afecciones crónicas. Asegura que, inicialmente, el sistema le recomendaba acudir a profesionales de la salud; sin embargo, sostiene que esas advertencias desaparecieron con el paso del tiempo a medida que aumentaban las conversaciones y el modelo incorporaba información de interacciones anteriores.
El demandante afirma que el chatbot llegó a utilizar referencias a su fe cristiana para reforzar las recomendaciones que le ofrecía, animándolo a permanecer en reposo mientras experimentaba episodios de mareos y otros síntomas que posteriormente fueron relacionados con una embolia pulmonar. También sostiene que, horas antes de ser hospitalizado, informó a ChatGPT sobre un dolor en la ingle y que el sistema minimizó la importancia de ese síntoma.
De acuerdo con la demanda, Winters sufrió posteriormente una embolia pulmonar masiva provocada por coágulos en ambos pulmones. El documento judicial señala que los médicos le indicaron que la inmovilidad prolongada pudo haber contribuido al desarrollo de esa condición.
Además de reclamar una indemnización por los daños alegados, el demandante solicita que ChatGPT interrumpa automáticamente las conversaciones y remita a los usuarios a servicios médicos cuando detecte posibles signos de una emergencia de salud. También pide que cualquier herramienta de asistencia sanitaria basada en este sistema sea sometida previamente a auditorías independientes de seguridad.
En respuesta al caso, OpenAI reiteró públicamente que ChatGPT no sustituye la atención, el diagnóstico ni el tratamiento médico profesional, e insistió en que las decisiones relacionadas con la salud deben tomarse con la orientación de profesionales sanitarios calificados. La compañía también señaló que atribuir un resultado médico únicamente a la interacción con un chatbot simplifica una situación clínica compleja.
