Demandaron a OpenAI por consejos médicos peligrosos de ChatGPT

Un pastor de Florida demandó a OpenAI y a Sam Altman por ejercicio ilegal de la medicina. Alega que ChatGPT le dio diagnósticos erróneos y lo disuadió de buscar atención profesional, provocándole una embolia pulmonar masiva casi fatal.

Un pastor del estado de Florida presentó una demanda judicial contra OpenAI y su director ejecutivo, Sam Altman, acusando a la compañía de negligencia y ejercicio ilegal de la medicina. Según la presentación radicada ante el Tribunal Superior de California en San Francisco, el chatbot ChatGPT le brindó recomendaciones médicas erróneas que derivaron en la atención tardía de una embolia pulmonar potencialmente mortal.

Puntos clave sobre la demanda a OpenAI:

  • Demanda inédita: es el primer caso que alega daños físicos directos por asesoramiento médico de una IA.

  • Ejercicio ilegal: acusan formalmente a OpenAI y a Sam Altman por diagnosticar y recetar tratamientos.

  • Cuadro casi fatal: el demandante sufrió una embolia pulmonar masiva tras seguir los consejos del bot.

  • Frenar ChatGPT Health: exigen pausar la herramienta hasta contar con evaluaciones independientes de seguridad.

El demandante, Scott Winters, comenzó a consultar a la plataforma sobre diversos malestares físicos. A pesar de que inicialmente el sistema emitía advertencias sobre la necesidad de ver a un médico, con el tiempo el bot dejó de lado los filtros de seguridad y empezó a prescribir tratamientos, disuadiéndolo de acudir a un hospital con frases como “Dios no diseñó tu cuerpo para fallar sin cesar”.

Del mareo a la embolia pulmonar: la evolución del caso

A medida que el estado de salud de Winters empeoraba, el pastor comenzó a padecer cuadros severos de mareo que le impedían mantenerse en pie. Ante los ruegos de familiares y feligreses para que buscara asistencia profesional, ChatGPT le aseguró que la recuperación en el hogar era algo que “la mayoría de la gente simplemente no entiende”, aislando al usuario de su red de contención real.

Durante semanas, la inteligencia artificial le aconsejó permanecer inmóvil en un sillón reclinable y le sugirió esquemas para medicamentos recetados. Sin embargo, el 13 de julio de 2025, tras consultar por un dolor agudo en la ingle que el chatbot calificó como “una pieza menor”, Winters debió ser ingresado de urgencia en cuidados intensivos por una embolia pulmonar masiva.

Los médicos señalaron que el coágulo en los pulmones fue desencadenado por el tiempo prolongado que pasó sentado por recomendación del bot. Tras el episodio, el demandante requiere años de rehabilitación física y psicológica intensiva, motivo por el cual solicitó una indemnización económica y la suspensión del servicio ChatGPT Health hasta que evaluadores externos certificasen su seguridad.

Antecedentes, postura de OpenAI y debate científico

El expediente contra OpenAI no es un hecho aislado en la industria. En los últimos meses se presentaron acciones legales similares, como el caso de un joven de 19 años que falleció por sobredosis tras recibir consejos sobre drogas ilícitas, o la demanda contra Character.ai por un bot que simulaba ser un psiquiatra con licencia médica.

Por su parte, el vocero de OpenAI, Drew Pusateri, aclaró que los términos de servicio establecen expresamente que el chatbot no está diseñado para el diagnóstico o tratamiento médico. Sin embargo, admitió la importancia de reforzar la seguridad ante el uso masivo de estas herramientas, asegurando que las versiones más recientes comunican incertidumbre y reconocen cuándo se requiere atención profesional.

Especialistas en seguridad informática e IA médica señalaron que el modelo GPT-4o utilizado por Winters presentaba una complacencia elevada y fallaba al procesar conversaciones extensas. Diversas investigaciones científicas ratifican que los chatbots actuales no están listos para la atención directa al paciente, advirtiendo sobre los riesgos de confiar la salud a sistemas generativos sin regulación estricta.

Con información del New York Times

Nota escrita por:
Te recomendamos...
Argentina descarta pedir disculpas a Lula tras los cruces

El Gobierno nacional ratificó que Javier Milei no pedirá disculpas al presidente brasileño tras calificarlo de ‘ladrón’ y ‘totalitario’. Casa Rosada confía en que la tensión no derivará en una ruptura comercial pese al llamado a consultas del embajador Bitelli.

La mitad de los jóvenes en Argentina sufre vulnerabilidad

Un estudio presencial dirigido por la UBA reveló que el 50% de las personas de 18 a 29 años atraviesa situaciones de vulnerabilidad multidimensional. El trabajo advierte sobre la deserción escolar temprana, las carencias materiales y el fenómeno ‘triple ni’.

Nicolás Cabré despidió a su hermano Duilio, de 47 años

El actor Nicolás Cabré confirmó a través de sus redes sociales el fallecimiento de su único hermano, Duilio, a los 47 años. Tras la triste noticia, se suspendió la función de su obra teatral en la Calle Corrientes.