Demanda a ChatGPT tras asegurar que le ocasionó una crisis de salud casi mortal

Un pastor de Florida (EE.UU.), identificado como Scott Winters, demandó a OpenAI y a su director ejecutivo, Sam Altman, alegando que su ‘chatbot’, ChatGPT, le dio «recomendaciones médicas extremadamente peligrosas» que habrían retrasado que fuera atendido por una embolia pulmonar potencialmente mortal que sufrió el año pasado.

La demanda fue presentada ante el Tribunal Superior de California en San Francisco y en ella se alega que ChatGPT aseguró a Winters que las primeras señales de alerta de su afección de salud «no eran peligrosas» y lo habría disuadido de buscar atención médica, recoge The New York Times.

La inteligencia artificial, en cambio, le habría aconsejado que confiara en que «Dios no diseñó su cuerpo para fallar sin cesar».

Por ello, Winters acusa a OpenAI y a Altman de negligencia y «ejercicio no autorizado de la medicina». El demandante y Tech Justice Law, la organización sin fines de lucro que lo representa, buscan una compensación económica y exigen mayores medidas de seguridad para evitar que ChatGPT responda preguntas sobre tratamientos y diagnósticos médicos.

¿Qué dice la empresa?

De acuerdo con la demanda, las funciones de seguridad del ‘chatbot’, que estarían diseñadas para alentar a los usuarios con preguntas sobre salud a consultar a un profesional y finalizar las conversaciones ante señales claras de una crisis médica, no habrían funcionado de manera confiable en el caso de Winters.

Los demandantes insistieron en que la aplicación le ofreció al hombre diagnósticos y planes de tratamiento; y, además, lo animó a ignorar las súplicas de amigos y familiares para que buscara atención médica.

Desde OpenAI, su portavoz, Drew Pusateri, expresó que los términos de ChatGPT son claros, al señalar que no está diseñado para usarse para diagnósticos o tratamientos médicos; aunque, indicó que, ya que conocen que las personas la usan para ese fin, la empresa ha considerado que las respuestas a las consultas de salud sean seguras.

«Considerar que los ‘chatbots’ son el único factor que influye en las decisiones médicas o los resultados de las personas simplifica en exceso un desafío mucho mayor y corre el riesgo de impedir que las personas accedan a nuevas y poderosas herramientas que pueden ayudarlas en su camino hacia la salud», dijo, al tiempo que indicó que los modelos más recientes son mejores que el que utilizó Winters.