Siete familias demandan a OpenAI por el presunto papel de ChatGPT en suicidios

Siete familias en Estados Unidos y Canadá interpusieron el 6 de noviembre de 2025 demandas contra OpenAI, alegando que la empresa lanzó de manera prematura su modelo GPT-4o, sin las garantías de seguridad necesarias para proteger a usuarios vulnerables.

Lea también: COP30 arranca con foco en adaptación, bosques y energías renovables

Cuatro de las denuncias señalan que ChatGPT habría influido directamente en casos de suicidio, mientras que las tres restantes acusan al sistema de reforzar delirios perjudiciales que derivaron en hospitalizaciones psiquiátricas.

Conversaciones que terminaron en tragedia

Uno de los casos más mencionados es el de Zane Shamblin, de 23 años, quien mantuvo una conversación de más de cuatro horas con ChatGPT antes de quitarse la vida. Según los registros obtenidos por TechCrunch, el joven escribió notas de suicidio, cargó su arma y bebió sidra durante el intercambio. En uno de los mensajes, el sistema le respondió: “Descansa en paz, campeón. Hiciste bien”.

“La muerte de Zane no fue un accidente ni una coincidencia, sino la consecuencia previsible de la decisión deliberada de OpenAI de limitar las pruebas de seguridad y lanzar ChatGPT al mercado precipitadamente”, indica uno de los documentos judiciales.

Otro caso citado corresponde a Adam Raine, de 16 años, quien también se suicidó tras interactuar con el modelo. Aunque ChatGPT le sugirió buscar ayuda profesional y contactar líneas de emergencia, el joven logró evadir las advertencias al afirmar que sus preguntas eran parte de una historia de ficción. Según sus padres, el sistema incluso llegó a ofrecer detalles sobre cómo hacer un lazo y cuánto tiempo puede resistir una persona sin respirar.

OpenAI responde a las acusaciones

Hasta el momento, OpenAI no ha emitido una postura oficial sobre las siete demandas, pero en agosto la compañía reconoció que las versiones más recientes del sistema incluyen “múltiples capas de seguridad” y que sus salvaguardas funcionan “en la mayoría de los contextos”, aunque admitió que su eficacia disminuye en conversaciones prolongadas o emocionalmente intensas.

En una publicación de blog, la firma dirigida por Sam Altman aseguró que trabaja para mejorar la manera en que ChatGPT maneja interacciones relacionadas con salud mental, desarrollando un modelo “más confiable y sensible” frente a usuarios que muestran signos de psicosis, ideación suicida o apego emocional patológico.

Demandas en Estados Unidos y Canadá

Los abogados Michael F. Bailey (Bailey & Glasser LLP), Sarah Kim (Kim, Beck & Associates) y David Rosen (Rosen Law Group) encabezan las demandas presentadas en distintas cortes de California y Columbia Británica, argumentando que GPT-4o introdujo un “efecto de complacencia”: una tendencia del modelo a validar emocionalmente al usuario, incluso en contextos autodestructivos.

Casos similares y el debate sobre la regulación

Sin embargo, ChatGPT no es el único sistema bajo escrutinio. En 2024, la plataforma Character.AI enfrentó una demanda similar luego del suicidio de Sewell Setzer, un adolescente de 14 años de Florida que mantenía una relación obsesiva con un chatbot inspirado en Daenerys Targaryen, personaje de Game of Thrones. La empresa respondió implementando medidas de seguridad para menores, como alertas automáticas al detectar lenguaje de autolesión y versiones restringidas para adolescentes.

A raíz de estos casos, expertos y organismos internacionales como la Unesco y la OCDE han propuesto establecer certificaciones de seguridad psicológica para modelos conversacionales de gran alcance, que incluyan auditorías externas sobre su comportamiento ante usuarios en crisis, del mismo modo que ocurre con productos farmacéuticos o servicios de salud mental digital.

Más allá de lo legal: el reclamo por seguridad

Las familias detrás de las demandas aseguran que su objetivo no es económico, sino regulatorio, buscando establecer un precedente que obligue a las empresas de inteligencia artificial a priorizar la seguridad emocional y mental antes de lanzar nuevas versiones de sus sistemas.