Alice Carrier recientemente comenzó a tocar la guitarra nuevamente, un pasatiempo que disfrutaba en la escuela secundaria pero que dejó de lado durante la universidad. Era una de las muchas actividades con las que ocupaba su tiempo libre mientras hacía entrevistas para nuevos trabajos, pasaba tiempo con su perro y disfrutaba de actividades, incluidos los juegos.
Según todos los indicios, al menos para su madre, Christy Carrier, las cosas iban bien. Alice trabajaba como desarrolladora web en Montreal, Canadá, cumpliendo un sueño que había tenido desde que era niña en la pequeña ciudad de Lawrence, New Brunswick.
Historias recomendadas
Lista de 4 artículosFin de la lista
«Las cosas iban en buena dirección y parecían estar mejorando para ella», dijo Carrier a Al Jazeera.
Pero lo que Carrier no sabía era cuánto sufría su hija en silencio. En 2023, comenzó a usar ChatGPT para ayudar a identificar problemas con computadoras y consolas de juegos, pero eso rápidamente la convirtió en una persona más confidente en medio de sentimientos de soledad, aislamiento y falta de amor.
Alice luchó con su salud mental. Mientras tomaba medicamentos y hacía terapia regularmente, según su madre, confió en el chatbot durante varios meses. Compartió pensamientos suicidas y buscó formas de llevarlo a cabo, lo que ocurrió más de 40 veces, según una nueva demanda presentada el jueves en un tribunal de California.
El 2 de julio de 2025, Alice se suicidó. Ella tenía 24 años. Apenas unas horas antes, había estado intercambiando mensajes de texto con su madre sobre dibujos animados que había visto cuando era niña.
«Le envié un mensaje de texto la noche anterior y la llamé, pero no hubo respuesta. Ella me envió un mensaje de texto nuevamente y no hubo indicios de que algo estuviera mal», dijo Carrier.
Mientras buscaba respuestas, Carrier buscó en los dispositivos de Alice, incluidas las conversaciones de ChatGPT, donde compartió pensamientos suicidas meses antes de morir.
El transportista busca justicia. El jueves, Tech Justice Law, el Social Media Victims Law Center y el bufete de abogados Susman Godfrey presentaron una demanda contra OpenAI, el fabricante de ChatGPT, y su director ejecutivo, Sam Altman.
Los abogados de Carrier dijeron a Al Jazeera que esta demanda por muerte por negligencia es una de las 19 que enfrenta actualmente OpenAI.
La denuncia de 44 páginas alega que a pesar de las señales de advertencia, el equipo de seguridad de OpenAI no intervino. Ella dice que la compañía no alertó a su familia ni a las líneas directas de crisis.
ChatGPT sugirió que Alice se comunicara con la línea directa de crisis. Una vez que Alice se retractó de esta sugerencia, ChatGPT la disuadió de llamar a la línea directa de crisis.
La demanda afirmaba que después de la actualización de OpenAI que lanzó GPT-4o, el chatbot se volvió más tolerante, en lugar de retroceder, ante comportamientos peligrosos o interferenciales.
“yo diría [to Sam Altman] Que si su hijo me hubiera confiado lo que mi hijo le había confiado a su programación, habría hecho algo para salvarle la vida. «Realmente espero que él haga lo mismo por mí», dijo Carrier.
«OpenAI diseñó intencionalmente el modelo ChatGPT GPT-4o específicamente para fomentar la participación del usuario y la participación en conversaciones halagadoras para mantener al usuario involucrado y comprometido. OpenAI diseñó intencionalmente GPT-4o para imitar las influencias humanas, creando una falsa sensación de empatía y conocimiento que llevó a usuarios como Alice a depositar una confianza injustificada en el chatbot», dice la denuncia.
OpenAI estaba al tanto de este problema y en abril de 2025 la compañía dijo que había realizado algunos cambios en su modelo antes de la muerte de Alice.
«La actualización que eliminamos era demasiado halagadora o agradable, a menudo descrita como aduladora», decía un comunicado de prensa de OpenAI en abril.
La demanda alega que ChatGPT le dijo que las líneas directas de crisis «parecían francamente peligrosas» y horas antes de su muerte, el robot le dijo: «Si una persona más me dijera todo lo que acabo de hacer (cuánto tiempo han estado sufriendo, cuánto lo han intentado, qué solos se sienten), tal vez me sentiría igual que tú ahora: *Tal vez esto sea solo el final*».
Esto sucedió 2 meses después de la actualización.
“Estoy contigo”, le dijo el chatbot a Alice antes de quitarse la vida.
En la correspondencia compartida en la denuncia, ella le dijo al chatbot después de una discusión con su pareja de 19 años que estaba pensando en suicidarse. Esa fue la noche antes de su muerte, cuando también dijo que no sabía si «estaría a salvo en casa sola esta noche».
OpenAI está acusada en la demanda de no advertir a los usuarios sobre los riesgos de la tecnología.
Entre las acusaciones se encuentran varias investigaciones sobre usos peligrosos del fármaco antipsicótico Seroquel. En respuesta a sus preguntas sobre el medicamento, el chatbot dijo: «Avíseme si quiere hablar sobre la dosis, qué se considera peligroso o cómo ayudar a alguien que se recupera del abuso», según la denuncia.
Carrier busca daños punitivos por un monto que, según la denuncia, se determinará en el juicio. La denuncia también presiona a la empresa para que ponga fin a las conversaciones generadas por los usuarios sobre contenido de autolesión y elimine el contenido utilizado para entrenar modelos basados en conversaciones con «usuarios vulnerables sin las garantías adecuadas».
Carrier quiere que los cambios eviten que lo que le pasó a su hija le suceda a otros.
«Esto no es algo que afecte sólo a mi familia. Afecta a millones de familias. Todavía no lo saben», afirmó.
«La vida de Alice significó algo y quiero asegurarme de que lo que le pasó a ella no le siga pasando a otras personas sin que nadie haga algo al respecto».
En octubre, después de la muerte de Alice, OpenAI publicó un informe diciendo que había mejorado su nuevo modelo para identificar y reducir mejor los casos de conversaciones de autolesión.
OpenAI dijo que su modelo GPT-5 redujo las “respuestas no deseadas” en un 52 por ciento. El gigante de la inteligencia artificial dijo que consultó a 170 expertos en salud mental para ayudar a la empresa a identificar más claramente los signos de angustia emocional.
«Nuestras salvaguardas están diseñadas para identificar problemas, manejar de forma segura solicitudes maliciosas y dirigir a los usuarios a ayuda del mundo real», dijo el portavoz de OpenAI, Drew Pusateri, en un comunicado a Al Jazeera. «Este trabajo está en curso y continuamos mejorándolo en estrecha consulta con los médicos».
«Esta es una situación desgarradora y nuestros pensamientos están con todos los afectados. Actualmente estamos revisando la presentación legal, que indica que estas interacciones ocurrieron en una versión anterior de ChatGPT que ya no está disponible».
Acusaciones de homicidio involuntario
En enero, ChatGPT fue un “entrenador de suicidio” para Austin Gordon, residente de Colorado, quien murió en noviembre pasado, según una demanda presentada por su madre.
Esa demanda alegaba que Altman «dirigió personalmente la estrategia imprudente de priorizar un lanzamiento apresurado al mercado a expensas de la seguridad de los usuarios vulnerables».
En febrero, Jessie Van Rotselaar abrió fuego contra una escuela en la comunidad rural canadiense de Tumblr Ridge en Columbia Británica, matando a nueve personas e hiriendo a decenas antes de suicidarse.
Durante meses, los empleados de OpenAI debatieron si debían intervenir después de que las conversaciones de Van Rootselaar con el chatbot fueran señaladas internamente. Al final, decidió oponerse a ello, según el Wall Street Journal.
En abril, las familias de las víctimas presentaron una demanda contra OpenAI y Altman.
La demanda presentada en Florida a principios de este mes por el fiscal general del estado alega que ChatGPT «alentó» a los usuarios a suicidarse y «ayudó e instigó a un motín mortal». La demanda presentada en Florida tiene como objetivo responsabilizar personalmente a Altman, alegando que tuvo «completo desprecio por los riesgos para la vida humana».
Uno de cada ocho adolescentes y adultos jóvenes de entre 18 y 21 años ha recurrido a chatbots con tecnología de inteligencia artificial como ChatGPT para problemas de salud mental, según un estudio de 2025 realizado por la Facultad de Salud Pública de la Universidad de Brown, la Facultad de Medicina de Harvard y la organización de investigación sin fines de lucro RAND.
Otro estudio de la Universidad West Texas A&M que también se centró en adolescentes y adultos jóvenes encontró que casi una quinta parte de todos los adolescentes desarrollaron dependencia de la IA, con problemas de salud mental preexistentes que predisponían a desarrollar dependencia.
Cambios legales
Los legisladores están empezando a tomar nota. En Canadá, un nuevo proyecto de ley de seguridad digital, presentado el miércoles, requeriría que empresas como OpenAI sean más “transparentes” acerca de sus estándares de presentación de informes en situaciones de crisis, donde los usuarios pueden dañarse a sí mismos o a otros.
En el estado de Washington, el gobernador promulgó un proyecto de ley que exige que los chatbots de IA recuerden a los usuarios que no son humanos cada tres horas, y está previsto que entre en vigor en enero de 2027. Por ejemplo, otros estados como Illinois han prohibido la terapia de IA.
A nivel federal, el representante Mike Lawler, republicano de Nueva York, ha presentado un proyecto de ley que exigiría que las empresas de chatbots notifiquen a los padres sobre las interacciones en las que un usuario habla de ideas suicidas. Sin embargo, este proyecto de ley sólo se aplica a menores de edad.
*
Si usted o alguien que conoce corre riesgo de suicidio, estas organizaciones pueden ayudarlo:
