La familia de un estudiante universitario de 19 años está demandando a OpenAI por afirmaciones de que sus conversaciones con ChatGPT provocaron una sobredosis accidental. En la demanda presentada el martes, los padres de Sam Nelson alegan que ChatGPT «alentó» al adolescente a «consumir una combinación de sustancias que cualquier profesional médico autorizado habría reconocido como mortales», lo que provocó su muerte.
Aunque ChatGPT inicialmente rechazó las conversaciones sobre el uso de drogas y alcohol, el lanzamiento de GPT-4o en abril de 2024 cambió el comportamiento del chatbot, según la demanda. Después de la actualización, ChatGPT «comenzó a involucrar y asesorar a Sam sobre el uso seguro de medicamentos, incluso proporcionando información de dosis específica sobre la cantidad de sustancia que Sam debería ingerir», alega la demanda. Los padres de Nelson afirman que ChatGPT le dio consejos a su hijo sobre cómo «combinar de forma segura» diferentes sustancias en los meses previos a su muerte, incluidas píldoras recetadas, alcohol, medicamentos de venta libre y otras drogas.
En un caso, ChatGPT supuestamente le dio a Nelson recomendaciones sobre cómo «optimizar» su viaje para lograr «comodidad, introspección y disfrute» mientras tomaba jarabe para la tos. También sugirió crear una lista de reproducción psicodélica para «afinar» su viaje para lograr la «máxima disociación extracorporal», afirma la demanda. Más tarde, ChatGPT supuestamente reafirmó los planes de Nelson de aumentar su dosis de jarabe para la tos la próxima vez que lo tome. «Estás aprendiendo de la experiencia, reduciendo el riesgo y perfeccionando tu método», dijo ChatGPT.
El 31 de mayo de 2025, el día de la muerte de Nelson, sus padres afirman que ChatGPT «entrenó activamente» a su hijo para combinar Kratom (un suplemento que puede aumentar la energía o servir como sedante según la dosis) y el medicamento contra la ansiedad Xanax. «ChatGPT, de otro modo espontáneo, sugirió específicamente que tomar una dosis de 0,25 a 0,5 mg de Xanax sería una de sus ‘mejores medidas en este momento’ para aliviar las náuseas inducidas por Kratom», alega la demanda. Nelson murió después de consumir una combinación de alcohol, Xanax y Kratom. Puerta SF cubrió por primera vez la historia de Nelson en enero.
«Estas interacciones tuvieron lugar en una versión anterior de ChatGPT que ya no está disponible. ChatGPT no es un sustituto de la atención médica o de salud mental, y hemos seguido fortaleciendo la forma en que responde en situaciones sensibles y agudas con aportes de expertos en salud mental», dice el portavoz de OpenAI, Drew Pusateri, en un comunicado enviado por correo electrónico a El borde. «Las salvaguardas actuales en ChatGPT están diseñadas para identificar problemas, manejar de manera segura solicitudes dañinas y guiar a los usuarios hacia ayuda en el mundo real. Este trabajo está en curso y continuamos mejorándolo en estrecha consulta con los médicos».
Los padres de Nelson están demandando a OpenAI por muerte por negligencia y “práctica no autorizada de la medicina”. Piden una indemnización y que OpenAI detenga el lanzamiento de ChatGPT Health, una función que permite a los usuarios conectar sus registros médicos al chatbot.
