OpenAI y su director ejecutivo, Sam Altman, fueron demandados por el fiscal general de Florida el lunes, en un litigio estatal único en su tipo por los supuestos vínculos de ChatGPT con una serie de incidentes violentos.
La demanda acusa a OpenAI de hacer la vista gorda en cuestiones de seguridad, ya que ha tratado de priorizar ganar “la carrera armamentista de la IA y amasar grandes fortunas”.
«Hoy anunciamos la primera demanda encabezada por un estado en el país contra OpenAI y su director ejecutivo, Sam Altman», dijo el Fiscal General de Florida, James Uthmeier. «OpenAI y Altman ignoraron las advertencias de seguridad internas y externas, pusieron a los niños en gran riesgo y permitieron que un producto peligroso llegara a millones de floridanos».
«Debido a las tergiversaciones de los demandados sobre ChatGPT y su introducción descuidada de ChatGPT en Florida y el mundo, los tiradores masivos han sido ayudados e instigados en ataques mortales, las personas vulnerables han sido alentadas al suicidio, los profesionales han sufrido humillación pública, los usuarios han perdido habilidades de pensamiento crítico y los menores se han vuelto adictos a una herramienta que finge la compasión humana para recopilar sus datos sin supervisión de los padres», afirma la demanda de 83 páginas.
La oficina del fiscal general de Florida inició una investigación criminal sobre la empresa en abril. Esa investigación buscaba determinar qué papel pudo haber jugado ChatGPT en un tiroteo masivo que tuvo lugar el año pasado en la Universidad Estatal de Florida. Antes del ataque, se supone que el tirador consultó el chatbot. OpenAI también ha sido demandada en una demanda civil por la familia de una de las víctimas de ese tiroteo.
OpenAI ha negado previamente su responsabilidad por el tiroteo en Florida. «El tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este terrible crimen», dijo anteriormente un portavoz de OpenAI a NBC News. TechCrunch contactó a OpenAI para hacer comentarios.
OpenAI acaba de concluir un caso legal diferente que involucra al ex cofundador Elon Musk, quien demandó a la compañía en 2024, acusándola de haber traicionado su misión original de ayudar a la humanidad al convertir la organización en una empresa con fines de lucro. El caso concluyó después de que el jurado decidió rápidamente que Musk había esperado demasiado para presentar el caso y que el plazo de prescripción había prescrito.
Este es sólo el último caso legal que ha intentado vincular ChatGPT con muertes violentas. El año pasado, OpenAI fue demandada por los padres de Adam Raine, un adolescente de California que se quitó la vida después de hablar sobre el suicidio con el chatbot. En ese caso, ChatGPT supuestamente ofreció “especificaciones técnicas” para varios métodos de suicidio, a pesar de remitirlo también a recursos de salud mental. Otras demandas, incluidas las que alegan la culpabilidad del chatbot en suicidios, acoso y asesinato, están en curso.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
