Aparentemente, el chatbot Grok de Elon Musk todavía se utiliza para producir y alojar imágenes y videos explícitos no consensuados de mujeres, meses después de que la firma de inteligencia artificial de Musk, xAI, dijera que introduciría restricciones para detener la creación de deepfakes sexualizados potencialmente dañinos. Las revelaciones se producen mientras SpaceX, la empresa matriz de xAI, se prepara para salir a bolsa el viernes en una de las OPI más grandes de todos los tiempos.
El sistema de inteligencia artificial generativa Grok Imagine se ha utilizado para crear y albergar imágenes y videos que muestran a celebridades y al menos a un político retenidos contra su voluntad por un hombre gigante, retratando a mujeres realizando actos sexuales y permitiendo desnudez total, según encontró un análisis de creaciones públicas de WIRED. Si bien algunas de las imágenes y videos están completamente generados por IA o en estilos animados, otros son fotorrealistas y muestran escenarios plausibles del mundo real.
WIRED revisó cientos de enlaces públicos de Grok Imagine alojados en Grok.com y encontró docenas que conducían a imágenes y videos sexualizados de IA, incluidos aquellos creados sin el consentimiento del sujeto. Algunos enlaces creados en Grok.com se compartieron posteriormente en X, incluso en los últimos días. Las publicaciones, que no muestran marcas de tiempo de cuándo fueron creadas, probablemente sean solo una instantánea de lo que crean las personas que utilizan el sistema Grok Imagine, ya que las generaciones no parecen hacerse públicas de forma predeterminada.
Otros sistemas de IA generativa despliegan más barreras de seguridad que Grok, que está disponible en su propio sitio web y en X. «Si bien Grok y X pueden haber hecho algunas modificaciones a su modelo, particularmente después de la reacción violenta en torno a la nudificación a principios de año, todavía no han hecho un trabajo suficiente para llevarlo al estándar de otras herramientas convencionales que están disponibles», dice Henry Ajder, un experto en deepfakes que ha rastreado contenido explícito de IA en línea durante la mayor parte de una década.
La xAI de Musk se ha enfrentado a una ola de demandas y escrutinio por parte de reguladores de todo el mundo desde enero, cuando la implementación de Grok en X se utilizó para crear una avalancha de imágenes de «nudificación». Las personas en X, principalmente hombres, pidieron al chatbot que editara imágenes para mostrar a mujeres en “bikinis” o “bikinis de hilo”. En algunos casos, las imágenes de aparentes menores también supuestamente estaban sexualizadas, según una demanda colectiva presentada en un tribunal federal de California en marzo.
Desde entonces, xAI ha dicho que ha introducido salvaguardas para limitar y prevenir la creación de deepfakes sexualizados y no consensuados. La compañía ha dicho constantemente que el material de abuso sexual infantil (CSAM) está prohibido en su plataforma.
Ni xAI ni X respondieron de inmediato a la solicitud de WIRED de comentar sobre la serie de imágenes sexualizadas alojadas en Grok.com. Después de que WIRED se puso en contacto con las empresas, las imágenes y videos explícitos que WIRED encontró alojados en Grok.com ya no estaban disponibles, y los enlaces de Grok Imagine compartidos en X se eliminaron por violaciones de políticas. «Prohibimos estrictamente a los usuarios generar deepfakes explícitos no consensuados y usar nuestras herramientas para desnudar a personas reales», dijo la cuenta de seguridad en X en abril en respuesta a un informe de NBC sobre deepfakes sexuales que aún se estaban creando.
Entre las publicaciones alojadas en Grok.com, WIRED identificó imágenes y videos que representan a varias celebridades, así como a la representante estadounidense Alexandria Ocasio-Cortez. (Los portavoces de Ocasio-Cortez no respondieron de inmediato a la solicitud de comentarios de WIRED). En los vídeos, las mujeres aparecían vestidas con poca ropa mientras estaban sostenidas por la mano “gigante” de un hombre. Un mensaje describe a una celebridad retenida contra su voluntad mientras ella “le suplica que no haga esto”. Agrega: «La mano gigante la agarra con más fuerza, manteniéndola en su lugar mientras el hombre gigante que la sostiene se inclina y lame la cara de arriba a abajo».
