Un organismo de control de la privacidad descubrió que Grok de xAI carece de salvaguardias para compartir imágenes profundamente sexuales, en medio de un creciente escrutinio global.
Publicado el 11 de junio de 2026
Grok, filial de xAI, violó las leyes de privacidad canadienses porque lanzó un generador de imágenes que podía crear y compartir imágenes sexuales falsas sin el consentimiento de los usuarios, según un informe del comisionado de privacidad del país tras una investigación en enero.
El informe oficial, publicado el jueves, se produce después de que la plataforma propiedad de Elon Musk implementara cambios que impedirían a Grok permitir a los usuarios editar fotografías de personas reales con ropa reveladora.
Historias recomendadas
Lista de 4 artículosFin de la lista
«xAI violó la ley federal de privacidad del sector privado de Canadá al lanzar Grok, su herramienta de creación de imágenes impulsada por IA, sin implementar las salvaguardias adecuadas desde el principio», dijo el comisionado de Privacidad, Philippe Dufresne, en una conferencia de prensa el jueves.
Sin embargo, Dufresne no tiene autoridad para imponer multas ni exigir cambios de política para xAI, una subsidiaria de SpaceX, que saldrá a bolsa en los mercados estadounidenses el viernes, lo que marcará la oferta pública inicial más grande de la historia moderna.
Dijo que xAI se compromete a monitorear periódicamente las falsificaciones sexuales antes de que se informe un incidente, no solo en respuesta a los incidentes.
El informe de la AIE llega en medio de un proyecto de ley de seguridad digital recientemente publicado dirigido a los niños. El proyecto de ley, de aprobarse, prohibiría el uso de las redes sociales a niños menores de 16 años, con excepciones para las empresas que cumplan con los estándares de seguridad.
La legislación crearía un organismo regulador digital para ayudar a establecer estándares de seguridad para los chatbots de IA, como Grok.
Auditoría global
xAI ha sido objeto de escrutinio en todo el mundo por imágenes sexualizadas en su plataforma.
A principios de este mes, el legislador británico Jess Asato demandó a XAI en medio de imágenes sexuales falsas creadas de ella en la plataforma.
En enero, el regulador de medios del Reino Unido, Ofcom, inició una investigación sobre la plataforma para ver si estaba impidiendo adecuadamente la creación de imágenes sexuales falsas.
Ese mes, la Comisión Europea también condenó la difusión de contenido explícito en X, y los reguladores lo calificaron de «espantoso» y «repugnante», lo que provocó una investigación.
En febrero, España inició una investigación sobre Grok y, en marzo, un tribunal holandés ordenó a XAI que dejara de permitir la creación de imágenes de desnudos en el país.
Mientras tanto, en Estados Unidos, también en marzo, tres adolescentes presentaron una demanda colectiva alegando que la plataforma permitía imágenes que mostraban abuso sexual infantil.
Los abogados de las tres víctimas anónimas dijeron que XAI «hizo que el contenido explícito formara parte del ADN de Grok» en una denuncia presentada ante un tribunal de California.
En enero, el Senado de Estados Unidos aprobó un proyecto de ley que permite a las víctimas de imágenes sexualmente explícitas falsas demandar a los creadores de contenidos por al menos 150.000 dólares.
Mientras tanto, en enero, Indonesia y Malasia prohibieron toda la aplicación Grok por imágenes de IA sexualmente explícitas.
