Ahora está en pleno vigor una ley que exige que las redes sociales eliminen rápidamente los deepfakes sexuales y otras imágenes no consensuadas. Pero los expertos advierten que la política podría hacer poco para ayudar a las víctimas y, en el peor de los casos, podría facilitar la censura en línea.
En mayo pasado, el presidente Donald Trump firmó la Ley Take It Down, una ley que aborda las imágenes íntimas no consensuales (NCII). La ley penalizó inmediatamente la distribución de NCII, ya sea en forma de material real o generado por IA, algo que muchos estados ya hacen, al menos parcialmente. Pero la disposición de eliminación que lleva su mismo nombre es más amplia. Entrando en vigor un año después de la aprobación de la ley, el 19 de mayo de 2026, exige que las plataformas en línea eliminen NCII dentro de las 48 horas o enfrentarán multas.
El presidente de la Comisión Federal de Comercio, Andrew Ferguson, envió cartas a más de una docena de empresas de tecnología antes de la fecha límite, una lista que, según la FTC, incluía a Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok y X. Instruyó a las plataformas a ofrecer a los usuarios un proceso de solicitud de eliminación sencillo y eliminar el contenido ofensivo dentro de las 48 horas, así como cualquier «copia idéntica conocida». La agencia, que tiene la tarea de hacer cumplir la ley, recordó a las empresas que violarla podría resultar en sanciones civiles de más de 53.000 dólares por infracción.
Las principales plataformas, incluidas Meta, Microsoft, Google, TikTok y Snap, apoyaron el proyecto de ley y expresaron su confianza en que podrían cumplirlo. Snap dijo en una publicación de blog el año pasado que «se alinea y complementa nuestros esfuerzos en curso». La portavoz Monique Bellamy dijo El borde que continúa «evolucionando» los sistemas de seguridad, «incluida la inversión en herramientas y tecnologías para detectar y tomar medidas proactivamente ante desnudos no deseados e imágenes similares».
La jefa de seguridad de las mujeres de Meta, Cindy Southworth, dijo que la compañía había “luchado durante mucho tiempo el abuso de imágenes íntimas en nuestras plataformas”, incluso eliminándolas, ayudando a desarrollar herramientas para detectarlas y demandando a los desarrolladores de aplicaciones de “nudificación” de IA que infringen sus reglas. Southworth añadió que las herramientas de la empresa están entrenadas para no cumplir con solicitudes nudistas. «Seguimos apoyando la Ley TAKE IT DOWN, un paso importante para abordar este abuso en Internet, y ya la hemos cumplido durante varios meses». El portavoz de TikTok en EE. UU., Mahsau Cullinane, dijo que la compañía tiene una política de tolerancia cero para el NCII y destacó sus asociaciones con NCMEC y StopNCII.org; Actualmente, la empresa ofrece un formulario y herramientas dentro de la aplicación para realizar informes.
Incluso X, que tiene un historial muy accidentado con imágenes sexualizadas de IA, ha apoyado la ley. Es notorio que la compañía permitió que se difundieran deepfakes de IA sexualmente explícitos de Taylor Swift en 2024, seguidos semanas después por un video que los usuarios creían que era del rapero Drake participando en un acto sexual. Más recientemente, los usuarios recurrieron a su chatbot de IA integrado, Grok, para desnudar a los usuarios, a menudo sin su consentimiento. Un New York Times El análisis encontró que en sólo nueve días, Grok compartió “al menos 1,8 millones de imágenes sexualizadas de mujeres”, aunque algunas estimaciones eran incluso mayores.
El presidente bromeó en su Estado de la Unión de 2025: «Voy a usar ese proyecto de ley para mí».
Pero la disposición de eliminación de la ley ha alarmado tanto a los defensores de la libertad de expresión como a los opositores al abuso en línea, incluidas personas que apoyaron en gran medida su parte de criminalización. Incluso cuando se aplican de buena fe, las leyes de eliminación pueden alentar a las empresas a moderar excesivamente el contenido no ofensivo para reducir el riesgo. Bajo la administración Trump, la Ley Take It Down también podría convertirse en un arma contra los enemigos políticos y al mismo tiempo dar vía libre a las plataformas favorables a Trump. El presidente bromeó en su Estado de la Unión de 2025: «Voy a usar ese proyecto de ley para mí», porque «nadie recibe peor trato que yo en línea». La entonces directora ejecutiva de X, Linda Yaccarino, asistió a la ceremonia de firma, donde Trump (cuya administración en ese momento empleaba a su propietario Elon Musk) la elogió por “hacer un gran trabajo”.
La declaración de Trump fue “lo contrario de la verdad”, dice Mary Anne Franks, presidenta de Cyber Civil Rights Initiative, que aboga por políticas para luchar contra el abuso sexual basado en imágenes. La dejó escéptica de que la ley se aplicaría de manera justa, como lo hizo el comentario de Trump sobre el Estado de la Unión. “Es extraño decir eso, y es un anuncio procedente del más alto nivel de que esta ley no se utilizará por principios, sino más bien para ajustar cuentas personales”, afirma.
Franks tiene “sospechas” acerca de por qué las principales plataformas tecnológicas, que normalmente protestan contra las nuevas regulaciones como una carga para la libertad de expresión, han respaldado esta ley. «Mis temores sobre esto, y espero estar equivocado, es que la razón por la que las empresas no están enojadas por esto es porque saben que en realidad nunca se usará en su contra», dice. Solo eso podría hacer que la ley proporcione poco más que falsas esperanzas a las víctimas del NCII.
“Es un anuncio procedente del más alto nivel de que esta ley no se utilizará según principios”
Pero a Franks también le preocupa que la ley pueda aplicarse contra plataformas que la administración considera una espina clavada, como Wikipedia. «Creo que lo peor que puede pasar es que resulte ser un tigre de papel contra las empresas que están haciendo lo peor y resulte ser una forma de penalizar y, de hecho, perseguir plataformas impopulares y censurar el discurso», dice Franks. Ese discurso podría incluir la expresión LGBTQ+, especialmente porque la FTC ya está apuntando a la atención de afirmación de género para jóvenes transgénero. «Me preocupa mucho que eso se utilice como pretexto para tomar medidas aún más severas contra material sexualmente explícito consensualmente o específicamente contra materiales educativos para niños que están explorando su identidad de género o su orientación sexual», dice Franks. Incluso si un tribunal decide que eso no está dentro del alcance de la ley, enviaría un mensaje claro a las plataformas sobre cómo moderar.
Otros grupos, incluida la Electronic Frontier Foundation (EFF), el Cato Institute y Public Knowledge, han advertido que la disposición de notificación y eliminación podría tener consecuencias significativas en el discurso, y la EFF la calificó como una receta para la “extralimitación y la censura”.
Mientras tanto, es posible que la ley ni siquiera cubra lo que podrían parecer violaciones digitales del consentimiento. Algunas de las imágenes sexualizadas no consensuadas de Grok, por ejemplo, podrían no considerarse lo suficientemente sexualmente explícitas. No está claro si las herramientas de inteligencia artificial como Grok cuentan como «creadores» de NCII cuyos propietarios podrían asumir responsabilidad penal, y si las imágenes se producen de forma privada, tampoco está necesariamente claro si están sujetas a la disposición de eliminación.
En el primer año de su promulgación, el Departamento de Justicia dijo que utilizó la disposición penal de la Ley Take It Down en una condena de un hombre de Ohio que produjo falsificaciones de IA sexualmente explícitas para acosar a las víctimas. El impacto de la disposición de eliminación podría sentirse más inmediatamente, pero la pregunta es si esos resultados harán que Internet sea más seguro.
