“Si se tiene en cuenta la imagen deepfake en sí misma, ya que permanecerá sellada, no hay nada intrínsecamente estigmatizante en revelar el hecho de que se creó una imagen deepfake de Carolina del Sur Doe sin revelar la imagen en sí”, escribieron los abogados en una de sus presentaciones del 15 de mayo. «Como resultado, este caso simplemente no involucra los tipos de intereses de privacidad convincentes que tradicionalmente se reconocen como que requieren seudónimo».
Ni xAI ni los abogados que representan a la empresa respondieron a la solicitud de WIRED de comentar sobre el caso.
Danielle Citron, profesora de derecho de la Facultad de Derecho de la Universidad de Virginia que se ha especializado en abordar el abuso digital, dice que los casos civiles en los que se ordena a las personas demandar utilizando sus nombres reales pueden llevar a que se abandonen las demandas, creando una situación “inaceptable e injusta”. “Obligar a los demandantes en demandas de privacidad a presentar demandas en sus nombres contribuye muy poco a la transparencia judicial y mucho a disuadir los litigios”, le dice Citron a WIRED.
Los cuatro demandantes de seudónimos en el caso, según sus presentaciones legales del 29 de mayo, considerarían abandonar el proceso si sus nombres tuvieran que ser revelados. En estas presentaciones más recientes, los abogados de los demandantes dicen que la solicitud de xAI debería ser denegada, añadiendo que el caso trata sobre «falsificaciones muy personales y vergonzosas que representan a los demandantes y que se difundieron sin su consentimiento».
La Doe de Carolina del Sur describió cómo encontraron en línea el supuesto deepfake de ellos «desnudados a un bikini revelador» y dice cómo muestra su cuerpo «de una manera que nunca compartiría públicamente». Afirman que les preocupaba lo que pensarían sus empleadores o colegas si vieran la imagen y temían ser atacados aún más en línea. «También me sentí abrumado por el disgusto al pensar en lo que estaba haciendo con la foto el individuo que le había pedido a Grok que creara el deepfake», escribieron.
«Si me viera obligado a revelar mi nombre públicamente como parte de este caso, temería que aquellos que apoyan a Elon Musk, sus empresas y a Grok, a quien he observado que habla mucho en línea, encontrarían mi nombre en el registro público, lo difundirían, me engañarían y tomarían represalias contra mí creando más y más falsificaciones profundas de mí», dice el documento.
Declaraciones similares de las otras presuntas víctimas de deepfake las describen experimentando “angustia emocional severa”, vergüenza y conmoción al ver las imágenes creadas sin su consentimiento. En términos generales, otras víctimas de abuso sexual falso e imágenes no consensuadas han descrito sentimientos similares.
Un hombre, nombrado New Jersey Doe en la demanda, dice que vio a personas en X usando Grok para crear imágenes sexualizadas y publicó una solicitud de que «Grok no cree imágenes mías sin mi consentimiento». Al día siguiente, según los registros judiciales, descubrió dos imágenes falsas de sí mismo, incluida una que lo muestra «abriendo las nalgas». Dice que creía que el mensaje a Grok pidiéndole que no creara deepfakes de él “llamó la atención de mi cuenta sobre trolls en línea que estaban usando a Grok para acosar y causar angustia”.
