El Fiscal General de Nuevo México, Raúl Torrez, ganó una suma histórica de 375 millones de dólares en un caso histórico de seguridad infantil contra Meta a principios de este año. Pero la siguiente etapa de la lucha podría tener aún más consecuencias para Meta y la industria de las redes sociales en general.
A partir del lunes, los abogados de Meta y Nuevo México regresarán a un tribunal de Santa Fe para un juicio por molestias públicas de tres semanas, donde discutirán sobre los cambios que el fiscal general quiere que el juez le ordene a Meta hacer en Facebook, Instagram y WhatsApp. Esos cambios incluyen agregar verificación de edad para los usuarios de Nuevo México, prohibir el cifrado de extremo a extremo para usuarios menores de 18 años y limitar su uso a 90 horas por mes, limitar las funciones que aumentan la participación como el desplazamiento infinito y la reproducción automática, y exigir que Meta detecte el 99 por ciento del nuevo material de abuso sexual infantil (CSAM).
“Desde el principio, nuestro objetivo fue intentar cambiar la forma en que la empresa hace negocios”, dijo Torrez. El borde en una visita reciente a Washington, DC, para abogar por una nueva legislación sobre seguridad infantil. «Reconozco que incluso $375 millones para una empresa tan grande y tan rentable, no es suficiente en sí mismo para cambiar la forma en que hacen negocios. De hecho, probablemente hay algunas personas en esa empresa que lo consideran el costo de hacer negocios».
“Incluso con 375 millones de dólares para una empresa tan grande y tan rentable, no es suficiente por sí solo para cambiar la forma en que hacen negocios”
Si bien cualquier cambio ordenado por el juez solo se aplicaría a Meta y sus operaciones en Nuevo México, la compañía podría aplicar los cambios en otros estados en aras de la simplicidad. O, como se amenaza con suceder, simplemente podría quedar a oscuras en el estado. Una orden judicial podría enviar un mensaje a otras empresas de tecnología de que los tribunales podrían estar dispuestos a modificar sus negocios si se las declara responsables.
Durante el juicio, Nuevo México argumentará que Meta se ha convertido en una molestia pública al crear un peligro para la salud pública en el estado. La oficina del fiscal general espera convocar a unos 15 testigos, incluidos expertos que testificarán sobre la viabilidad de los remedios propuestos y testigos de hecho que testificarán sobre los presuntos daños de Meta. Después de que Meta presente su defensa, el juez Bryan Biedscheid evaluará qué propuestas son relevantes y factibles, un proceso que podría llevar algún tiempo, en comparación con el rápido cambio del veredicto del jurado en marzo.
Una victoria arrolladora para Nuevo México podría revitalizar a Torrez y a miles de otros demandantes que actualmente presentan casos contra empresas de tecnología. Por el contrario, un pedido limitado podría suponer un duro golpe. El resultado no afectará directamente a otros casos, pero es casi seguro que influirá en las negociaciones sobre posibles acuerdos.
Varias de las solicitudes de Torrez son temas candentes de política tecnológica. Es casi seguro que la verificación de la edad requeriría que Meta o un proveedor externo recopile más información personal tanto de adultos como de menores, lo que los defensores de la privacidad han advertido constantemente que puede hacer que los usuarios sean menos seguros. Don McGowan, quien anteriormente formó parte de la junta directiva del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), dijo que prohibir las comunicaciones cifradas en plataformas como Facebook «es una excelente manera de garantizar que nadie use más Facebook Messenger y simplemente traslade su actividad a otras plataformas que no están afectadas por esta demanda».
El mandato puede hacer poco para cambiar la realidad de ciertas partes del negocio: Meta anunció recientemente que se desharía de los mensajes cifrados de extremo a extremo en Instagram que, según dijo, «muy pocas personas» realmente usaban.
Peter Chapman, director asociado del Instituto Knight-Georgetown, que trabaja para conectar a los formuladores de políticas y otras personas con investigaciones independientes sobre políticas tecnológicas, dijo que podría haber “contrapartidas significativas” en una prohibición del cifrado, y que otros cambios podrían ser más efectivos. Por ejemplo, la evidencia presentada por el estado mostró que las recomendaciones de perfil del propio Meta conectaban a adultos y menores, una característica que plantea un peligro más claro de daño sin mucho beneficio, y que Torrez también está pidiendo al tribunal que detenga. «Existe la oportunidad de intervenir a ese nivel y tratar de evitar que se produzcan más interacciones dañinas sin tener que abordar el cifrado», dijo Chapman.
Es probable que ningún cambio de característica resuelva todo el problema de seguridad de niños y adolescentes, dijo Chapman, por lo que es notable que Torrez planee solicitar varios niveles de cambios. Aun así, la eficacia general de cualquier remedio determinado también dependerá de cómo se implemente y supervise. Por ejemplo, ¿cuál sería la metodología que utiliza Meta para informar una tasa de detección del 99 por ciento de nuevos CSAM? ¿Cómo cuenta o supone lo que no ha atrapado? Lo mismo ocurre con la precisión y confiabilidad de cualquier verificación de edad obligatoria.
Meta señala este problema potencial en su argumento contra las soluciones propuestas por Torrez. «Independientemente de dónde se establezca el umbral de precisión, Meta nunca podría demostrar que el sistema cumplió con ese estándar, porque hacer el cálculo requeriría que Meta detectara el 100% de CSAM para usarlo como denominador», escribió la compañía en un documento legal. El jefe adjunto de Torrez, James Grayson, dijo en una conferencia de prensa que el tribunal y un monitor independiente designado tendrían cierta discreción sobre el seguimiento; La oficina aún no ha identificado quién sería este monitor.
“Las demandas que se hacen en Nuevo México están mal informadas y brindan una enorme exposición adicional a otros tipos de explotación”
Meta y otros grupos que se oponen al enfoque del AG dicen que los resultados que busca son contraproducentes. “Las demandas que se están haciendo en Nuevo México están mal informadas y proporcionan una enorme exposición adicional a otros tipos de explotación”, dijo Maureen Flatley, presidenta de Stop Child Predators, un grupo que aboga por más fondos para la aplicación de las leyes penales contra los depredadores infantiles, y que ha recibido financiación del grupo comercial NetChoice, respaldado por Meta. «Esta noción de que las plataformas tienen que ser responsables de expulsar a toda esta gente sería como decirle a la Asociación de Banqueros de EE. UU.: ‘Por cierto, usted es responsable de todos los robos a bancos a partir de ahora’, lo cual es ridículo».
«El enfoque del Fiscal General de Nuevo México en una sola plataforma es una estrategia equivocada que ignora los cientos de otras aplicaciones que los adolescentes usan a diario», dijo el portavoz de Meta, Chris Sgro, en un comunicado. «Los mandatos propuestos por el estado infringen los derechos de los padres y reprimen la libre expresión de todos los nuevomexicanos. De todos modos, seguimos comprometidos a brindar experiencias seguras y apropiadas para la edad y ya hemos lanzado muchas de las protecciones que el estado busca, incluidas 13 medidas de seguridad el año pasado».
Pero Torrez también ha apuntado a la industria tecnológica en general. Recientemente visitó Washington, DC, para abogar por nuevas protecciones para los niños en línea y una revisión de la Sección 230, la ley que protege a las plataformas tecnológicas de ser consideradas responsables por las publicaciones de sus usuarios. “Si bien pudimos prevalecer en nuestro tribunal de distrito en Santa Fe, sigo pensando que la ley tal como existe actualmente crea mucha ambigüedad”, dijo. El borde en esa visita. «Si la Sección 230 no fuera algo detrás de lo cual estas empresas pudieran esconderse, entonces aumentaría las posibilidades de que tuvieran que presentar su caso ante un jurado».
Pero Chapman dijo que la regulación a través de demandas no es una “historia poco común” en Estados Unidos. «Ya sea que se trate de tabaco, opioides o cigarrillos electrónicos, existe un precedente de acciones legales que impulsan una conversación política más amplia».
