La empresa también está promoviendo legislación para contrarrestar el potencial de la IA para crear fraudes «masivos».
Google está demandando a una red china de cibercrimen por utilizar Gemini AI para perpetuar una operación de fraude «masiva», anunció la compañía. El gigante de las búsquedas se ha coordinado con el FBI, junto con los operadores AT&T, T-Mobile y Verizon para descubrir la operación. Google también abogó por leyes actualizadas para hacer frente a los ataques impulsados por IA, diciendo que la tecnología tiene el potencial de aumentar las amenazas.
«Este es nuestro primer esfuerzo coordinado y demanda y muestra la amplitud del impacto de este fraude», dijo el asesor general de Google, DeLaine Prado. New York Times en una entrevista.
En su demanda, Google acusó a una organización china llamada Outsider Enterprise de utilizar su tecnología y su marca para cometer fraude y pidió una orden de restricción para cerrar su red. El grupo supuestamente utilizó Gemini para crear sitios web que imitaban a Google, YouTube y organizaciones gubernamentales, incluido el Servicio Postal de EE. UU. y el servicio de peaje E-ZPass de Nueva York. Google no reveló qué acciones internas estaba tomando para abordar el problema, dado que controla Gemini.
La estafa ha afectado a «cientos de miles de víctimas», dijo Google, y las pérdidas se estiman en millones. El grupo creó 9.000 sitios web falsos y un millón de URL falsas, además de crear 55.000 mensajes de texto spam señalados por usuarios de Android y 2,5 millones de mensajes con enlaces a sitios web falsos en sólo dos semanas.
Google señala que todo esto surge de una sola operación, por lo que aboga por al menos siete proyectos de ley bipartidistas para reducir el fraude de IA en el futuro. Estos incluyen la “Ley de Estrategia Nacional para Combatir el Fraude”, la “Ley del Grupo de Trabajo Estratégico para la Prevención del Fraude”, la “Ley PARA DETENER el Fraude contra las Personas Mayores” y la ley del Plan AI. «Esto no es spam. Es crimen organizado transnacional que se propaga a través de nuestros teléfonos y requiere una respuesta tan coordinada y agresiva como la amenaza misma», dijo el congresista Brian Fitzpatrick (republicano por Pensilvania).
«Los delincuentes utilizan cada vez más la IA para hacer que estafas como ésta sean más convincentes y más difíciles de detectar», añadió el subdirector del FBI, Brett Leatherman. «Y necesitamos una solución permanente para llevarlos ante la justicia».
