Un tribunal dictaminó que Google es responsable de las declaraciones falsas generadas por descripciones generales de IA

un tribunal local en Alemania ha emitido un fallo que podría remodelar el funcionamiento de los motores de búsqueda y los chatbots basados ​​en inteligencia artificial en todo el mundo. El Tribunal Regional de Múnich dictaminó preliminarmente que Google es responsable de una serie de declaraciones falsas generadas por su función AI Overviews, lo que exige que la empresa impida la difusión de afirmaciones erróneas o inexactas a través de su motor de búsqueda.

El fallo surge de un caso reportado por primera vez por Decoder, en el que dos editores descubrieron que los resúmenes generados por IA de Google los vinculaban, en ciertas búsquedas, con prácticas comerciales cuestionables, estafas y fraudes relacionados con suscripciones, sin ninguna base para hacerlo.

A principios de este año, las empresas afectadas enviaron al gigante tecnológico una carta de cese y desistimiento, según el informe. Google negó toda responsabilidad, argumentando que su función de resumen automático advierte a los usuarios que la información puede contener errores y debe verificarse de forma independiente.

El análisis del tribunal concluyó que la IA de Google combinaba información correspondiente a otras empresas que habían sido señaladas por posibles prácticas ilícitas con datos de los demandantes, generando asociaciones que no aparecían en ninguna de las fuentes enlazadas por el buscador.

Las autoridades descubrieron que, a diferencia de los motores de búsqueda tradicionales, que simplemente muestran listas de enlaces con declaraciones hechas por terceros, la herramienta de Google producía “declaraciones independientes, nuevas y sustanciales” basadas en una mala interpretación de la información disponible en Internet.

Según el tribunal, corregir la información errónea no es responsabilidad de terceros. Google es la única entidad con la capacidad de modificar la tecnología que sustenta sus resúmenes generados por IA y, por lo tanto, «debe rendir cuentas». Además, el tribunal consideró que la línea de defensa de Google carecía de fundamento, ya que el resumen impugnado “contiene declaraciones que no aparecen en absoluto en los resultados de búsqueda.

Una nueva (y contundente) interpretación de la IA en la Web

La interpretación que haga el tribunal del papel de AI en la presentación de los resultados de las búsquedas podría convertir este caso en un precedente histórico. Encuentra a una gran empresa tecnológica responsable de la influencia de sus desarrollos más avanzados en plataformas ampliamente utilizadas.

Hasta ahora, en la mayoría de ordenamientos jurídicos, los buscadores han sido considerados herramientas que se limitan a facilitar el acceso a contenidos creados por terceros y disponibles en la web. Este estatus les ha otorgado un cierto nivel de protección cuando la información publicada es falsa, inexacta, engañosa o incluso difamatoria.

Sin embargo, el tribunal alemán sostuvo que esta salvaguardia ya no se aplica cuando los motores de búsqueda incorporan sistemas de IA generativa. Según su razonamiento, esta tecnología es capaz de producir afirmaciones inexistentes basadas en múltiples fuentes y, en consecuencia, las empresas responsables de operarla deben asumir la responsabilidad del contenido resultante.

Los jueces también concluyeron que, si bien Google anima a los usuarios a verificar la información debido al potencial de alucinaciones inherentes a los modelos de IA, esta advertencia no exime de responsabilidad al distribuidor de contenidos. De lo contrario, argumentaron, las víctimas de declaraciones falsas quedarían prácticamente indefensas, ya que las fuentes originales nunca hicieron esas declaraciones y, por lo tanto, no podrían ser objeto de acciones legales.

Asimismo, el tribunal sostuvo que los resultados generados por un sistema de IA no pueden protegerse bajo los principios de la libertad de expresión, ya que son producto de un algoritmo diseñado, entrenado y gestionado por una empresa, y no la expresión de una opinión individual.

Como medida cautelar para evitar una posible repetición, el fallo obligaba a Google a eliminar gran parte de las declaraciones consideradas difamatorias en este caso, y a cubrir el 80 por ciento de las costas judiciales derivadas del proceso.

Un portavoz de la empresa, citado por Ars Technica, sugirió que la decisión podría ser apelada. «Invertimos profundamente en la calidad de las descripciones generales de IA para garantizar que la inmensa mayoría de las respuestas proporcionen información precisa y que estén diseñadas para reflejar la información que existe en la web», dice el comunicado. «Estamos revisando atentamente esta decisión, que aún no es definitiva».