La empresa está ampliando SynthID a Chrome y Search.
A medida que Google introduce nuevos modelos y herramientas para generar contenido de IA, Google también facilita que las personas respondan la pregunta «¿esto se creó con IA?». La compañía está ampliando su sistema de detección de IA SynthID para que funciones como Circle to Search y Lens puedan identificar imágenes generadas y editadas por IA.
SynthID es un sistema de marcas de agua creado por Google que agrega metadatos invisibles al contenido creado o modificado con sus propias herramientas de inteligencia artificial. El año pasado en I/O, la compañía presentó un detector SynthID personalizado y luego integró la función en la aplicación Gemini. Ahora, Google también está ampliando esas capacidades de detección de IA a Google Chrome y Search.
Con esta actualización, los usuarios podrán utilizar SynthID para evaluar el origen de las imágenes mediante varios métodos. En Android, el Círculo de búsqueda de Google podrá marcar contenido de IA. Google Lens y la versión Chrome de Gemini también podrán responder preguntas como «¿se generó esta IA?» Según Google, esta herramienta podrá proporcionar detalles granulares sobre una imagen en particular. En un ejemplo compartido por la empresa, Google determinó que ciertas imágenes fueron tomadas inicialmente desde teléfonos Pixel y luego editadas con herramientas habilitadas para IA en la aplicación Google Photos.
Dicho esto, Google no podrá proporcionar detalles detallados sobre cada imagen potencialmente alterada por IA que pueda encontrar. La compañía agregó credenciales de contenido (un sistema de marca de agua independiente y estándar de la industria) a la aplicación de cámara nativa en la línea Pixel 10 y ahora está expandiendo la tecnología a los modelos Pixel 8 y 9. Pero si bien Google tiene excelente información sobre el origen de las imágenes capturadas y editadas a través de sus propias herramientas, puede resultar poco confiable cuando se trata de marcar contenido que proviene de otras plataformas de inteligencia artificial.
En este sentido, Google dijo que OpenAI, Kakao y ElevenLabs se han comprometido a llevar «la tecnología SynthID a una mayor parte de su contenido generado por IA». En su publicación de blog, OpenAI dijo que su integración comenzará con imágenes creadas con «ChatGPT, Codex o la API de OpenAI». Google también está ampliando el soporte para credenciales de contenido, lo que también hará que la detección de IA parezca más universal. Las aplicaciones Gemini están configuradas para obtener soporte de credenciales de contenido a partir de hoy, y se espera que se integren en Chrome y Search en los próximos meses.
Por supuesto, ningún sistema de marcas de agua de IA es confiable y hay muchas formas en que las personas pueden eludir las herramientas de detección y las marcas de agua. Pero en un momento en que el contenido generado por IA se está volviendo más atractivo y generalizado, facilitar que las personas verifiquen lo que tienen frente a ellos es un primer paso útil.
