Es casi imposible evitar ver contenido generado por IA en línea, pero no tiene por qué ser así. YouTube, Instagram, TikTok y más han intensificado los esfuerzos de autenticación de contenido durante el último año, y muchos ahora aplican etiquetas automáticamente para distinguir las imágenes, los videos y la música generados por IA de los creados por creadores humanos reales.
Todo eso está muy bien si nos topamos con contenido etiquetado al azar, pero ¿sabes qué sería mejor? Permitiéndonos filtrar la decadencia de la IA.
Los esfuerzos actuales de etiquetado no han cambiado significativamente la forma en que se presenta el contenido en línea. Es posible que notes que algunos vídeos de TikTok o YouTube en tus feeds ahora tienen revelaciones de IA en la descripción o etiquetas de información superpuestas en el propio clip. Meta adopta un enfoque similar al aplicar etiquetas de “información de IA” a imágenes en Facebook e Instagram que llevan metadatos de identificación de IA o divulgaciones voluntarias de los creadores.
Pero si realmente quieres evitar ver algo etiquetado con tales etiquetas (lo cual es justificable, dada la descomposición del cerebro que induce además de las preocupaciones éticas y ambientales en torno a la IA generativa) es en realidad increíblemente difícil hacerlo. Un filtro solucionaría esto fácilmente. Todo lo que necesitamos es una casilla de verificación «AI» para alternar.
Me comuniqué con Meta, Google, TikTok y Spotify para preguntarles si tienen planes de permitir a los usuarios filtrar los diversos contenidos que han estado autenticando con sistemas de etiquetado de IA. TikTok y Spotify nunca respondieron y Google dijo que no tenía nada que compartir. Meta no proporcionó ningún comentario atribuible. Pero, en resumen, ninguna de estas empresas dijo «sí».
Una de las únicas plataformas en línea que he visto con un filtro de contenido de IA es DeviantArt, y su implementación es extremadamente reveladora. Por un lado, no puedes acceder a él en los feeds o en la página de la tienda de DeviantArt, por lo que parece algo escondido. En su lugar, debe crear una cuenta y luego pasar el cursor sobre el ícono de usuario en la parte superior derecha de la página para encontrar el menú «Configuración de contenido AI». A partir de ahí, sólo tienes dos opciones: la configuración predeterminada «Mostrar IA» o la opción «Suprimir IA» que afirma que verás «menos instancias» de imágenes generadas o manipuladas por IA.
Después de haber probado ambas opciones, lamentablemente no veo una diferencia notable. Tengo bastante buen ojo para detectar “ilustraciones digitales” generadas por IA en este momento, pero no tuve que confiar solo en mis sospechas: casi todas las imágenes dudosas que seleccioné incluían la divulgación de un creador en la descripción que confirmaba que el trabajo fue escupido por un robot. DeviantArt hace un mal trabajo al aplicar automáticamente etiquetas de IA a imágenes con metadatos que indican claramente la procedencia de la IA.
Pinterest tiene un sistema similar. Los usuarios que hayan iniciado sesión en una cuenta de Pinterest pueden hacer clic en el ícono de configuración, seleccionar «Refinar sus recomendaciones» y luego tocar la pestaña «Contenido de IA» para alternar categorías específicas, que incluyen arte, belleza, moda y decoración del hogar. Deshabilitar cualquiera de estas opciones le mostrará «menos contenido modificado por IA» para esa categoría en particular, según Pinterest, pero en mi experiencia, está lejos de ser perfecto. También podría decirse que la configuración es más difícil de encontrar que un filtro integrado en los feeds de Pinterest. Todavía vi muchas imágenes con señales sospechosas de IA (incluidos modelos fotográficos increíblemente perfectos y errores de ilustración inexplicables), a pesar de que los filtros de IA estaban al máximo.
Y es casi seguro que eso es lo que sucederá si otras plataformas como YouTube o Instagram introducen un filtro de contenido de IA: no funcionará muy bien. Pero eso está bien porque expondría las “soluciones” ineficaces con las que se visten nuestros emperadores de la IA. Existen, en el papel, para apaciguar a los reguladores y críticos, pero hacen poco para abordar el problema real de distinguir la falsificación de la IA de la fotografía auténtica y las obras creativas.
y plataformas hacer Sé que es un problema. El director de Instagram, Adam Mosseri, dijo en diciembre que “la autenticidad se está convirtiendo en un recurso escaso” en medio del aumento del contenido generado por IA. Y ahora tenemos al CEO de Google, Sundar Pichai, admitiendo en un reciente Descifrador entrevista que «hay mucha IA por ahí» y que los usuarios en línea necesitan «adaptarse a ella». Bien, danos filtros.
Los sistemas basados en procedencia como C2PA y SynthID funcionan incorporando metadatos o marcas de agua invisibles en el contenido en el momento de su creación. Pero hay muchos modelos de IA de código abierto que no hacen esto (especialmente si están diseñados para propósitos nefastos), e incluso así, los metadatos pueden eliminarse con demasiada facilidad para que sean confiables. También existen métodos basados en la detección que analizan patrones en el contenido digital y luego califican la probabilidad de que se haya utilizado IA para crearlo, pero estos pueden proporcionar falsos positivos. Actualmente, nada de esto funciona eficazmente a escala.
Sin embargo, las empresas, incluidos los proveedores de inteligencia artificial como OpenAI, actualmente anuncian esas soluciones de etiquetado de inteligencia artificial como algo que ayudará a evitar que las personas sean engañadas por deepfakes y otras falsificaciones engañosas. Si los reguladores se enteran de lo ineficaces que son, es posible que las plataformas en línea y los proveedores de IA necesiten encontrar una solución que hace trabajo, en lugar de lo que actualmente parece una cortina de humo.
Las plataformas argumentarán que corren el riesgo de marcar incorrectamente contenido auténtico si impulsan demasiado las iniciativas de etiquetado. Tanto Meta como YouTube lo descubrieron por las malas después de aplicar etiquetas de IA a imágenes y videos que, según los creadores, se produjeron sin la ayuda de dichas herramientas. Si eso es una preocupación para los sistemas de etiquetado actuales, entonces encuentra una mejor solución. ¿Seguramente mejorar la experiencia de usuario de sus millones de usuarios es una inversión que vale la pena para defenderse de la competencia?
Y mientras pregunto, ¿por qué no puedo informar sobre todos los desechos de IA sin etiquetar que veo todos los días? Dada la magnitud del problema (un estudio realizado por Kapwing el año pasado encontró que más del 20 por ciento de los videos de YouTube mostrados a nuevos usuarios son basura generada de baja calidad, por ejemplo), imagino que se necesitarían muchos moderadores humanos para examinar de manera efectiva cada informe.
Y quizás ese sea el problema. En un momento en el que las grandes tecnológicas están reemplazando a los trabajadores con IA que supuestamente puede superarlos, ¿puede darse el lujo de dar marcha atrás en su narrativa cuidadosamente construida y contratarlos nuevamente para solucionar los problemas de la IA? Los humanos tienden a tener requisitos molestos como salarios y beneficiosen comparación con los sistemas de moderación automatizados que carecen de habilidades de investigación matizadas.
Una alternativa a etiquetar el contenido generado por IA sería comenzar a etiquetar a los creadores humanos verificados. Eso no identificaría necesariamente el contenido sintético publicado. por esos creadores, pero podría ayudarnos a ver menos de las granjas de contenido no verificadas que producen basura de baja calidad. Este es el futuro que Mosseri de Instagram propuso para la plataforma para compartir imágenes de Meta y algo que Spotify ya está haciendo con los artistas verificados.
Por supuesto, Meta, Spotify y Google no solo alojan imágenes, anuncios y música generados por IA; también son responsables de fabricar las herramientas que lo crean. Por eso insisten en que no todo El contenido de IA es una basura y es más una cuestión de calidad: si se vuelve lo suficientemente convincente, esperan que no lo notes y sigas sorbiendo felizmente del comedero. Permitir que los usuarios lo filtren iría en contra de todo el esfuerzo que estas plataformas han realizado para sacar provecho de la IA: desear que abraces la fábrica de basura.
Estoy feliz de que se demuestre que estoy equivocado. en realidad soy franco alegato que las plataformas en línea demuestren que los esfuerzos de etiquetado de IA no han sido una pérdida de tiempo. Pero en este momento, tienen todas las cartas y solo nos queda esperar que sus esfuerzos de moderación de la IA estén a la altura. Así que danos un filtro básico de “sin IA” o de “creador humano verificado” y juzgaremos qué tan bien va esto realmente.
