Esto es El paso atrás, un boletín semanal que analiza una historia esencial del mundo de la tecnología. Para obtener más información sobre la confusión de la IA, siga a Robert Hart. El paso atrás llega a las bandejas de entrada de nuestros suscriptores a las 8 a.m. ET. Optar por El paso atrás aquí.
Al principio, los influencers de la IA eran relativamente fáciles de identificar e ignorar. Aparte de los ocasionales estallidos de exageración, no parecieron cambiar mucho la forma en que funcionaban las redes sociales. Las primeras influencers virtuales (Lil Miquela con su flequillo despuntado y sus pecas, Imma con su bob rosa chicle y Shudu Gram con su cutis impecable) fueron obviamente producciones digitales. Las colaboraciones se anunciaron con fanfarria. Los puestos requerían estudios, dinero, coordinación y mucho pulido.
Con el tiempo, me di cuenta de que las personas falsas en mi línea de tiempo comenzaron a parecerse cada vez más a todos los demás en ella. Personajes como Emily Pellegrini y Aitana López se acercaron un poco más a la realidad, o al menos a la realidad de esa amiga acomodada y viajera de la universidad con la que no mantenías contacto, que siempre publicaba desde buenos restaurantes y lugares hermosos, o desde Coachella y Wimbledon. No es exactamente identificable, pero, claro, la mayoría de los influencers profesionales tampoco lo son.
Incluso entonces, muchas de estas cuentas no son de ninguna manera estándar. López es producto de una agencia creativa española llamada The Clueless, que gestiona un grupo de influencers de IA. El creador de Pellegrini, que utiliza el seudónimo de Profesor EP, me dijo que solía gestionar a los creadores de Onlyfans. Ahora vende cursos que enseñan a las personas cómo crear sus propios influencers de IA.
Que es exactamente lo que la gente está empezando a hacer. Mucha gente.
La novedad ha pasado. Los primeros influencers de la IA se destacaron porque eran muy pocos. Ahora son parte de un lío mucho mayor de contenido generado por IA que inunda las redes sociales: tonterías de baja calidad copiadas perezosamente de chatbots, imágenes y videos basura, y eso pegadizo. El señor de los anillos Canción disco que se apoderó de mi TikTok durante un mes.
La gente falsa está ahora en todas partes. Están vendiendo basura, estafando a los hombres sin dinero con fotografías falsas, promoviendo desinformación y temas de conversación racistas, y atendiendo a un nicho cada vez más extraño, a menudo sexual. Por supuesto, hay mucho de trampas para la sed. También hay mucho contenido mundano, con avatares que simplemente copian lo que es popular entre los creadores humanos, a menudo simplemente poniéndole sus caras falsas.
Eso hace que sea difícil medir la escala de la influencia de los creadores de contenido de IA. Las plataformas no publican cifras sobre cuántos de sus usuarios son personas falsas, y la mayoría de los avatares de IA no se vuelven lo suficientemente populares o influyentes como para justificar el tipo de atención de los medios que recibió la ola anterior. Bases de datos como Virtual Humans rastrean cientos de avatares populares, pero esas son sólo cuentas extrañas, raras o lo suficientemente grandes como para llamar la atención. Debajo de ellos hay un océano de cuentas que pasan totalmente desapercibidas.
Parte de la razón por la que estas cuentas pueden evitar la detección es que la tecnología utilizada para crearlas ha mejorado enormemente. Una imagen fija de una persona falsa ahora puede ser lo suficientemente buena como para pasar por genuina a simple vista, especialmente en un feed lleno de personas influyentes reales que hacen un uso generoso de puesta en escena, filtros y efectos de edición. El vídeo y el audio se están poniendo al día rápidamente, dando a las personas virtuales voces y movimientos que podrían engañar a los usuarios poco exigentes. Las herramientas ya no son nicho ni prohibitivamente caras. Los productos convencionales de empresas como Google y OpenAI se combinan con servicios especializados de empresas como Higgsfield, HeyGen y ElevenLabs. Con un poco de esfuerzo, casi cualquiera puede convertirse en un influencer de IA (o un grupo estable de ellos) sin necesidad de un estudio, equipo especializado o (mucho) dinero.
Todo esto deja a las plataformas de redes sociales con un problema que no parecen especialmente interesadas en resolver de frente. Después de varios años de lidiar con imágenes, videos y audio generados por IA, la mayoría de las plataformas principales ahora tienen algún tipo de política que cubre los medios sintéticos. Pero más allá de exigir etiquetas para el contenido generado por IA, dichas reglas a menudo equivalen a poco más que calzar el material en categorías existentes que cubren cosas como estafas, spam, suplantación de identidad y material gráfico. Las personas con IA, especialmente aquellas diseñadas para comportarse como personas reales, no encajan perfectamente en ninguno de estos grupos. No necesariamente están realizando una estafa, publicando contenido gráfico o haciéndose pasar por alguien: ¿a quién se harían pasar? Y si revelan que sus publicaciones están generadas por IA, no es obvio qué reglas estarían infringiendo.
Por ahora, las plataformas parecen contentarse con vivir en la ambigüedad, sin dar la bienvenida ni rechazar plenamente a los creadores de IA. Han cultivado una posición contradictoria, promoviendo la IA como una herramienta creativa y al mismo tiempo tratando de evitar que una marejada de declive abrume sus servicios. YouTube, TikTok, Instagram y otras plataformas han desarrollado reglas para etiquetar medios sintéticos, particularmente los realistas, al tiempo que promueven sus propios conjuntos de herramientas de inteligencia artificial, incluidas algunas que pueden clonar o simular usuarios. Pero esas reglas tienden a centrarse en publicaciones individuales en lugar de en las cuentas y personas detrás de ellas, lo que deja a los influencers de IA en un área gris.
En esa incertidumbre, el ecosistema de influencers de IA está prosperando. Algunas empresas de investigación de mercado estiman que el mercado de influencers virtuales podría valer más de 60 mil millones de dólares para 2030, frente a los 12 mil millones de dólares de este año. La influencia cultural también está creciendo. Hay premios a influencers de IA, concursos de belleza, agencias de talentos dedicadas que representan a creadores sintéticos y un mercado en auge de creadores sintéticos que venden cursos y herramientas que prometen ayudar a las personas a crear y administrar sus propios creadores falsos, a menudo con la promesa de ingresos pasivos sin rostro. Parte de ello tiene el ligero olor piramidal de una fiebre del oro en línea, algunas historias de éxito visibles y una enorme cantidad de gente vendiendo palas.
Supongo que hay un ajuste de cuentas en camino. El desperdicio de IA ya es irritante, y hay una cantidad limitada que una plataforma puede soportar hasta que se vuelve prácticamente inutilizable, especialmente dada su persistente negativa a permitir que los usuarios filtren el desperdicio de IA. Las personas falsas que fingen ser reales son una versión aún más íntima del mismo problema. Pero más allá de las etiquetas y la aplicación de las reglas existentes, las plataformas en su mayoría parecen contentas de ver qué sucede. Para las plataformas, el compromiso sigue siendo compromiso, ya sea de un creador falso o real. Mientras los creadores sintéticos sigan publicando y no se aparten de las reglas existentes, parece haber pocos incentivos para tomar medidas enérgicas.
También existe la cuestión de cuán sostenible es la idea de tener avatares de IA en línea. Si tantos se construyen sólo para ganar dinero con los usuarios humanos, ¿qué sucederá cuando el grupo de usuarios humanos se agote? Hay un número limitado de personas que estarán dispuestas a comprar cursos y herramientas para crear sus propios influencers, por ejemplo. Eso supone que las redes sociales puedan sobrevivir a la afluencia de personas influyentes en la IA. Por definición, se requiere cierta masa crítica de humanidad para mantener las cosas sociales. Si no se controlan, las redes colapsarán bajo el peso de estas personas falsas, a medida que los usuarios humanos inevitablemente serán expulsados.
Eso podría cambiar si la ira pública sigue aumentando. La reacción contra los deepfakes, la suplantación de identidad y el spam sintético ya está obligando a los legisladores y reguladores a prestar más atención, particularmente después de incidentes que involucraron deepfakes sexuales no consensuales generados con herramientas como Grok. La Ley de IA de Europa podría ser un impulsor, al menos cuando entren en vigor sus obligaciones de transparencia para el contenido generado por IA. Las regulaciones requerirán que los implementadores de sistemas de IA generativa revelen claramente el contenido generado o manipulado por IA, lo que podría presionar a las empresas a intensificar las denuncias de contenido de IA o enfrentar multas potencialmente elevadas. Pero incluso entonces, la atención se centra en gran medida en el contenido, no en si la cuenta que lo publica representa a una persona real.
Como ocurre con tantas cosas en las redes sociales, la carga recae sobre los usuarios. Muchas plataformas han delegado efectivamente la tarea de moderar el contenido de IA a los usuarios, confiando en ellos para detectar e informar perfiles sospechosos. Pero la automoderación es una respuesta pobre e insostenible a algo diseñado para pasar desapercibido. Ya existe un creciente apetito por espacios libres de IA. Si las plataformas se niegan a trazar límites entre lo real y lo irreal, espero que los usuarios los establezcan.
- Muchos de los influencers de IA de más alto perfil con los que me he encontrado recientemente tienen una inclinación abiertamente política, lo que creo que podría acelerar el ajuste de cuentas regulatorio. Danny Bones, un falso rapero nacionalista blanco financiado por un partido político de extrema derecha en el Reino Unido, es quizás el mejor ejemplo de esto que he visto hasta ahora.
- Al igual que los influencers humanos, muchos avatares de IA se construyen en torno a identidades y comunidades específicas, como raza, discapacidad, política y nacionalidad, como la chica de fantasía MAGA Jessica Foster, que se inclina en gran medida hacia la estética sexualizada del Ejército y el trumpismo. No todos los avatares se alinean con sus creadores: el modelo de IA negro Shudu Gram, por ejemplo, fue creado por un hombre blanco. Emily Pellegrini también es producto de un hombre, el profesor EP, quien me dijo que el personaje está construido utilizando contenido que obtuvo bajo licencia de un creador anónimo de Onlyfans.
- El titular de la historia reciente de Jess Weatherbed para El borde lo dice todo: «Permítanos filtrar la IA, cobardes».
- El borde Recientemente se informó que los estafadores están utilizando avatares de inteligencia artificial de personas negras falsas para vender productos producidos en masa mediante envío directo a precios inflados en las redes sociales.
- cableado informó sobre la floreciente industria del “Proxenetismo de IA”, en la que avatares de IA roban y monetizan el contenido de creadores humanos sin su permiso.
- El podcast de Charlie Warzel examinó los incentivos detrás de la proliferación de personas influyentes en la IA y el cansancio que muchos sienten cuando se trata de preocuparse si lo que consumimos ya es real o no.
