A principios de este mes, WIRED publicó un extracto del nuevo y animado libro de Steve Rosenbaum, El futuro de la verdadque analiza cómo la inteligencia artificial deforma el sentido de la realidad de las personas. Poco después, The New York Times informó que el libro contenía más de media docena de citas inventadas o mal atribuidas. En un comunicado, Rosenbaum, que tiene una maestría en «verdad» de la Universidad de Nueva York, admitió que había incluido accidentalmente «un puñado» de citas «mal atribuidas o sintéticas». En un giro irónico, la veracidad de un libro sobre cómo la IA impacta la verdad estaba ahora bajo intenso escrutinio debido a cómo su autor había utilizado la IA.
Después de que se conoció la historia del Times, WIRED echó otro vistazo a nuestro extracto de 1450 palabras. El equipo de verificación de datos lo revisó antes de su publicación y reconfirmamos que sus citas y hechos eran exactos. Pero la política editorial de IA generativa de WIRED prohíbe la publicación de escritos generados y editados por IA, y un correo electrónico de un lector señalando que el extracto estaba «descaradamente escrito por IA» planteó más preguntas sobre hasta qué punto Rosenbaum había utilizado herramientas de IA. En El futuro de la verdadEn la sección de agradecimientos, Rosenbaum escribe que ChatGPT, Claude, NaturalReaders, ProWritingAid y Grammarly habían ayudado a «refinar y pulir la presentación de [his] ideas”. ¿Qué significa eso exactamente?
WIRED pasó el extracto a través de varios servicios de detección de IA, incluidos Pangram, GPTZero y ZeroGPT. Cada servicio sugirió que probablemente fue generado por IA o que fue generado por IA con alta confianza. Pero las herramientas de detección de IA son falibles y pueden arrojar lecturas inexactas. Entonces, el jefe de investigación de WIRED envió un correo electrónico directamente a Rosenbaum para preguntarle si había utilizado la IA para escribir el extracto y cómo.
Él respondió: «Como muchos escritores que trabajan hoy en día, utilicé herramientas de inteligencia artificial durante partes del proceso de investigación y desarrollo editorial del libro, incluido el descubrimiento de fuentes, la lluvia de ideas, la retroalimentación estructural y el refinamiento del lenguaje». Pero, enfatizó, “las ideas, los informes, los argumentos y la autoría final son míos, y el extracto de WIRED no fue generado por AI y luego simplemente publicado tal cual”. Instó a los editores de WIRED a tener cuidado al confiar en las herramientas de detección de IA, y señaló que pueden ocurrir falsos positivos.
En este punto, los editores senior de WIRED me pidieron que investigara el episodio, porque he cubierto la IA en sus diversas formas desde 2024. Mi primer paso fue ejecutar el texto completo del libro a través de la herramienta de detección de Pangram. (Si bien todas las herramientas de detección de IA tienen limitaciones y pueden mostrar falsos positivos, Pangram es el estándar de oro actual). Resultó que el libro parecía estar generado en un 53 por ciento por IA, y un 9 por ciento adicional se registró como probablemente asistido por IA.
Llamé a Rosenbaum y le pedí una descripción más detallada de cómo había utilizado la IA para escribir el libro y si cuestionaba los resultados de Pangram. (BenBella Books, cuyo sello publicó El futuro de la verdadno respondió solicitudes de comentarios. Simon & Schuster, que distribuye los libros de BenBella en Estados Unidos, declinó hacer comentarios).
Rosenbaum no quiso opinar sobre la exactitud de los resultados de Pangram. De hecho, no quería hablar de ellos en absoluto. “No participo en esa conversación”, dijo. “Es como decir, ¿Le pegas a tu esposa? Es una de esas acusaciones a las que no hay respuesta”.
En cambio, se ofreció a explicar ampliamente su proceso editorial. Dice que al comienzo del proceso de escritura, utilizó herramientas de inteligencia artificial como motores de búsqueda, lo que le ayudó a encontrar información para las secciones del libro con más investigación. Para demostrar cómo podría hacer esto, le pidió a ChatGPT que me describiera y luego leyó los resultados en voz alta. La búsqueda con IA describió con mayor o menos precisión algunas de mis historias anteriores, incluido el trabajo en “sitios de medios zombis” generados por IA.
