Un libro sobre los peligros de la IA fue descubierto con citas falsas generadas por IA. Sí, en serio.

Espera, espera. Hay que volver a leer el titular: un libro sobre los peligros de la inteligencia artificial fue descubierto por contener citas falsas generadas por inteligencia artificial.

¿Lo lograste? ¿Lo absorbiste del todo? Porque hay ahí un nivel de ironía que Borges hubiera celebrado con una nota al pie y Pizarnik con un silencio.

El libro se llama The Future of Truth: How AI Reshapes Reality, de Steven Rosenbaum, publicado por Matt Holt/BenBella. Su propósito declarado es alertar sobre los peligros de la IA para la verdad y la realidad. Y su autor admitió haber usado ChatGPT y Claude durante la investigación y la escritura. El resultado: una cita atribuida a la periodista Kara Swisher que ella nunca dijo. Swisher respondió en redes con una sola línea: «También sueno como si tuviera un palo en el trasero, según ChatGPT.» Difícil añadir algo.

Rosenbaum asumió la responsabilidad y prometió corregir los pasajes afectados en futuras ediciones. Se lo agradecemos. Pero el problema no es Rosenbaum, o no solo Rosenbaum. El problema es la trampa conceptual en la que nos metemos cuando usamos herramientas que generan texto plausible para escribir sobre las trampas de las herramientas que generan texto plausible. Hay un abismo dentro del abismo y la vertiginosa sensación de haberlo mirado.

Lo que me interesa más que el escándalo en sí: ¿cuántos libros más tienen este problema y nadie lo ha notado todavía? La detección fue posible porque Kara Swisher existe, es pública, y pudo decir: yo no dije eso. Pero ¿qué pasa con las citas de personas menos conocidas? ¿Con afirmaciones verificables solo si alguien se toma la molestia de verificarlas?

Los libros de no ficción tienen un contrato implícito con el lector: lo que está escrito aquí ocurrió, fue dicho, existe fuera de estas páginas. Romper ese contrato no es solo un error editorial. Es una traición epistémica. Y hacerlo en un libro sobre cómo la IA falsifica la realidad no es una metáfora. Es la cosa en sí misma.

Rosenbaum no mintió. Confió en herramientas que producen mentiras con absoluta confianza. Y esa es exactamente la tesis de su libro. No sé si reírme o preocuparme. Las dos cosas a la vez, creo. La próxima vez que alguien te diga que la IA es solo una herramienta neutral, cuéntale esta historia.