Un livre sur les dangers de l’IA a été trouvé avec de fausses citations générées par IA. Si, vraiment.

Relisez ce titre. Lentement. Laissez-le atterrir.

Un livre sur les dangers de l’intelligence artificielle pour la vérité a été découvert contenant des citations fabriquées par l’intelligence artificielle. Le livre s’appelle The Future of Truth: How AI Reshapes Reality, de Steven Rosenbaum. Son but déclaré : alerter sur la menace de l’IA pour la vérité. Son auteur : a admis avoir utilisé ChatGPT et Claude lors de la recherche. Le résultat : une citation attribuée à la journaliste Kara Swisher qu’elle n’a jamais dite.

La réponse de Swisher fut brève et dévastatrice : «J’ai aussi l’air d’avoir un bâton dans le derrière, selon ChatGPT.» Il n’y a pas grand-chose à ajouter.

Le problème n’est pas seulement Rosenbaum. C’est le piège conceptuel d’utiliser des outils qui génèrent du texte plausible pour écrire sur les dangers des outils qui génèrent du texte plausible. Les livres de non-fiction ont un contrat implicite avec le lecteur : ce qui est écrit ici s’est passé, a été dit, existe en dehors de ces pages. Briser ce contrat dans un livre sur la façon dont l’IA falsifie la réalité n’est pas une métaphore. C’est la chose elle-même. La prochaine fois que quelqu’un vous dit que l’IA est juste un outil neutre, racontez-lui cette histoire.