Un libro sui pericoli dell’IA è stato trovato con false citazioni generate dall’IA. Sì, sul serio.

Rileggi quel titolo. Lentamente. Lascialo sedimentare.

Un libro sui pericoli dell’intelligenza artificiale per la verità è stato scoperto contenere citazioni false generate dall’intelligenza artificiale. Il libro si chiama The Future of Truth: How AI Reshapes Reality, di Steven Rosenbaum. Il suo scopo dichiarato: mettere in guardia sulla minaccia dell’IA alla verità. Il suo autore: ha ammesso di aver usato ChatGPT e Claude durante la ricerca. Il risultato: una citazione attribuita alla giornalista Kara Swisher che lei non ha mai detto.

La risposta di Swisher è stata breve e devastante: «Sembro anche come se avessi un bastone nel sedere, secondo ChatGPT.» Non c’è molto da aggiungere.

Il problema non è solo Rosenbaum. È la trappola concettuale di usare strumenti che generano testo plausibile per scrivere dei pericoli degli strumenti che generano testo plausibile. I libri di saggistica hanno un contratto implicito con il lettore: ciò che è scritto qui è accaduto, è stato detto, esiste al di fuori di queste pagine. Rompere quel contratto in un libro su come l’IA falsifica la realtà non è una metafora. È la cosa stessa. La prossima volta che qualcuno ti dice che l’IA è solo uno strumento neutro, racconta questa storia.