Um livro sobre os perigos da IA foi descoberto com citações falsas geradas por IA. Sim, de verdade.

Leia esse título de novo. Devagar. Deixe cair.

Um livro sobre os perigos da inteligência artificial para a verdade foi descoberto por conter citações fabricadas pela inteligência artificial. O livro se chama The Future of Truth: How AI Reshapes Reality, de Steven Rosenbaum. Seu propósito declarado: alertar sobre a ameaça da IA à verdade. Seu autor: admitiu usar ChatGPT e Claude durante a pesquisa. O resultado: uma citação atribuída à jornalista Kara Swisher que ela nunca disse.

A resposta de Swisher foi breve e devastadora: «Também soo como se tivesse uma estaca no traseiro, de acordo com o ChatGPT.» Não há muito a acrescentar.

Rosenbaum assumiu a responsabilidade. Mas o problema não é só Rosenbaum. O problema é a armadilha conceitual de usar ferramentas que geram texto plausível para escrever sobre os perigos das ferramentas que geram texto plausível. Livros de não ficção têm um contrato implícito com o leitor: o que está escrito aqui aconteceu, foi dito, existe fora dessas páginas. Romper esse contrato num livro sobre como a IA falsifica a realidade não é uma metáfora. É a coisa em si. Da próxima vez que alguém disser que a IA é apenas uma ferramenta neutra, conte essa história.