Książka o niebezpieczeństwach AI zawierała fałszywe cytaty wygenerowane przez AI. Tak, naprawdę.

Przeczytaj ten tytuł jeszcze raz. Powoli. Pozwól mu dotrzeć.

Książka o niebezpieczeństwach sztucznej inteligencji dla prawdy została odkryta jako zawierająca fałszywe cytaty wygenerowane przez sztuczną inteligencję. Książka nosi tytuł The Future of Truth: How AI Reshapes Reality, autorstwa Stevena Rosenbauma. Jego cel: ostrzeż przed zagrożeniem, jakie AI stanowi dla prawdy. Autor: przyznał, że podczas badań korzystał z ChatGPT i Claude. Rezultat: cytat przypisany dziennikarce Karze Swisher, którego nigdy nie wypowiedziała.

Odpowiedź Swisher była krótka i miażdżąca: «Brzmię też jakbym miała kij wbi ty w tyłek, według ChatGPT.» Nie ma wiele do dodania.

Problem leży nie tylko w Rosenbaumie. Leży w konceptualnej pułapce używania narzędzi generujących wiarygodny tekst do pisania o niebezpieczeństwach narzędzi generujących wiarygodny tekst. Książki non-fiction mają domyślny kontrakt z czytelnikiem: to, co tu napisano, wydarzyło się, zostało powiedziane, istnieje poza tymi stronami. Złamanie tego kontraktu w książce o tym, jak AI fałszuje rzeczywistość, to nie metafora. To sama rzecz. Kiedy ktoś mówi ci, że AI to tylko neutralne narzędzie, opowiedz tę historię.