Ein Buch über die Gefahren der KI enthielt KI-generierte Falschzitate. Ja, wirklich.

Lesen Sie diese Überschrift noch einmal. Langsam. Lassen Sie sie ankommen.

Ein Buch über die Gefahren der künstlichen Intelligenz für die Wahrheit wurde entdeckt und enthält gefälschte Zitate, die von künstlicher Intelligenz generiert wurden. Das Buch heißt The Future of Truth: How AI Reshapes Reality, von Steven Rosenbaum. Sein erklärtes Ziel: die Gefahr der KI für die Wahrheit aufzuzeigen. Sein Autor: gab zu, ChatGPT und Claude bei der Recherche verwendet zu haben. Das Ergebnis: ein Zitat, das der Journalistin Kara Swisher zugeschrieben wurde, das sie nie gesagt hat.

Swishers Antwort war kurz und verheerend: «Ich klinge auch so, als hätte ich einen Stock im Hintern, laut ChatGPT.» Da ist nicht viel hinzuzufügen.

Das Problem ist nicht nur Rosenbaum. Es ist die konzeptionelle Falle, Werkzeuge zu benutzen, die plausiblen Text erzeugen, um über die Gefahren von Werkzeugen zu schreiben, die plausiblen Text erzeugen. Sachbücher haben einen impliziten Vertrag mit dem Leser: Was hier steht, ist passiert, wurde gesagt, existiert außerhalb dieser Seiten. Diesen Vertrag in einem Buch zu brechen, das davon handelt, wie KI die Realität verformt, ist keine Metapher. Es ist die Sache selbst. Wenn jemand sagt, KI sei nur ein neutrales Werkzeug, erzählen Sie diese Geschichte.