Wer von uns schüttelte nicht den Kopf oder den Bauch vor Lachen, als er von den offensichtlich fehlerhaften Antworten las oder die Bilder mit asiatischen oder schwarzen Wehrmachtsoldaten gesehen hatte, die generative KIs als Ergebnis zurückgeliefert hatten?
Wie dumm kann solch eine KI bloß sein?, dachten sich viele. Doch im selben Atemzug kommt es zu einer kuriosen Reaktion: genau dieselben Personen – also wir alle – die gerade über den KI-Unsinn geschmunzelt hatten, nehmen gerne und ohne viel nachzuforschen die Ergebnisse von ChatGPT oder Gemini für bare Münze. Diese Antworten müssen doch stimmen, es klingt doch so toll, nicht wahr?
Wie kommt es zu diesem Paradox, das uns doch offensichtlich sein sollte? Dieses Paradox hat sogar einen, wenn auch nicht-wissenachaftlichen Namen: es handelt sich um den Gell-Mann-Amnesie-Effekt.
Der populäre Autor Michael Crichton benannte diesen Effekt nach seinem Physikerfreund Murray Gell-Mann, dem aufgefallen war, wie beispielsweise Zeitungsleser nach dem Studium eines fehlerhaften Artikels zu einem Thema, in dem sie selbst sehr bewandert sind, nur den Kopf schütteln und die Berichterstattung dazu als verzerrt, fehlerhaft und verständnislos empfinden. Blättern sie dann allerdings weiter und lesen einen Artikel zu einem anderen Thema, in dem sie sich selbst nur wenig auskennen, dann vertrauen sie der Information in diesem Artikel fast uneingeschränkt.
In den Worten von Michael Crichton, der diesen Effekt zum ersten Mal 2002 in einer Rede vorgestellt hatte, lautet das folgendermaßen:
Kurz gesagt, der Gell-Mann-Amnesie-Effekt sieht folgendermaßen aus. Sie schlagen die Zeitung auf und lesen einen Artikel über ein Thema, das Sie gut kennen. In Murrays Fall: Physik. In meinem Fall, das Showbusiness. Sie lesen den Artikel und stellen fest, dass der Journalist weder von den Fakten noch von der Thematik etwas versteht. Oft ist der Artikel so falsch, dass er Ursache und Wirkung in ihr Gegenteil verkehrt. Ich nenne das die „Nasse Straßen verursachen Regen“-Geschichten. Die Zeitung ist voll von ihnen.
In jedem Fall liest man mit Verärgerung oder Belustigung die zahlreichen Fehler in einer Geschichte, blättert dann zu den nationalen oder internationalen Angelegenheiten und liest, als ob der Rest der Zeitung irgendwie genauer über Palästina wäre als der Quatsch, den man gerade gelesen hat. Man blättert die Seite um und vergisst, was man weiß.
Das ist der Gell-Mann-Amnesie-Effekt. Ich möchte darauf hinweisen, dass er in anderen Bereichen des Lebens nicht funktioniert. Wenn im normalen Leben jemand ständig übertreibt oder lügt, vergisst man bald alles, was er sagt. Vor Gericht gilt der Rechtsgrundsatz falsus in uno, falsus in omnibus, d. h. unwahr in einem Teil, unwahr in allen. Aber wenn es um die Medien geht, glauben wir entgegen den Beweisen, dass es sich wahrscheinlich lohnt, andere Teile der Zeitung zu lesen. In Wirklichkeit ist es das aber mit ziemlicher Sicherheit nicht. Die einzig mögliche Erklärung für unser Verhalten ist Amnesie.
Bei KI blättern wir nicht um, die Amnesie tritt mit dem nächsten Prompt ein. Und es ist irgendwie verständlich. Es ist nämlich wirklich mühsam und zeitaufwendig, jede Aussage der KI zu hinterfragen, jedem Detail nachzuforschen und misstrauisch zu bleiben. Hinzu kommt, dass die KI dazu tendiert, ihre Antworten mit großer Autorität zu geben. Was sie sagt klingt einfach so gut und wird mit solchem Selbstvertrauen vorgetragen, dass es einem gar nicht in den Sinn kommt, skeptisch zu bleiben. Und das passiert den besten von uns: Journalisten, Rechtsanwälten oder Bloggern.