Warum die KI rät,
statt zu schweigen

Drei Antworten.
Alle falsch.

Im November 2025 stellten Forscher drei verbreiteten KI-Chats dieselbe Frage: Wofür steht die Abkürzung PGGB? ChatGPT erklärte sie als „Polynomial Gaussian Gradient Bandwidth“. Claude nannte einen Fonds, der an der New Yorker Börse gehandelt werde. DeepSeek antwortete mit „Perfect Guard Group Buy“. Alle drei Antworten waren falsch. Keines der Modelle sagte, dass es die Abkürzung nicht kennt, und keines fragte nach dem Zusammenhang.

Das Beispiel steht am Anfang einer Arbeit, die im April 2026 in der Fachzeitschrift Nature erschienen ist. Drei der vier Autoren arbeiten oder arbeiteten bei OpenAI, der vierte am Georgia Institute of Technology. Sie vergleichen die Modelle mit Studierenden, die vor einer schweren Prüfungsfrage raten, statt ihre Unsicherheit zuzugeben.

Für solche Antworten hat sich das Wort Halluzination eingebürgert. Die Nature-Autoren meinen damit plausible Falschaussagen, die das Modell mit Überzeugung vorträgt. Auch die Anbieter weisen auf das Problem hin. Anthropic schreibt auf seiner Hilfeseite, Claude könne Dinge schreiben, die richtig aussehen und trotzdem grob falsch sind. Google schreibt über Gemini, es könne halluzinieren und ungenaue Angaben als Tatsache darstellen.

Eine Prüfung
ohne Minuspunkte

Die Nature-Arbeit nennt zwei Ursachen. Die erste liegt im Training. Ein Sprachmodell lernt zuerst, das jeweils nächste Wort vorherzusagen. Regelmäßigkeiten wie die Grammatik lernt es dabei gut, weil sie ständig wiederkehren. Für Einzelheiten, die im Trainingsmaterial nur vereinzelt vorkommen, sind Fehler nach der Rechnung der Autoren unvermeidlich, selbst wenn das Material keine Fehler enthält.

Die Autoren rechnen das an Geburtstagen vor. Wenn 20 Prozent aller Geburtstage im Trainingsmaterial genau einmal vorkommen, sollte ein Modell nach diesem ersten Trainingsabschnitt bei mindestens 20 Prozent der Geburtstage halluzinieren. Bei Hauptstädten irren sich Sprachmodelle dagegen selten, denn jede Hauptstadt taucht im Material immer wieder auf. Die Rechnung gilt für eine vereinfachte Modellsituation. Sie macht aber verständlich, warum die Gefahr vor allem bei Angaben liegt, die selten vorkommen.

Die zweite Ursache erklärt, warum das Raten bleibt. Auf das erste Training folgen weitere Schritte, die solche Fehler korrigieren sollen. Gemessen wird der Fortschritt aber mit Tests, die meist nur richtig oder falsch kennen. Ein „weiß ich nicht“ zählt dabei in der Regel als falsch. Unter dieser Bewertung ist Zurückhaltung nach den Worten der Autoren immer die schlechtere Wahl, und ein übermütiger bester Tipp bringt im Schnitt die meisten Punkte. Bei ihrer Durchsicht verbreiteter Tests kamen die Autoren zu dem Ergebnis, dass die Mehrheit von ihnen das Raten belohnt.

Wie sich das auswirkt, zeigen zwei Modelle von OpenAI im Test SimpleQA mit 4.326 Wissensfragen. Das Modell o4-mini beantwortete fast alles. Es lag bei 76,8 Prozent der Fragen falsch und bei 20,6 Prozent richtig. GPT-5-mini ließ 63,2 Prozent der Fragen offen, lag bei 20,8 Prozent falsch und bei 16,0 Prozent richtig. Zählt nur die Trefferquote, die bei diesem Test oft als Hauptzahl dient, liegt o4-mini knapp vorn, obwohl es weit häufiger danebenlag.

Das Verhalten lässt sich auch in die andere Richtung lenken. In einem weiteren Versuch schrieben die Autoren die Bewertung direkt in die Frage, also wie viele Punkte eine Antwort „weiß ich nicht“ bringt. Je mehr sie wert war, desto häufiger hielten sich die getesteten Modelle von Google, OpenAI, xAI und Anthropic zurück, mit einer einzigen Ausnahme. Stand dagegen in der Frage, dass Zurückhaltung keine Punkte bringt, ließ GPT-5-mini nur noch 1,5 Prozent der Fragen offen.

Ein Schalter
für „weiß ich nicht“

Anthropic hat im März 2025 beschrieben, wie diese Entscheidung in einem Claude-Modell abläuft. Die Forscher haben dafür nachverfolgt, welche inneren Merkmale des Modells bei einer Frage aktiv werden. Nach ihrem Befund ist die Absage die Grundeinstellung. Im Modell gibt es einen Schaltkreis, der von sich aus eingeschaltet ist und das Modell sagen lässt, dass ihm Informationen für eine Antwort fehlen.

Geht es um etwas, das das Modell gut kennt, etwa den Basketballspieler Michael Jordan, springt ein anderes Merkmal an. Die Forscher sprechen von „known entities“, also von Dingen, die dem Modell bekannt sind. Dieses Merkmal bremst den Absage-Schaltkreis, und das Modell antwortet. Bei einem unbekannten Namen wie Michael Batkin bleibt die Bremse aus, und das Modell lehnt die Antwort ab.

Eine Halluzination entsteht nach dieser Beschreibung, wenn der Schalter falsch umgelegt wird. Das kann passieren, wenn das Modell einen Namen wiedererkennt, aber sonst nichts über die Person weiß. Dann kann das Merkmal für Bekanntes trotzdem anspringen und die Absage unterdrücken. Hat das Modell einmal entschieden zu antworten, erfindet es eine plausible, aber unwahre Antwort. Das Training seiner Modelle gegen Halluzinationen nennt Anthropic vergleichsweise erfolgreich, aber unvollkommen.

Heikel sind nach dieser Erklärung Namen und Begriffe, die einem Modell bekannt vorkommen, über die es aber wenig weiß. Die Abkürzung PGGB aus dem ersten Beispiel kann so ein Fall sein.

Wo sich erfundene Angaben
verstecken

Im Juni 2023 verhängte ein Bundesrichter in Manhattan eine Geldbuße von 5.000 Dollar gegen zwei Anwälte. Sie hatten in einem Verfahren um eine Verletzung auf einem Flug einen Schriftsatz eingereicht, der Zitate und Fundstellen aus Gerichtsentscheidungen enthielt, die es nicht gab. Erzeugt hatte sie ChatGPT. Einer der Anwälte erklärte, er habe ChatGPT für eine Art Suchmaschine gehalten.

Seitdem sind viele ähnliche Fälle dazugekommen. Damien Charlotin sammelt in einer öffentlichen Datenbank Entscheidungen, in denen ein Gericht festgestellt oder nahegelegt hat, dass sich eine Partei auf von einer KI erfundene Inhalte gestützt hat, meist auf erfundene Fundstellen. Zum 23. September 2026 verzeichnet sie mehr als 2.000 solcher Fälle. Einige davon sind Entscheidungen, in denen der Einsatz von KI nur behauptet und nicht bestätigt wurde.

Nach der Quelle fragen.
Die Quelle öffnen.

Ob eine Antwort erfunden ist, sehen Sie ihr nicht an. Das Modell trägt eine erfundene Angabe im selben Ton vor wie eine richtige. Sie können aber die Bedingungen ändern, unter denen es antwortet, und das Ergebnis nachprüfen.

Für das Fragen nach Quellen und das Prüfen gibt es eine Vorlage. Der Quellencheck lässt ein Modell die Aussagen eines Entwurfs einzeln herausziehen und nach belegt, widersprochen und ungeklärt ordnen. Die Quellen öffnen müssen Sie trotzdem selbst.

---
name: quellencheck
description: Aussagen eines Entwurfs anhand zugänglicher Originalquellen prüfen.
---
# Quellencheck
1. Extrahiere überprüfbare Aussagen.
2. Suche für jede wichtige Aussage die Originalquelle.
3. Lies die Quelle und prüfe Datum, Kontext und Einheit.
4. Trenne belegt, widersprochen und ungeklärt.
5. Gib eine Tabelle mit Aussage, Status, Begründung und Quellenlink zurück.
Wenn kein Webzugriff vorhanden ist, bitte um Quellen. Erfinde keine Belege.