Eine KI-Halluzination ist eine frei erfundene, aber plausibel formulierte Aussage eines Sprachmodells — systembedingt, weil das Modell wahrscheinliche Textfortsetzungen erzeugt, keine Wahrheit. Der gefährlichste Fehler von Sprachmodellen ist deshalb nicht, dass sie falsch liegen — sondern dass sie dabei genauso klingen wie wenn sie richtig liegen. Eine erfundene Fundstelle liest sich exakt so überzeugend wie eine echte.
Warum Halluzinationen entstehen
Das Modell erzeugt Wahrscheinlichkeiten, keine Wahrheit
Ein Sprachmodell erzeugt wahrscheinliche Fortsetzungen von Text. Es unterscheidet nicht zwischen „das steht so in meinen Trainingsdaten” und „das klingt, als könnte es so sein”. Beides führt zu flüssigem, plausiblem Text — der Mechanismus ist derselbe. Wie das grundsätzlich funktioniert, vertieft der Beitrag zur Funktionsweise von KI.
Es gibt keinen internen Alarm
Liegt zu einer Frage kein belastbares Wissen vor, entsteht trotzdem eine Antwort. Das Modell hat keine innere Instanz, die meldet „hier bin ich unsicher”. Deshalb ist eine Halluzination sprachlich nicht von einer korrekten Antwort zu unterscheiden.
Eine Eigenschaft, kein Bug
Das ist deshalb kein Fehler, der sich vollständig beheben lässt, sondern eine Eigenschaft der Bauweise. Neuere Modellgenerationen halluzinieren seltener, aber nicht nie. Wer auf die Fehlerfreiheit einer künftigen Version wartet, wartet auf etwas, das die Architektur nicht hergibt.
Wo es besonders häufig auftritt
| Bereich | Warum riskant |
|---|---|
| Fundstellen und Zitate | Paragraphen, Urteile, Studien, Seitenzahlen wirken exakt, sind aber leicht erfunden |
| Zahlen und Statistiken | besonders bei Kombination mehrerer Angaben |
| Nischenwissen | je spezieller das Thema, desto dünner die Datenlage |
| Aktuelle Ereignisse | alles nach dem Wissensstichtag des Modells |
| Personen und Firmen | unterhalb der Bekanntheitsschwelle |
Das Paradox der Detailtiefe
Auffällig: Bei genau diesen Themen wirkt die Antwort oft besonders detailliert. Das ist kein Zufall — das Modell füllt die Wissenslücke mit dem, was plausibel aussieht, und plausibel heißt häufig: konkret und ausführlich. Ausgerechnet die überzeugendste Antwort ist im Zweifel die erfundene.
Was messbar hilft
Quellen mitgeben
Die wirksamste Maßnahme. Wenn das Modell aus mitgegebenen Dokumenten antwortet statt aus dem Gedächtnis, sinkt die Fehlerquote deutlich. Das ist das Prinzip hinter RAG-Systemen. Schon im Prompt lässt sich das erzwingen:
Beantworte die Frage AUSSCHLIESSLICH auf Basis des folgenden Kontexts.
Wenn die Antwort nicht im Kontext steht, sage woertlich:
"Dazu steht nichts in den Unterlagen."
Kontext:
<hier die Dokumente einfuegen>
Frage: Wie lange laeuft die Gewaehrleistung?
Belege verlangen und Unwissen erlauben
Die Aufforderung, jede Aussage mit Quelle zu belegen, führt dazu, dass unbelegbare Aussagen seltener auftauchen — und erleichtert die Prüfung. Ein Hinweis wie „Wenn du es nicht sicher weißt, sage das” wirkt messbar, aber nicht zuverlässig; er senkt die Quote, garantiert aber nichts.
Zwei Durchgänge und niedrige Temperatur
Das Ergebnis in einem zweiten Schritt kritisch prüfen zu lassen, findet einen Teil der Fehler. Bei faktenorientierten Aufgaben reduziert eine niedrige Temperatur die Variabilität. Die Temperatur steuert, wie stark das Modell vom wahrscheinlichsten Wort abweicht:
# Faktenaufgabe: niedrige Temperatur = weniger Fantasie
response = client.chat.completions.create(
model="...",
temperature=0.1, # 0.0-0.3 fuer Fakten, hoehere Werte fuer Kreatives
messages=[{"role": "user", "content": prompt}],
)
Was nicht hilft
Nachfragen, ob die Antwort stimmt
Die naheliegendste Prüfung ist die unwirksamste. Fragt man das Modell, ob seine Antwort stimmt, bestätigt es bereitwillig. Es hat keinen Zugriff auf die Wahrheit, sondern nur auf das, was plausibel klingt — und „ja, das stimmt” klingt plausibel. Die Selbstauskunft ist kein Prüfinstrument.
Die organisatorische Konsequenz
Ein Satz in jede Nutzungsrichtlinie
In jede KI-Nutzungsrichtlinie gehört die klare Regel: Ergebnisse werden vor Verwendung geprüft, die Verantwortung bleibt beim Menschen. Das entlastet nicht das Werkzeug, sondern setzt die Erwartung richtig — KI liefert Entwürfe, keine geprüften Endergebnisse.
Eine Demonstration in jede Schulung
In jede KI-Schulung gehört eine Vorführung — am besten an einer Fachfrage aus dem eigenen Bereich, bei der das Modell nachweislich falsch liegt. Dieser Moment, in dem eine überzeugend formulierte Antwort sich als frei erfunden herausstellt, wirkt stärker als jede abstrakte Warnung. Er verankert die Prüfpflicht dort, wo sie gebraucht wird: im Kopf der Anwender.
Quellen: OpenAI-Dokumentation · Anthropic