KI-Halluzination bezeichnet eine Ausgabe eines KI-Sprachmodells, die sprachlich flüssig und überzeugend formuliert, inhaltlich aber falsch oder frei erfunden ist. Typische Beispiele sind erfundene Quellenangaben, falsche Zahlen, nicht existierende Gesetzesparagraphen oder Zitate, die niemand gesagt hat. Der Begriff ist etabliert, aber irreführend: Das Modell nimmt nichts wahr, es erzeugt statistisch wahrscheinlichen Text.
Warum Halluzinationen entstehen
Ein Large Language Model sagt bei jedem Schritt den wahrscheinlichsten nächsten Textbaustein (Token) vorher. Es unterscheidet dabei nicht zwischen „wahr“ und „klingt richtig“. Liegt zu einer Frage kein belastbares Wissen im Modell vor, entsteht trotzdem eine flüssige Antwort — weil genau das der Mechanismus ist. Eine Halluzination ist deshalb kein isolierter Programmfehler, der sich vollständig abstellen ließe, sondern eine Eigenschaft der Bauweise. Neuere Modellgenerationen halluzinieren messbar seltener, aber nicht nie.
Welche Arten es gibt
| Typ | Was passiert | Beispiel |
|---|---|---|
| Faktisch | Falsche Aussage über die Welt | Falsches Gründungsjahr eines Unternehmens |
| Quelle | Beleg wird erfunden | Nicht existierender Gerichtsbeschluss mit Aktenzeichen |
| Rechnung | Zahl wird plausibel geraten | Fehlerhafte Summe in einer Kalkulation |
| Anweisungstreue | Modell weicht von der Vorgabe ab | Antwort in falscher Sprache oder falschem Format |
Gemeinsam ist allen Arten: Die Formulierung wirkt genauso sicher wie bei einer korrekten Antwort. Sprachlich lässt sich eine Halluzination nicht erkennen — nur inhaltlich.
Was dagegen hilft
- Quellen mitgeben statt aus dem Gedächtnis abfragen. Beim Verfahren RAG (Retrieval-Augmented Generation) durchsucht das System zuerst eigene Dokumente und lässt das Modell nur auf dieser Grundlage antworten. Das senkt die Rate deutlich, garantiert aber keine Fehlerfreiheit.
- Belege verlangen und stichprobenartig prüfen. Ein Modell, das seine Fundstelle nennen muss, lässt sich leichter kontrollieren.
- Zahlen, Namen und Fundstellen grundsätzlich nachschlagen, bevor sie weiterverwendet werden.
- Menschliche Kontrolle (Guardrails und Freigabeprozesse) an den Stellen, an denen ein Fehler teuer wird.
Was der Mittelstand daraus mitnimmt
Halluzinationen sind kein Grund, auf KI zu verzichten — aber ein Grund, Prozesse zu bauen, in denen kein einzelnes Modellergebnis ungeprüft nach außen geht. Für Anwendungen mit klarer Wissensbasis (interne Dokumente, Produktdaten) ist RAG der wirksamste Hebel. Für alles, was rechtlich oder finanziell bindet, bleibt die menschliche Endkontrolle Pflicht. Der praktische Umgang mit fehlerhaften Ausgaben ist auch ein Baustein der KI-Kompetenz, die Artikel 4 des EU AI Act von Mitarbeitenden verlangt. Wie sich die Rate im Alltag senken lässt, zeigt der Ratgeber KI-Halluzinationen vermeiden.
Grenzen
Weder „Temperatur 0“ noch die Aufforderung, Unwissen zuzugeben, beseitigen das Problem vollständig. Beides senkt die Häufigkeit, ersetzt aber keine Kontrolle. Wer eine hundertprozentig verlässliche Faktenmaschine erwartet, missversteht die Technik: Sprachmodelle sind Wahrscheinlichkeitsmaschinen, keine Datenbanken.
Häufige Fragen
Werden Halluzinationen verschwinden?
Vollständig vermutlich nicht — sie folgen aus der Funktionsweise. Die Häufigkeit sinkt mit jeder Modellgeneration.
Wie erkenne ich eine Halluzination?
An der Prüfung. Erfundene Inhalte sind sprachlich nicht von korrekten zu unterscheiden — nur inhaltliche Kontrolle hilft.
Warum halluzinieren KI-Modelle?
Weil ein Sprachmodell bei jedem Schritt den wahrscheinlichsten nächsten Textbaustein vorhersagt und dabei nicht zwischen wahr und plausibel klingend unterscheidet. Fehlt belastbares Wissen zu einer Frage, entsteht trotzdem eine flüssige Antwort — das ist keine Fehlfunktion, sondern eine Eigenschaft der Bauweise.
Was hilft gegen KI-Halluzinationen?
Am wirksamsten ist es, dem Modell Quellen mitzugeben statt es aus dem Gedächtnis antworten zu lassen — etwa per RAG auf Basis eigener Dokumente. Dazu kommen verlangte Belege, das Nachschlagen von Zahlen und Namen sowie menschliche Freigaben an den Stellen, an denen Fehler teuer werden.
Hilft Temperatur 0 gegen Halluzinationen?
Nur begrenzt. Ein niedriger Temperaturwert senkt die Häufigkeit, beseitigt das Problem aber ebenso wenig wie die Aufforderung, Unwissen zuzugeben. Beides ersetzt keine inhaltliche Kontrolle.
Was sind typische Beispiele für Halluzinationen?
Erfundene Quellenangaben, falsche Zahlen, nicht existierende Gesetzesparagraphen oder Zitate, die niemand gesagt hat. Auch fehlerhafte Summen in Kalkulationen und Abweichungen von der Formatvorgabe zählen dazu.