Das Kontextfenster ist die maximale Textmenge, die ein Sprachmodell bei einer einzelnen Anfrage gleichzeitig berücksichtigen kann. Es wird in Token gemessen — kleinen Texteinheiten, die etwa einem Wortteil entsprechen — und umfasst sowohl die Eingabe (Frage, Anweisungen, angehängte Dokumente) als auch die erzeugte Ausgabe. Ist das Fenster voll, „vergisst” das Modell die ältesten Inhalte oder weist die Anfrage ab.
Was ein Token ist
Ein Token ist kein ganzes Wort, sondern ein Textbaustein. Im Deutschen entsprechen 1.000 Token grob 700 bis 750 Wörtern. Ein Kontextfenster von 128.000 Token fasst damit rund 90.000 Wörter oder mehrere hundert Seiten. Diese Umrechnung ist eine Faustregel, keine exakte Größe — Fachtexte und viele Zahlen erzeugen mehr Token pro Wort.
Größenordnungen
Aktuelle LLM unterscheiden sich stark in der Fenstergröße. Die Angaben der Anbieter ändern sich häufig; die folgende Tabelle zeigt typische Grobklassen zur Einordnung.
| Klasse | Größe (Token) | Entspricht etwa |
|---|---|---|
| Klein | 8.000 – 32.000 | 6 – 25 Seiten |
| Mittel | 100.000 – 200.000 | ein Buch |
| Groß | ab 1.000.000 | mehrere Bücher |
Warum mehr nicht automatisch besser ist
Ein großes Kontextfenster heißt nicht, dass das Modell alles gleich gut nutzt. In der Praxis zeigt sich der Effekt „lost in the middle”: Informationen in der Mitte langer Eingaben werden erfahrungsgemäß schlechter berücksichtigt als solche am Anfang oder Ende. Wichtige Anweisungen gehören deshalb an den Rand der Eingabe, nicht in die Mitte eines langen Dokuments.
Hinzu kommt der Kostenfaktor: Da die meisten Anbieter je Token abrechnen, verteuert jedes zusätzlich eingefügte Dokument die Anfrage. Ein volles Millionen-Token-Fenster bei jeder Anfrage ist selten wirtschaftlich.
Konsequenz für lange Dokumente
Statt ganze Aktenordner in das Fenster zu kippen, ist für große Wissensbestände ein RAG-Ansatz meist besser: Dabei werden nur die für die konkrete Frage relevanten Stellen gezielt herausgesucht und dem Modell übergeben. Das senkt Kosten, verbessert die Genauigkeit und umgeht die Fenstergrenze ganz.
Welcher Weg für Ihren Anwendungsfall günstiger ist, hängt vom Volumen und der Häufigkeit ab — dazu berät unsere KI-Beratung, auch mit Blick auf die Kostenseite.
Häufige Fragen
Nutzt ein Modell den ganzen Kontext gleich gut?
Nein. Informationen in der Mitte langer Eingaben werden erfahrungsgemäß schlechter berücksichtigt als solche am Anfang oder Ende.
Was folgt daraus für lange Dokumente?
Ein RAG-Ansatz mit gezielter Auswahl relevanter Stellen ist oft besser als das vollständige Einfügen.
Wie groß ist ein Kontextfenster?
Je nach Modell sehr unterschiedlich: kleine Fenster fassen 8.000 bis 32.000 Token (etwa 6 bis 25 Seiten), mittlere 100.000 bis 200.000 Token (etwa ein Buch), große ab einer Million Token mehrere Bücher.
Was passiert, wenn das Kontextfenster voll ist?
Das Modell „vergisst“ die ältesten Inhalte oder weist die Anfrage ab. Dann muss der Text gekürzt oder aufgeteilt werden — oder man wählt gleich einen RAG-Ansatz, der nur die relevanten Stellen übergibt.
Zählt die Ausgabe zum Kontextfenster?
Ja. Das Fenster umfasst die Eingabe — Frage, Anweisungen, angehängte Dokumente — und die erzeugte Ausgabe zusammen. Beides muss in die Obergrenze passen.
Ist ein größeres Kontextfenster immer besser?
Nein. Wegen des „lost in the middle“-Effekts nutzt das Modell lange Eingaben nicht gleichmäßig, und da je Token abgerechnet wird, verteuert jedes zusätzliche Dokument die Anfrage. Ein volles Millionen-Token-Fenster ist selten wirtschaftlich.