Moderne KI in Form von Sprachmodellen funktioniert im Kern über eine einzige Operation: Das Modell sagt vorher, welcher Textbaustein als nächstes am wahrscheinlichsten folgt — gelernt aus sehr großen Textmengen. Man muss nicht verstehen, wie ein Motor funktioniert, um Auto zu fahren; bei Sprachmodellen ist es anders. Wer nicht ungefähr weiß, was da passiert, verwendet die Ergebnisse falsch — und das hat im Arbeitsalltag konkrete Folgen.
Der Kern in einem Satz
Ein Sprachmodell tut im Grunde nur eine einzige Sache, immer wieder.
Vorhersage des nächsten Textbausteins
Es sagt vorher, welcher Textbaustein als nächstes am wahrscheinlichsten folgt — gelernt aus sehr großen Textmengen. Mehr ist es im Kern nicht. Man kann es sich wie eine extrem ausgefeilte Autovervollständigung vorstellen.
Wie daraus Fähigkeiten werden
Alles, was das Modell zu können scheint — zusammenfassen, übersetzen, argumentieren, programmieren — folgt aus dieser einen Fähigkeit, angewendet auf riesige Datenmengen. Weil in den Trainingstexten Zusammenfassungen, Übersetzungen und Programmcode vorkamen, hat das Modell die Muster gelernt, die solche Texte ausmachen.
Was “lernen” hier bedeutet
Das Modell hat keine Fakten gespeichert wie eine Datenbank. Es hat Muster verinnerlicht: welche Wörter in welchen Zusammenhängen zusammen auftreten. Deshalb kann es flüssig über ein Thema schreiben und trotzdem im Detail danebenliegen.
Was daraus für die Zuverlässigkeit folgt
Aus dem Grundprinzip ergeben sich vier Eigenschaften, die man kennen muss.
Das Modell weiß nichts
Es hat kein Konzept von wahr und falsch. Es erzeugt Text, der zu dem passt, was es gelernt hat. Ein falscher Satz entsteht auf demselben Weg wie ein richtiger — deshalb klingen beide gleich überzeugend. Das nennt man Halluzination: eine erfundene, aber plausibel formulierte Angabe.
Es rechnet nicht
Wenn es eine Rechenaufgabe löst, ahmt es nach, wie Rechenwege in Texten aussehen. Bei einfachen Aufgaben klappt das, bei komplexen nicht zuverlässig. Zahlen gehören deshalb in ein Werkzeug, das rechnet — etwa Excel oder einen Taschenrechner.
Wissensstichtag und fehlendes Gedächtnis
Was nach dem Training passiert ist, kennt das Modell nicht, es sei denn, die Information wird ihm mitgegeben. Und über einzelne Gespräche hinaus hat es kein Gedächtnis, sofern das nicht ausdrücklich eingerichtet ist — jedes neue Gespräch beginnt bei null.
Die Eigenschaften auf einen Blick
| Eigenschaft | Bedeutung | Konsequenz |
|---|---|---|
| Kein Wahrheitsbegriff | falsch klingt wie richtig | Ergebnisse prüfen |
| Rechnet nicht wirklich | ahmt Rechenwege nach | Zahlen ins Fachwerkzeug |
| Wissensstichtag | kennt Neues nicht | Aktuelles mitliefern |
| Kein Gedächtnis | jedes Gespräch neu | Kontext wiederholen |
Warum Kontext so viel ausmacht
Die wichtigste praktische Erkenntnis betrifft nicht das Modell, sondern Ihre Eingabe.
Das Modell kennt Ihr Unternehmen nicht
Es arbeitet nur mit dem, was im aktuellen Gespräch steht. Es kennt Ihre Kunden nicht, Ihre Produkte nicht, Ihre Tonalität nicht. Alles, was es nicht ausdrücklich mitbekommt, muss es raten.
Kontext schlägt Formulierung
Der wirksamste Hebel für bessere Ergebnisse ist deshalb nicht die geschickte Formulierung der Frage, sondern die Menge und Qualität des mitgegebenen Kontexts. Ein Beispiel macht den Unterschied deutlich:
Schwach:
"Schreib eine Antwort an einen unzufriedenen Kunden."
Stark:
"Schreib eine Antwort an Kunde Meyer. Er hat Lieferung
Nr. 4021 reklamiert (zwei Tage zu spät). Wir übernehmen
die Verantwortung, bieten 10 % Rabatt auf die nächste
Bestellung. Ton: sachlich, kein überschwänglicher
Entschuldigungston. Unterschrift: Team Vertrieb."
Die zweite Eingabe liefert ein brauchbares Ergebnis, weil das Modell nichts mehr raten muss.
Was das für den Arbeitsalltag heißt
Aus dem Verständnis ergeben sich vier einfache Arbeitsregeln.
Die vier Regeln
- Ergebnisse prüfen, besonders bei Zahlen, Namen und Fundstellen.
- Kontext mitgeben statt Kürze anstreben.
- Für Aktuelles eine Quelle mitliefern oder ein Werkzeug mit Websuche nutzen.
- Verantwortung bleibt beim Menschen — das Modell ist ein Werkzeug, kein Kollege.
Und die Datenfrage
Eine letzte, oft gestellte Frage: Lernt das Modell aus meinen Eingaben? Bei Geschäftstarifen ist das vertraglich ausgeschlossen, bei kostenlosen Versionen häufig nicht. Wer betriebliche Daten eingibt, sollte deshalb wissen, was eine DSGVO-konforme KI ausmacht. Wie man diese Grundlagen ins Team bringt, zeigt der Weg über eine strukturierte KI-Schulung — bei Fragen dazu ist das Erstgespräch der Startpunkt.
Quellen: Verordnung (EU) 2016/679 (EUR-Lex) · Bundesbeauftragter für den Datenschutz (BfDI)