Ein Embedding ist die Darstellung von Text (oder Bildern) als langer Zahlenvektor, der die Bedeutung des Inhalts abbildet. Texte mit ähnlicher Bedeutung erhalten ähnliche Vektoren — auch wenn sie kein einziges Wort teilen. Ein solcher Vektor besteht typischerweise aus mehreren hundert bis einigen tausend Zahlen.
Wie es funktioniert
Ein spezialisiertes Modell, das Embedding-Modell, wandelt Text in einen Punkt in einem hochdimensionalen Raum um. Die Entfernung zwischen zwei Punkten misst ihre inhaltliche Ähnlichkeit: Nah beieinander heißt bedeutungsverwandt, weit auseinander heißt themenfremd. Diese Entfernung wird meist über die sogenannte Kosinus-Ähnlichkeit berechnet — ein Maß dafür, wie gleich zwei Vektoren ausgerichtet sind.
Wozu das dient
Embeddings ermöglichen semantische Suche: Die Anfrage „Wie storniere ich?” findet ein Dokument mit dem Titel „Rücktritt vom Vertrag”, obwohl kein Wort übereinstimmt. Klassische Stichwortsuche würde hier nichts finden. Das ist die Grundlage jedes RAG-Systems und jeder Wissenssuche, die über reinen Textabgleich hinausgeht.
Abgrenzung zu verwandten Begriffen
| Begriff | Was es ist | Rolle |
|---|---|---|
| Embedding | Bedeutung als Zahlenvektor | Repräsentation |
| Vektordatenbank | Speicher, der ähnliche Vektoren schnell findet | Suche |
| Token | kleinste Texteinheit, die ein Modell verarbeitet | Eingabe |
| RAG | Verfahren, das per Embedding gefundene Texte in die Antwort einspeist | Anwendung |
Ein Embedding ist also nicht die Suche selbst, sondern ihr Rohstoff. Erst die Vektordatenbank macht aus vielen Embeddings eine schnelle Ähnlichkeitssuche über tausende Dokumente.
Einordnung für den Mittelstand
Embeddings sind die unsichtbare Grundlage der meisten praktischen KI-Anwendungen im Unternehmen — von der Suche im Intranet über den Kundenservice-Bot bis zur Dublettenerkennung im CRM. Sie sind vergleichsweise günstig: Das Einbetten großer Dokumentmengen kostet nur einen Bruchteil dessen, was Textgenerierung mit einem LLM kostet. Die einmalige Einbettung eines mittleren Wissensbestands liegt oft im niedrigen zweistelligen Eurobereich.
Grenzen und Fallstricke
Embeddings kennen nur, was im zugrunde liegenden Modell steckt — sehr spezielle Fachsprache oder firmeninterne Abkürzungen können schlecht abgebildet werden. Außerdem sind Embeddings modell- und versionsgebunden: Wechselt man das Embedding-Modell, müssen alle Vektoren neu berechnet werden, sonst passen alte und neue nicht zusammen.
Wer eine Wissenssuche plant, sollte Embeddings, Vektordatenbank und Antwortmodell als zusammengehöriges System betrachten. Details zur Umsetzung und den Kosten in unserer KI-Beratung.
Häufige Fragen
Wofür braucht man Embeddings?
Für semantische Suche: Die Anfrage findet ein Dokument, auch wenn kein Wort übereinstimmt.
Wo kommen sie zum Einsatz?
In jedem RAG-System und in jeder Wissenssuche, die über reine Stichwortsuche hinausgeht.
Was ist der Unterschied zwischen Embedding und Vektordatenbank?
Das Embedding ist die Darstellung der Bedeutung als Zahlenvektor, also der Rohstoff. Die Vektordatenbank ist der Speicher, der ähnliche Vektoren schnell findet — erst sie macht aus vielen Embeddings eine Ähnlichkeitssuche über tausende Dokumente.
Was kostet das Einbetten von Dokumenten?
Vergleichsweise wenig: Embeddings kosten nur einen Bruchteil dessen, was Textgenerierung mit einem LLM kostet. Die einmalige Einbettung eines mittleren Wissensbestands liegt oft im niedrigen zweistelligen Eurobereich.
Sind Embeddings anonymisierte Daten?
Nein. Aus einem Embedding lässt sich der ursprüngliche Inhalt teils rekonstruieren — Vektoren personenbezogener Daten unterliegen deshalb denselben Schutzpflichten wie der Klartext.
Was passiert beim Wechsel des Embedding-Modells?
Alle vorhandenen Vektoren müssen neu berechnet werden, da Embeddings modell- und versionsgebunden sind. Alte und neue Vektoren passen sonst nicht zusammen.