Firmenwissen liegt in den meisten Mittelstandsbetrieben verteilt auf Köpfe, Laufwerke und alte Postfächer; durchsuchbar wird es über drei Wege: ein gepflegtes Wiki, eine Volltextsuche über alle Ablagen oder einen KI-Assistenten, der mit Quellenangabe antwortet. Die drei unterscheiden sich weniger in der Technik als im Pflegeaufwand. Und alle drei scheitern an derselben Stelle, wenn man sie falsch anfängt: an der Qualität der Dokumente, die man hineingibt.
Was der ungeordnete Zustand tatsächlich kostet
Die Rückfrage als Standardvorgang
Der typische Ablauf im Betrieb: Ein Mitarbeiter braucht eine Information — die Garantiefrist für ein bestimmtes Bauteil, den Ablauf bei einer Reklamation, die aktuelle Version einer Arbeitsanweisung. Er sucht fünf Minuten, findet drei widersprüchliche Fassungen, gibt auf und fragt den Kollegen, der seit zwölf Jahren dabei ist. Der antwortet in dreißig Sekunden — und wird an diesem Tag noch acht weitere Male unterbrochen.
Zwei Kosten entstehen dabei gleichzeitig. Die sichtbare ist die Suchzeit des Fragenden. Die teurere ist die Unterbrechung des Erfahrenen: Wer sechs- bis zehnmal täglich aus einer konzentrierten Tätigkeit gerissen wird, verliert mehr als die Summe der Gesprächsminuten. Bei neuen Mitarbeitern kommt hinzu, dass dieselbe Frage dreimal gestellt wird, weil die Antwort beim ersten Mal nirgends abgelegt wurde.
Wo das Wissen tatsächlich liegt
Vor jeder Werkzeugentscheidung lohnt eine ehrliche Bestandsaufnahme. In der Praxis findet sich das Wissen an vier Orten: in strukturierten Systemen (ERP, CRM, Ticketsystem), in Dateiablagen (Laufwerk, SharePoint, Cloud-Ordner), in Postfächern einzelner Personen — und in Köpfen. Nur die ersten beiden lassen sich direkt indizieren. Wissen aus Postfächern ist rechtlich heikel und inhaltlich unzuverlässig, Wissen aus Köpfen muss zuerst aufgeschrieben werden. Wer diesen Schritt überspringt, baut ein System, das genau die Fragen nicht beantwortet, die tatsächlich gestellt werden.
Die drei Wege im Vergleich
| Weg | Aufwand Aufbau | Laufend | Beantwortet | Grenze |
|---|---|---|---|---|
| Wiki / Handbuch | gering technisch, hoch redaktionell | Pflege durch Fachbereich | was jemand aufgeschrieben hat | veraltet ohne feste Zuständigkeit |
| Volltextsuche über alle Ablagen | 1–3 Tage Einrichtung | gering | wo etwas steht | findet nur, wer die richtigen Begriffe kennt |
| KI-Assistent mit Wissensindex | Wochen, überwiegend Dokumentenarbeit | Modellnutzung, zwei- bis dreistellig monatlich | die Frage selbst, mit Quellenverweis | nur so gut wie der Bestand |
Das Wiki: unterschätzt, aber pflegeintensiv
Ein Wiki ist der einfachste Weg und in kleinen Teams oft der beste. Es scheitert nicht an der Technik, sondern daran, dass niemand namentlich für einen Bereich zuständig ist. Ein Wiki ohne benannte Verantwortliche pro Themenblock ist nach zwölf Monaten ein Archiv, kein Nachschlagewerk. Wo diese Zuständigkeit existiert, ist es unschlagbar günstig.
Die Volltextsuche: der übersprungene Zwischenschritt
Viele Betriebe springen direkt zur KI, obwohl eine ordentliche Suche über alle Ablagen den größten Teil des Alltagsproblems löst. Sie zeigt, wo etwas steht, sie ist nachvollziehbar, und sie kostet einen Bruchteil. Ihre Schwäche: Sie findet Wortübereinstimmungen. Wer nach „Kulanz” sucht, findet das Dokument nicht, in dem von „Entgegenkommen im Gewährleistungsfall” die Rede ist.
Der KI-Assistent: Antwort statt Trefferliste
Ein Assistent auf Basis von RAG schließt genau diese Lücke. Die Dokumente werden in Abschnitte zerlegt, in eine Vektordatenbank geschrieben und bei einer Frage nach inhaltlicher Nähe statt nach Wortgleichheit durchsucht. Das Modell formuliert die Antwort ausschließlich aus den gefundenen Abschnitten und nennt dazu das Ausgangsdokument. Wie so ein System technisch entsteht und woran der Aufbau typischerweise hängt, ist im Detail unter RAG-System aufbauen beschrieben.
Müll rein, Müll raus
Veraltete Dokumente vergiften die Antworten
Das ist der Fallstrick, der Projekte im Betrieb kippt. Ein Wissensindex kennt keine Chronologie: Liegt die Preisliste von 2023 neben der von 2026 im selben Bestand, ist die ältere für das System genauso gültig. Die Antwort wird dann nicht falsch aussehen — sie sieht souverän aus, mit Quellenangabe, und ist trotzdem überholt. Das ist gefährlicher als gar keine Antwort, weil sie nicht hinterfragt wird.
Drei Regeln haben sich bewährt: In den Index kommt nur, was ein Gültigkeitsdatum und einen benannten Verantwortlichen hat. Abgelaufene Fassungen werden aus dem Index entfernt, nicht daneben archiviert. Und jede Antwort nennt das Quelldokument mitsamt Stand, damit der Nutzer die Aktualität selbst prüfen kann. Die verwandten Fehlermuster beim Antwortverhalten sind unter Halluzinationen vermeiden beschrieben.
Berechtigungen gehören in den Entwurf, nicht ins Nachspiel
Der zweite Fallstrick wird fast immer zu spät bemerkt. Sobald ein Dokument in einen gemeinsamen Index geschrieben ist, gilt der Ordnerschutz des Dateiservers dort nicht mehr — der Inhalt ist für jeden abfragbar, der den Assistenten nutzen darf. Gehaltslisten, Personalakten, Kalkulationsgrundlagen und Verträge landen so über Umwege bei Personen, die sie im Original nie öffnen könnten.
Praktikabel sind zwei Muster: getrennte Indizes je Zugriffskreis, oder Berechtigungen als Merkmal am einzelnen Abschnitt, die bei jeder Abfrage mitgeprüft werden. Getrennte Indizes sind einfacher und für die meisten Mittelständler ausreichend. Was dabei datenschutzrechtlich zu beachten ist, fasst der Überblick zu KI und Datenschutz zusammen.
Umsetzung: erst der Bestand, dann der Index
Die Reihenfolge entscheidet über den Erfolg. Zuerst wird die Dokumentenliste festgelegt — welche Datei, welcher Stand, wer verantwortlich. Erst danach folgt der technische Aufbau: Text extrahieren, in überlappende Abschnitte teilen, Embeddings erzeugen, in den Vektorspeicher schreiben und den Bestand regelmäßig aktualisieren, ohne jedes Mal alles neu zu berechnen.
Wie dieser Ablauf konkret aussieht, lässt sich an einer fertigen Vorlage nachvollziehen: Der Workflow Firmenwissen als durchsuchbaren RAG-Index aufbauen baut den Index nächtlich aus einer Dokumentenliste auf und schreibt über einen Inhalts-Hash nur das neu, was sich geändert hat. Das ist eine mögliche Umsetzung — die Denkarbeit davor nimmt sie niemandem ab. Ordnet man das Vorhaben in den größeren Rahmen ein, gehört es in das Feld Wissensmanagement, wo auch die angrenzenden Anwendungsfälle beschrieben sind.
Rechtlicher Rahmen
Zwei Punkte sind relevant. Erstens die DSGVO: Sobald personenbezogene Daten im Index landen — Kundendaten in Angeboten, Mitarbeiterdaten in Protokollen — brauchen Sie eine Rechtsgrundlage, ein Löschkonzept und bei Cloud-Modellen einen Auftragsverarbeitungsvertrag. Zweitens die Kompetenzpflicht aus Artikel 4 der KI-Verordnung, die seit dem 02.02.2025 gilt: Wer KI-Systeme betreibt, muss für ausreichende KI-Kompetenz der damit befassten Personen sorgen. Für einen internen Assistenten heißt das konkret: Die Nutzer müssen wissen, dass die Antwort aus Dokumenten stammt und dass sie die genannte Quelle prüfen können. Details dazu unter KI-Schulungspflicht. Das ist eine Einordnung, keine Rechtsberatung.
Woran Sie erkennen, dass es trägt
Ein funktionierendes System merkt man nicht an der Nutzungsstatistik, sondern an zwei Beobachtungen im Alltag: Die immer gleichen Rückfragen an einzelne Kollegen werden weniger, und neue Mitarbeiter kommen in den ersten Wochen ohne fremde Hilfe an Standardinformationen. Bleibt beides aus, liegt es fast nie am Modell — sondern daran, dass der Bestand die tatsächlich gestellten Fragen nicht abdeckt. Dann hilft kein größeres Modell, sondern eine Liste der zwanzig häufigsten Fragen und die passenden Dokumente dazu. Wer für den eigenen Bestand eine Einschätzung braucht, klärt das am schnellsten im Erstgespräch.
Quellen: Verordnung (EU) 2016/679 (EUR-Lex) · Bundesbeauftragter für den Datenschutz (BfDI) · n8n-Dokumentation
Häufige Fragen
Wie macht man Firmenwissen mit KI durchsuchbar?
In drei Stufen: Erstens einen klar abgegrenzten Bestand aktueller Dokumente festlegen, zweitens diesen Bestand indizieren — als Volltextsuche oder als Wissensindex mit Embeddings — und drittens einen Assistenten davorschalten, der ausschließlich aus den gefundenen Stellen antwortet und die Quelle nennt. Der größte Aufwand liegt bei Schritt eins, nicht bei der Technik.
Wie viele Dokumente braucht so ein System?
Weniger als erwartet. Ein sauber gepflegter Bestand aus einigen Dutzend bis wenigen Hundert aktuellen Dokumenten eines Bereichs liefert bessere Antworten als ein vollständiges, aber ungepflegtes Laufwerk mit zehntausenden Dateien.
Was passiert mit veralteten Dokumenten?
Sie werden zur Fehlerquelle. Ein System, das die Preisliste von 2023 und die von 2026 gleichrangig kennt, antwortet zufällig mit einer der beiden. Deshalb gehören Gültigkeitsdatum und Verantwortlicher in jedes aufgenommene Dokument, und abgelaufene Fassungen werden aus dem Index entfernt statt archiviert.
Wie werden Berechtigungen berücksichtigt?
Berechtigungen müssen im Index selbst hinterlegt und bei jeder Abfrage geprüft werden. Wird ein Dokument einmal in einen gemeinsamen Index geschrieben, ist der Inhalt für jeden abfragbar, der Zugriff auf den Assistenten hat — der Ordnerschutz des Dateiservers gilt dort nicht mehr.
Was kostet der Aufbau?
Der technische Teil ist der kleinere Posten: Speicherung und Abfragen liegen im zwei- bis dreistelligen Bereich pro Monat. Den Aufwand bestimmt die Dokumentenarbeit — Sichten, Aussortieren, Zuständigkeiten klären. Ein vollständiger interner Wissensassistent liegt einmalig im mittleren fünfstelligen Bereich, ein abgegrenzter erster Bereich deutlich darunter.
Braucht es dafür zwingend KI?
Nein. Eine gut konfigurierte Volltextsuche über alle Ablagen löst einen großen Teil des Problems und ist deutlich günstiger. KI lohnt sich dort, wo die Antwort aus mehreren Dokumenten zusammengesetzt werden muss oder wo Mitarbeiter nicht wissen, nach welchem Begriff sie suchen müssten.