Drei Stufen der Datenhoheit
Zwischen „öffentliches Modell“ und „alles im Serverraum“ liegen zwei sinnvolle Zwischenstufen. Die richtige hängt an der Sensibilität der Daten, nicht am Prinzip.
| Stufe | Was das heißt | Geeignet für |
|---|---|---|
| Unternehmenslizenz mit AVV | Verarbeitung beim Anbieter, vertraglich geregelt | Die meisten betrieblichen Daten |
| Europäischer Anbieter / EU-Region | Verarbeitung in der EU | Erhöhte Anforderungen, Betriebsratsthemen |
| Lokales Modell | Verarbeitung auf eigener Hardware | Berufsgeheimnisse, besonders sensible Daten |
Was die DSGVO tatsächlich verlangt
Der Verarbeitungsort ist ein wichtiger, aber nicht der einzige Baustein. Die DSGVO stellt vier Anforderungen, die unabhängig davon gelten, wo das Modell läuft.
- Rechtsgrundlage: Für jede Verarbeitung braucht es eine Grundlage nach Art. 6 DSGVO — bei Beschäftigtendaten zusätzlich § 26 BDSG.
- Auftragsverarbeitung: Wer einen externen Anbieter nutzt, braucht einen Vertrag nach Art. 28 DSGVO (AVV).
- Drittlandtransfer: Verlassen Daten die EU, sind Garantien nach Art. 44 ff. nötig — bei US-Anbietern ein wiederkehrender Streitpunkt.
- Datenschutz-Folgenabschätzung: Bei hohem Risiko verlangt Art. 35 DSGVO eine DSFA vor dem Start.
Was lokale Modelle heute leisten
Der ehrliche Stand: Offene Modelle, die auf handelsüblicher Hardware laufen, erreichen nicht die Qualität der größten kommerziellen Modelle. Für viele betriebliche Aufgaben reicht ihre Leistung trotzdem aus — Zusammenfassen, Klassifizieren, Extrahieren, einfache Formulierungen.
Für anspruchsvolle Analyse, komplexe Textarbeit und schwierige Fachfragen ist der Abstand weiterhin deutlich. Wer beides braucht, fährt zweigleisig: lokal für sensible Vorgänge, extern für den Rest.
Europäische Anbieter im Vergleich
Wer die EU nicht verlassen will, muss nicht zwingend selbst betreiben. Mehrere Wege halten die Verarbeitung im europäischen Rechtsraum. Die folgende Übersicht ordnet die gängigen Optionen ein.
| Option | Verarbeitungsort | Geeignet für |
|---|---|---|
| Mistral (Frankreich) | EU | Allgemeine Aufgaben mit EU-Bindung |
| Aleph Alpha (Deutschland) | Deutschland / EU | Behörden, hohe Souveränitätsanforderungen |
| EU-Region kommerzieller Anbieter | EU-Rechenzentrum, AVV nötig | Bestehende Werkzeugketten mit EU-Auflage |
| Offenes Modell bei EU-Hoster | EU-Rechenzentrum | Kontrolle über Modell und Standort |
| Lokales Modell (Ollama o. ä.) | Eigene Hardware | Berufsgeheimnisse, maximale Datenhoheit |
Was der Betrieb verlangt
Ein brauchbares lokales Setup braucht eine Grafikkarte mit ausreichend Speicher, eine Laufzeitumgebung wie Ollama und jemanden, der Updates einspielt. Für kleine Modelle genügt ein gut ausgestatteter Rechner, für größere wird es teurer.
Der häufigste Fehler ist, mit dem größten Modell zu beginnen. Sinnvoller ist der umgekehrte Weg: mit einem kleinen Modell testen, ob die Aufgabe überhaupt lösbar ist, und erst dann skalieren.
Hardware und Kosten realistisch eingeordnet
Die Anschaffung ist der sichtbare Posten, der Betrieb der unsichtbare. Wer nur die Grafikkarte einplant, unterschätzt die laufenden Kosten für Strom und Betreuung. Die folgenden Werte sind Orientierungsspannen, keine Angebote.
| Setup | Wofür | Orientierung Anschaffung |
|---|---|---|
| Vorhandener Rechner mit guter GPU | Kleine Modelle, Test und einfache Aufgaben | bereits vorhanden bis niedriger vierstelliger Bereich |
| Dedizierte Workstation | Mittlere Modelle im Dauerbetrieb | mittlerer vierstelliger Bereich |
| Serverklasse-Hardware | Große Modelle, mehrere Nutzer | deutlich oberhalb einer Workstation, je nach Ausbaustufe |
| Einrichtung des ersten Anwendungsfalls | Anbindung an bestehende Systeme | 5.000–20.000 € |
Wo der AI Act auf die DSGVO trifft
Datenschutz und KI-Verordnung sind zwei getrennte Regelwerke, die denselben Sachverhalt betreffen. Als Betreiber müssen Sie beide erfüllen. Die KI-Verordnung bringt zusätzlich die KI-Kompetenzpflicht aus Artikel 4 (seit 2. Februar 2025) und seit dem 2. August 2026 die Transparenzpflichten aus Artikel 50 mit.
In Schritten zur konformen Einführung
Die Reihenfolge entscheidet. Wer erst das Werkzeug kauft und dann den Datenschutz prüft, muss oft zurückrudern.
- Daten einstufen: Welche Datenarten sollen verarbeitet werden, wie sensibel sind sie?
- Stufe wählen: Lizenz mit AVV, EU-Anbieter oder lokales Modell — passend zur Sensibilität.
- Verträge prüfen: AVV nach Art. 28, bei Drittland zusätzliche Garantien.
- Risiko bewerten: Bei hohem Risiko eine DSFA nach Art. 35 durchführen.
- In die Governance aufnehmen: System ins Verzeichnis der KI-Governance eintragen.
- Beschäftigte schulen: Über das Qualifizierungschancengesetz bis 100 % förderfähig.
Häufige Fragen
Ist lokale KI automatisch DSGVO-konform?
Sie beseitigt die Frage der Drittlandübermittlung, ersetzt aber keine Rechtsgrundlage, keine Zweckbindung und keine Löschkonzepte. Der Datenschutz endet nicht am Serverstandort.
Welche europäischen Anbieter gibt es?
Mistral aus Frankreich und Aleph Alpha aus Deutschland sind die bekanntesten. Daneben bieten mehrere europäische Hoster Zugang zu offenen Modellen in EU-Rechenzentren an.
Was kostet ein lokales Setup?
Für kleine Modelle genügt vorhandene Hardware. Für leistungsfähige Modelle liegen die Anschaffungskosten im mittleren vierstelligen Bereich, dazu Strom und Betreuung.
Für wen lohnt sich das?
Für Berufsgeheimnisträger, für Unternehmen mit hohen Anforderungen aus Verträgen oder Betriebsvereinbarungen, und für alle, bei denen die Diskussion über Datenabfluss ein Projekt sonst blockiert.
Brauchen wir einen Auftragsverarbeitungsvertrag?
Ja, sobald ein externer Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet. Der Vertrag nach Art. 28 DSGVO ist Pflicht — ohne ihn ist die Nutzung angreifbar. Nur beim rein lokalen Betrieb entfällt er.
Wann brauchen wir eine Datenschutz-Folgenabschätzung?
Wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte der Betroffenen mit sich bringt — Art. 35 DSGVO. Bei umfangreicher Verarbeitung sensibler Daten oder systematischer Bewertung von Personen ist sie regelmäßig erforderlich und muss vor dem Start erfolgen.
Dürfen wir US-Anbieter überhaupt nutzen?
Grundsätzlich ja, aber nur mit gültiger Grundlage für den Drittlandtransfer nach Art. 44 ff. DSGVO und einer Prüfung des Einzelfalls. Für besonders sensible Daten ist die EU-Region desselben Anbieters oder ein lokales Modell der sicherere Weg.
Erfüllt eine EU-Region der großen Anbieter die DSGVO?
Sie löst die Standortfrage, ersetzt aber weder AVV noch die übrigen Pflichten. Entscheidend ist zusätzlich, ob der Anbieter Zugriff aus einem Drittland ausschließen kann — das gehört vertraglich geprüft.