Groq ist ein US-amerikanisches Unternehmen für KI-Inferenz, gegründet 2016 von Jonathan Ross, einem der Köpfe hinter Googles TPU-Chips. Statt Grafikkarten nutzt Groq eigens entwickelte LPU-Chips (Language Processing Units), die Sprachmodelle über die Plattform GroqCloud mit außergewöhnlich hoher Geschwindigkeit ausführen – oft mehrere Hundert Token pro Sekunde.
Wichtig zur Einordnung: Groq ist nicht Grok, das Sprachmodell von Elon Musks xAI. Groq baut keine eigenen Sprachmodelle, sondern die Infrastruktur, auf der offene Modelle besonders schnell laufen.
Der Nvidia-Deal: Was sich 2026 geändert hat
Die wichtigste Nachricht zuerst: Im Dezember 2025 hat Nvidia für rund 20 Milliarden US-Dollar eine nicht-exklusive Lizenz an Groqs LPU-Architektur erworben. Gründer Jonathan Ross und Präsident Sunny Madra wechselten zu Nvidia. Groq selbst besteht als eigenständiges Unternehmen weiter – unter dem neuen CEO Simon Edwards, dem bisherigen Finanzchef.
Für Kunden ist entscheidend: GroqCloud läuft ohne Unterbrechung weiter. Groq hat 2026 zudem frisches Kapital aufgenommen (650 Millionen plus 350 Millionen US-Dollar), um sich vom Chip-Hersteller zum Inference-Cloud-Anbieter zu wandeln. Der Dienst ist also aktiv und wird ausgebaut – wer Groq langfristig in Prozesse einbaut, sollte die strategische Neuausrichtung aber im Blick behalten. In den USA prüfen Senatoren zudem, ob der Deal eine verdeckte Übernahme darstellt.
Funktionsumfang: Was auf GroqCloud läuft
GroqCloud stellt eine OpenAI-kompatible API bereit – bestehende Integrationen lassen sich meist durch Austausch von Endpoint und API-Key umstellen. Verfügbar sind ausschließlich offene Modelle, darunter:
- Llama-Familie (Meta) in mehreren Größen – siehe Llama
- Whisper für Transkription
- Weitere Open-Source-LLMs wie Qwen oder Mistral-Varianten
Der eigentliche Unterschied liegt in der Hardware: LPUs sind deterministische Chips, die für sequenzielle Sprachverarbeitung gebaut wurden. Das Ergebnis sind sehr niedrige Latenzen – der Grund, warum Groq bei Echtzeit-Anwendungen wie Voicebots beliebt ist, wo jede Zehntelsekunde Wartezeit das Gespräch unnatürlich macht.
Preise
Groq rechnet pro Token ab und gehört zu den günstigsten Inferenz-Anbietern am Markt. Es gibt ein kostenloses Einstiegskontingent mit Rate-Limits, darüber Pay-as-you-go.
| Modell / Option | Preis (pro 1 Mio. Token) |
|---|---|
| Llama 3.1 8B (Input) | ab ca. 0,05 USD |
| Llama 3.3 70B (Input / Output) | ca. 0,59 / 0,79 USD |
| Batch-Verarbeitung | 50 % Rabatt |
| Prompt Caching | 50 % Rabatt auf wiederholte Inputs |
| Free Tier | 0 USD, mit Rate-Limits |
Stand August 2026; Preise ändern sich bei Inferenz-Anbietern häufig – vor Projektstart auf groq.com prüfen.
Datenschutz und DSGVO
Seit Juli 2025 betreibt Groq gemeinsam mit Equinix ein europäisches Rechenzentrum in Helsinki. EU-Datenresidenz ist damit möglich, ein Auftragsverarbeitungsvertrag (DPA) wird angeboten. Zwei Punkte bleiben trotzdem relevant: Groq ist ein US-Unternehmen und unterliegt dem US CLOUD Act. Und nach dem Nvidia-Deal ist die langfristige Konzernstruktur in Bewegung. Wie Sie solche Anbieter sauber bewerten, zeigen wir unter DSGVO-konforme KI – für besonders sensible Daten bleibt lokale Inferenz die robusteste Option.
Abgrenzung: Groq, Grok, OpenRouter und Ollama
Die Verwechslungsgefahr ist real, deshalb in einem Satz pro Anbieter: Grok ist ein Sprachmodell (xAI), Groq ist Infrastruktur. OpenRouter ist ein Vermittler, der viele Anbieter – auch Groq – hinter einer API bündelt, betreibt aber keine eigene Hardware. Ollama führt offene Modelle lokal auf eigener Hardware aus – maximale Datenkontrolle, aber ohne die Geschwindigkeit dedizierter LPU-Rechenzentren.
Einordnung für den Mittelstand
Groq ist kein Tool für Endanwender, sondern ein Baustein für Entwickler-Teams und Dienstleister. Relevant wird der Anbieter, wenn Sie KI-Funktionen in eigene Systeme einbauen: Ein Kundenservice-Bot, der in Echtzeit antwortet, ein Agent, der pro Vorgang dutzende Modellaufrufe macht, oder eine Telefon-KI mit natürlichem Gesprächsfluss. In solchen Szenarien – etwa bei der Automatisierung des Kundenservice oder in KI-Agenten-Projekten – zahlt sich die Kombination aus Geschwindigkeit und niedrigen Token-Preisen direkt aus. Wer dagegen nur Büroarbeitsplätze mit KI ausstatten will, braucht keine Inferenz-API, sondern Lizenzen für fertige Tools.
Häufige Fragen
Was ist Groq?
Groq ist ein US-Anbieter für KI-Inferenz, der Sprachmodelle nicht auf Grafikkarten, sondern auf eigens entwickelten LPU-Chips (Language Processing Units) betreibt. Über die Plattform GroqCloud lassen sich offene Modelle wie Llama, Mistral oder Whisper per API nutzen – deutlich schneller als bei den meisten GPU-basierten Anbietern.
Was kostet Groq?
Die Abrechnung erfolgt pro Token. Kleine Modelle wie Llama 3.1 8B starten bei rund 0,05 US-Dollar pro Million Input-Token, Llama 3.3 70B liegt bei etwa 0,59 US-Dollar (Input) bzw. 0,79 US-Dollar (Output). Batch-Verarbeitung und Prompt Caching halbieren die Kosten jeweils. Ein kostenloses Kontingent für Tests gibt es ebenfalls.
Ist Groq DSGVO-konform nutzbar?
Groq betreibt seit Juli 2025 ein europäisches Rechenzentrum in Helsinki (mit Equinix) und bietet einen Auftragsverarbeitungsvertrag (DPA) an. Damit ist EU-Datenresidenz möglich. Groq bleibt aber ein US-Unternehmen – der US CLOUD Act ist also nicht vom Tisch. Für personenbezogene Daten gilt: DPA prüfen, EU-Region wählen, sensible Daten im Zweifel lokal verarbeiten.
Groq vs. Grok – was ist der Unterschied?
Groq ist ein Chip- und Infrastruktur-Anbieter, der fremde Modelle schnell ausführt. Grok ist das Sprachmodell von Elon Musks Firma xAI – ein Konkurrent zu ChatGPT und Claude. Die Namensähnlichkeit ist Zufall und sorgt regelmäßig für Verwechslungen; Groq trug den Namen bereits Jahre vor xAI.
Für wen eignet sich Groq?
Für Unternehmen, die offene Sprachmodelle per API einsetzen und bei denen Antwortgeschwindigkeit geschäftskritisch ist – etwa Voicebots, Echtzeit-Kundenservice oder Agenten-Workflows mit vielen Modellaufrufen. Wer nur ChatGPT oder proprietäre Modelle wie GPT-5 und Claude nutzen will, ist bei Groq falsch: Diese laufen dort nicht.