Open-Source-KI im Mittelstand: DeepSeek, Llama und die Souveränitätsfrage
Offene Sprachmodelle holen seit 2025 sichtbar auf. DeepSeek, Llama, Mistral, Qwen und gpt-oss liefern Qualität, die vor kurzem nur geschlossene Modelle boten, und lassen sich in Europa auf eigener Hardware betreiben. Für den Mittelstand ändert das die Rechnung, und es bringt eine neue Pflicht: die Lizenz zu lesen.
Open-Source-KI meint Sprachmodelle mit offenen Gewichten, etwa DeepSeek, Llama, Mistral, Qwen oder gpt-oss, die Sie on-premise oder in einer EU-Cloud betreiben. Das hält Prompts im eigenen Rechtsraum und senkt die Tokenkosten. Prüfen müssen Sie die Lizenz: Llama 4 schließt EU-Unternehmen bei multimodalen Modellen aus.
Was ist Open-Source-KI?
Umgangssprachlich heißt Open-Source-KI: Die Gewichte eines Sprachmodells sind frei herunterladbar, das Modell läuft auf eigener Hardware oder bei einem Hoster der Wahl. Streng genommen sind die meisten dieser Modelle Open-Weight-Modelle. Die Open Source Initiative hat im Oktober 2024 mit der Open Source AI Definition 1.0 festgelegt, dass zu echter Open-Source-KI auch Code und ausreichende Informationen über die Trainingsdaten gehören. Für Betriebe zählt vor allem die Lizenz: Sie regelt, ob kommerzielle Nutzung, Anpassung und Weitergabe erlaubt sind.
Welche Open-Source-LLMs gibt es für Unternehmen?
- DeepSeek-R1 (DeepSeek, Januar 2025): Gewichte und Code unter MIT-Lizenz, kommerzielle Nutzung und Weiterentwicklung erlaubt.
- Llama 4 (Meta, April 2025): eigene Llama-4-Community-Lizenz mit Nutzungsrichtlinie. Für multimodale Modelle gilt die Lizenz nicht für Unternehmen mit Hauptsitz in der EU; da alle Llama-4-Modelle multimodal sind, ist die Familie für sie direkt nicht nutzbar.
- Mistral (Mistral AI, Frankreich): mehrere Modelle, etwa Mistral Small, unter Apache 2.0.
- Qwen (Alibaba): viele Modellgrößen unter Apache 2.0.
- gpt-oss (OpenAI, August 2025): zwei Modelle unter Apache 2.0.
Lizenzen ändern sich mit jeder Modellversion; geprüft wird immer die konkrete Version, die Sie einsetzen. Wie diese Prüfung in vier Klauseln abläuft, steht in Open-Source-KI-Modelle: Lizenz prüfen. Für viele Aufgaben im Betrieb reichen kleinere Modelle, wie Small Language Models im Mittelstand zeigt.
Ist DeepSeek für Unternehmen in Deutschland erlaubt?
Es kommt darauf an, was gemeint ist. Die DeepSeek-App und die DeepSeek-API übermitteln Eingaben an Server in China. Die Berliner Datenschutzbeauftragte hat die App am 27.06.2025 bei Apple und Google als rechtswidrigen Inhalt gemeldet, weil für China kein Angemessenheitsbeschluss nach Art. 45 DSGVO besteht und keine ausreichenden Garantien nachgewiesen wurden. Für Betriebsdaten ist dieser Weg damit ausgeschlossen. Die offenen Gewichte von DeepSeek-R1 lassen sich dagegen auf eigener Hardware oder in einer EU-Cloud betreiben; dabei fließen keine Daten an DeepSeek.
Was kostet Open-Source-KI im Vergleich zur API?
Offene Modelle sind bei Hostern je Token deutlich günstiger als geschlossene Spitzenmodelle. In unserer Rechnung mit Preisen vom August 2026 lag der Mischpreis günstiger offener Modelle bei rund 0,24 US-Dollar je Million Token, der von Spitzenmodellen bei rund 10 US-Dollar. Wer offene Modelle selbst betreibt, zahlt dagegen Fixkosten: Ein Server mit 48-GB-Karte kostet rund 1.370 Euro im Monat aus Abschreibung, Strom und Betrieb. Ab welchem Volumen sich das trägt, rechnet Lokale KI vs. API: der Break-even vor.
Warum ist Datensouveränität für Industriebetriebe ein Risikothema?
Konstruktionsdaten, Kalkulationen, Rezepturen und Kundeninformationen sind das Kapital eines Industriebetriebs. Bei US-Anbietern greift der CLOUD Act auch dann, wenn die Daten in einem EU-Rechenzentrum liegen. Ein offenes Modell im eigenen Rechtsraum bedeutet: kein Training fremder Modelle mit Ihren Daten, Zugriffskontrolle nach Ihren Regeln, vollständige Protokolle. Welche Betriebsform zu welchem Schutzbedarf passt, ordnet Datenhoheit bei KI: vier Betriebsformen.
Welcher Weg passt für den Mittelstand?
Für die meisten Betriebe trägt ein Mix: sensible Aufgaben auf offenen Modellen im eigenen Rechtsraum, unkritische Spitzenaufgaben bei Bedarf über eine Schnittstelle. Praktisch heißt das eine Plattform, die offene Modelle in Europa betreibt, Rechte und Protokolle verwaltet und an ERP und Dokumentenablage andockt. Wie viel Grafikspeicher ein Modell braucht, zeigt die VRAM-Rechnung.
Was Open-Source-KI nicht löst
- Betrieb, Updates, Sicherheit und Überwachung liegen beim Betrieb oder seinem Dienstleister, sie verursachen planbare, aber reale Kosten.
- Bei den anspruchsvollsten Aufgaben liegen geschlossene Spitzenmodelle oft noch vorn.
- Lizenzpflege wird zur Daueraufgabe, weil jede neue Version neue Bedingungen haben kann.
- Die Pflichten nach DSGVO und KI-Verordnung bleiben, auch wenn das Modell im eigenen Haus läuft.
Häufige Fragen
Was ist der Unterschied zwischen Open Source und Open Weight?
Open Weight heißt, die Modellgewichte sind frei verfügbar. Open Source im Sinne der Open Source AI Definition 1.0 von 2024 verlangt zusätzlich Code und ausreichende Informationen über die Trainingsdaten. Die meisten offenen Sprachmodelle sind Open Weight.
Welche Open-Source-LLMs eignen sich für Unternehmen?
Häufig eingesetzt werden DeepSeek-R1 (MIT-Lizenz), Mistral-Modelle und Qwen (viele unter Apache 2.0) sowie gpt-oss von OpenAI (Apache 2.0). Welches passt, hängt von Aufgabe, Sprache, Hardware und der Lizenz der konkreten Version ab.
Dürfen Unternehmen in der EU Llama 4 nutzen?
Nicht direkt. Die Llama-4-Lizenz gewährt Unternehmen mit Hauptsitz in der EU keine Rechte an den multimodalen Modellen, und alle Llama-4-Modelle sind multimodal. Ausgenommen sind Endnutzer von Produkten, in die ein Anbieter außerhalb der EU das Modell eingebaut hat.
Ist DeepSeek DSGVO-konform nutzbar?
Die App und die API übermitteln Daten nach China; die Berliner Datenschutzbeauftragte hat die App 2025 als rechtswidrig gemeldet. Die offenen Gewichte von DeepSeek-R1 lassen sich dagegen auf eigener Hardware oder in einer EU-Cloud betreiben, ohne dass Daten an DeepSeek fließen.
Ist Open-Source-KI kostenlos?
Die Lizenz ist meist kostenfrei, der Betrieb nicht. Hardware, Strom, Hosting, Updates und Überwachung kosten Geld; ein Server mit 48-GB-Karte liegt in unserer Rechnung bei rund 1.370 Euro im Monat.
Was kostet ein offenes Modell bei Ihrem Volumen?
Der LLM-Kostenrechner stellt API-Preise, EU-Hosting und eigene Hardware für Ihr Lastprofil gegenüber.
LLM-Kostenrechner öffnen →Sie wollen das Thema im eigenen Betrieb angehen? Die KI-Beratung für den Mittelstand führt von der Prozessanalyse zum messbaren Pilot.
Ein Problemfeld, mehrere Blickwinkel, alle enden in derselben Rechnung: dem LLM-Kostenrechner.
- KI-Benchmark-Glossar: MMLU, GPQA, SWE-bench & Co. verständlich erklärt
- KI-Kosten steigen nach dem Rollout: warum der Pilot nichts über den Betrieb sagt
- ChatGPT im Unternehmen: was es wirklich kostet
- KI-Budget planen ohne Erfahrungswerte: warum Lizenz mal Nutzer nicht mehr funktioniert
- Token-Preise verstehen: die Einheit, die der Einkauf jetzt lernen muss
- KI-Pilotprojekt: warum der Pilot 500 Euro kostet und der Betrieb 5.000
