Parameter in LLM-Modellen: Was die Zahl wirklich bedeutet
Kaum eine Zahl wird in KI-Diskussionen so oft zitiert wie die Parameterzahl. Und kaum eine Zahl sagt so wenig darüber aus, ob ein Modell Ihrem Unternehmen hilft. Hier steht, was Parameter sind, was sie an Speicher und Betriebskosten bedeuten, warum die Anbindung an Ihre Daten mehr entscheidet als die Größe, welche Größe für welche Aufgabe in der Praxis reicht und wie Sie das mit 30 eigenen Fragen in zwei Wochen prüfen. Das Testprotokoll gibt es zum Ausdrucken.
Parameter sind die einstellbaren Gewichte eines neuronalen Netzes; ihre Zahl misst die Kapazität und den Speicherbedarf eines Modells (2 Byte je Parameter bei 16 Bit), jedoch nicht seinen Nutzen in Ihrem Betrieb. Mehr Parameter bedeuten meist höhere Betriebskosten, langsamere Antworten und mehr Hardwarebedarf. Für Fragen nach dem Wartungsprotokoll von 2019 oder dem Grenzwert der letzten Charge entscheidet die Anbindung an Ihre Systeme samt Quellenangabe und Berechtigungsprüfung. Für Klassifikation und Extraktion reichen meist Modelle unter 10 Milliarden Parametern, Schlussfolgern über mehrere Schritte braucht große Modelle; welche Größe Sie brauchen, zeigt ein Test mit 30 eigenen Fragen bei gleichem Retrieval.
Was Parameter eigentlich sind
Parameter sind die einstellbaren Gewichte eines neuronalen Netzes, die Stellschrauben, die beim Training justiert werden. Je mehr Parameter, desto mehr Muster kann ein Modell grundsätzlich speichern. Deshalb wurde die Parameterzahl zum Marketing-Schlagabtausch der Modellanbieter: GPT-3 kam 2020 mit 175 Milliarden Parametern, Meta veröffentlichte Llama 3 im Jahr 2024 in den Größen 8, 70 und 405 Milliarden. Die Zahl hat eine unmittelbare betriebliche Konsequenz, die sich mit einer Faustformel ausrechnen lässt: Jeder Parameter belegt bei 16-Bit-Genauigkeit 2 Byte Speicher, bei 4-Bit-Quantisierung rund 0,5 Byte. Daraus folgt, auf welcher Hardware ein Modell überhaupt laufen kann: 4 GB passen auf ein Notebook, 14 GB auf eine Workstation-GPU, 40 GB brauchen eine große GPU, 140 GB zwei Rechenzentrum-GPUs, und die 405-Milliarden-Variante mit rund 810 GB ist im Mittelstand nur als API sinnvoll.
Ein Modell mit mehr Parametern ist damit selten automatisch das bessere Werkzeug. Es ist meist teurer im Betrieb, langsamer in der Antwort und hungriger nach Hardware. Für viele Aufgaben im Betrieb ist ein kleineres, gut angebundenes Modell die wirtschaftlichere Wahl. Dazu kommt ein Befund aus der Forschung: DeepMind zeigte 2022 mit dem Modell Chinchilla, dass ein Modell mit 70 Milliarden Parametern, das auf mehr Daten trainiert wurde, ein Modell mit 280 Milliarden Parametern übertraf. Die Zahl der Parameter allein sagt seither noch weniger über die Qualität, weil Trainingsdaten und Trainingsdauer mindestens ebenso zählen. Wie sich die 4-Bit-Variante auf die Genauigkeit auswirkt, steht in Quantisierung: Q4, Genauigkeit und Kosten.
Warum ist die Zahl für den Mittelstand fast egal?
Ihre Servicetechniker fragen nicht nach Weltwissen. Sie fragen nach der 7740er Serie, nach dem Wartungsprotokoll von 2019, nach dem Grenzwert aus der letzten Charge. Diese Antworten stehen in keinem Modell, egal wie groß. Sie stehen in Ihren Systemen, Ordnern und Postfächern. Entscheidend ist deshalb die Anbindung: Kommt das Modell an Ihr Wissen heran, zitiert es die Quelle, respektiert es Berechtigungen? Das ist Architekturarbeit, keine Parameterfrage. Retrieval schlägt Größe, in fast jedem Betriebsszenario. Die fünf Ebenen zeigen, was eine brauchbare Antwort im Betrieb tatsächlich braucht, und das Modell ist nur eine davon.
In unserer Praxis entsteht der größte Qualitätsunterschied zwischen zwei Systemen auf Ebene 2, beim Retrieval. Ein kleines Modell, das den richtigen Absatz aus dem Wartungshandbuch vorgelegt bekommt, antwortet besser als ein großes Modell, das raten muss. Die Ebenen 3 bis 5 entscheiden darüber, ob das System im Betrieb überhaupt eingesetzt werden darf: Berechtigungen wegen der Vertraulichkeit, Quellenangabe wegen der Haftung, Protokoll wegen des Audits und der Betriebsvereinbarung. Wie Retrieval technisch funktioniert, erklärt RAG in der Industrie erklärt; warum die Quelle je Antwort zählt, steht in Antwort mit Quelle.
Welche Modellgröße braucht welche Aufgabe?
Die Frage nach der richtigen Größe lässt sich je Aufgabe beantworten, wenn die Anbindung an die eigenen Daten steht. Drei Größenklassen reichen für die Einordnung: Modelle bis etwa 10 Milliarden Parameter laufen lokal auf einer Workstation, Modelle zwischen 10 und 80 Milliarden brauchen eine große GPU oder einen Server, Modelle über 100 Milliarden werden im Mittelstand fast immer als API bezogen. Das Raster zeigt, welche Klasse in unserer Praxis für sechs typische Aufgaben ausreicht.
Die Muster im Raster erklären sich aus der Art der Aufgabe. Klassifizieren und Felder auslesen sind eng umrissen, dafür reichen kleine Modelle, die in Sekundenbruchteilen antworten und die Daten im Haus halten. Antworten mit Quelle und Zusammenfassungen hängen an der Qualität des Retrievals; mit gutem Retrieval reicht die mittlere Klasse, ohne braucht es die große. Angebotstexte entwerfen und mehrstufige Agentenaufgaben verlangen Schlussfolgern über mehrere Schritte, und das ist der Bereich, in dem große Modelle ihren Vorsprung tatsächlich ausspielen. Warum kleine Modelle im Mittelstand oft die bessere Wahl sind, beschreibt Small Language Models im Mittelstand.
Was kostet Größe im Dauerbetrieb?
Drei Kostenarten wachsen mit der Parameterzahl. Erstens die Hardware, wenn das Modell lokal läuft: Ein 70-Milliarden-Modell braucht in 4-Bit-Quantisierung rund 40 GB Grafikspeicher, in 16 Bit rund 140 GB, und diese Karten kosten je nach Klasse ein Vielfaches einer Workstation-GPU. Wie sich der Bedarf ausrechnen lässt, steht in VRAM-Rechnung für lokale Modelle. Zweitens die Token-Preise, wenn das Modell als API bezogen wird: Anbieter staffeln nach Modellgröße, und im Dauerbetrieb mit hunderten Anfragen am Tag entscheidet der Preis je Million Token über das Jahresbudget; die Rechnung dazu in Token-Preise verstehen. Drittens die Latenz: Ein größeres Modell erzeugt Antworten langsamer, und für einen Servicetechniker am Telefon ist eine Antwort nach zwei Sekunden mehr wert als eine bessere Antwort nach zwanzig.
Wann sich ein lokales Modell gegenüber der API trägt, hängt von der Anfragezahl ab und lässt sich vorher ausrechnen, siehe Lokales Modell oder API: der Break-even. In unserer Praxis lohnt sich für die meisten Mittelständler ein gemischter Betrieb: ein kleines Modell im Haus für Klassifikation und Extraktion, ein großes per API für die wenigen Aufgaben, die Schlussfolgern über mehrere Schritte verlangen.
Muster-Eintrag: Ein Testprotokoll für die Modellauswahl
Der Unterschied zwischen einer Bauchentscheidung und einer belastbaren Modellauswahl liegt in 30 Fragen aus dem eigenen Betrieb. Ein unbrauchbares Kriterium lautet: „Das Modell ist auf den Benchmarks besser.“ Derselbe Betrieb mit brauchbarem Protokoll: „30 Fragen aus Service, Instandhaltung und Vertrieb, je Frage die richtige Antwort und das Dokument, in dem sie steht, vorab von einem Fachmann festgelegt. Drei Modelle, jeweils mit demselben Retrieval auf denselben Dokumenten. Je Frage vier Kreuze: Antwort richtig, Quelle richtig, Antwortzeit unter fünf Sekunden, Kosten je Anfrage. Ergebnis je Modell: 30 Zeilen, vier Spalten, eine Summe.“ Nach zwei Wochen liegt eine Tabelle vor, die die Geschäftsführung ohne Fachwissen lesen kann.
Die Faustregel für jeden Test: gleiche Fragen, gleiches Retrieval, gleiche Dokumente. Wer nur das Modell wechselt, sieht, was das Modell ausmacht. Wer zugleich das Retrieval ändert, misst zwei Dinge auf einmal und lernt nichts. Wie Sie die 30 Fragen zusammenstellen, steht in KI-Modelle mit eigenen Daten testen. Das Testprotokoll mit den vier Spalten können Sie als druckbares Arbeitsblatt (PDF) herunterladen.
Worauf Sie stattdessen schauen sollten
- Antwortqualität auf Ihren echten Daten, gemessen an 30 Fragen mit bekannter richtiger Antwort, nicht auf Benchmark-Fragen
- Quellenangabe je Antwort, damit Ihr Team dem Ergebnis trauen kann und eine falsche Antwort in Sekunden auffällt
- Latenz und Kosten pro Anfrage im Dauerbetrieb, hochgerechnet auf die tatsächliche Anfragezahl je Tag
- Betrieb in der EU, mit Auftragsverarbeitung nach DSGVO Art. 28 und Löschkonzept
- Wie schnell ein Pilot auf Ihren Daten beweisbar ist, in unserer Praxis zwei bis vier Wochen
Aus diesem Grund testen wir Modelle nie im Vakuum. Wir testen sie in einem Zwei-Wochen-Pilot auf echten Kundendaten. Bei TROESTER war das Ergebnis keine schönere Parameterzahl. Es war eine Lösungszeit pro Störung im Service von rund sechs Stunden auf 76 Minuten, mit zwölf angebundenen Systemen. Welche Frage Sie statt „Welches LLM?“ stellen sollten, steht in Welches LLM: die falsche Frage.
Was die Parameterzahl nicht löst
Ein größeres Modell findet keine Dokumente, die nirgends abgelegt sind. Wenn das Wissen über die 7740er Serie im Kopf eines Technikers steckt, hilft kein Modell der Welt, solange es nicht aufgeschrieben ist. Ein größeres Modell löst auch keine Berechtigungsfrage: Ob der Auszubildende die Kalkulation sehen darf, entscheidet die Architektur, nicht die Gewichtsmatrix. Und ein größeres Modell macht eine falsche Antwort nicht erkennbar; das tut nur die Quellenangabe. Wer die Modellgröße als Hebel begreift, optimiert die eine von fünf Ebenen, die am wenigsten über den Nutzen im Betrieb entscheidet. Die anderen vier sind Architekturarbeit, und die dauert in unserer Praxis zwei bis vier Wochen bis zum ersten belastbaren Ergebnis.
Häufige Fragen
Was bedeutet die Parameterzahl bei einem KI-Sprachmodell?
Parameter sind die einstellbaren Gewichte eines neuronalen Netzes, also die Stellschrauben, die beim Training justiert werden. Je mehr Parameter, desto mehr Muster kann ein Modell grundsätzlich speichern. Die Zahl misst damit die Kapazität eines Modells und seinen Speicherbedarf, jedoch nicht seinen Nutzen in Ihrem Betrieb.
Ist ein Modell mit mehr Parametern automatisch das bessere für mein Unternehmen?
Nein. Ein größeres Modell ist meist teurer im Betrieb, langsamer in der Antwort und hungriger nach Hardware. Für viele Aufgaben im Betrieb ist ein kleineres, gut angebundenes Modell die wirtschaftlichere Wahl. DeepMind zeigte 2022 mit Chinchilla, dass ein 70-Milliarden-Modell mit mehr Trainingsdaten ein 280-Milliarden-Modell übertreffen kann.
Warum ist die Anbindung an eigene Daten wichtiger als die Modellgröße?
Weil betriebliche Fragen nach der 7740er Serie, dem Wartungsprotokoll von 2019 oder dem Grenzwert der letzten Charge in keinem Modell stehen. Sie stehen in Ihren Systemen, Ordnern und Postfächern. Entscheidend ist, ob das Modell an dieses Wissen herankommt, die Quelle zitiert und Berechtigungen respektiert. Das ist Architekturarbeit, keine Parameterfrage.
Wie viel Speicher braucht ein Modell mit 7 oder 70 Milliarden Parametern?
Faustformel: 2 Byte je Parameter bei 16 Bit, rund 0,5 Byte bei 4-Bit-Quantisierung, jeweils ohne Kontextspeicher. Ein 7-Milliarden-Modell braucht damit etwa 14 GB beziehungsweise 4 GB, ein 70-Milliarden-Modell etwa 140 GB beziehungsweise 40 GB Grafikspeicher.
Worauf sollte man bei der Auswahl eines Sprachmodells stattdessen achten?
Auf Antwortqualität an 30 eigenen Fragen mit bekannter richtiger Antwort, auf Quellenangabe je Antwort, auf Latenz und Kosten pro Anfrage im Dauerbetrieb, auf Betrieb in der EU mit Auftragsverarbeitung nach DSGVO Art. 28 und Löschkonzept sowie darauf, wie schnell ein Pilot auf Ihren Daten beweisbar ist. Bei TROESTER sank in einem solchen Pilot die Lösungszeit pro Störung im Service von rund sechs Stunden auf 76 Minuten.
Welches Modell braucht Ihr Betrieb wirklich?
Der Wissens-Risiko-Check zeigt in 5 Minuten, wo Ihr Wissen liegt und was seine Erschließung wert ist.
Wissens-Check starten →Sie wollen das Thema im eigenen Betrieb angehen? Die KI-Beratung für den Mittelstand führt von der Prozessanalyse zum messbaren Pilot.
Parameter kosten Speicher. Rechnen Sie den GPU-Bedarf aus.
Wie viele Parameter ein Modell hat, entscheidet direkt über Hardware und Preis: Modellgewichte, Kontextspeicher, Runtime-Overhead. Der Kostenplaner rechnet beides – API-Kosten pro Monat und die GPU-Dimensionierung fürs eigene Rechenzentrum. Läuft komplett im Browser, keine Datenübertragung.
