LLM-Kostenplaner

LLM-Betrieb kalkulieren

Monatliche API-Kosten und den Hardwarebedarf für den Betrieb auf eigener Infrastruktur verständlich abschätzen.

Nutzung konfigurieren

API-Betrieb kurz erklärt

Beim API-Betrieb läuft das Modell bei einem externen Anbieter. Abgerechnet werden Eingaben und Antworten in Tokens – kleine Textbausteine, etwa Wörter oder Wortteile.

EU + ZDR steht für Verarbeitung in der EU und Zero Data Retention: Inhalte werden nicht über die Verarbeitung hinaus gespeichert und liegen später grundsätzlich nicht zur Herausgabe vor. Bei US-kontrollierten Anbietern können US-Behörden nach dem CLOUD Act – einem US-Gesetz – andere vorhandene Daten wie Konto- oder technische Protokolldaten anfordern, auch bei einem EU-Rechenzentrum.

Anzahl Nutzer

Token pro Nutzer / Monat

Mio. Token

Modell

EU + Zero Data Retention erforderlich Zeigt nur Modelle mit passendem EU+ZDR-Angebot.

Kosten in Euro anzeigen Kurs: 1 EUR = 1,14 USD · Preis kann abweichen.

Effektiver Preis nach der 7:2:1-Faustregel: 70 % Cache-Hit, 20 % Input und 10 % Output. Cache-Write ist nicht enthalten.

ModellvergleichKosten, Intelligence Index und Parameter auf Abruf vergleichen

Eigene Hardware planen

Warum GPU-Speicher zählt

Ein KI-Modell und seine aktuellen Arbeitsdaten müssen während des Betriebs im schnellen Speicher der Grafikkarten Platz finden. Größere Modelle und längere Dokumente erhöhen diesen Bedarf; stärkere Kompression senkt ihn.

Der Rechner schätzt daraus den Mindestbedarf und passende Hardware. Er bewertet die Speicherkapazität – Geschwindigkeit und gleichzeitige Nutzer hängen zusätzlich von Software, Auslastung und GPU-Verbindung ab.

Modell

Kontextlänge und Modellkompression anpassen

Kontextlänge

Modellkompression

Benötigter GPU-Speicher · Richtwert –

Hardware-Variante Automatische Empfehlung oder eine passende Alternative nach Hardwareklasse auswählen.

Kostenannahmen anpassen

Workstation-Basis

EUR

Weitere Hardware für ein System mit bis zu vier Workstation-GPUs.

8-GPU-Serverbasis

EUR

Planungswert ohne GPUs; ein konkretes zertifiziertes System kann deutlich abweichen.

Geplante Nutzungsdauer

Monate

Nutzung

h/Monat

Typische Auslastung

Server-Grundverbrauch

Strompreis

EUR/kWh

Bitte prüfe die Eingaben. Alle Werte müssen innerhalb der angegebenen Grenzen liegen.

Hardware-Konfiguration · Richtwert

–

Kleinste passende Konfiguration ohne zusätzlichen Speicherpuffer

– –

Speicherbelegung –

Modell – Kontext – Betrieb – Frei –

Anschaffung gesamt –

Betrieb pro Monat –

Abwärme bei Volllast –

– –

Technische Berechnung anzeigen

VRAM ca.–

Für Auswahl angesetzt–

Benötigt / ausgewählt–

GPU-Anschaffung–

Gewichte–

KV-Cache–

Runtime-Overhead–

Anschaffungskosten –

GPUs – Systembasis –

Vereinfachte monatliche Gesamtkosten –

Gesamt-CapEx – Abschreibung – Strom/Monat – TCO/Jahr – Systeme / Knoten – Systembasis –

ModellvergleichIntelligence Index und Parameter auf Abruf vergleichen

GPU-ÜberblickTechnische Daten und hinterlegte Richtpreise

Hardware	Klasse	VRAM	Speichertyp	Bandbreite	Typischer Ausbau	Max. Leistung	Preis ca.

Alle aufgeführten GPUs verfügen über ECC-Speicher. Server- und Plattformdaten: RTX PRO 4500 Server Edition, RTX PRO 6000 Server Edition, H200, DGX B200 und AMD Instinct MI300.

Grenzen der Schätzung

Grobe Kapazitäts- und Kostenschätzung: Der Mindestbedarf enthält Modellgewichte, Kontextspeicher und Runtime-Overhead, aber keinen zusätzlichen Sicherheitspuffer. Je nach Modell und Software sind ±15–20 % Abweichung möglich. Workstation-Karten werden nur bis vier GPUs pro System berücksichtigt; für fünf bis acht GPUs nutzt die Empfehlung passive Server Editions. Oberhalb der Kapazität eines 8-GPU-Servers wird eine Enterprise-Plattformklasse gezeigt, deren Kaufpreis nur auf Anfrage erhältlich ist. Addierter VRAM ist kein gleichwertiger gemeinsamer Speicherpool: Bei einem über mehrere GPUs verteilten Modell können PCIe, NVLink, Infinity Fabric, Runtime und Parallelisierungsverfahren die nutzbare Leistung bestimmen. Kühlung, Netzwerk, Software, Support, Personal und Restwert sind nicht vollständig eingerechnet. GPU-Richtpreise und die Serverbasis sind Planungswerte ohne MwSt.- oder Versandkorrektur.

Datenstand: 22.07.2026 · API-Quelldaten in USD · GPU-Richtpreise in EUR