KI-Kosten steigen nach dem Rollout: warum der Pilot nichts über den Betrieb sagt
Wenn die KI-Kosten nach dem Rollout steigen, ist selten etwas schiefgelaufen. Es ist die Mechanik sichtbar geworden, die im Pilot verdeckt war: Verbrauchsbasierte Preise skalieren mit Nutzern, Anfragen und Kontextgrößen — und ein Pilot hält alle drei Größen künstlich klein. Wer vom Pilotpreis auf den Betriebspreis schließt, rechnet mit der falschen Kurve.
KI-Kosten steigen nach dem Rollout, weil verbrauchsbasierte Preise mit drei Größen gleichzeitig skalieren, die ein Pilot künstlich klein hält: Nutzerzahl, Anfragen pro Nutzer und Tokenmenge pro Anfrage. Vor allem der Kontext wächst im Echtbetrieb — Dokumente, Historie, Suchtreffer — und kann eine Anfrage um das Hundertfache verteuern. Die Lizenzdenke (Preis mal Nutzer) greift nicht, weil der Token die Kosteneinheit ist. Der Pilot sollte deshalb als Messinstrument dienen: Anfragen pro Nutzer und Woche, Token pro Anfrage und Verteilung je Anwendungsfall erlauben eine seriöse Hochrechnung vor dem Rollout.
Warum der Pilot systematisch zu billig aussieht
Ein Pilot hat typischerweise fünf bis zwanzig wohlwollende Nutzer, die das Werkzeug gezielt für ausgewählte Aufgaben einsetzen. Im Rollout kommen hundert oder fünfhundert Nutzer dazu, die es in den Alltag einbauen — und der Alltag erzeugt ein Vielfaches der Anfragen pro Kopf, weil die Hürde sinkt, das Werkzeug auch für Kleinigkeiten zu befragen. Nutzerzahl mal Nutzungsintensität: Beide Faktoren wachsen gleichzeitig, und ihr Produkt ist die erste Überraschung in der Abrechnung.
Der zweite Faktor: Kontext wächst mit dem Ernstfall
Die Kosten einer Anfrage hängen an der Menge verarbeiteten Textes, gemessen in Token. Im Pilot sind die Anfragen kurz: eine Frage, ein Absatz. Im Betrieb hängen an derselben Frage plötzlich das Dokument, die Gesprächshistorie und die Treffer aus der internen Suche — der Kontext, der die Antworten überhaupt brauchbar macht. Eine Anfrage mit angehängtem 50-Seiten-Dokument kann das Hundertfache einer nackten Frage kosten, bei identischem sichtbarem Verhalten für den Nutzer. Die Lizenzdenke — Nutzer mal Preis — greift deshalb nicht: Bei API-basierten Lösungen ist die Kosteneinheit der Token, und zwischen einem sparsamen und einem intensiven Nutzer liegt schnell der Faktor zwanzig.
Messen, hochrechnen, steuern
Der Pilot ist trotzdem nützlich — als Messinstrument statt als Preisprobe. Drei Zahlen sollte er liefern: Anfragen pro Nutzer und Woche, mittlere und maximale Tokenmenge pro Anfrage, und die Verteilung über die Anwendungsfälle, weil ein einzelner dokumentenlastiger Fall die Hälfte der Kosten stellen kann. Mit diesen drei Zahlen lässt sich der Rollout hochrechnen; ohne sie ist jede Prognose eine Behauptung.
Steigende Kosten sind steuerbar, weil fast immer wenige Muster dominieren. Die wirksamsten Hebel: kleinere Modelle für einfache Aufgaben und große nur für die schweren Fälle; Kontext beschneiden statt ganze Dokumente anhängen; wiederkehrende Systemtexte cachen, was viele Anbieter rabattieren; und Limits je Nutzer oder Anwendung, damit ein Ausreißer nicht das Monatsbudget frisst. Wer die Abrechnung nach Anwendungsfällen aufschlüsseln kann, findet den größten Hebel meist in einer einzigen Stelle.
Häufige Fragen
Warum sind die KI-Kosten im Pilot so viel niedriger als im Betrieb?
Weil der Pilot alle drei Kostenfaktoren klein hält: wenige, ausgewählte Nutzer, gezielte statt alltägliche Nutzung und kurze Anfragen ohne große Kontexte. Im Rollout wachsen Nutzerzahl, Nutzungsintensität und Kontextgröße gleichzeitig, und ihr Produkt bestimmt die Rechnung — daher wirken Vervielfachungen normal, nicht fehlerhaft.
Was ist der größte Kostentreiber bei LLM-Anwendungen?
Meist die Tokenmenge pro Anfrage, nicht die Anfragezahl. Angehängte Dokumente, lange Gesprächshistorien und eingeblendete Suchtreffer vervielfachen die verarbeitete Textmenge. Einzelne dokumentenlastige Anwendungsfälle stellen häufig die Hälfte der Gesamtkosten, obwohl sie nur einen Bruchteil der Anfragen ausmachen.
Wie kann man LLM-Kosten im Betrieb senken?
Vier Hebel wirken am stärksten: kleinere Modelle für einfache Aufgaben und große nur für schwere Fälle; Kontexte beschneiden statt ganze Dokumente anzuhängen; wiederkehrende Systemtexte über Caching rabattieren lassen; und Verbrauchslimits je Nutzer oder Anwendung. Voraussetzung ist eine Abrechnung, die sich nach Anwendungsfällen aufschlüsseln lässt.
Welche Zahlen sollte ein KI-Pilot liefern, bevor man ausrollt?
Drei: Anfragen pro Nutzer und Woche, mittlere und maximale Tokenmenge pro Anfrage sowie die Kostenverteilung über die Anwendungsfälle. Mit diesen Werten lässt sich der Rollout auf die Zielnutzerzahl hochrechnen, inklusive Bandbreite für intensive Nutzer. Ein Pilot ohne diese Messung ist eine Machbarkeitsprobe, aber keine Kostenprobe.
Rechnen Sie den Rollout hoch, bevor er Sie überrascht.
Der LLM-Kostenrechner rechnet mit Ihren Zahlen: Nutzer, Anfragen, Kontextgrößen. Fünf Minuten, kein Login.
LLM-Kostenrechner starten →Rechnen Sie den Rollout, bevor er kommt. Nicht danach.
Die Kostenkurve zwischen Pilot und Betrieb lässt sich vorab durchrechnen: monatliche API-Kosten für Ihr echtes Nutzungsprofil – Nutzer, Anfragen, Kontextgrößen. Oder der GPU-Bedarf, wenn Sie selbst hosten. Läuft komplett im Browser, keine Datenübertragung.
