Was LLMs wirklich kosten: Der Preis pro Token täuscht

Warum der Preis pro Token täuscht

Der Preis pro Token sagt wenig darüber aus, was ein Sprachmodell im Betrieb wirklich kostet. Entscheidend ist, wie viele Tokens ein Modell für eine Aufgabe verbraucht, ob der Anbieter wiederholte Anfragen günstiger verrechnet (Prompt Caching) und in welcher Qualität er das Modell hostet. Darum ist das billigste Modell der Preisliste am Ende oft eines der teuersten.

Das Wichtigste in Kürze

• Für dieselbe Aufgabe verbraucht ein Modell manchmal tausendmal mehr Tokens?TokenDie kleinste Verrechnungseinheit eines Sprachmodells; ein Wort besteht aus etwa ein bis drei Tokens. Anbieter verrechnen pro Million Tokens, getrennt nach Eingabe (Input) und Ausgabe (Output). als ein anderes. Günstige Tokens nützen dann wenig.
• Coding-Assistenten und agentische?AgentischKI-Anwendungen, die mehrstufig und selbstständig arbeiten: Sie planen, rufen Werkzeuge auf und wiederholen Schritte, bis die Aufgabe erledigt ist. Dabei senden sie denselben Kontext viele Male. Anwendungen senden denselben Kontext hunderte Male. Mit Prompt Caching kosten diese Wiederholungen fast nichts, ohne zahlen Sie jedes Mal den vollen Preis.
• Hinter demselben Modellnamen steckt nicht überall dasselbe Modell: Viele Hoster betreiben komprimierte Varianten?QuantisierungKompression eines Modells über geringere Zahlenpräzision der Gewichte (z.B. FP8 oder 4-Bit). Der Betrieb wird deutlich günstiger; ab einem gewissen Grad sinkt die Antwortqualität messbar., ohne das auszuweisen.
• Verlassen Sie sich deshalb nicht auf Preislisten. Messen Sie, was Ihre Aufgaben bei einem Anbieter tatsächlich kosten.

In Beratungsmandaten vergleichen wir regelmässig Modelle und Hoster. Die erste Frage lautet fast immer: «Welches Modell ist das günstigste?» Die ehrliche Antwort: Das steht nicht in der Preisliste. Drei Faktoren entscheiden, was Sie am Ende zahlen, und alle drei sind auf den ersten Blick unsichtbar.

Faktor 1: Modelle verbrauchen unterschiedlich viele Tokens

Moderne Modelle «denken», bevor sie antworten: Sie schreiben interne Zwischenschritte, die niemand liest, die aber ganz normal verrechnet werden. Und sie denken unterschiedlich lange. Wie unterschiedlich, hat ein Forschungsteam von Stanford, Berkeley, CMU und Microsoft Research im Mai 2026 gemessen, mit acht Spitzenmodellen, zwölf Aufgabentypen und über 7 Milliarden Tokens.

Kennzahl

32 %

Quelle: Chen et al., The Price Reversal Phenomenon, arXiv:2603.23971, Mai 2026

Die Unterschiede sind gewaltig. Für dieselbe Prüfungsfrage brauchte ein Modell über 60’000 Denk-Tokens?Denk-TokensReasoning-Modelle erzeugen vor der eigentlichen Antwort interne Zwischenschritte («Denken»). Diese Denk-Tokens sind unsichtbar, werden aber als Output verrechnet., ein anderes kam mit 25 aus. Für dieselbe agentische Aufgabe brauchte eines 7 Arbeitsschritte, ein anderes 57. So kann es passieren, dass ein Modell mit 80 Prozent tieferem Tokenpreis unter dem Strich mehr kostet: 705 statt 509 Dollar für denselben Benchmark.

Wie stark sich das Bild verschiebt, zeigen die beiden Grafiken: links die Modelle nach Listenpreis geordnet, rechts nach dem, was sie im Benchmark tatsächlich gekostet haben.

Quelle: Chen et al., arXiv:2603.23971, Mai 2026, Figur 1

Gemini 3 Flash, das zweitgünstigste Modell der Preisliste, steht in der Kosten-Rangliste praktisch zuoberst: 705 Dollar, gleichauf mit dem teuersten Modell der Liste. Warum, zeigt der Blick auf den Tokenverbrauch:

Die Erklärung liegt im Verbrauch: Gemini 3 Flash denkt im Benchmark sechsmal länger als GPT-5.4. Claude Opus, das teuerste Modell der Liste, gehört dagegen zu den sparsamsten. Und selbst dasselbe Modell ist nicht konstant: Zwischen zwei Läufen mit identischer Eingabe lag in der Studie bis zu ein Faktor 9.7. Wer nur Preislisten vergleicht, vergleicht die falsche Zahl.

Faktor 2: Prompt Caching entscheidet bei agentischen Workloads

Prompt Caching funktioniert wie ein Kurzzeitgedächtnis: Der Anbieter merkt sich, was er schon einmal verarbeitet hat. Schickt Ihre Anwendung denselben Kontext noch einmal, zahlt sie dafür fast nichts mehr. Bei Mistral und Anthropic kostet ein Cache-Treffer einen Zehntel des Normalpreises, bei DeepSeek weniger als einen Hundertstel: 0.0028 statt 0.14 Dollar pro Million Tokens beim kleinen Modell, 0.003625 statt 0.435 Dollar beim grossen.

Für Chat-Anwendungen ist das nett. Für Coding-Werkzeuge wie Claude Code oder OpenCode und für agentische Anwendungen ist es entscheidend, denn diese Werkzeuge senden pro Sitzung hunderte Male fast denselben Kontext.

Wir haben das an einer eigenen Abrechnung nachgerechnet. Im Juni lief testhalber ein agentisches Setup über die offizielle DeepSeek-API, 30 Millionen Input-Tokens insgesamt. 86 Prozent davon waren Cache-Treffer. Die Monatsrechnung: 2.09 Dollar. Ohne Caching hätte derselbe Monat 13.20 Dollar gekostet, mit demselben Modell, beim selben Anbieter. Die erste Juliwoche zeigt dasselbe Bild, mit 94 Prozent Trefferquote sogar noch deutlicher.

Bevor Sie also Preislisten studieren, klären Sie zwei Fragen: Bietet der Anbieter Prompt Caching an? Und wie oft trifft Ihre Anwendung den Cache? In Europa ist die Auswahl ernüchternd: Mistral ist der einzige uns bekannte EU-Anbieter mit Prompt Caching. Wer souverän hosten will↗Lokale Inferenz · Teil 5LLM selbst hosten: was es kostet und wann es sich rechnetOb sich eine eigene KI-Maschine gegenüber Schweizer Token-Preisen rechnet, entscheidet eine einzige Grösse: die Auslastung. Die ganze Rechnung zum Nachvollziehen, von der Stückliste bis zum Break-even, mit gemessenem Strom statt Schätzungen. Beitrag lesen und agentische Anwendungen plant, sollte diesen Punkt vor der Vertragsunterschrift klären.

Faktor 3: Sie wissen nicht, welches Modell Sie bekommen

Der dritte Faktor ist der heikelste, weil man ihn nicht sieht. Offene Modelle?Open WeightModelle, deren Gewichte öffentlich verfügbar sind und selbst gehostet werden dürfen (z.B. Apertus, DeepSeek, Llama). Voraussetzung für souveränen Betrieb ohne Anbieterbindung. lassen sich komprimieren, der Fachbegriff dafür ist quantisieren: Der Hoster speichert die Modellgewichte mit geringerer Präzision, etwa in FP8 statt FP16, und braucht dafür nur noch die Hälfte oder ein Viertel des Speichers. Der Betrieb wird deutlich billiger. Massvoll eingesetzt merkt davon niemand etwas. Zu stark komprimiert, werden die Antworten messbar schlechter↗Lokale Inferenz · Teil 3LLM-Quantisierung verstehen und richtig einsetzenQuantisierung ist der Hebel, mit dem ein grosses Modell auf bezahlbare Karten passt und schneller antwortet. Wie sie funktioniert, wie Sie selbst quantisieren, und wie Sie die Stufe finden, bei der die Qualität hält. Beitrag lesen .

Dagegen ist nichts einzuwenden, Quantisierung ist ein legitimer Hebel. Das Problem ist die Transparenz. OVHcloud weist seine FP8-Varianten offen im Katalog aus. Infomaniak deklariert einige Modelle mit FP8-Zusatz, andere ohne Angabe. Kvant hostet das Schweizer Apertus-70B als 4-Bit-Variante, bei der Mehrheit der Modelle im Katalog fehlt die Angabe ganz. So können zwei Hoster dasselbe Modell zum selben Preis anbieten, und Sie erhalten trotzdem nicht dasselbe Modell.

Der Modellname im Preisblatt ist deshalb keine Qualitätszusicherung. Fragen Sie nach, in welcher Präzision ein Modell gehostet wird. Und testen Sie mit Ihren eigenen Aufgaben statt mit öffentlichen Bestenlisten, denn die wurden mit dem Original gerechnet.

So vergleichen Sie richtig

Die gute Nachricht: KI-Kosten sind steuerbar, sobald man die richtigen Zahlen misst. Der Weg dahin ist kein Forschungsprojekt, sondern ein Nachmittag Disziplin.

1. 01

   Workload definieren

   Zehn bis zwanzig echte Aufgaben aus Ihrem Alltag festhalten: die Dokumente, die Fragen, die Coding-Tasks, die Ihr Team wirklich hat.

2. 02

   Ende-zu-Ende-Kosten messen

   Diese Aufgaben bei den Kandidaten durchspielen und die Gesamtkosten pro erledigter Aufgabe erfassen, nicht den Preis pro Token.

3. 03

   Anbieter befragen

   Schriftlich bestätigen lassen: In welcher Präzision läuft das Modell, gibt es Prompt Caching, und bleibt die Modellversion fix?

4. 04

   Bei jedem Wechsel neu messen

   Neues Modell, neuer Hoster, neues Update: denselben Benchmark erneut laufen lassen. Preisumkehr passiert leise.

Vergleichen Sie KI-Anbieter nach dem Preis pro Million Tokens? Dann vergleichen Sie die Zahl, die am wenigsten über Ihre Rechnung aussagt.

Für Schweizer Firmen kommt erschwerend dazu, dass souveränes Hosting hier die schlechtere Ausgangslage hat: Mistral ist der einzige uns bekannte EU-Anbieter mit Prompt Caching, und bei Infomaniak wie kvant ist nur für einen Teil der Modelle deklariert, in welcher Quantisierung sie laufen.

Was der Preis verschweigt, hat ein Forschungsteam von Stanford, Berkeley, CMU und Microsoft Research im Mai 2026 vermessen: acht Spitzenmodelle, zwölf Aufgabentypen, über sieben Milliarden Tokens. In jedem dritten Modellvergleich war das günstiger angeschriebene Modell in der Praxis das teurere. Gemini 3 Flash etwa hat den zweitgünstigsten Listenpreis und die zweitteuerste Rechnung, weil es 208.7 Millionen Denk-Tokens verbraucht, gegenüber 24.2 Millionen bei Claude Opus.

Der zweite Hebel ist das Caching: In unserem eigenen Testmonat über die DeepSeek-API waren 86 Prozent der 30 Millionen Input-Tokens Cache-Treffer. Rechnung: 2.09 statt 13.20 Dollar, gleiches Modell, gleicher Anbieter.

Unser Schluss: Preislisten taugen nicht zum Vergleich. Messen Sie zehn bis zwanzig echte Aufgaben Ende zu Ende, und zwar neu bei jedem Wechsel.

Im Beitrag stehen die Benchmark-Daten, die vier Schritte für den eigenen Vergleich, zehn Fragen an den Anbieter und die EU- und Schweizer Anbietertabelle. Link in den Kommentaren.

#KIKosten #LLM #Schweiz #Datensouveränität