LLM selbst hosten: was es kostet und wann es sich rechnet

Was kostet ein selbst gehostetes LLM?

Deutlich mehr als eine API, ausser die Maschine arbeitet fast rund um die Uhr. Unsere Workstation für 8’450 Franken schlägt den Schweizer Anbieterpreis über zwei Jahre erst ab 57 Prozent Auslastung, also 14 Stunden Volllast pro Tag. Bei realistischer Auslastung kostet die eigene Maschine über zwei Jahre rund 310 Franken mehr pro Monat. Das ist der Preis der Kontrolle.

Das Wichtigste in Kürze

• Vergleichen Sie mit dem Schweizer Anbieter, nicht mit amerikanischen Frontier-Preisen: Unsere Referenzanfrage (10’000 Tokens Eingabe, 2’000 Ausgabe) kostet bei Infomaniak auf einem 30-Milliarden-Modell 90 Rappen je tausend, Datenhaltung in der Schweiz inklusive.
• Streichen Sie den Strom von der Sorgenliste. Gemessen kostet er gut 6 Rappen je Million Tokens; die Anschaffung dominiert die Rechnung.
• Rechnen Sie in Auslastung, denn nur sie entscheidet. Dieselbe Maschine kostet je nach Auslastung das 0.6-fache oder das 5-fache des Anbieterpreises.
• Heben Sie die Auslastung mit Nachtarbeit: Stapelverarbeitung über Nacht ist der wirksamste Hebel Richtung Break-even.
• Budgetieren Sie die Person dazu. Betrieb, Updates und Wiederanlauf stehen in keiner Stückliste, und diese Rechnung enthält sie ausdrücklich nicht.

Dies ist der letzte Teil unserer Serie über lokale Inferenz, und er beantwortet die Frage, die alle vorherigen offen liessen: Rechnet sich die Maschine aus dem ersten Teil gegenüber dem Bezug pro Token? Hier ist die Rechnung, vollständig und zum Nachrechnen, mit gemessenem Strom und Zürcher Tarif.

Der Preis, den Sie schlagen müssen

Der Massstab für diese Rechnung ist der günstigste souveräne Anbieter↗Souveräne KI · Teil 3Souveräne KI-Infrastruktur: warum das Modell der einfachste Teil istDas Sprachmodell ist der austauschbarste Teil Ihrer KI. Warum Embeddings und OCR über den Lock-in entscheiden, und welche Schweizer Hoster alle Komponenten bieten. Beitrag lesen . Infomaniak hostet ein Modell derselben Grössenklasse und Bauart wie unseres (30 Milliarden Parameter, MoE?MoEMixture of Experts: ein Modell, das viele Teilmodelle («Experten») speichert, pro Token aber nur wenige davon rechnet. Gespeichert werden alle Parameter, gerechnet wird mit einem Bruchteil.) in Genf und Zürich, ohne US-CLOUD-Act?US CLOUD ActUS-Gesetz von 2018: Amerikanische Anbieter müssen Daten herausgeben, die in ihrer Kontrolle stehen, unabhängig davon, wo auf der Welt die Server stehen. Es betrifft auch die europäischen Rechenzentren von US-Konzernen., für 5 Rappen je Million Eingabe-Tokens?TokenDie kleinste Verrechnungseinheit eines Sprachmodells; ein Wort besteht aus etwa ein bis drei Tokens. Anbieter verrechnen pro Million Tokens, getrennt nach Eingabe (Input) und Ausgabe (Output). und 20 Rappen je Million Ausgabe-Tokens. Ob es in der Qualität mit unserem gleichzieht, haben wir nicht gemessen; für den Preisvergleich ist es das passendste Angebot am Markt.

Für eine typische Anfrage unserer Messreihe (10’000 Tokens Eingabe, 2’000 Ausgabe) heisst das: 90 Rappen für tausend Anfragen. Das ist die Latte. Wer selbst hostet, tritt gegen eine Welt an, in der die einzelne Anfrage einen Zehntelrappen kostet und die Datenhaltung in der Schweiz bereits inbegriffen ist.

Was die eigene Maschine kostet

Die Anschaffung kennen Sie aus dem ersten Teil: rund 8’450 Franken für zwei RTX 4090, Prozessor, 128 GB Arbeitsspeicher und den Rest der Stückliste.

Den Strom haben wir gemessen. Unter Volllast zogen beide Karten zusammen 405.7 Watt, im Leerlauf 28. Mit dem geschätzten Zuschlag für Prozessor und Board rechnen wir mit 520 Watt unter Last und 130 im Leerlauf. Beim Zürcher Hochtarif von 27.65 Rappen je Kilowattstunde (exkl. MwSt.) ergibt das gut 6 Rappen je Million erzeugter Tokens.

Damit ist der grösste Irrtum der Debatte erledigt: Der Strom ist ein Nebenposten. Ein Volllast-Tag kostet 3.45 Franken an der Steckdose, während die Anschaffung, auf zwei Jahre verteilt, mit 11.58 Franken pro Tag zu Buche steht. Es dominiert die Amortisation, und die läuft auch, wenn niemand fragt.

Die Rechnung, an der alles hängt

Bei voller Auslastung liefert die Maschine 633 Tokens pro Sekunde, das sind gut 27’000 Anfragen pro Tag. Das ist der Bestwert der Messreihe, erzielt mit dem MoE-Modell (Index 32.1, zwischen GPT-5 mini und GPT-5); das Modell auf GPT-5.1-Niveau aus dem ersten Teil schafft 240 Tokens pro Sekunde, und mit ihm gibt es gar keinen Break-even, selbst Dauervolllast bliebe teurer als der Anbieter. Die Tageskosten (Anschaffung anteilig plus Strom) verteilen sich auf so viele Anfragen, wie tatsächlich gestellt werden, und genau hier entscheidet sich alles:

Auslastung	CHF je 1’000 Anfragen (2 Jahre)	(3 Jahre)	gegen Infomaniak (0.90)
10 %	4.64	3.23	5.2x bzw. 3.6x teurer
30 %	1.61	1.14	1.8x bzw. 1.3x teurer
60 %	0.85	0.62	günstiger
100 %	0.55	0.41	klar günstiger

Der Break-even liegt über zwei Jahre bei 57 Prozent Auslastung, über drei Jahre bei 39. In Stunden übersetzt: Die Karten müssten 14 beziehungsweise 9 Stunden pro Tag unter Volllast rechnen, jeden Tag, auch am Wochenende.

Was Auslastung im Büro wirklich heisst

Jetzt die unbequeme Übersetzung, zum Nachrechnen. Ein Betrieb mit zwanzig bis dreissig Mitarbeitenden nutzt die Maschine während 40 der 168 Wochenstunden, und in diesen Stunden ist im Mittel vielleicht die Hälfte der Kapazität belegt. Das ergibt 12 Prozent; wir rechnen rund mit 10 Prozent Auslastung. Nachts und am Wochenende zählt die Anschaffung weiter, nur eben ohne Anfragen.

Bei 10 Prozent kostet die eigene Maschine das Fünffache des Anbieters. In Franken: rund 310 pro Monat mehr, als dieselben Anfragen bei Infomaniak kosten würden.

Wichtig für die Einordnung: In dieser Rechnung fehlt der grösste Posten absichtlich. Die Person, die die Maschine betreibt, aktualisiert und am Freitagabend wieder zum Laufen bringt, steht in keiner Stückliste. Jede Stunde, die sie braucht, verschiebt den Vergleich weiter zugunsten des Anbieters.

Wie sich der Break-even verschieben lässt

Die Rechnung ist kein Naturgesetz, an zwei Stellschrauben lässt sie sich bewegen.

Nachtarbeit hebt die Auslastung. Die teuerste Eigenschaft der Maschine sind ihre toten Stunden. Wer nachts Stapel verarbeitet, also Verträge prüfen, Akten erschliessen, Berichte vorbereiten lässt, verwandelt Leerlauf in Anfragen. Der Extremfall aus Teil 1 passt genau hierhin: Das 284-Milliarden-Modell ist zu langsam für den Bildschirm und ideal für die Nacht. Eine Maschine, die tagsüber dem Team antwortet und nachts den Aktenbestand durcharbeitet, kommt dem Break-even ernsthaft nahe, und da unsere Rechnung durchgehend den Hochtarif ansetzt, arbeitet der günstigere Nachtstrom zusätzlich für Sie.

Der Horizont streckt die Anschaffung. Über drei Jahre statt zwei fällt der Break-even von 57 auf 39 Prozent. Der Gegenposten: Drei Jahre sind in dieser Technologie lang. Die RTX 4090 unserer Liste wurde nach gut zwei Jahren durch eine Nachfolgerin mit einem Drittel mehr Speicher ersetzt, und die Modellqualität je Grössenklasse steigt laufend. Wer länger abschreibt, wettet darauf, dass die heutige Maschine auch übermorgen genügt.

Wann die eigene Maschine trotzdem richtig ist

Nach allen Zahlen bleiben Gründe, die keine Kostenrechnung erfasst, und gekauft wird in der Praxis ihretwegen:

Daten, die das Haus nicht verlassen dürfen, egal was ein Vertrag verspricht. Das Berufsgeheimnis?Berufs- und AmtsgeheimnisDie strafrechtlich geschützte Schweigepflicht von Behörden (Amtsgeheimnis, Art. 320 StGB) und einer im Gesetz aufgezählten Reihe von Berufen (Art. 321 StGB), etwa Anwältinnen, Ärzte und Apothekerinnen. Sie gilt unabhängig vom Datenschutz und reicht weiter. Das Bankgeheimnis steht separat im Bankengesetz., bei dem schon die Prüfung der Anbieterverträge Aufwand und Restrisiko bedeutet. Unabhängigkeit von Preiserhöhungen, Modellabschaltungen und Vertragsänderungen, wie sie die Anbieter-Serie dokumentiert. Und die Gewissheit, dass die Maschine morgen noch genau das tut, was sie heute tut.

Wer aus diesen Gründen kauft, kauft richtig, und weiss jetzt, was es kostet. Wer nur sparen will, bleibt beim Schweizer Anbieter besser bedient.

So rechnen Sie Ihren Fall

1. 01

   Ihre Anfragen zählen, nicht schätzen

   Wie viele KI-Anfragen stellt Ihr Betrieb heute pro Tag, und wie lang sind sie? Wer noch keine KI nutzt, startet mit einem Monat API-Bezug und liest die Zahl aus der Abrechnung.

2. 02

   Die Auslastung daraus ableiten

   Tagesanfragen geteilt durch die Kapazität der Wunschmaschine. Liegt das Ergebnis unter einem Drittel, rechnet sich der Kauf in unserer Preiswelt nicht über den Preis.

3. 03

   Nachtlast suchen, bevor Sie kaufen

   Gibt es Stapelarbeit, die heute liegen bleibt? Aktenbestände, Archive, wiederkehrende Berichte? Sie ist der Hebel, der die Rechnung dreht.

4. 04

   Den Betrieb vollständig budgetieren

   Wer hält die Maschine am Laufen, und was kostet diese Zeit? Erst mit dieser Zeile ist der Vergleich mit dem Anbieterpreis vollständig.

Damit schliesst die Serie. Die Teile eins bis vier tragen die Grundlagen dieser Rechnung: die Maschine, die Speicherauslegung, die Quantisierung und die Engines, jeweils mit allen Messwerten.

Schon mit dem Gedanken gespielt, für KI eine eigene Maschine anzuschaffen? Alles im Haus, niemand liest mit, und erst noch Kosten sparen?

Wir haben durchgerechnet, was das finanziell heisst, und zwar gegen einen souveränen Schweizer Anbieter statt gegen eine US-Cloud. Bei Infomaniak kosten tausend Anfragen an ein 30-Milliarden-Modell (10'000 Tokens Eingabe, 2'000 Ausgabe) 90 Rappen, mit Daten in Genf und Zürich.

Die eigene Maschine dagegen: 8'450 Franken Hardware, gemessene 520 Watt unter Volllast, ewz-Hochtarif. Der Break-even liegt über zwei Jahre bei 57 Prozent Auslastung, also 14 Stunden Volllast pro Tag. Ein normaler Bürobetrieb liegt bei rund 10 Prozent und zahlt damit etwa 310 Franken im Monat mehr. Der Strom fällt dabei kaum ins Gewicht (gut 6 Rappen je Million Tokens), es dominiert die Anschaffung.

Gespart ist also nichts. Die eigene Maschine ist ein bezifferbarer Aufpreis dafür, dass kein Byte das Haus verlässt, und für die meisten Betriebe fällt er kleiner aus als erwartet.

Im Beitrag steht die ganze Rechnung zum Nachrechnen: beide Abschreibungshorizonte, die Auslastungskurven und was bewusst nicht enthalten ist, nämlich die Person, die den Betrieb macht. Link in den Kommentaren.

#KI #Datensouveränität #Kosten #Schweiz