LLM selbst hosten: was es kostet und wann es sich rechnet

Was kostet ein selbst gehostetes LLM?

Eine eigene KI-Maschine kostet mehr als ein Schweizer Anbieter, ausser sie läuft fast rund um die Uhr. Unsere Workstation für 8’450 Franken unterbietet den Preis von Infomaniak, einem Schweizer Hoster, für ein 30-Milliarden-Modell (12. August 2026) erst ab 57 Prozent Auslastung über zwei Jahre. Bei 10 Prozent kostet sie 310 Franken im Monat mehr. Dafür bleiben die Daten im eigenen Betrieb.

Das Wichtigste in Kürze

• Vergleichen Sie mit einem Schweizer Anbieter. Infomaniak, ein Schweizer Hoster mit Datenhaltung in Genf und Zürich, verlangt für unsere Referenzanfrage 90 Rappen je tausend Anfragen auf einem Modell mit 30 Milliarden Parametern. Die Anfrage umfasst 10’000 Tokens Eingabe und 2’000 Tokens Ausgabe, ein Token ist ein Textbaustein von wenigen Buchstaben.
• Der Strom fällt kaum ins Gewicht. Er kostet gut 6 Rappen je Million erzeugter Tokens (Grafikkarten gemessen, Zürcher Hochtarif). Den Hauptteil der Kosten macht die Anschaffung der Hardware aus.
• Rechnen Sie in Auslastung. Sie ist der Anteil der Anfragen, den die Maschine tatsächlich bearbeitet, gemessen an dem, was sie rund um die Uhr schaffen würde. Diese Grösse entscheidet allein: Über zwei Jahre kostet dieselbe Maschine je Anfrage bei 100 Prozent Auslastung das 0.6-fache und bei 10 Prozent das 5-fache des Anbieterpreises.
• Heben Sie die Auslastung mit Nachtarbeit. Stapelverarbeitung über Nacht, also viele Aufträge nacheinander ohne Eingriff, ist das wirksamste Mittel, um den Break-even zu erreichen, den Punkt, ab dem die eigene Maschine günstiger ist als der Anbieter.
• Budgetieren Sie die Person dazu, die die Maschine betreibt. Betrieb, Updates und Wiederanlauf nach Ausfällen stehen in keiner Stückliste, und diese Rechnung enthält sie ausdrücklich nicht.

Dieser Beitrag ist der fünfte und letzte Teil unserer Serie über lokale Inferenz, also über den Betrieb von KI-Modellen auf eigener Hardware. Der erste Teil beschrieb eine Maschine mit zwei Grafikkarten. Dieser Teil beantwortet, ob sie sich gegenüber dem Bezug pro Token rechnet. Die Rechnung steht vollständig und zum Nachrechnen da, mit gemessenem Strom und Zürcher Tarif.

Der Preis, den Sie schlagen müssen

Der Massstab für diese Rechnung ist der günstigste souveräne Anbieter↗Souveräne KI · Teil 3Souveräne KI-Infrastruktur: warum das Modell der einfachste Teil istDas Sprachmodell lässt sich in Ihrer KI am leichtesten austauschen. An einen Anbieter binden Sie die Modelle, die Ihre Dokumente einlesen und durchsuchbar machen (OCR und Embeddings). Welche Schweizer Hoster alle Komponenten bieten.Beitrag lesen. Infomaniak hostet ein Modell derselben Grössenklasse und Bauart wie unseres (30 Milliarden Parameter, Bauart Mixture of Experts, kurz MoE?MoEMixture of Experts: ein Modell, das viele Teilmodelle («Experten») speichert, pro Token aber nur wenige davon rechnet. Gespeichert werden alle Parameter, gerechnet wird mit einem Bruchteil.: ein Modell, das je Token nur einen kleinen Teil seiner Parameter einsetzt) in Genf und Zürich, ohne US-CLOUD-Act?US CLOUD ActUS-Gesetz von 2018: Amerikanische Anbieter müssen Daten herausgeben, die in ihrer Kontrolle stehen, unabhängig davon, wo auf der Welt die Server stehen. Es betrifft auch die europäischen Rechenzentren von US-Konzernen., für 5 Rappen je Million Eingabe-Tokens?TokenDie kleinste Verrechnungseinheit eines Sprachmodells; ein Wort besteht aus etwa ein bis drei Tokens. Anbieter verrechnen pro Million Tokens, getrennt nach Eingabe (Input) und Ausgabe (Output). und 20 Rappen je Million Ausgabe-Tokens. Ob es in der Qualität mit unserem gleichwertig ist, haben wir nicht gemessen; für den Preisvergleich ist es das passendste Angebot am Markt.

Für eine typische Anfrage unserer Messreihe (10’000 Tokens Eingabe, 2’000 Ausgabe) heisst das: 90 Rappen für tausend Anfragen. Das ist der Vergleichspreis. Wer selbst hostet, vergleicht sich mit einem Angebot, bei dem eine einzelne Anfrage einen Zehntelrappen kostet und die Datenhaltung in der Schweiz bereits inbegriffen ist.

Was die eigene Maschine kostet

Die Anschaffung kennen Sie aus dem ersten Teil: rund 8’450 Franken für zwei RTX 4090, Prozessor, 128 GB Arbeitsspeicher und den Rest der Stückliste.

Den Strom haben wir gemessen. Unter Volllast zogen beide Karten zusammen 405.7 Watt, im Leerlauf 28 Watt. Mit dem geschätzten Zuschlag für Prozessor und Board rechnen wir mit 520 Watt unter Last und 130 Watt im Leerlauf. Beim Zürcher Hochtarif von 27.65 Rappen je Kilowattstunde (exkl. MwSt.) kostet der Strom gut 6 Rappen je Million erzeugter Tokens.

Der Strom ist damit ein Nebenposten. Ein Volllast-Tag kostet 3.45 Franken Strom, die Anschaffung auf zwei Jahre verteilt dagegen 11.58 Franken pro Tag. Den grössten Teil der Kosten macht die Abschreibung aus, und sie läuft auch, wenn niemand eine Anfrage stellt.

Die Rechnung, an der alles hängt

Die Tabelle rechnet mit dem MoE-Modell, weil es in der Messreihe den höchsten Durchsatz erreicht: Bei voller Auslastung liefert die Maschine damit 633 Tokens pro Sekunde, das sind gut 27’000 Anfragen pro Tag. Es erreicht Index 32.1 (zwischen GPT-5 mini und GPT-5). Das Modell auf GPT-5.1-Niveau aus dem ersten Teil schafft nur 240 Tokens pro Sekunde, und mit ihm gibt es gar keinen Break-even: Selbst Dauervolllast bliebe teurer als der Anbieter. Die Tageskosten (Anschaffung anteilig plus Strom) verteilen sich auf so viele Anfragen, wie tatsächlich gestellt werden. Die Tabelle zeigt, wie stark die Auslastung den Preis je Anfrage verändert:

Auslastung	CHF je 1’000 Anfragen (2 Jahre)	(3 Jahre)	gegen Infomaniak (0.90)
10 %	4.64	3.23	5.2x bzw. 3.6x teurer
30 %	1.61	1.14	1.8x bzw. 1.3x teurer
60 %	0.85	0.62	günstiger
100 %	0.55	0.41	klar günstiger

Der Break-even liegt über zwei Jahre bei 57 Prozent Auslastung, über drei Jahre bei 39. In Stunden übersetzt: Die Karten müssten 14 beziehungsweise 9 Stunden pro Tag unter Volllast rechnen, jeden Tag, auch am Wochenende.

Was Auslastung im Büro wirklich heisst

Was das für ein Büro bedeutet, lässt sich nachrechnen. Ein Betrieb mit zwanzig bis dreissig Mitarbeitenden nutzt die Maschine während 40 der 168 Wochenstunden, und in diesen Stunden ist im Mittel vielleicht die Hälfte der Kapazität belegt. Das ergibt 12 Prozent; wir runden ab auf 10 Prozent Auslastung. Nachts und am Wochenende laufen die Abschreibungskosten weiter, ohne dass Anfragen kommen.

Bei 10 Prozent kostet die eigene Maschine das Fünffache des Anbieters. In Franken: rund 310 pro Monat mehr, als dieselben Anfragen bei Infomaniak kosten würden.

In dieser Rechnung fehlt absichtlich der grösste Posten. Die Person, die die Maschine betreibt, aktualisiert und am Freitagabend wieder zum Laufen bringt, steht in keiner Stückliste. Jede Stunde, die sie braucht, verschiebt den Vergleich weiter zugunsten des Anbieters.

Wie sich der Break-even verschieben lässt

Die Rechnung ist kein Naturgesetz, an zwei Stellschrauben lässt sie sich bewegen.

Nachtarbeit hebt die Auslastung. Die teuerste Eigenschaft der Maschine sind ihre ungenutzten Stunden. Wer nachts Aufträge im Stapel abarbeiten lässt, also Verträge prüfen, Akten erschliessen, Berichte vorbereiten, nutzt den Leerlauf für Anfragen. Der Extremfall aus Teil 1 passt genau hierhin: Das 284-Milliarden-Modell ist zu langsam für den Bildschirm und ideal für die Nacht. Eine Maschine, die tagsüber dem Team antwortet und nachts den Aktenbestand abarbeitet, erreicht eine höhere Auslastung und liegt damit näher am Break-even. Da unsere Rechnung durchgehend den Hochtarif ansetzt, kostet der Nachtstrom ausserdem weniger als berechnet.

Ein längerer Abschreibungshorizont senkt die Tageskosten. Über drei Jahre statt zwei fällt der Break-even von 57 auf 39 Prozent. Der Gegenposten: Drei Jahre sind in dieser Technologie lang. Die RTX 4090 unserer Liste wurde nach gut zwei Jahren durch eine Nachfolgerin mit einem Drittel mehr Speicher ersetzt, und die Modellqualität je Grössenklasse steigt laufend. Wer länger abschreibt, wettet darauf, dass die heutige Maschine auch übermorgen genügt.

Wann die eigene Maschine trotzdem richtig ist

Nach allen Zahlen bleiben Gründe, die keine Kostenrechnung erfasst, und gekauft wird in der Praxis ihretwegen:

• Es gibt Daten, die den eigenen Betrieb nicht verlassen dürfen, egal was ein Vertrag verspricht.
• Beim Berufsgeheimnis?Berufs- und AmtsgeheimnisDie strafrechtlich geschützte Schweigepflicht von Behörden (Amtsgeheimnis, Art. 320 StGB) und einer im Gesetz aufgezählten Reihe von Berufen (Art. 321 StGB), etwa Anwältinnen, Ärzte und Apothekerinnen. Sie gilt unabhängig vom Datenschutz und reicht weiter. Das Bankgeheimnis steht separat im Bankengesetz. bedeutet schon die Prüfung der Anbieterverträge Aufwand und Restrisiko.
• Die eigene Maschine macht unabhängig von Preiserhöhungen, Modellabschaltungen und Vertragsänderungen, wie sie die Anbieter-Serie dokumentiert.
• Die Maschine tut morgen noch genau das, was sie heute tut.

Wer aus diesen Gründen kauft, kauft richtig, und weiss jetzt, was es kostet. Wer nur sparen will, bleibt beim Schweizer Anbieter besser bedient.

So rechnen Sie Ihren Fall

Mit diesen vier Schritten stellen Sie die Rechnung für Ihren Betrieb auf:

1. 01

   Ihre Anfragen zählen

   Wie viele KI-Anfragen stellt Ihr Betrieb heute pro Tag, und wie lang sind sie? Wer noch keine KI nutzt, startet mit einem Monat API-Bezug und liest die Zahl aus der Abrechnung ab, statt sie zu schätzen.

2. 02

   Die Auslastung daraus ableiten

   Teilen Sie die Tagesanfragen durch die Tageskapazität der Wunschmaschine (Anfragen pro Tag bei Volllast). Liegt das Ergebnis unter einem Drittel, rechnet sich der Kauf bei den heutigen Schweizer Anbieterpreisen nicht.

3. 03

   Nachtlast suchen, bevor Sie kaufen

   Gibt es Stapelarbeit, die heute liegen bleibt? Aktenbestände, Archive, wiederkehrende Berichte? Sie hebt die Auslastung am stärksten.

4. 04

   Den Betrieb vollständig budgetieren

   Wer hält die Maschine am Laufen, und was kostet diese Zeit? Erst mit dieser Zeile ist der Vergleich mit dem Anbieterpreis vollständig.

Damit schliesst die Serie. Die Teile eins bis vier liefern die Grundlagen dieser Rechnung: die Maschine, die Speicherauslegung, die Quantisierung und die Engines, jeweils mit allen Messwerten.

Schon mit dem Gedanken gespielt, für KI eine eigene Maschine anzuschaffen? Alle Daten im eigenen Betrieb, niemand liest mit, und erst noch Kosten sparen?

Wir haben durchgerechnet, was das finanziell heisst, und zwar gegen einen souveränen Schweizer Anbieter statt gegen eine US-Cloud. Bei Infomaniak, einem Schweizer Hoster, kosten tausend Anfragen an ein 30-Milliarden-Modell (10'000 Tokens Eingabe, 2'000 Ausgabe) 90 Rappen, mit Daten in Genf und Zürich.

Die eigene Maschine dagegen: 8'450 Franken Hardware, 520 Watt unter Volllast (die Grafikkarten gemessen, der Rest geschätzt), Zürcher Hochtarif des Stromversorgers ewz. Ab 57 Prozent Auslastung (dem Anteil der möglichen Anfragen, den die Maschine bearbeitet), also 14 Stunden Volllast pro Tag, wird die eigene Maschine über zwei Jahre günstiger als der Anbieter (Break-even). Ein normaler Bürobetrieb liegt bei rund 10 Prozent und zahlt damit etwa 310 Franken im Monat mehr. Der Strom fällt dabei kaum ins Gewicht (gut 6 Rappen je Million Tokens), es dominiert die Anschaffung.

Gespart ist also nichts. Die eigene Maschine ist ein bezifferbarer Aufpreis dafür, dass kein Byte den eigenen Betrieb verlässt, und für die meisten Betriebe fällt er kleiner aus als erwartet.

Im Beitrag steht die ganze Rechnung zum Nachrechnen: beide Abschreibungshorizonte, die Auslastungskurven und was bewusst nicht enthalten ist, nämlich die Person, die den Betrieb macht. Link in den Kommentaren.

#KI #Datensouveränität #Kosten #Schweiz