Souveräne KI-Infrastruktur: warum das Modell der einfachste Teil ist

Was Infrastruktur bei KI wirklich ist

Wenn KI Fragen aus Ihren eigenen Dokumenten beantworten soll, braucht sie mehr als ein Sprachmodell. Dazu gehören Dienste, die Ihre Daten aufbereiten: OCR (Texterkennung) liest Scans als Text, Transkription verschriftlicht Audio, ein Embedding-Modell übersetzt Text in Zahlenreihen für die Suche. Das Sprachmodell tauschen Sie an einem Nachmittag. Wechseln Sie das Embedding-Modell, müssen Sie alle Dokumente neu einlesen.

Das Wichtigste in Kürze

• Vergleichen Sie Anbieter danach, wie viel der Datenaufbereitung sie für Sie übernehmen: Dokumente einlesen, in Vektoren umwandeln und speichern. Je mehr der Anbieter übernimmt, desto aufwendiger wird später ein Wechsel. Gerade das bequemste Angebot bindet Sie deshalb am stärksten.
• Setzen Sie beim Embedding?EmbeddingDie Umwandlung eines Textes in eine Liste von Zahlen (einen Vektor), die seine Bedeutung erfasst. Suche und RAG vergleichen diese Vektoren. Wichtig: Dokumente und Suchanfragen müssen mit demselben Modell umgewandelt werden, sonst passen die Vektoren nicht zusammen.-Modell und bei OCR?OCROptical Character Recognition: die Umwandlung von Dokumenten und Scans (PDF, Bilder) in maschinenlesbaren, strukturierten Text. Der erste und oft schwierigste Schritt, um eigene Dokumente für KI nutzbar zu machen. auf offene Modelle, die Sie auch selbst betreiben können. Nur dann können Sie den Anbieter später wechseln.
• Wählen Sie einen Hoster, der alle Modelle der Datenaufbereitung in Europa betreibt. Führt ein Hoster nur Sprachmodelle, müssen Sie für Embeddings und OCR auf eine US-API ausweichen. Stand Juli 2026 bietet in der Schweiz nur PHOENIQS/kvant, ein Hoster für offene KI-Modelle, den vollständigen Satz an.
• Beim Sprachmodell genügt der Blick auf Leistung und Betriebskosten, denn diese Entscheidung lässt sich am leichtesten korrigieren.

Die öffentliche Debatte dreht sich fast nur um Sprachmodelle, also um KI wie ChatGPT, die Texte versteht und formuliert. Für ein Unternehmen ist das Sprachmodell aber nur der letzte Schritt einer längeren Kette.

Dies ist der dritte Teil unserer Serie über souveräne KI. Er behandelt die unterste von drei Ebenen, auf der Ihre Daten aufbereitet werden.

Das Modell kennt Ihre Dokumente nicht

Ein Sprachmodell ist auf dem öffentlichen Internet trainiert. Von Ihrem Unternehmen weiss es nichts: Ihre Verträge hat es nie gesehen, Ihre Offerten und Sitzungsprotokolle ebenso wenig. Wer KI im Betrieb einsetzt, will aber genau das: Antworten aus den eigenen Dokumenten.

Diese Dokumente liegen als PDF vor, als Office-Dateien, als eingescannte Verträge, als Aufnahmen von Sitzungen. Damit ein Sprachmodell sie nutzen kann, müssen sie zuerst in durchsuchbaren Text verwandelt werden. Dafür sorgt die übrige Infrastruktur: Ein OCR-Modell macht Dokumente und Scans lesbar, Transkription verschriftlicht Audio, ein Embedding-Modell macht den Text durchsuchbar, eine Vektordatenbank legt ihn ab, und erst am Ende formuliert das Sprachmodell aus den passenden Abschnitten eine Antwort.

Dieses Zusammenspiel heisst RAG, Retrieval-Augmented Generation, und läuft in zwei Phasen. Einmalig lesen Sie Ihre Dokumente ein und legen sie durchsuchbar ab. Danach durchläuft jede Frage die zweite Phase, von der Suche über die passenden Abschnitte bis zur belegten Antwort.

Jede dieser Stationen ist eine eigene Entscheidung, mit eigenen Anbietern und eigenen Folgen für die Souveränität. Wer nur auf das Sprachmodell schaut, übersieht den grössten Teil davon. Beginnen wir deshalb bei der Frage, wie ein Unternehmen KI überhaupt bezieht.

Wie Unternehmen KI beziehen

Wie souverän eine Lösung wird, hängt vor allem davon ab, wie viel Arbeit der Anbieter übernimmt. Wo der Anbieter für Sie arbeitet, behält er anschliessend auch die Kontrolle. Vier Bezugswege, von der grössten Bequemlichkeit zur grössten Kontrolle:

Weg	Anbieter	Was Sie bekommen	Datenaufbereitung
Suite mit KI über Ihre Daten	Microsoft, Google, Infomaniak	fertige Apps plus KI darauf	der Anbieter, in seinem Speicher
KI-Plattform mit Ingestion	OpenAI, Mistral	Komponenten plus verwaltete Ablage	der Anbieter, in seiner Cloud
Cloud mit Modell-APIs	OVHcloud	Modelle als Dienst, Pipeline bauen Sie	Sie selbst
Offene Modelle, selbst betrieben	Scaleway, PHOENIQS, On-Prem	offene Modelle, volle Kontrolle	Sie selbst

Am bequemsten sind die Suiten. Microsoft und Google beherrschen die Unternehmens-KI, weil Ihre Dokumente und Mails längst bei ihnen liegen. Copilot durchsucht SharePoint und OneDrive↗Anbieter im Datenschutz-Check · Teil 4Microsoft Copilot sicher nutzen: Was der Datenschutz erlaubtMicrosoft regelt die Verträge fast lückenlos, ausser bei der Websuche. Was Schweizer Firmen an Copilot und Azure OpenAI prüfen müssen.Beitrag lesen, Gemini den Google Drive; die KI liest die Daten, die Sie ohnehin dort halten. Infomaniak gehört in dieselbe Kategorie, mit Schweizer Infrastruktur: Euria durchsucht die Dateien in Ihrem kDrive und läuft auf offenen Modellen in der Schweiz. Es ist ein Hosting-Anbieter mit integrierter KI, kein auf KI spezialisiertes Unternehmen.

Die nächste Kategorie sind die KI-Plattformen, deren eigentliches Produkt die KI ist. OpenAI und, als europäische Antwort, Mistral geben Ihnen die Komponenten über eine Schnittstelle und bieten an, Ihre Dokumente hochzuladen, einzulesen und durchsuchbar zu machen. Mistral deckt dabei die ganze Breite ab: eigener Assistent (Le Chat), Plattform (AI Studio), OCR, Transkription, Embeddings und On-Premise-Betrieb. Ein souveräner Anbieter kann demnach mit den US-Konzernen mithalten, vom Assistenten bis zur Schnittstelle.

Es folgen die Cloud-Anbieter wie OVHcloud, deren Kerngeschäft die Infrastruktur ist und die KI-Modelle als zusätzlichen Dienst anbieten. Am weitesten geht, wer nur offene Modelle betreibt: bei Scaleway, bei einem Schweizer Anbieter wie PHOENIQS oder auf eigener Hardware. Je eigenständiger der Betrieb, desto mehr richten Sie selbst ein, und desto weniger kann Ihnen ein Anbieter später entziehen.

Wo der Lock-in wirklich sitzt

Das Sprachmodell ist die am leichtesten austauschbare Komponente. Die Anweisung an das Modell, der Prompt, bleibt dieselbe, und dasselbe offene Modell läuft bei einem Dutzend Anbietern.

Die Bindung entsteht bei den Modellen, die Ihre Daten verarbeiten. Für Suche und RAG wandeln Sie Ihre gesamte Wissensbasis mit einem bestimmten Embedding-Modell in Vektoren um, also in Zahlenreihen, die die Bedeutung eines Textabschnitts abbilden. Dokumente und Suchanfragen müssen dasselbe Modell verwenden, sonst passen die Vektoren nicht zusammen. Das Embedding-Modell legt damit fest, wie Ihr gesamter Datenbestand aufgebaut ist. Wechseln Sie es, müssen Sie jedes Dokument neu einlesen und neu indexieren, denn die Vektoren des einen Modells sind für das andere bedeutungslos.

Entsprechend bereitwillig bieten OpenAI, Google und Mistral an, Ihre Dokumente für Sie einzulesen und abzulegen. Bei OpenAI liegt die Wissensbasis anschliessend in deren Vektordatenbank, abgerechnet pro Gigabyte und Tag. Bei Google übernimmt die RAG-Engine das Einlesen, Zerlegen und Einbetten. Das ist bequem, und genau hier entsteht die stärkste Bindung: Der eingelesene, eingebettete und gespeicherte Datenbestand liegt im Vektorraum und in der Ablage eines Anbieters, und ein Wechsel bedeutet den vollständigen Neuaufbau.

Die zweite anspruchsvolle Komponente ist die Aufbereitung selbst. Saubere, strukturierte Daten aus echten Dokumenten zu gewinnen, aus Schweizer PDF-Dokumenten, Scans, Tabellen und drei Landessprachen, ist die eigentliche Ingenieursarbeit. Die Pipeline dahinter wird auf das Ausgabeformat eines bestimmten OCR-Dienstes zugeschnitten und lässt sich danach ebenso schwer ersetzen.

Souveränität auf dieser Ebene bedeutet deshalb vor allem, die Modelle, die Ihre Daten verarbeiten, also Embeddings und OCR, offen zu halten und bei Bedarf selbst betreiben zu können.

Das Modell auswählen

Bleibt die Frage, die die meisten zuerst stellen: Welches Sprachmodell? Sie ist wichtig, doch die Entscheidung lässt sich am leichtesten korrigieren. Für den Start genügen zwei Anhaltspunkte. Für die Leistung ordnet der unabhängige Intelligence Index von Artificial Analysis die Modelle anhand standardisierter Tests nach Fähigkeit, offene und geschlossene Modelle gemeinsam. Für die Kosten gilt, was wir im Beitrag zu LLM-Kosten durchgerechnet haben: Das billigste Modell der Preisliste ist selten das günstigste im Betrieb, weil der Tokenverbrauch pro Aufgabe je nach Modell variiert.

Entscheidend für die Souveränität ist, dass das Modell offene Gewichte?Open WeightModelle, deren Gewichte öffentlich verfügbar sind und selbst gehostet werden dürfen (z.B. Apertus, DeepSeek, Llama). Voraussetzung für souveränen Betrieb ohne Anbieterbindung. hat, die trainierten Parameter also veröffentlicht sind. Dann können Sie es bei mehreren Hostern betreiben, deren Preise vergleichen und wechseln, wann Sie wollen.

Den Hoster wählen

Wer souverän werden will, wählt einen Hoster, der offene Modelle betreibt. Dabei lohnt die Frage, wer alle Modelle, die Ihre Daten verarbeiten, auf europäischem oder Schweizer Boden anbietet. Führt ein Hoster nur Sprachmodelle und müssen Sie für Embeddings oder OCR auf eine US-API ausweichen, geht die Souveränität an der wichtigsten Stelle wieder verloren.

Kennzahl

sechs Modellklassen

Quelle: PHOENIQS Model-as-a-Service, Katalog Stand Juli 2026

Die europäischen Anbieter decken diese Modellarten unterschiedlich weit ab. OVHcloud führt über vierzig offene Modelle samt Transkription, Embeddings und Bildmodellen. Scaleway betreibt Sprachmodelle, Vision und Embeddings auf souveräner Infrastruktur in Paris. Infomaniak bietet dieselben Modelle über eine OpenAI-kompatible API aus der Schweiz, sodass sich bestehende Software leicht umstellen lässt. Und PHOENIQS zeigt, dass ein Schweizer Anbieter alle Modelle für die Datenaufbereitung offen betreiben kann, OCR und Embeddings eingeschlossen.

Die grösste Kontrolle bietet das Selbst-Betreiben offener Modelle auf einer eigenen oder gemieteten GPU (Grafikprozessor). Das ist ein Thema für sich, dem wir einen eigenen Beitrag widmen↗Lokale Inferenz · Teil 1LLM selbst hosten: GPT-5-Niveau für 8'500 FrankenEin Rechner mit zwei Grafikkarten (RTX 4090), rund 8'500 Franken, drei Wochen Messungen. Welche Aufgaben eine eigene Maschine übernimmt, welche nicht, und wo die Grenze verläuft.Beitrag lesen: Die Einrichtung ist anspruchsvoll, der laufende Betrieb danach aber wenig aufwendig.

Nicht in Isolation entscheiden

Noch ein Hinweis zur Reihenfolge: Die Modelle hängen mit der Plattform zusammen, also der Software, in der Ihr Team mit der KI arbeitet. Sie verlangt eine bestimmte Schnittstelle und oft ein passendes Embedding-Modell und gibt damit einen Teil der Infrastruktur vor. Deshalb bleiben wir hier bei Modell und Datenaufbereitung und behandeln die Plattform im nächsten Beitrag dieser Serie.

Was das für Ihr Unternehmen heisst

Souveräne Infrastruktur liefert genauso gute KI. Sie setzen die einzelnen Komponenten selbst zusammen und mieten keine fertige, geschlossene Lösung. Das Sprachmodell ist dabei der einfache Teil. Die Sorgfalt gehört den Modellen, die Ihre Daten verarbeiten, und der Frage, ob Sie Daten und Modelle im Ernstfall zu einem anderen Anbieter mitnehmen können.

Über der Infrastruktur liegt die Ebene, auf der Ihr Team täglich arbeitet. Ihr widmet sich der nächste Teil der Serie, bevor der letzte zur Integrationsebene kommt.

Beim KI-Einkauf vergleichen die meisten das Sprachmodell. Wissen Sie, welches Modell Ihre Dokumente einliest und in Vektoren (Zahlenreihen für die Suche) übersetzt?

Bei den Embeddings entsteht die Abhängigkeit, und bei Embeddings und OCR ist das europäische Angebot dünn: Wer Embeddings oder OCR braucht, weicht schnell auf eine US-API aus und verliert die Souveränität an der Stelle, an der die eigenen Daten verarbeitet werden.

Der Blick in die Kataloge (Stand Juli 2026) zeigt das Muster: Ein Sprachmodell hat jeder Anbieter. Beim Rest wird es lückenhaft. Infomaniak bietet kein OCR, Scaleway keine Transkription, OVHcloud OCR nur teils. Einen kompletten Satz aus sechs Modellklassen liefert in der Schweiz heute der Hoster PHOENIQS/kvant, mit offenen Modellen wie Apertus 70B (Sprache), MinerU (OCR), BGE-M3 (Embeddings) und Whisper (Transkription).

Unser Schluss: Das Sprachmodell tauschen Sie an einem Nachmittag. Die Sorgfalt gehört dem Embedding-Modell. Bei einem Wechsel müssen Sie jedes Dokument neu einlesen und neu indexieren, weil die Vektoren des einen Modells für das andere bedeutungslos sind.

Im Beitrag stehen die Anbietermatrix mit sieben Zeilen, die Kette von der Dokumentensuche bis zur Antwort (RAG) Schritt für Schritt und sieben Fragen an Ihren KI-Hoster. Link in den Kommentaren.

#KI #Datensouveränität #RAG #Schweiz