Souveräne KI-Infrastruktur: die Bausteine im Überblick

Wer KI im eigenen Unternehmen aufbaut, denkt zuerst an das Sprachmodell. Doch auch die Modelle, die Dokumente einlesen und durchsuchbar machen, hängen an einem Anbieter. Sie erfahren, welche Bausteine zur Infrastruktur gehören, wie Sie Modell und Hoster wählen und welche Fragen Sie einem Hoster dazu stellen.

Infrastruktur · Veröffentlicht 14.07.2026 · Aktualisiert 21.10.2026 · Joel Barmettler

Was Infrastruktur bei KI wirklich ist

Das Sprachmodell Ihrer KI tauschen Sie an einem Nachmittag aus. Wechseln Sie dagegen das Embedding-Modell, das Ihre Texte für die Suche in Zahlenreihen übersetzt, müssen Sie alle Dokumente neu einlesen. Soll KI Fragen aus Ihren eigenen Dokumenten beantworten, braucht sie weitere Dienste: OCR (Texterkennung) liest Scans als Text, Transkription verschriftlicht Audio.

Die öffentliche Debatte dreht sich fast nur um Sprachmodelle, also um KI wie ChatGPT, die Texte versteht und formuliert. Für ein Unternehmen ist das Sprachmodell aber nur der letzte Schritt einer längeren Kette.

Dies ist der dritte Teil unserer Serie über souveräne KI. Er behandelt die unterste von drei Ebenen, auf der Ihre Daten aufbereitet werden.

Das Modell kennt Ihre Dokumente nicht

Ein Sprachmodell ist auf dem öffentlichen Internet trainiert. Von Ihrem Unternehmen weiss es nichts: Ihre Verträge hat es nie gesehen, Ihre Offerten und Sitzungsprotokolle ebenso wenig. Wer KI im Betrieb einsetzt, will aber genau das: Antworten aus den eigenen Dokumenten.

Diese Dokumente liegen als PDF vor, als Office-Dateien, als eingescannte Verträge, als Aufnahmen von Sitzungen. Damit ein Sprachmodell sie nutzen kann, müssen sie zuerst in durchsuchbaren Text verwandelt werden. Dafür sorgt die übrige Infrastruktur: Ein OCR-Modell macht Dokumente und Scans lesbar, Transkription verschriftlicht Audio, ein Embedding-Modell macht den Text durchsuchbar, eine Vektordatenbank legt ihn ab und erst am Ende formuliert das Sprachmodell aus den passenden Abschnitten eine Antwort.

Dieses Zusammenspiel heisst RAG (Retrieval-Augmented Generation) und läuft in zwei Phasen. Einmalig lesen Sie Ihre Dokumente ein und legen sie durchsuchbar ab. Danach durchläuft jede Frage die zweite Phase, von der Suche über die passenden Abschnitte bis zur belegten Antwort.

Indexierung Abfrage dasselbe Modell durchsucht Eingabe Dokumente PDF · Office · Audio Modell OCR & Transkription Modell Embedding Speicher Vektor- datenbank Nutzerfrage Eingabe Embedding Modell Ähnlichkeits- suche Schritt Reranking Modell Sprachmodell Modell Antwort Ergebnis
Eine RAG-Pipeline als Graph. Oben wird Ihr Wissen einmalig aufbereitet und in der Vektordatenbank abgelegt, unten durchläuft jede Frage die Suche bis zur belegten Antwort. Die Datenbank verbindet beide Zweige. Das Embedding-Modell ist in beiden dasselbe. Vier der Stationen sind eigene KI-Modelle, das Sprachmodell am Ende ist nur eines davon.

Jede dieser Stationen ist eine eigene Entscheidung, mit eigenen Anbietern und eigenen Folgen für die Souveränität. Wer nur auf das Sprachmodell schaut, übersieht den grössten Teil der Kette. Beginnen wir deshalb bei der Frage, wie ein Unternehmen KI überhaupt bezieht.

Wie Unternehmen KI beziehen

Wie souverän eine Lösung wird, hängt vor allem davon ab, wie viel Arbeit der Anbieter übernimmt. Wo der Anbieter für Sie arbeitet, behält er anschliessend auch die Kontrolle. Vier Bezugswege, von der grössten Bequemlichkeit zur grössten Kontrolle:

WegAnbieterWas Sie bekommenDatenaufbereitung
Suite mit KI über Ihre DatenMicrosoft, Google, Infomaniakfertige Apps plus KI daraufder Anbieter, in seinem Speicher
KI-Plattform mit IngestionOpenAI, MistralKomponenten plus verwaltete Ablageder Anbieter, in seiner Cloud
Cloud mit Modell-APIsOVHcloudModelle als Dienst, Pipeline bauen SieSie selbst
Offene Modelle, selbst betriebenScaleway, PHOENIQS, On-Premoffene Modelle, volle KontrolleSie selbst

Am bequemsten sind die Suiten. Microsoft und Google beherrschen die Unternehmens-KI, weil Ihre Dokumente und Mails längst bei ihnen liegen. Copilot durchsucht SharePoint und OneDrive, Gemini den Google Drive; die KI liest die Daten, die Sie ohnehin dort halten. Infomaniak gehört in dieselbe Kategorie, mit Schweizer Infrastruktur: Euria durchsucht die Dateien in Ihrem kDrive und läuft auf offenen Modellen in der Schweiz. Infomaniak ist ein Hosting-Anbieter mit integrierter KI, kein auf KI spezialisiertes Unternehmen.

Die nächste Kategorie sind die KI-Plattformen, deren eigentliches Produkt die KI ist. OpenAI und, als europäische Antwort, Mistral geben Ihnen die Komponenten über eine Schnittstelle und bieten an, Ihre Dokumente hochzuladen, einzulesen und durchsuchbar zu machen. Mistral deckt dabei die ganze Breite ab: eigener Assistent (Le Chat), Plattform (AI Studio), OCR, Transkription, Embeddings und On-Premise-Betrieb. Ein souveräner Anbieter kann demnach mit den US-Konzernen mithalten, vom Assistenten bis zur Schnittstelle.

Es folgen die Cloud-Anbieter wie OVHcloud, deren Kerngeschäft die Infrastruktur ist und die KI-Modelle als zusätzlichen Dienst anbieten. Am weitesten geht, wer nur offene Modelle betreibt: bei Scaleway, bei einem Schweizer Anbieter wie PHOENIQS oder auf eigener Hardware. Je eigenständiger der Betrieb, desto mehr richten Sie selbst ein und desto weniger kann Ihnen ein Anbieter später entziehen.

Wo der Lock-in wirklich sitzt

Das Sprachmodell ist die am leichtesten austauschbare Komponente. Die Anweisung an das Modell, der Prompt, bleibt dieselbe und dasselbe offene Modell läuft bei einem Dutzend Anbietern.

Die Bindung entsteht bei den Modellen, die Ihre Daten verarbeiten. Für Suche und RAG wandeln Sie Ihre gesamte Wissensbasis mit einem bestimmten Embedding-Modell in Vektoren um, also in Zahlenreihen, die die Bedeutung eines Textabschnitts abbilden. Dokumente und Suchanfragen müssen dasselbe Modell verwenden, sonst passen die Vektoren nicht zusammen. Das Embedding-Modell legt damit fest, wie Ihr gesamter Datenbestand aufgebaut ist. Wechseln Sie es, müssen Sie jedes Dokument neu einlesen und neu indexieren, denn die Vektoren des einen Modells sind für das andere bedeutungslos.

Indexierung Abfrage dasselbe Modell durchsucht Eingabe Dokumente PDF · Office · Audio Modell OCR & Transkription Modell Embedding Speicher Vektor- datenbank Nutzerfrage Eingabe Embedding Modell Ähnlichkeits- suche Schritt Reranking Modell Sprachmodell Modell Antwort Ergebnis
Hervorgehoben: das Embedding-Modell. Es kommt zweimal vor, bei der Indexierung und bei jeder Frage. Beide Male muss es dasselbe sein. Ein Wechsel entwertet die gesamte Vektordatenbank.

Darum bieten OpenAI, Google und Mistral an, Ihre Dokumente für Sie einzulesen und abzulegen. Bei OpenAI liegt die Wissensbasis anschliessend in deren Vektordatenbank, abgerechnet pro Gigabyte und Tag. Bei Google übernimmt die RAG-Engine das Einlesen, Zerlegen und Einbetten. Das ist bequem. Genau hier entsteht die stärkste Bindung: Der eingelesene, eingebettete und gespeicherte Datenbestand liegt im Vektorraum und in der Ablage eines Anbieters. Ein Wechsel bedeutet den vollständigen Neuaufbau.

Die zweite anspruchsvolle Komponente ist die Aufbereitung selbst. Saubere, strukturierte Daten aus echten Dokumenten zu gewinnen, aus Schweizer PDF-Dokumenten, Scans, Tabellen und drei Landessprachen, ist die eigentliche Ingenieursarbeit. Die Pipeline dahinter wird auf das Ausgabeformat eines bestimmten OCR-Dienstes zugeschnitten und lässt sich danach ebenso schwer ersetzen.

Indexierung Abfrage dasselbe Modell durchsucht Eingabe Dokumente PDF · Office · Audio Modell OCR & Transkription Modell Embedding Speicher Vektor- datenbank Nutzerfrage Eingabe Embedding Modell Ähnlichkeits- suche Schritt Reranking Modell Sprachmodell Modell Antwort Ergebnis
Hervorgehoben: OCR und Transkription am Anfang der Kette. Ihr Ausgabeformat legt Sie auf einen Anbieter fest und prägt alles, was danach folgt.

Souveränität auf dieser Ebene bedeutet deshalb vor allem, die Modelle, die Ihre Daten verarbeiten, also Embeddings und OCR, offen zu halten und bei Bedarf selbst betreiben zu können.

Das Modell auswählen

Bleibt die Frage, die die meisten zuerst stellen: Welches Sprachmodell? Sie ist wichtig, doch die Entscheidung lässt sich am leichtesten korrigieren. Für den Start genügen zwei Anhaltspunkte. Für die Leistung ordnet der unabhängige Intelligence Index von Artificial Analysis die Modelle anhand standardisierter Tests nach Fähigkeit, offene und geschlossene Modelle gemeinsam. Für die Kosten gilt, was wir im Beitrag zu LLM-Kosten durchgerechnet haben: Das billigste Modell der Preisliste ist selten das günstigste im Betrieb, weil der Tokenverbrauch pro Aufgabe je nach Modell variiert.

Entscheidend für die Souveränität ist, dass das Modell offene Gewichte hat, die trainierten Parameter also veröffentlicht sind. Dann können Sie es bei mehreren Hostern betreiben, deren Preise vergleichen und wechseln, wann Sie wollen.

Den Hoster wählen

Wer souverän werden will, wählt einen Hoster, der offene Modelle betreibt. Entscheidend ist, wer alle Modelle, die Ihre Daten verarbeiten, auf europäischem oder Schweizer Boden anbietet. Führt ein Hoster nur Sprachmodelle und müssen Sie für Embeddings oder OCR auf eine US-API ausweichen, geht die Souveränität an der wichtigsten Stelle wieder verloren.

Kennzahl

sechs Modellklassen
Ein einziger Schweizer Anbieter, PHOENIQS/kvant, betreibt heute Sprachmodelle, OCR, Embeddings, Reranker (ordnet Suchtreffer nach Relevanz), Transkription und Vision (Bildverstehen), alle als offene Modelle auf Schweizer Servern (u.a. Apertus 70B, MinerU, BGE-M3, Whisper).

Quelle: PHOENIQS Model-as-a-Service, Katalog Stand Juli 2026

Indexierung Abfrage dasselbe Modell durchsucht Eingabe Dokumente PDF · Office · Audio Modell OCR & Transkription Modell Embedding Speicher Vektor- datenbank Nutzerfrage Eingabe Embedding Modell Ähnlichkeits- suche Schritt Reranking Modell Sprachmodell Modell Antwort Ergebnis
Vier Modellarten stecken in der Pipeline (rot): OCR und Transkription, Embedding, Reranking, Sprachmodell. Ein souveräner Hoster muss alle vier anbieten, auch die Modelle vor dem Sprachmodell.

Die europäischen Anbieter decken diese Modellarten unterschiedlich weit ab. OVHcloud führt über vierzig offene Modelle samt Transkription, Embeddings und Bildmodellen. Scaleway betreibt Sprachmodelle, Vision und Embeddings auf souveräner Infrastruktur in Paris. Infomaniak bietet dieselben Modelle über eine OpenAI-kompatible API aus der Schweiz, sodass sich bestehende Software leicht umstellen lässt. Und PHOENIQS zeigt, dass ein Schweizer Anbieter alle Modelle für die Datenaufbereitung offen betreiben kann, OCR und Embeddings eingeschlossen.[1]

Die grösste Kontrolle bietet das Selbst-Betreiben offener Modelle auf einer eigenen oder gemieteten GPU (Grafikprozessor). Das ist ein Thema für sich, dem wir einen eigenen Beitrag widmen: Die Einrichtung ist anspruchsvoll, der laufende Betrieb danach aber wenig aufwendig.

Nicht in Isolation entscheiden

Noch ein Hinweis zur Reihenfolge: Die Modelle hängen mit der Plattform zusammen, also der Software, in der Ihr Team mit der KI arbeitet. Sie verlangt eine bestimmte Schnittstelle und oft ein passendes Embedding-Modell und gibt damit einen Teil der Infrastruktur vor. Deshalb bleiben wir hier bei Modell und Datenaufbereitung und behandeln die Plattform im nächsten Beitrag dieser Serie.

Was das für Ihr Unternehmen heisst

Souveräne Infrastruktur liefert genauso gute KI. Sie setzen die einzelnen Komponenten selbst zusammen und mieten keine fertige, geschlossene Lösung. Das Sprachmodell ist dabei der einfache Teil. Die Sorgfalt gehört den Modellen, die Ihre Daten verarbeiten. Ebenso gehört sie der Frage, ob Sie Daten und Modelle im Ernstfall zu einem anderen Anbieter mitnehmen können.

Über der Infrastruktur liegt die Ebene, auf der Ihr Team täglich arbeitet. Dieser Ebene widmet sich der nächste Teil der Serie, bevor der letzte zur Integrationsebene kommt.

Quellen

[1]
PHOENIQS. «PHOENIQS Model-as-a-Service, Katalog Stand Juli 2026». PHOENIQS. Juli 2026. Herstellerangabe.

Für die Geschäftsleitung

Dieses Dossier als PDF

Den vollständigen Beitrag plus eine kompakte Management-Zusammenfassung und Checkliste, als PDF zum Speichern und Weiterleiten.

Sie erhalten das PDF sofort. Mit dem Absenden stimmen Sie zu, dass Souverana Sie zu diesem Thema kontaktieren darf. Verarbeitung in der Schweiz/EU, keine Weitergabe an Dritte, Widerruf jederzeit (revDSG).

Häufige Fragen

Was gehört zur KI-Infrastruktur?
Mehr als ein Sprachmodell. Zur KI-Infrastruktur gehören auch die Modelle und Dienste, die Ihre Daten aufbereiten: OCR (Texterkennung) für Dokumente, Transkription für Audio, Embeddings (Zahlenvektoren für die Suche) sowie eine Schicht für Kostenkontrolle und Zugriff. Das Sprachmodell ist dabei die am leichtesten austauschbare Komponente.
Welches KI-Modell soll ein Unternehmen wählen?
Das Modell, das die Aufgabe zum besten Preis löst. Der Intelligence Index von Artificial Analysis, einem unabhängigen Vergleichsdienst, ordnet Modelle nach Leistung. Die Betriebskosten hängen am Tokenverbrauch (der Textmenge, nach der abgerechnet wird). Ein offenes Modell mit frei verfügbaren Gewichten lässt sich bei mehreren Hostern betreiben. Sie können den Hoster jederzeit wechseln.
Wo kann ich LLMs in der Schweiz oder Europa hosten?
Als API (Programmierschnittstelle) bei europäischen Anbietern wie OVHcloud, Scaleway oder Infomaniak. Oder auf einer Schweizer Plattform, die Modelle als Dienst anbietet, etwa PHOENIQS/kvant, mit offenen Modellen samt OCR und Embeddings. Maximale Kontrolle bietet der Eigenbetrieb auf eigener oder gemieteter Hardware.
Was ist der Unterschied zwischen einer KI-Plattform und einer Integration?
Eine Integration ist KI, die in ein Produkt eingebaut ist, das Sie ohnehin nutzen (Microsoft Copilot, Google Gemini, Infomaniak Euria). Die Infrastruktur dahinter wählt der Anbieter. Eine Plattform gibt Ihnen die Komponenten über eine Schnittstelle, damit Sie Ihre eigene Lösung bauen und den Anbieter wechseln können.
Warum sind Embeddings ein Lock-in-Risiko?
Ein Embedding-Modell übersetzt Ihre Texte in Vektoren, also Zahlenreihen, die Bedeutung abbilden. Ihre ganze Wissensbasis wird in dieser Form gespeichert. Dokumente und Suchanfragen müssen dasselbe Modell verwenden. Bei einem Wechsel muss jedes Dokument neu eingelesen und indexiert werden. Ein offenes, selbst betriebenes Modell lässt Sie den Zeitpunkt dieses Neuaufbaus selbst bestimmen.

LinkedIn

Diesen Beitrag teilen

Fertig formatierte Grafiken und ein Textvorschlag für Ihren LinkedIn-Post: herunterladen, kopieren, posten.

Matrix europäischer und amerikanischer KI-Anbieter nach Modellart: Sprachmodell, OCR, Transkription, Embeddings und verwaltete Ingestion. PHOENIQS/kvant und Mistral decken den ganzen Satz, Infomaniak und Scaleway haben Lücken.

Textvorschlag

Beim KI-Einkauf vergleichen die meisten das Sprachmodell. Wissen Sie, welches Modell Ihre Dokumente einliest und für die Suche aufbereitet?

Bei den Embeddings (den Zahlenreihen für die Suche) entsteht die Abhängigkeit. Bei Embeddings und OCR ist das europäische Angebot dünn: Wer Embeddings oder OCR braucht, weicht schnell auf eine US-API aus und verliert die Souveränität an der Stelle, an der die eigenen Daten verarbeitet werden.

Der Blick in die Kataloge (Stand Juli 2026) zeigt das Muster: Ein Sprachmodell hat jeder Anbieter. Beim Rest wird es lückenhaft. Infomaniak bietet kein OCR, Scaleway keine Transkription, OVHcloud OCR nur teils. Einen kompletten Satz aus sechs Modellklassen liefert in der Schweiz heute der Hoster PHOENIQS/kvant, mit offenen Modellen wie Apertus 70B (Sprache), MinerU (OCR), BGE-M3 (Embeddings) und Whisper (Transkription).

Unser Schluss: Das Sprachmodell tauschen Sie an einem Nachmittag. Die Sorgfalt gehört dem Embedding-Modell. Bei einem Wechsel müssen Sie jedes Dokument neu einlesen und neu indexieren, weil die Vektoren des einen Modells für das andere bedeutungslos sind.

Im Beitrag stehen die Anbietermatrix mit sieben Zeilen, die Kette von der Dokumentensuche bis zur Antwort (RAG) Schritt für Schritt und sieben Fragen an Ihren KI-Hoster. Link in den Kommentaren.

#KI #Datensouveränität #RAG #Schweiz