Digitale Souveränität – Teil 2: Worauf bei offenen KI-Modellen achten
Thomas Nasswetter
Posted On 11. Oktober 2026
Digitale Souveränität, Teil 2:
Digitale Souveränität – Teil 1: Die Kontrolle behalten >>>
Worauf KMU bei offenen KI-Modellen achten sollten
KI kann Texte entwerfen, Unterlagen durchsuchen und Beschäftigte bei Routineaufgaben unterstützen. Gleichzeitig entstehen neue Abhängigkeiten. Offene Modelle können mehr Wahlfreiheit ermöglichen. Dafür müssen Unternehmen einige grundlegende Unterschiede kennen.
Ein Mitarbeiter möchte eine Kundenanfrage schneller beantworten. Er kopiert dazu die Nachricht und Teile eines Angebots in einen KI-Dienst. Wenige Sekunden später liegt ein brauchbarer Antwortentwurf vor.
Der Nutzen ist sofort sichtbar. Weniger sichtbar ist, was im Hintergrund geschieht: Wo werden die Eingaben verarbeitet? Werden sie gespeichert? Wer kann darauf zugreifen?
Bei digitaler Souveränität geht es darum, solche Fragen bewusst beantworten zu können. Im ersten Teil dieser Serie stand die Wahlfreiheit bei Software im Mittelpunkt. Bei künstlicher Intelligenz kommt hinzu, wie ein Unternehmen mit seinen Informationen umgeht und wer die verwendeten Modelle kontrolliert.
KI-Anwendung und KI-Modell sind nicht dasselbe
Um Angebote beurteilen zu können, hilft eine einfache Unterscheidung: Die KI-Anwendung ist das Werkzeug, das Sie bedienen, beispielsweise ein Chatfenster. Das KI-Modell ist die technische Grundlage, die dahinter Antworten erzeugt.
Ein Anbieter kann beides als fertigen Onlinedienst bereitstellen. Das ist bequem, weil er sich um den Betrieb kümmert. Ihr Unternehmen übernimmt dabei jedoch auch die Bedingungen und technischen Vorgaben dieses Dienstes.
Manche Modelle lassen sich herunterladen und in einer selbst gewählten Umgebung betreiben. Das kann die eigene Infrastruktur sein oder die eines beauftragten IT-Dienstleisters. Daraus entstehen zusätzliche Möglichkeiten, den Betrieb und die Datenverarbeitung zu gestalten.
Was Open Source bei KI bedeutet
Bei gewöhnlicher Open-Source-Software ist der zugängliche Quellcode ein wesentliches Merkmal. Bei KI ist die Sache komplexer: Ein Modell erhält seine Fähigkeiten durch Training mit Daten. Dabei entstehen sogenannte Modellgewichte – vereinfacht gesagt die gespeicherten Ergebnisse dieses Lernprozesses.
Werden diese Gewichte veröffentlicht, spricht man häufig von „Open Weights“. Je nach Lizenz kann das Modell dann selbst betrieben und angepasst werden. Das bedeutet aber noch nicht, dass auch der Trainingsprozess und die Herkunft der Trainingsdaten ausreichend nachvollziehbar sind.
Die Open Source Initiative geht in ihrer Definition von Open-Source-KI deshalb weiter. Sie verlangt neben entsprechenden Nutzungsrechten unter anderem den relevanten Code, die Modellparameter und detaillierte Informationen über die Trainingsdaten. Nicht sämtliche Trainingsdaten müssen dafür vollständig veröffentlicht werden. [Quelle: Open Source AI Definition 1.0](https://opensource.org/ai/open-source-ai-definition)
Für Ihren Betrieb ist vor allem wichtig: Verlassen Sie sich nicht allein auf die Werbeaussage „offene KI“. Lassen Sie sich erklären, was tatsächlich verfügbar ist und welche Rechte die konkrete Lizenz einräumt. Dazu gehört auch, ob der geplante gewerbliche Einsatz und gewünschte Anpassungen erlaubt sind.
Wie das im Betriebsalltag aussehen kann
Nehmen wir einen Handwerksbetrieb, dessen Beschäftigte regelmäßig Informationen aus Montageanleitungen und Produktunterlagen benötigen. Ein interner KI-Assistent könnte helfen, passende Stellen schneller zu finden.
Dafür muss das Unternehmen nicht zwingend ein eigenes Modell entwickeln oder aufwendig trainieren. Eine mögliche Lösung sucht zu einer Frage passende Abschnitte in den freigegebenen Unterlagen und stellt sie einem vorhandenen Modell für die Antwort zur Verfügung.
Die Beschäftigten könnten etwa fragen: „Welche Wartungsschritte sieht der Hersteller für dieses Gerät vor?“ Der Assistent würde eine Antwort mit Verweisen auf die entsprechenden Unterlagen liefern.
Ein geeignetes offenes Modell könnte dafür bei einem beauftragten Dienstleister oder auf eigener Infrastruktur laufen. Welche Variante sinnvoll ist, hängt unter anderem von Datenumfang, Anforderungen, Kosten und verfügbarer Betreuung ab.
Der eigene Betrieb von KI löst nicht jedes Problem
Auch bei einem selbst betriebenen Modell muss die gesamte Anwendung betrachtet werden. Wenn zusätzliche Dienste eingebunden sind, können darüber weiterhin Daten nach außen gelangen. Ebenso wichtig ist, wer Zugriff auf gespeicherte Anfragen, Sicherungen und Wartungszugänge hat.
Ein interner Assistent sollte außerdem nur jene Dokumente zugänglich machen, die die jeweilige Person sehen darf. Die KI darf nicht zum Umweg werden, über den Beschäftigte vertrauliche Personal- oder Geschäftsunterlagen abrufen können.
Und auch offene Modelle können falsche Antworten erzeugen. Deshalb sollte ein Wissensassistent seine Quellen nennen und mit typischen Fragen aus dem Betrieb geprüft werden. Bei sicherheitsrelevanten technischen Angaben bleibt eine fachliche Kontrolle notwendig.
Klein anfangen und den Nutzen prüfen
Für den Einstieg eignet sich eine klar begrenzte Aufgabe. Die Suche in freigegebenen Produktunterlagen wäre beispielsweise überschaubarer als ein Assistent mit Zugriff auf sämtliche Unternehmensdaten.
Legen Sie vor dem Start fest, was die Lösung leisten soll. Soll sie Suchzeit sparen? Wiederkehrende Fragen beantworten? Neue Beschäftigte bei der Einarbeitung unterstützen?
Nach einer Testphase lässt sich prüfen, ob dieser Nutzen tatsächlich entsteht. Dabei zählen neben der Qualität der Antworten auch die Kosten und der zusätzliche Aufwand für Kontrolle und Betreuung.
Klären Sie mit Ihrem Dienstleister außerdem:
- Wo werden unsere Eingaben und Dokumente verarbeitet und gespeichert?
- Wer kann darauf zugreifen?
- Welche Nutzung erlaubt die Lizenz des Modells?
- Können wir später das Modell oder den Betreiber wechseln?
Sie müssen dafür nicht jedes technische Detail verstehen. Sie sollten aber verständliche Antworten erhalten, auf deren Grundlage Sie entscheiden können.
Offene KI-Modelle geben KMU zusätzliche Möglichkeiten, neue Werkzeuge nach den eigenen Anforderungen einzusetzen. Besonders wertvoll wird diese Freiheit, wenn Daten, Betreuung und Wechselmöglichkeiten von Anfang an mitgedacht werden.
