Sichtbare Schwachstellen: Warum Shadow AI die IT-Sicherheit bedroht

Die Digitalisierung hat eine neue Herausforderung geschaffen, die viele Unternehmen noch unterschätzen: Shadow AI. Während klassische IT-Infrastrukturen längst systematisch erfasst werden, fehlt oft jede Transparenz über die KI-Systeme, die in Produkten, Prozessen und internen Tools eingesetzt werden. Diese Lücke gefährdet nicht nur die Sicherheit, sondern auch die Compliance – und wird 2026 zum zentralen Risikofaktor für die IT-Landschaft.

Doch warum ist dieses Problem so schwer zu greifen? Die Antwort liegt in der Natur von KI selbst: Modelle sind keine statischen Binärdateien, sondern dynamische Systeme, die sich aus Daten, Prompts, Tools und Abhängigkeiten zusammensetzen. Ohne eine präzise Inventur bleibt die Angriffsfläche unsichtbar – und damit ungeschützt.

Die unsichtbare Gefahr: Wie Shadow AI entsteht

Das Phänomen ist kein neues, sondern eine Weiterentwicklung eines alten Problems: Shadow IT. Doch während unkontrollierte Software-Nutzung seit Jahrzehnten bekannt ist, verbreitet sich Shadow AI mit einer bisher unbekannten Geschwindigkeit. Die Gründe liegen in der einfachen Verfügbarkeit von KI-Diensten und der dezentralen Einbindung in bestehende Systeme. Beispiele für unerkannte KI-Nutzung sind:

• Direkte API-Integrationen: Entwicklerteams binden fremde KI-Modelle per API-Key ein, ohne formelle Freigabe oder Dokumentation.
• Vorgefertigte KI-Assistenten: Cloud-Anbieter aktivieren standardmäßig KI-Funktionen in SaaS-Tools – oft ohne Wissen der IT-Abteilung.
• Feinabgestimmte Modelle: Intern trainierte oder angepasste KI-Systeme werden in nicht überwachten Speicherorten abgelegt.
• Autonome Agenten: KI-Systeme erweitern schrittweise ihre Berechtigungen, etwa durch Ticket-Bearbeitung oder Transaktionsinitiierung, ohne zentrale Kontrolle.
• Transitive Abhängigkeiten: Wie bei Software-Bibliotheken werden KI-Modelle aus öffentlichen Repositories eingebunden – mit unklaren Lizenz- und Sicherheitsfolgen.

Keines dieser Beispiele entspricht den klassischen IT-Assets wie Servern oder Containern. Sie hinterlassen keine Host-Namen, keine Ports und keine Einträge in Konfigurationsdatenbanken. Doch genau diese Unsichtbarkeit macht sie zum Einfallstor für Datenlecks, manipulierte Eingaben oder ungewollte Aktionen.

Warum klassische Inventarisierung bei KI versagt

Traditionelle Sicherheitskonzepte basieren auf der Annahme, dass IT-Assets klar abgrenzbar sind. Doch KI-Systeme funktionieren anders: Ihr Risikopotenzial ergibt sich nicht aus einem einzelnen Artefakt, sondern aus einem verteilten Geflecht aus fünf kritischen Komponenten:

• Das Modell selbst: Welche Version wird genutzt? Wurde es selbst trainiert, gekauft oder aus einem öffentlichen Repository bezogen?
• Die Datenbasis: Auf welchen Trainings- oder Abfragedaten basiert das System? Wer besitzt die Rechte an dieser Daten?
• Die Prompts: System-Prompts und Vorlagen definieren das Verhalten der KI – doch sie werden oft als einfache Textstrings gespeichert, nicht als Code.
• Die Fähigkeiten: Welche Tools oder Aktionen kann die KI ausführen? Unter welchen Berechtigungen läuft sie?
• Die Schnittstellen: Wer oder was kann Eingaben liefern? Wohin fließen die Ausgaben?

Ein einfacher Eintrag wie „Wir nutzen Modell X“ sagt wenig über die tatsächlichen Risiken aus. Erst eine detaillierte Dokumentation aller fünf Dimensionen ermöglicht eine fundierte Sicherheitsbewertung. Doch genau diese Komplexität überfordert viele bestehende Inventarsysteme.

Der AI-Bill of Materials: Transparenz als Sicherheitsfaktor

Die Softwarebranche hat das Problem der undurchsichtigen Abhängigkeiten bereits gelöst – mit dem Software Bill of Materials (SBOM). Im Jahr 2026 überträgt sich dieses Konzept auf KI-Systeme: der AI-Bill of Materials (AI-BOM). Diese strukturierte Bestandsaufnahme erfasst alle relevanten Informationen zu einem KI-System und wird zur Grundlage für Sicherheit, Compliance und Governance.

Ein vollständiger AI-BOM sollte mindestens folgende Felder enthalten:

• Modell-Informationen: Name, Version, Herkunft (selbst trainiert, externer Anbieter, Open-Source) und Lizenzbedingungen.
• Datenquellen: Trainingsdaten, Abfragedatenbanken sowie deren Nutzungsrechte und Einwilligungen.
• Abhängigkeiten: Frameworks, Laufzeitumgebungen und externe KI-Dienste, die eingebunden werden.
• Fähigkeiten: Die Tools, Funktionen und externen Aktionen, die das System ausführen kann.
• Verantwortliche und Zweck: Wer ist für das System verantwortlich? Welche Aufgabe erfüllt es im Unternehmen?

Der AI-BOM bietet zwei entscheidende Vorteile:

1. Automatisierte Erstellung: Statt manuell zusammengestellte Listen entstehen die Daten durch kontinuierliche Scans und Systemanalysen.
2. Mehrfachverwendung: Die Informationen fließen in verschiedene Sicherheitsprozesse ein – von der Lieferkettenprüfung über die Datengovernance bis hin zur Compliance-Dokumentation.

Eine lebendige Inventur: KI-Systeme kontinuierlich überwachen

Ein statischer AI-BOM, der alle drei Monate aktualisiert wird, ist bereits veraltet, wenn er fertig ist. Stattdessen braucht es eine dynamische Inventur, die KI-Systeme in Echtzeit erfasst und aus mehreren Perspektiven bewertet. Kein einzelner Ansatz reicht aus – erst die Kombination verschiedener Quellen schafft Klarheit:

• Netzwerk- und Datenverkehrsanalyse: Ausgehende Verbindungen zu bekannten KI-APIs deuten auf versteckte Modellnutzung hin.
• Code- und Konfigurationsscans: Repository-Analysen und Infrastruktur-as-Code-Prüfungen identifizieren SDK-Importe, Modell-IDs und Prompt-Vorlagen.
• Cloud-Kosten und Ressourcennutzung: KI-spezifische Ausgaben und GPU-Auslastung zeigen Projekte auf, die an der offiziellen Prüfung vorbeigegangen sind.
• SaaS-Administrationsdaten: Aufzeichnungen darüber, welche KI-Assistenten und -Funktionen in genehmigten Plattformen aktiviert sind.
• Identitätsmanagement: Automatisierte Inventarisierung nicht-menschlicher Identitäten und API-Schlüssel mit Zugriff auf KI-Systeme.

Diese mehrdimensionale Überwachung ist kein einmaliger Aufwand, sondern eine dauerhafte Aufgabe. Doch sie ist die einzige Möglichkeit, die Sichtbarkeit zu schaffen, die für ein wirksames KI-Sicherheitsmanagement unerlässlich ist.

Ausblick: KI-Governance beginnt mit Transparenz

Die rasante Verbreitung von KI-Technologien hat viele Unternehmen überfordert – nicht nur technisch, sondern auch organisatorisch. Während Entwicklerteams neue Funktionen schnell integrieren, fehlt oft das Bewusstsein für die damit verbundenen Risiken. Shadow AI ist kein technisches, sondern ein strategisches Problem: Es entsteht dort, wo Governance, Sicherheitsstandards und Compliance nicht mit der Innovation Schritt halten.

Die Lösung liegt in der systematischen Erfassung und Kontrolle aller KI-Systeme. Ein robuster AI-BOM und eine lebendige Inventur sind keine Optionen, sondern Notwendigkeiten für Unternehmen, die ihre digitalen Assets langfristig schützen wollen. Diejenigen, die jetzt handeln, vermeiden nicht nur Sicherheitslücken – sie legen den Grundstein für eine KI-Nutzung, die sowohl innovativ als auch verantwortungsvoll ist.

Die Zukunft der IT-Sicherheit wird nicht mehr nur von Firewalls und Antivirenprogrammen geprägt sein, sondern von der Fähigkeit, unsichtbare Systeme sichtbar zu machen. Unternehmen, die diese Herausforderung annehmen, werden nicht nur Risiken minimieren, sondern auch das volle Potenzial ihrer KI-Investitionen nutzen können.