KI-Governance-Illusion: Warum 72 % der Unternehmen Sicherheit und Kontrolle überschätzen

Die meisten Unternehmen in Deutschland und weltweit überschätzen ihre Fähigkeit, KI-Systeme sicher und kontrolliert einzusetzen. Laut einer aktuellen Umfrage von VentureBeat nutzen 72 % der befragten Großunternehmen zwei oder mehr KI-Plattformen gleichzeitig – oft ohne ausreichende Sicherheits- und Governance-Strukturen. Diese Fragmentierung schafft nicht nur Angriffsflächen für Cyberkriminelle, sondern führt auch zu einem gefährlichen Kontrollverlust.

Warum Unternehmen auf mehrere KI-Systeme setzen – und warum das riskant ist

Die Mehrheit der befragten Unternehmen setzt auf eine Vielzahl von KI-Plattformen, darunter Lösungen von Hyperscalern wie Microsoft Azure, Google oder OpenAI sowie von großen Softwareanbietern wie Epic, Workday oder ServiceNow. Der Grund dafür liegt in der rasanten Entwicklung des KI-Marktes: Viele Unternehmen haben in den letzten Jahren schnell eigene KI-Projekte gestartet, ohne eine klare Strategie zu verfolgen. Statt einer einheitlichen KI-Architektur entsteht so oft ein Flickenteppich aus verschiedenen Tools – mit unterschiedlichen Sicherheitsstandards und Compliance-Anforderungen.

Ein besonders prägnantes Beispiel ist das Mass General Brigham (MGB)-Krankenhaussystem in Massachusetts, das mit 90.000 Mitarbeitenden eines der größten Arbeitgeber der Region ist. Wie CTO Nallan „Sri“ Sriraman auf der VentureBeat-AI-Konferenz im März in Boston berichtete, musste das Krankenhaus im vergangenen Jahr zahlreiche unkontrollierte KI-Pilotprojekte stoppen, die von Mitarbeitenden ohne zentrale Koordination gestartet worden waren. Statt selbst eine eigene KI-Infrastruktur aufzubauen, setzt MGB nun darauf, die Lösungen der großen Softwareanbieter zu nutzen – auch wenn diese nicht alle Anforderungen erfüllen können.

Die Illusion der Kontrolle: Warum Governance oft nur auf dem Papier existiert

Trotz der scheinbaren Sicherheit glauben 56 % der befragten Unternehmen, sie könnten Fehlverhalten von KI-Modellen zuverlässig erkennen. Doch die Realität ist ernüchternd: Fast ein Drittel der Unternehmen hat keine systematischen Mechanismen, um Probleme wie Datenlecks oder falsche Entscheidungen der KI frühzeitig zu erkennen. Studien zeigen zudem, dass 34 % der GenAI-Vorfälle auf Telemetriedatenlecks zurückgehen – ein Risiko, das viele Unternehmen unterschätzen.

Die Umfrage offenbart weitere Schwächen in der KI-Governance: Während 43 % der Befragten angeben, eine zentrale Abteilung sei für die Steuerung zuständig, zeigt sich in der Praxis oft das Gegenteil. Bei 23 % der Unternehmen ist die Verantwortung zwischen Teams umstritten, bei 20 % regeln einzelne Plattform-Teams die Governance eigenständig – und bei 6 % gibt es überhaupt keine klare Zuständigkeit. „Ohne einen zentralen Ansprechpartner fehlt der Druck, Transparenz von den Anbietern einzufordern“, so Sriraman.

Die „Blindmänner-und-der-Elefant“-Falle: Warum Standards fehlen

Die aktuelle KI-Landschaft erinnert an eine bekannte Fabel: Wenn sechs blinde Männer einen Elefanten berühren und seine Form beschreiben sollen, erhält man sechs verschiedene Antworten. Ähnlich verhält es sich mit den unzähligen KI-Tools, die Unternehmen einsetzen – jedes mit eigenen Schnittstellen, Sicherheitsprotokollen und Compliance-Anforderungen. Für Großunternehmen wie MGB bedeutet das, dass sie zusätzliche Schichten an Kontrollsystemen aufbauen müssen, um die verschiedenen KI-Agenten zu koordinieren.

Brian Gracely, Senior Director bei Red Hat, warnte auf der Konferenz vor den langfristigen Folgen dieser Fragmentierung. Viele Unternehmen unterschätzen die Kosten und den Aufwand, die mit der Verwaltung mehrerer KI-Systeme verbunden sind. „Die ersten Erfolge sind oft trügerisch“, erklärte Gracely. „Ohne eine klare Infrastrukturstrategie drohen Lock-in-Effekte und unkontrollierte Kostenexplosionen.“

Was kommt als Nächstes? Die Zukunft der KI-Governance

Die Umfrage zeigt: Der KI-Markt ist noch jung, und viele Unternehmen experimentieren mit neuen Tools, ohne klare Richtlinien zu haben. Gleichzeitig steigen die Anforderungen an Sicherheit und Compliance – besonders in regulierten Branchen wie dem Gesundheitswesen. Unternehmen stehen vor der Herausforderung, ihre KI-Systeme zu zentralisieren, ohne Innovationen zu blockieren.

Experten raten dazu, zunächst in transparente Governance-Strukturen zu investieren und klare Verantwortlichkeiten zu definieren. Nur so lässt sich das Risiko von Datenlecks, Fehlentscheidungen und Compliance-Verstößen minimieren. Die nächsten Monate werden zeigen, ob die Branche aus den aktuellen Fehlern lernt – oder ob die Illusion der Kontrolle weiter besteht.