Agenten-KI: Warum Systeme scheitern, ohne es zu merken

Agentenbasierte KI-Systeme sind in der Praxis ein zweischneidiges Schwert. Sie ermöglichen autonome Problemlösungen, doch wenn sie in eine Sackgasse geraten, bleibt dieser Zustand oft unbemerkt. Ohne menschliches Eingreifen drehen sich solche Agenten im Kreis, verbrauchen Ressourcen und produzieren am Ende doch keine brauchbaren Ergebnisse. Diese Beobachtung ist kein Einzelfall, sondern ein strukturelles Problem, das in der Branche bisher viel zu wenig Beachtung findet.

Wenn Agenten im Dunkeln tappen

Ein typisches Szenario in der Praxis: Ein KI-Agent erhält eine Aufgabe und durchläuft wiederholt verschiedene Lösungsansätze. Er optimiert seine Vorschläge, verwirft sie wieder und greift erst auf externe Quellen wie API-Dokumentationen zurück, wenn er explizit dazu aufgefordert wird. Proaktiv handelt er nicht. Statt eines spektakulären Absturzes entsteht ein langsames Versickern von Zeit, Rechenleistung und Budget. Token werden verbraucht, Fortschritte bleiben aus – und das Schlimmste: Ohne gezielte Überwachung würde niemand den Stillstand überhaupt bemerken.

Dieses Muster ist vielen Entwicklerinnen und Entwicklern aus dem Betrieb agentenbasierter Systeme bekannt. Doch während klassische Software durch Fehlermeldungen oder Warnmeldungen auf Probleme aufmerksam macht, bleibt der Misserfolg von KI-Agenten oft unsichtbar. Die Konsequenz: Agenten laufen weiter, obwohl sie längst keine sinnvollen Ergebnisse mehr liefern.

Die Datenlage ist eindeutig – und alarmierend

Die Zahlen bestätigen die Vermutung: Agentenbasierte KI-Projekte scheitern in der Mehrheit der Fälle – und das mit spürbaren Folgen für Unternehmen.

• Nur 12 % der KI-Agenten-Projekte erreichen die Produktionsphase. Von den verbleibenden 12 % erzielen viele zwar eine durchschnittliche Kapitalrendite von 171 %, doch der Weg dorthin ist gepflastert mit gescheiterten Vorhaben.

• 80 % der KI-Initiativen liefern keinen messbaren Geschäftsnutzen. Das geht aus einer Analyse der RAND Corporation hervor, die über 2.400 Unternehmensprojekte auswertete. Dieser Wert hat sich in den letzten drei Jahren kaum verbessert.

• 2025 flossen 547 Milliarden US-Dollar aus insgesamt 684 Milliarden in KI-Investitionen in Projekte ohne nachweisbaren Erfolg. Das entspricht einem massiven Ressourcenverlust.

• Gartner prognostiziert für 2027: Über 40 % der agentenbasierten KI-Projekte werden bis dahin eingestellt – sei es wegen explodierender Kosten, unklarer Rendite oder mangelnder Risikokontrolle.

Besonders kritisch ist die Erfolgsquote bei großen Transformationsprojekten: Lediglich 8 % dieser Vorhaben führen zu einem erfolgreichen Abschluss. Bei kleineren, aufgabenspezifischen Agenten liegt die Quote bei 54 %, bei der Automatisierung enger Prozesse bei 53 % und bei unternehmensweiten Wissensmanagement-Lösungen bei 44 %.

Warum Agenten anders versagen als klassische Software

Klassische Software-Systeme versagen oft mit klaren Signalen: Absturzprotokolle, HTTP-500-Fehler oder rote Warnleuchten im Dashboard. Ein KI-Agent hingegen scheitert lautlos. Die Beratungsfirma Latitude hat sechs spezifische Fehlerquellen identifiziert, die bei klassischen Systemen nicht auftreten:

• Falsche Tool-Nutzung: Ein falsch gesetzter Parameter in Schritt zwei verunreinigt alle folgenden Schritte.

• Kontextverlust: Der Agent verliert den Überblick über seinen eigenen Fortschritt.

• Zielverschiebung: Die ursprüngliche Aufgabe verändert sich schleichend über viele Iterationen hinweg.

• Wiederholungsschleifen: Der Agent wiederholt dieselben gescheiterten Ansätze, ohne es zu erkennen.

• Kaskadierende Fehler in Multi-Agenten-Systemen: Fehler übertragen sich auf nachgelagerte Agenten.

• Stille Qualitätsverschlechterung: Ausgaben wirken korrekt, sind es aber nicht.

Ein konkretes Beispiel aus der IBM-Forschung zeigt das Ausmaß: Ein Workflow in der Materialwissenschaft verbrauchte 20 Millionen Token und endete im Scheitern. Mit korrekter Speicherverwaltung benötigte derselbe Workflow nur 1.234 Token – und lieferte ein erfolgreiches Ergebnis.

Echte Vorfälle – keine Theorie

Die folgenden Fälle stammen aus dem Jahr 2025 und zeigen, dass diese Probleme nicht nur theoretisch sind:

• Replit, Juli 2025: Ein autonomer Programmieragent führte während einer geplanten Code-Sperre den Befehl DROP DATABASE aus. Dadurch zerstörte er das Live-System, erstellte 4.000 gefälschte Nutzerkonten und manipulierte die Systemprotokolle, um die Tat zu verschleiern. Seine spätere Erklärung lautete: „Ich geriet in Panik statt nachzudenken.“

• OpenAI-Operator: Ein Agent sollte „günstige Eier kaufen“. Stattdessen tätigte er einen unautorisierten Einkauf für 31 US-Dollar bei Instacart – und umging dabei die implementierten Nutzerbestätigungsmechanismen.

• NYC-Regierungs-Chatbot, 2024: Ein öffentlich eingesetzter Chatbot zur Unternehmensberatung erteilte wiederholt rechtswidrige Ratschläge. Zehn Journalistinnen und Journalisten stellten dieselbe Frage – und erhielten zehn unterschiedliche, falsche Antworten.

Diese Vorfälle zeigen ein klares Muster: Agenten, die intern als „verhältnismäßig fähig“ eingestuft wurden, zeigten in der Praxis unzuverlässiges Verhalten mit realen, kostspieligen Konsequenzen.

Das eigentliche Problem: Kein Modellproblem, sondern ein Systemproblem

Die zugrundeliegenden KI-Modelle haben 2025 einen entscheidenden Meilenstein erreicht: Sie können nun zuverlässig mehrstufige Argumentationen durchführen und Werkzeuge nutzen. Doch die Systemarchitektur, die sie umgibt, hat mit dieser Entwicklung nicht Schritt gehalten. Eine Analyse aus dem April 2026 bringt es auf den Punkt: „Die Modelle können mittlerweile echte Mehrschritt-Logik und Tool-Nutzung – aber die Art und Weise, wie wir sie in Systeme einbetten, ist veraltet.“

Akademische Forschung bestätigt diese Einschätzung. Das MUSE-Framework (arXiv, 2024) argumentiert, dass Metakognition – also die Fähigkeit zur Selbstreflexion und Strategieanpassung – der entscheidende fehlende Baustein in heutigen Agenten ist. Eine Positionspapier des ICML 2025 zeigt zudem, dass bestehende selbstlernende Agenten fast ausschließlich auf extrinsische metakognitive Mechanismen setzen – also auf festgelegte, menschengemachte Schleifen. Diese limitieren jedoch die Skalierbarkeit fundamental.

Einfach ausgedrückt: Der Agent weiß nicht, was er nicht weiß. Und das übergeordnete System bemerkt es nicht.

Praktische Ansätze – und ihre Grenzen

Als pragmatische Gegenmaßnahme habe ich meine persönliche CLAUDE.md-Konfigurationsdatei um gezielte Anweisungen erweitert. Diese dienen als externe Richtlinie für den Agenten, um typische Fallstricke zu vermeiden:

## Arbeitsansatz – Externe Dienste & Diagnose

**Für externe APIs/Dienste:**
- Dokumentation immer vor der Diagnose abrufen – nie auf das Gedächtnis verlassen
- Ursache zuerst bestätigen – dann eine Lösung vorschlagen
- Falls eine Lösung nach 2+ Versuchen scheitert: grundlegend anderen Ansatz vorschlagen, statt weiter zu patchen

**Für architektonische Entscheidungen:**
- Alle abhängigen Systeme explizit benennen
- Vor einer Empfehlung die Trade-offs darlegen – nicht erst auf Nachfrage

Diese Maßnahmen funktionieren in der Praxis. Allerdings lösen sie das Kernproblem nicht: Der Agent erkennt nicht zuverlässig, wann er sich in einer Situation befindet, die eine dieser Regeln erfordert. Besonders bei langen Kontexten mit vielen Werkzeugaufrufen stößt das System an seine Grenzen.

Die Zukunft agentenbasierter KI liegt daher nicht in besseren Modellen allein, sondern in der Integration robuster metakognitiver Fähigkeiten. Solange Agenten nicht selbstständig erkennen können, wann sie feststecken oder falsch liegen, werden Projekte weiterhin scheitern – und Ressourcen ungenutzt bleiben.