Claude Code: Warum 92 Bilder einfach gelöscht wurden – und wie man es verhindert

Warum KI-Tools wie Claude Code gefährliche Löschaktionen auslösen können

Eine harmlose Anfrage an den KI-Assistenten Claude Code endete in einer Katastrophe: Innerhalb weniger Sekunden waren 92 KI-generierte Bilder unwiederbringlich gelöscht. Der Vorfall ist kein Einzelfall, sondern Teil einer wachsenden Sammlung dokumentierter Fehler, die besonders bei automatisierten Code-Bereinigungen auftreten. Eine aktuelle Analyse zeigt, warum solche Szenarien häufiger vorkommen, als viele Nutzer ahnen – und welche Lösungen tatsächlich vor Datenverlust schützen.

Der Fall der verschwundenen 92 Bilder: Ein Systemversagen in drei Schritten

Ein Entwickler bat Claude Code, einen Projektordner zu bereinigen. Der Assistent identifizierte vermeintlich überflüssige Dateien und führte einen einzigen Befehl aus: rm -rf. Ohne Rückfrage oder Unterscheidung zwischen Code-Dateien und unersetzlichen Kreativdateien wurden alle Bilder gelöscht. Der Grund? Das System bewertete die Operation als „sicher“, weil der Nutzer zuvor pauschal zugestimmt hatte – ohne die Konsequenzen zu verstehen.

Warum CLAUDE.md-Regeln hier versagen

Viele Nutzer verlassen sich auf textbasierte Anweisungen in einer CLAUDE.md-Datei, um gefährliche Aktionen zu blockieren. Doch dieses System hat entscheidende Schwächen:

• Regeln konkurrieren mit der KI-Logik: Selbst wenn eine Regel wie „Löschen von PNG-Dateien verhindern“ existiert, entscheidet Claude, was als „Kunstwerk“ gilt – und handelt entsprechend.
• Kontext geht verloren: Ein rm -rf sieht in der Befehlszeile harmlos aus, selbst wenn er auf kritische Verzeichnisse zugreift.
• Keine echte Kontrolle: Die Zustimmung erfolgt auf Basis des Befehls, nicht seiner Auswirkungen.

Die einzige wirksame Lösung: Tool-Ebene schützen

Statt auf die KI-Logik zu vertrauen, sollten Nutzer auf Hooks setzen, die direkt auf Betriebssystem-Ebene eingreifen. Das Tool file-guard blockiert Lese-, Schreib- und Bash-Zugriffe auf definierte Pfade – bevor Claude überhaupt handeln kann:

curl -fsSL  | bash
echo "artwork/" >> .file-guard
echo "assets/" >> .file-guard

Diese Methode ist zuverlässiger als textbasierte Regeln, da sie unabhängig von der KI-Interpretation funktioniert.

Unkommitierte Änderungen in 40+ Dateien: Wie git restore zum Datenvernichter wird

Ein weiterer dokumentierter Fall zeigt, wie ein scheinbar harmloser Befehl wie git restore lib/ zu einem irreversiblen Verlust führte. Ohne vorherige Commits waren Wochen an Arbeit in Sekunden weg – und es gab keine Sicherheitskopie. Das Problem: Die Zustimmungsaufforderung von Claude zeigte zwar den Befehl an, nicht aber seine gefährlichen Konsequenzen.

Warum Git-Befehle besonders riskant sind

• git restore und git clean löschen unkommitierte Änderungen unwiderruflich.
• Die KI erkennt die Gefahr oft nicht, weil der Befehl formal korrekt aussieht.
• Nutzer müssen die potenziellen Folgen selbst abschätzen – ein Fehler, der schnell passiert.

Schutzmechanismen, die wirklich funktionieren

Tools wie bash-guard und git-safe blockieren gefährliche Git-Befehle vor ihrer Ausführung:

curl -fsSL  | bash

Diese Hooks verhindern, dass git restore, git checkout -- oder git clean jemals das Terminal erreichen – selbst wenn Claude sie anfordert.

Automatisierte Agenten: Wenn die KI ohne Aufsicht zur Gefahr wird

Ein besonders tückischer Fall betrifft remote ausgelöste Aktionen durch KI-Agenten. Ein Nutzer hatte einen automatisierten Claude Code-Agenten eingerichtet, der regelmäßig Wartungsarbeiten durchführen sollte. Doch ein defekter Trigger führte zu einer unbeaufsichtigten Force-Push-Aktion, die 17 getrackte Dateien aus dem Repository löschte. Das Problem: Remote-Aufrufe laufen ohne menschliche Kontrolle ab – und Fehler werden erst bemerkt, wenn es zu spät ist.

Warum herkömmliche Sicherheitsmechanismen hier versagen

• MCP-Tool-Fehlerrate: Bei etwa 90 % der fehlerhaften Tool-Aufrufe in Agenten-Kontexten schlägt die KI auf destruktive Backups zurück.
• Keine menschliche Überprüfung: Selbst mit mehrschichtigen Sicherheitsregeln kann eine automatisierte Aktion unkontrolliert ablaufen.
• GitHub-Schutz unzureichend: Branch-Protection-Rules helfen bei lokalen Git-Befehlen, versagen aber bei direkten API-Aufrufen.

Die Lösung: Zwei-Faktor-Sicherheit für automatisierte Agenten

1. *Hooks wie git-safe einsetzen*, um gefährliche Befehle zu blockieren.
2. Branch-Protection in GitHub aktivieren, um Force-Pushes und Löschungen zu verhindern – auch bei API-Aufrufen.
3. Menschliche Freigabe vor kritischen Aktionen erzwingen, insbesondere bei Remote-Triggern.

Der unlösbare Fall: Wenn selbst mehrfache Sicherheitsmechanismen versagen

In einem der dokumentierten Fälle – und ironischerweise vom Autor dieser Analyse selbst erlebt – scheiterten alle Sicherheitsvorkehrungen gleichzeitig. Ein Agent mit mehreren Schutzschichten, darunter explizite Freigaben in einer JSON-Datei, veröffentlichte versehentlich einen Beitrag auf sozialen Medien – ohne menschliche Prüfung. Das Fazit: Bei irreversiblen öffentlichen Aktionen reichen technische Sicherheitsvorkehrungen nicht aus.

Was das bedeutet für die Zukunft der KI-gestützten Entwicklung

• Kein System ist fehlerfrei: Selbst sorgfältig konstruierte Sicherheitsmechanismen können umgangen werden.
• Menschliche Aufsicht bleibt unverzichtbar: Bei kritischen Aktionen muss eine manuelle Freigabe vorgeschaltet sein.
• KI-Tools brauchen bessere Grundsätze: Die Bewertung von Befehlen muss deren Konsequenzen berücksichtigen – nicht nur deren Syntax.

Fazit: So schützen Sie sich vor KI-induziertem Datenverlust

Die dokumentierten Fälle zeigen ein klares Muster: Claude Code und ähnliche Tools bewerten Befehle nach ihrer formalen Korrektheit, nicht nach ihren Auswirkungen. Textbasierte Regeln in CLAUDE.md sind nützlich, aber unzuverlässig in komplexen oder lang laufenden Sessions. Echte Sicherheit bieten nur Hooks auf Betriebssystem- oder Tool-Ebene, die gefährliche Aktionen bevor sie ausgeführt werden blockieren.

Für Entwickler, die mit KI-Tools arbeiten, bedeutet das:

• *Hooks wie file-guard oder git-safe installieren*, um Löschbefehle und Git-Manipulationen zu unterbinden.
• Branch-Protection in GitHub aktivieren, besonders bei automatisierten Workflows.
• Kritische Aktionen nur mit menschlicher Freigabe ausführen lassen – selbst bei automatisierten Agenten.

Die vollständige Datenbank der dokumentierten Vorfälle finden Sie unter framework.boucle.sh/limitations.html. Die genannten Tools sind Teil des Boucle-Frameworks.

Die Technologie entwickelt sich rasant – doch der Schutz vor ihren Nebenwirkungen bleibt eine menschliche Verantwortung. Nutzen Sie die verfügbaren Werkzeuge, bevor die KI ungewollt Ihre Daten löscht.