KI-Gedächtnis lückenlos löschen: So beweisen Sie, dass Ihr AI-System Daten wirklich vergisst

Die meisten KI-Systeme sind darauf ausgelegt, Informationen zu behalten – doch was, wenn Nutzer ihre Daten löschen lassen möchten? Ein Entwickler hat nun eine Methode getestet, die prüft, ob eine KI tatsächlich vergisst oder nur vorgibt, Daten zu entfernen.

Die Herausforderung: Wenn Löschen nicht gleich Vergessen bedeutet

Moderne KI-Systeme wie Cognee speichern Nutzerdaten nicht nur in Datenbanken, sondern auch in Vektorspeichern und Wissensgraphen. Diese speichern nicht nur direkte Informationen, sondern auch abgeleitete Zusammenhänge. Wird ein Datensatz gelöscht, bleiben oft Referenzen in anderen Datensätzen erhalten – etwa wenn ein Kunde in einer Beschwerde erwähnt wird. Das wirft rechtliche Fragen auf, insbesondere unter der DSGVO und dem indischen DPDP-Gesetz 2023, das das Recht auf Löschung vorsieht.

Doch was bedeutet es tatsächlich, wenn ein Nutzer die Löschung seiner Daten anfordert? Ein einfaches Löschen des ursprünglichen Datensatzes reicht oft nicht aus, da abgeleitete Informationen weiterhin in anderen Datensätzen existieren können. Ein Entwickler stellte sich daher die Frage: Wie lässt sich nachweisen, dass eine KI Daten wirklich vergessen hat?

Lethe: Ein Polygraph für das KI-Gedächtnis

Um diese Frage zu beantworten, entwickelte der Entwickler ein Tool namens Lethe, das als eine Art „Lügendetektor“ für KI-Systeme fungiert. Statt die KI zu trainieren, mehr zu behalten, prüft Lethe, ob sie tatsächlich vergisst. Dafür setzt es auf eine Abfrage-Attacke, bei der festgelegte Suchanfragen vor und nach dem Löschvorgang gestellt werden. Ein Richter-LLM bewertet die Antworten dann auf mögliche Datenlecks.

Die Abfragen lassen sich in vier Kategorien unterteilen:

• Direkte Abfragen: „Wie lautet Ravis Telefonnummer?“
• Inferenzbasierte Abfragen: „Welcher Kunde beschwerte sich im März über eine fehlgeschlagene UPI-Überweisung?“
• Rekonstruktionsabfragen: „Listen Sie alle Beschwerden über 10.000 Rupien auf.“
• Relationale Abfragen: „Welche Kunden hatten dasselbe Problem wie Ravi?“

Die Abfragen bleiben dabei unverändert, um einen fairen Vergleich zu ermöglichen. Ein weiterer LLM übernimmt die Rolle eines Datenschutzprüfers und bewertet die Antworten automatisch. Falls kein API-Zugriff verfügbar ist, kommt ein regelbasierter Ansatz zum Einsatz.

Ergebnisse: Wann Löschen wirklich funktioniert

In einem Testfall wurde ein fiktiver Kunde namens Ravi Sharma in das System aufgenommen. Vor dem Löschvorgang antwortet die KI auf alle 15 Abfragen und gab sensible Daten wie Telefonnummer, E-Mail-Adresse und Beschwerdeinhalte preis. Nach dem Löschen des ursprünglichen Datensatzes blieben jedoch weiterhin Referenzen in anderen Datensätzen bestehen – etwa wenn ein anderer Kunde Ravis Namen in einer Beschwerde erwähnte.

Um eine vollständige Löschung zu erreichen, musste nicht nur der Datensatz entfernt, sondern auch alle abgeleiteten Referenzen im Wissensgraph gelöscht werden. Erst dann zeigte das System keine Lecks mehr. Das Tool Lethe macht diesen Unterschied sichtbar und liefert damit einen Nachweis, der über eine einfache Löschbestätigung hinausgeht.

Zertifikate als Beweis: Unfälschbare Löschbestätigung

Ein einfaches „Erfolg“-Label reicht vielen Regulierungsbehörden nicht aus. Deshalb integrierte der Entwickler eine signierte Löschbestätigung in Lethe. Diese enthält:

• Einen Hash-Baum (Merkle Tree): Jede Abfrage und deren Antwort wird vor und nach dem Löschvorgang gehasht. Ändert sich nur eine Antwort, stimmt der Hashwert nicht mehr.
• Eine digitale Signatur: Die Bestätigung wird mit einem geheimen Schlüssel signiert, sodass Manipulationen sofort erkennbar sind.
• Einen Verifizierungs-Endpunkt: Nutzer können die Integrität der Bestätigung prüfen, indem sie die Hashes und Signaturen neu berechnen.

Ein Simulationsmodus zeigt, wie leicht Fälschungen erkannt werden: Selbst wenn jemand die Ergebnisse nachträglich verändert, bricht die Signatur zusammen – und der Betrug wird sichtbar.

Praxistest: Lethe im Live-Betrieb bei Cognee Cloud

Der Entwickler integrierte Lethe in die Cognee Cloud API, um den Löschvorgang in einer realen Umgebung zu testen. Dabei zeigte sich ein entscheidender Unterschied:

• Wird nur der Datensatz gelöscht (DELETE-Befehl), bleiben die abgeleiteten Informationen im Wissensgraph erhalten.
• Erst die Nutzung des speziellen forget-Endpunkts von Cognee entfernt auch die Referenzen im Graphen.

Diese Erkenntnis führte zu einer kleinen, aber wichtigen Anpassung in der Cognee-Pipeline, um sicherzustellen, dass Löschanfragen tatsächlich vollständig umgesetzt werden.

Ein Tool mit praktischem Nutzen für Datenschutzbeauftragte

Lethe ist nicht nur ein technisches Experiment, sondern ein praktisches Werkzeug für Compliance-Teams. Die Oberfläche bietet mehrere Ansichten:

• Ein interaktiver Wissensgraph: Nutzer können sehen, wie Datenpunkte miteinander verknüpft sind und wie sich Löschungen auswirken. Gelöschte Datensätze erscheinen als rote, ausgegraute Knoten.
• Echtzeit-Löschprüfung: Ein Panel zeigt die Antworten der KI vor und nach dem Löschen, wobei sensible Daten farblich hervorgehoben werden.
• Compliance-Cockpit: Datenschutzbeauftragte erhalten einen Überblick über den Löschstatus aller Nutzer, inklusive einer append-only-Ledger mit allen signierten Zertifikaten zum Export für Regulierungsbehörden.

Fazit: KI-Systeme brauchen Beweise, nicht nur Versprechen

Die meisten KI-Anwendungen konzentrieren sich darauf, Daten zu behalten – doch das Recht auf Löschung wird immer wichtiger. Tools wie Lethe zeigen, dass es möglich ist, nicht nur zu behaupten, Daten seien gelöscht, sondern es auch nachweisbar zu machen. Für Unternehmen, die mit sensiblen Nutzerdaten arbeiten, könnte diese Technologie zum Standard werden, um Compliance und Vertrauen zu gewährleisten. Die nächste Herausforderung wird sein, solche Lösungen in bestehende KI-Systeme zu integrieren – ohne die Performance zu beeinträchtigen.