Vier Grundbausteine für eine sichere KI-Governance im Gesundheitswesen

Die Integration von KI in das Gesundheitswesen scheitert oft an denselben strukturellen Problemen – doch eine neue Herangehensweise könnte das ändern. In einer aktuellen Analyse wird dargelegt, warum bestehende Ansätze bei der Datenverwaltung und Governance unzureichend sind und wie vier technische Grundprinzipien diese Lücken schließen können.

Warum herkömmliche Ansätze im Gesundheitswesen versagen

Viele KI-Projekte im medizinischen Sektor scheitern nicht an der Technologie selbst, sondern an grundlegenden Problemen in der Datenverwaltung. Drei wiederkehrende Misserfolge wurden bereits identifiziert:

• Fragmentierte Datensätze, die zwischen verschiedenen Systemen und Anwendungen verstreut sind
• Fehlende patientenzentrierte Kontrolle über die eigenen Gesundheitsdaten
• Unzureichende Nachweisbarkeit von Datenherkunft und -qualität

Um diese Herausforderungen zu bewältigen, bedarf es einer neuen Schicht der Governance – einer Infrastruktur, die über Anwendungen, Regulierungen und Plattformen hinausgeht. Diese muss als zentrales Element vier spezifische technische Grundprinzipien umsetzen.

Die vier unverzichtbaren Grundpfeiler

Jedes dieser Prinzipien löst ein konkretes Problem und schafft dabei eine unverzichtbare Basis für eine funktionierende KI-Governance. Sie wurden nicht willkürlich gewählt, sondern ergeben sich aus den Anforderungen einer vertrauenswürdigen Dateninfrastruktur.

1. Content-Adressierbare Gesundheitsdaten: Die Lösung für fragmentierte Datensätze

Das erste Prinzip zielt auf das Kernproblem der Datenfragmentierung ab. Elektronische Patientenakten (EPA) und Forschungsumgebungen speichern oft unterschiedliche Ausschnitte derselben klinischen Daten. Für eine wirksame Governance muss jedoch sichergestellt werden, dass alle Beteiligten dasselbe Datenelement referenzieren.

Die technische Umsetzung erfolgt durch sogenannte Health Assets – strukturierte Container, die einen eindeutigen digitalen Fingerabdruck (Content-Hash) enthalten. Beispielsweise könnte ein Blutdruckwert in einer FHIR-Ressource wie folgt dargestellt werden:

{
  "asset_id": "SHA256:f47ac10b58cc4372a5670e02b2c3d479",
  "data_ref": "
  "substrate": "FHIR R4",
  "consent_ref": "CONSENT-789",
  "quality_class": "A",
  "provenance_ref": "PROV-101",
  "patient_ref": "PATIENT-123",
  "created_at": "2026-05-26T12:00:00Z"
}

Warum einfache UUIDs nicht ausreichen:

• UUIDs identifizieren Daten nur innerhalb eines Systems zuverlässig.
• An Schnittstellen zwischen verschiedenen Systemen können unterschiedliche Institutionen denselben UUID für unterschiedliche Datensätze vergeben.
• Eine manuelle Abstimmung wird notwendig, was die Skalierbarkeit verhindert.

Folge bei Nichtimplementierung:

Ohne diese Technik verliert jede Governance ihre Grundlage. Konsentierungsprozesse werden unklar, und Audit-Trails verlieren ihre Aussagekraft, da nicht mehr nachweisbar ist, dass tatsächlich dieselben Daten referenziert werden.

2. Programmierbare Einwilligungen: Patienten als aktive Akteure

Das zweite Prinzip transformiert die traditionelle Einwilligungserklärung in ein maschinell überprüfbares System. Aktuell basiert die Einwilligung oft auf Papierformularen, die je nach Anwendung unterschiedlich interpretiert werden. Patienten haben kaum Kontrolle über ihre Daten und können Einwilligungen nur schwer widerrufen.

Die Consent Protocol-Spezifikation von HAVEN führt eine standardisierte Struktur ein:

{
  "consent_id": "UUID-1234-5678-90ab-cdef",
  "grantor": "Patient-456",
  "grantee": "Forschungsinstitut-XYZ",
  "scope": "Blutdruckwerte, Laborergebnisse",
  "purpose": "Klinische Studie zu Hypertonie",
  "conditions": [
    {"type": "Zeitlimit", "value": "2 Jahre"},
    {"type": "Zweckbindung", "value": "Nur anonymisierte Auswertung"}
  ],
  "status": "aktiv",
  "signature": "ED25519-Signatur..."
}

Drei entscheidende Unterschiede zu herkömmlichen Ansätzen:

• Geschlossene Semantik: Alles, was nicht explizit erlaubt ist, ist verboten. Dies steht im Kontrast zu vielen bestehenden Systemen, die eine implizite Erlaubnis annehmen.

• Deterministische Überprüfung: Die Einwilligung liefert immer dasselbe Ergebnis, unabhängig vom Kontext oder der Anwendung.

• Sofortige Wirkung: Ein Widerruf wird unverzüglich durchgesetzt und ist sofort bei der nächsten Überprüfung wirksam.

3. Hashverkettete Provenienz: Nachvollziehbare Datenherkunft

Das dritte Prinzip schafft Transparenz über den Lebenszyklus von Gesundheitsdaten. Jede Veränderung an einem Datensatz wird in einer unveränderlichen Kette dokumentiert, die nachvollziehbar macht, wer wann welche Änderungen vorgenommen hat.

Die Provenienz wird durch eine verkettete Struktur sichergestellt, die an die Funktionsweise von Blockchain-Technologie erinnert, jedoch ohne deren Komplexität:

class ProvenanceEntry:
    def __init__(self, previous_hash: str, action: str, actor: str, timestamp: str):
        self.previous_hash = previous_hash  # Hash des vorherigen Eintrags
        self.action = action                # "Erstellung", "Änderung", "Löschung"
        self.actor = actor                  # Organisation oder Person
        self.timestamp = timestamp          # ISO-8601 Zeitstempel
        self.current_hash = self._compute_hash()

    def _compute_hash(self) -> str:
        return sha256(f"{self.previous_hash}{self.action}{self.actor}{self.timestamp}".encode()).hexdigest()

Warum bestehende Methoden unzureichend sind:

• Traditionelle Audit-Logs können nachträglich manipuliert werden.
• Zentrale Datenbanken stellen einen Single Point of Failure dar.
• Verteilte Systeme erfordern komplexe Synchronisationsmechanismen.

Gefahr bei Verzicht:

Ohne diese Technik werden Datenmanipulationen oder -verluste nicht nachweisbar. Forschungsergebnisse verlieren ihre Glaubwürdigkeit, und Compliance-Anforderungen können nicht erfüllt werden.

4. Qualitätsgewichtete Beiträge: Bewertung der Datenzuverlässigkeit

Das vierte Prinzip führt ein Bewertungssystem ein, das die Zuverlässigkeit von Datenquellen und -inhalten quantitativ erfasst. Nicht alle Gesundheitsdaten sind gleichwertig – einige stammen aus hochwertigen Studien, andere aus weniger vertrauenswürdigen Quellen.

Die Qualitätsbewertung wird durch eine Klassifikation in vier Stufen vorgenommen:

• Klasse A: Daten aus zertifizierten klinischen Studien oder hochwertigen Registern
• Klasse B: Daten aus validierten Messgeräten oder etablierten Datenbanken
• Klasse C: Daten aus weniger standardisierten Quellen
• Klasse D: Daten mit unbekannter Herkunft oder fragwürdiger Qualität

Diese Klassifizierung fließt in die Entscheidungsprozesse von KI-Systemen ein und beeinflusst, wie stark ein Datensatz gewichtet wird.

Praktische Auswirkungen:

• KI-Modelle können die Vertrauenswürdigkeit ihrer Trainingsdaten besser einschätzen.
• Bei der Datenintegration werden hochwertige Quellen priorisiert.
• Patienten und Forscher erhalten Transparenz über die Qualität der Daten, auf denen Entscheidungen basieren.

Fazit: Eine neue Ära der Gesundheits-Governance

Die vier Grundprinzipien – content-adressierbare Gesundheitsdaten, programmierbare Einwilligungen, hashverkettete Provenienz und qualitätsgewichtete Beiträge – bilden das Fundament für eine vertrauenswürdige KI-Governance im Gesundheitswesen. Sie adressieren die zentralen Probleme, die bisher die breite Akzeptanz von KI-Lösungen in der Medizin verhindert haben.

Während diese Prinzipien bereits in Ansätzen wie dem HAVEN-Projekt erprobt werden, steht die vollständige Umsetzung noch am Anfang. Die nächsten Schritte erfordern die Zusammenarbeit von Technologieanbietern, Regulierungsbehörden und Gesundheitsdienstleistern, um eine standardisierte Infrastruktur zu schaffen. Nur so kann das volle Potenzial von KI im Gesundheitswesen ausgeschöpft werden – zum Wohle der Patienten und der medizinischen Forschung.