Privatsphäre-schonende KI-Schulung: 81 % schneller auf Alltagsgeräten

Forschungsteams weltweit suchen nach Wegen, künstliche Intelligenz (KI) effizienter und datenschutzfreundlicher zu gestalten. Ein neues Verfahren der Massachusetts Institute of Technology (MIT) könnte hier einen entscheidenden Fortschritt bedeuten: Durch die Optimierung von föderiertem Lernen lässt sich die Trainingszeit für KI-Modelle auf Alltagsgeräten um 81 % verkürzen – bei gleichzeitiger Wahrung der Privatsphäre. Dies könnte den Einsatz von KI in sensiblen Bereichen wie Gesundheit oder Finanzwesen revolutionieren, da die Daten lokal auf den Geräten bleiben.

Warum herkömmliche Methoden an Grenzen stoßen

Föderiertes Lernen ist eine vielversprechende Technologie, bei der mehrere Geräte – etwa Smartphones, Wearables oder Sensoren – gemeinsam ein KI-Modell trainieren, ohne sensible Nutzerdaten preiszugeben. Dabei wird ein zentrales Modell an die Geräte verteilt, lokal optimiert und die aktualisierten Parameter zurück an den Server gesendet. Anschließend wird aus allen eingegangenen Updates ein verbessertes Modell gebildet.

Doch diese Methode stößt an ihre Grenzen, wenn heterogene Geräte mit unterschiedlichen Ressourcen im Spiel sind. Smartwatches verfügen beispielsweise über deutlich weniger Speicher und Rechenleistung als High-End-Smartphones. Zudem leiden viele Edge-Geräte unter instabilen Internetverbindungen, was zu Verzögerungen führt. Der Server wartet in klassischen Ansätzen oft auf alle Antworten, bevor er mit der nächsten Trainingsrunde beginnt – ein Prozess, der ineffizient wird, sobald nur ein Gerät ausfällt oder verzögert.

Irene Tenison, Doktorandin am MIT und Hauptautorin der Studie, erklärt: „Viele bestehende Ansätze gehen davon aus, dass alle Geräte im Netzwerk ausreichend Ressourcen haben. Doch das ist in der Realität selten der Fall. Wir müssen KI so gestalten, dass sie auch auf den Geräten funktioniert, die wir täglich nutzen – nicht nur auf Hochleistungsrechnern.“

Drei Innovationen für effizienteres Training

Um diese Herausforderungen zu überwinden, entwickelte das MIT-Team das Framework FTTE (Federated Tiny Training Engine). Es kombiniert drei zentrale Anpassungen, die den Speicherbedarf und die Kommunikationslast deutlich reduzieren:

• Selektive Parameterübertragung: Statt das gesamte Modell an jedes Gerät zu senden, werden nur Teilmengen der Modellparameter übertragen. Diese Auswahl erfolgt über eine intelligente Suchfunktion, die Parameter priorisiert, die den größten Einfluss auf die Modellgenauigkeit haben – innerhalb eines vorgegebenen Speicherlimits. Dieses Limit orientiert sich an den schwächsten Geräten im Netzwerk, um deren Teilnahme zu ermöglichen.

• Asynchrone Verarbeitung: Der Server wartet nicht mehr auf alle Rückmeldungen, sondern sammelt Updates in einem Festpuffer. Sobald dieser voll ist, wird die nächste Trainingsrunde gestartet. Dies verhindert, dass langsame Geräte den gesamten Prozess blockieren.

• Dynamische Gewichtung der Updates: Ältere Updates werden weniger stark gewichtet, da sie mit fortschreitendem Training an Relevanz verlieren. So wird verhindert, dass veraltete Daten die Modellqualität beeinträchtigen. Tenison betont: „Wir wollen die leistungsschwächeren Geräte einbinden, ohne dass stärkere Geräte unnötig warten müssen.“

Überzeugende Ergebnisse in Simulation und Praxis

Die Effektivität von FTTE wurde in mehreren Simulationen mit Hunderten heterogener Geräte sowie verschiedenen KI-Modellen und Datensätzen getestet. Die Ergebnisse sind eindrucksvoll:

• Die Trainingszeit verkürzte sich im Schnitt um 81 % im Vergleich zu herkömmlichem föderiertem Lernen.
• Der Speicherbedarf auf den Endgeräten sank um 80 %.
• Die Datenübertragung reduzierte sich um 69 %, was besonders für Geräte mit langsamen oder teuren Mobilfunkverbindungen relevant ist.
• Trotz der Beschleunigung blieb die Modellgenauigkeit nahezu auf dem Niveau anderer Methoden – mit minimalen Trade-offs, die in vielen Anwendungen akzeptabel sind.

Zusätzlich zu den Simulationen testete das Team FTTE in kleinen Echtwelt-Szenarien mit Geräten unterschiedlicher Leistungsfähigkeit. „Nicht jeder besitzt das neueste iPhone. In vielen Ländern nutzen Menschen ältere oder günstigere Smartphones. Mit unserer Methode können wir föderiertes Lernen auch auf diesen Geräten nutzbar machen“, so Tenison.

Anwendungsfelder mit hohem Potenzial

Die Technologie eröffnet neue Möglichkeiten für den Einsatz von KI in Bereichen, die bisher aufgrund von Datenschutz- oder Ressourcenbedenken ausgeschlossen waren. Besonders vielversprechend sind:

• Gesundheitswesen: Patientendaten bleiben auf den Geräten von Kliniken oder Wearables, während KI-Modelle für Diagnoseunterstützung oder personalisierte Therapien trainiert werden.
• Finanzdienstleistungen: Banken oder Versicherungen könnten KI nutzen, um Betrug zu erkennen oder Kreditrisiken einzuschätzen – ohne sensible Kundendaten zentral zu speichern.
• Smart Cities & IoT: Sensoren in Städten oder Industrieanlagen könnten gemeinsam KI-Modelle trainieren, um Energieverbrauch zu optimieren oder Wartungsbedarf vorherzusagen.

Langfristig sieht das Team Potenzial, FTTE so weiterzuentwickeln, dass personalisierte KI-Modelle auf jedem Gerät entstehen – statt eines globalen Modells, das auf durchschnittlichen Daten trainiert wird. Tenison skizziert die Vision: „Statt nur die Gesamtleistung zu verbessern, wollen wir jedes Gerät befähigen, ein Modell zu trainieren, das exakt auf die Bedürfnisse seines Nutzers zugeschnitten ist.“

Die Studie wird auf der IEEE International Joint Conference on Neural Networks vorgestellt und markiert einen wichtigen Schritt hin zu einer dezentralen, datenschutzkonformen KI – die auf den Geräten läuft, die wir täglich nutzen.