DeepSeek veröffentlicht DSpark – Beschleunigt LLM-Ausführung um bis zu 85 %

Chinas führender Open-Source-KI-Entwickler DeepSeek hat kürzlich ein neues Framework namens DSpark veröffentlicht, das die Inferenzgeschwindigkeit großer Sprachmodelle (LLMs) um bis zu 85 % steigern soll. Die Lösung nutzt ein innovatives Verfahren, das als spekulative Decodierung bekannt ist, und könnte die Effizienz von KI-Systemen in Unternehmen und Forschung nachhaltig verbessern.

Wie DSpark die Leistung von Sprachmodellen revolutioniert

Die meisten aktuellen KI-Chatbots generieren Text sequenziell – ähnlich wie ein Schriftsteller, der jeden Satz einzeln schreibt und dabei ständig überprüft. DSpark ändert diesen Ansatz: Das Framework setzt einen „Scout“ ein, der mehrere Schritte vorausblickt und mögliche Textsequenzen vorhersagt. Das Hauptmodell überprüft diese Vorschläge parallel und entscheidet, welche davon korrekt sind. Dadurch entfällt das aufwendige Einzelschritt-Verfahren, was die Geschwindigkeit deutlich erhöht.

Die Technik ist besonders für Echtzeit-Anwendungen wie Chatbots, Code-Assistenten oder unternehmensinterne KI-Systeme relevant, bei denen Nutzer lange Antworten in Echtzeit erwarten. DeepSeek demonstriert die Effektivität von DSpark anhand seiner eigenen Modelle, darunter das kürzlich veröffentlichte DeepSeek-V4 und dessen optimierte Varianten wie DeepSeek-V4-Flash (284 Mrd. Parameter, davon 13 Mrd. aktiv) und DeepSeek-V4-Pro (1,6 Bio. Parameter, davon 49 Mrd. aktiv).

Vergleichbare Geschwindigkeitssteigerungen in der Praxis

In internen Tests von DeepSeek zeigte DSpark beeindruckende Ergebnisse:

• DeepSeek-V4-Flash: Bis zu 85 % schnellere Token-Generierung pro Nutzer im Vergleich zum bisherigen MTP-1-Standard.
• DeepSeek-V4-Pro: Bis zu 78 % schnellere Token-Generierung pro Nutzer.

Die Zahlen verdeutlichen, wie stark sich die Nutzererfahrung verbessert. Bei strengen Vorgaben wie 120 Tokens pro Sekunde für V4-Flash oder 50 Tokens pro Sekunde für V4-Pro zeigte DSpark sogar Steigerungen von 661 % respektive 406 % in der Gesamtausgabe des Systems. Das liegt daran, dass ältere Methoden wie MTP-1 an ihre Grenzen stoßen, während DSpark selbst unter Last stabil bleibt.

Breitere Anwendbarkeit durch Open-Source-Lizenz

Ein entscheidender Vorteil von DSpark ist seine MIT-Lizenz, die die Nutzung für Entwickler, Forscher und Unternehmen stark vereinfacht. DeepSeek stellt nicht nur das Framework selbst, sondern auch:

• Eine technische Dokumentation mit Benchmark-Ergebnissen
• Modell-Checkpoints zur direkten Implementierung
• Den Quellcode für DeepSpec, ein Tool zur Schulung und Bewertung spekulativer Decodierungssysteme

Diese Offenheit ermöglicht es Unternehmen, DSpark auf eigene Modelle wie Qwen (Alibaba) oder Gemma (Google) zu portieren – vorausgesetzt, sie haben Zugriff auf die Modellgewichte und die Serving-Infrastruktur. DSpark ist somit keine exklusive Lösung, sondern ein universell einsetzbares Werkzeug für die KI-Optimierung.

Warum spekulative Decodierung der Schlüssel zur Zukunft ist

Die klassische LLM-Architektur generiert Text tokenweise, wobei jedes neue Token vom gesamten vorherigen Kontext abhängt. Dieser Prozess ist zwar präzise, aber extrem rechenintensiv. Spekulative Decodierung löst dieses Problem, indem sie:

• Kleinere Draft-Modelle einsetzt, um mögliche Token-Sequenzen vorherzusagen
• Parallelisierung ermöglicht, da das Hauptmodell mehrere Vorschläge gleichzeitig bewerten kann
• Bottlenecks reduziert, die durch sequenzielle Verarbeitung entstehen

DeepSeek nutzt diese Technik bereits in seinen eigenen Produkten, doch die Methode ist nicht auf DeepSeek-Modelle beschränkt. Mit DSpark steht der KI-Community ein leistungsstarkes, offenes Werkzeug zur Verfügung, das die Grenzen der Inferenzgeschwindigkeit weiter verschieben könnte.

Langfristig könnte DSpark dazu beitragen, die Kosten für den Betrieb großer Sprachmodelle zu senken und gleichzeitig die Nutzererfahrung zu verbessern. Unternehmen, die auf Open-Source-Lösungen setzen, profitieren besonders von dieser Innovation – und könnten damit einen entscheidenden Vorsprung in der KI-Entwicklung erlangen.