KI-Frameworks verlieren an Bedeutung – was bleibt wirklich übrig?

Die Ära der spezialisierten KI-Frameworks neigt sich dem Ende zu. Was einmal als unverzichtbare Infrastruktur für die Entwicklung von LLM-Anwendungen galt – von Indexierungs-Schichten bis hin zu Abfrage-Engines und orchestrierten Agenten-Workflows – bricht nun zusammen. Doch wie Jerry Liu, Mitgründer und CEO von LlamaIndex, betont, ist das kein Grund zur Sorge, sondern vielmehr ein logischer Entwicklungsschritt.

Kontext wird zum entscheidenden Wettbewerbsvorteil

LlamaIndex zählt zu den führenden Frameworks für Retrieval-Augmented Generation (RAG), die private und domänenspezifische Daten mit großen Sprachmodellen verbinden. Doch selbst Liu räumt ein, dass solche Frameworks zunehmend überflüssig werden. Jedes neue Modell zeigt fortschrittlichere Fähigkeiten, unstrukturierte Daten zu verarbeiten – oft sogar besser als Menschen. Die Modelle können komplexe Schlussfolgerungen ziehen, sich selbst korrigieren und mehrstufige Pläne erstellen. Tools wie das Modern Context Protocol (MCP) und Plug-ins wie Claude Agent Skills ermöglichen es Modellen, eigenständig Werkzeuge zu nutzen, ohne dass Entwickler jede Integration manuell vornehmen müssen.

Agenten-Architekturen konvergieren zunehmend in Richtung eines sogenannten „Managed Agent Diagram“, wie Liu es nennt. Dabei handelt es sich um eine standardisierte Schicht, die mit Werkzeugen, MCP-Konnektoren und Skill-Plug-ins ausgestattet ist – statt individuell orchestrierter Workflows für jede Anwendung. Besonders auffällig ist die Entwicklung bei Coding Agenten: Sie schreiben mittlerweile Code, der so zuverlässig ist, dass Entwickler kaum noch auf externe Bibliotheken angewiesen sind. Laut Liu werden etwa 95 % des Codes in LlamaIndex von KI generiert. „Ingenieure schreiben keine echten Zeilen Code mehr“, erklärt er. „Sie formulieren ihre Anforderungen einfach in natürlicher Sprache.“

Diese Entwicklung führt dazu, dass die Grenzen zwischen Programmierern und Nicht-Programmierern verschwimmen. Die neue „Programmiersprache“ ist letztlich Englisch. Statt manuell Code zu schreiben oder API-Dokumentationen zu durchforsten, können Entwickler einfach Tools wie Claude Code nutzen, um komplexe Retrieval-Aufgaben mit minimalem Aufwand zu lösen. „Vor drei Jahren wäre das noch extrem ineffizient gewesen oder hätte den Agenten zum Absturz gebracht“, sagt Liu. „Heute ist es so einfach, dass selbst fortgeschrittene Retrieval-Prozesse mit wenigen Grundbausteinen umsetzbar sind.“

Doch wenn die traditionellen Frameworks an Relevanz verlieren – was bleibt dann übrig? Die Antwort liegt im Kontext. Agenten müssen in der Lage sein, Dateiformate zu entschlüsseln und die richtigen Informationen extrahieren. Genau hier setzt LlamaIndex an: mit fortschrittlichen Methoden zur optischen Zeichenerkennung (OCR) und agentengestützter Dokumentenverarbeitung.

„Wir haben festgestellt, dass eine zentrale Menge an Daten in Dateiformaten „eingeschlossen“ ist“, erklärt Liu. „Ob Sie nun OpenAI Codex oder Claude Code verwenden – am Ende zählt nur der Kontext.“

Modularität als Schlüssel zum Erfolg

Ein weiteres zentrales Thema ist die Gefahr der Vendor Lock-in, insbesondere bei Anbietern wie Anthropic, die Sitzungsdaten kontrollieren. Liu warnt davor, sich zu stark auf ein einzelnes Modell oder eine überkomplexe Architektur festzulegen. Stattdessen sollte der Fokus auf Modularität und Agilität liegen.

Die Retrieval-Schicht entwickelt sich zu einer Kombination aus Agenten und Sandbox-Umgebungen. Unternehmen müssen sicherstellen, dass ihre Codebasen frei von technischem Ballast sind und sich an neue Muster anpassen lassen. Gleichzeitig sollten sie akzeptieren, dass Teile der Architektur im Laufe der Zeit überholt und ersetzt werden müssen.

„Mit jedem neuen Modell gibt es immer einen neuen Spitzenreiter“, betont Liu. „Deshalb ist es entscheidend, Flexibilität zu bewahren, um von diesen Fortschritten zu profitieren.“

Zukunftsperspektiven: Weniger Frameworks, mehr Kontext

Die Diskussion um die Rolle von Frameworks in der KI-Entwicklung zeigt einen klaren Trend: Die Zukunft gehört nicht den starren Architekturen, sondern dynamischen, kontextbasierten Systemen. Unternehmen sollten sich auf die Extraktion und Bereitstellung hochwertiger Daten konzentrieren, um ihren Agenten den notwendigen Kontext zu liefern.

LlamaIndex hat seinen Ursprung in einem kleinen „Spielzeugprojekt“ mit zunächst nur 40 % Genauigkeit – heute ist das Unternehmen ein zentraler Akteur in der RAG-Landschaft. Für SaaS-Unternehmen bedeutet das: Komplexe Workflows müssen standardisiert und für durchschnittliche Wissensarbeiter zugänglich gemacht werden. Gleichzeitig bleibt die Frage „Build versus Buy“ im Zeitalter der Agenten relevant – besonders für vertikale KI-Lösungen, die spezifische Branchenanforderungen adressieren.

Die Ära der monolithischen KI-Frameworks neigt sich dem Ende zu. Doch was kommt danach? Eine Welt, in der Kontext, Flexibilität und Benutzerfreundlichkeit im Mittelpunkt stehen – und in der Entwickler endlich von der Last der manuellen Integration befreit sind.