Lokale AST-Analyse senkt Token-Kosten für KI-Coding-Agenten um bis zu 60 %

KI-basierte Coding-Assistenten wie Cursor, Claude Code oder Codex haben in den letzten Jahren die Softwareentwicklung revolutioniert. Doch mit wachsenden Codebasen steigt auch ihr größter Nachteil: Jede neue Sitzung oder Frage führt zu einem vollständigen Scan des gesamten Repositorys. Das treibt nicht nur die Token-Kosten in die Höhe, sondern überflutet die KI-Modelle mit irrelevanten Dateien – was die Qualität der Antworten mindert.

Ein Entwickler hat nun ein Open-Source-Tool vorgestellt, das dieses Problem mit einer lokalen Analyse löst. Statt jedes Mal das gesamte Projekt zu durchsuchen, erstellt die Lösung zunächst ein präzises Abbild der Codebasis: eine AST (Abstract Syntax Tree)-basierte Analyse, die Dateien, Symbole und Abhängigkeiten erfasst. Auf Basis dieser Informationen leitet das Tool die KI-Agenten nur zu den relevanten Dateien weiter – und spart so bis zu 60 % der Token-Kosten.

Warum vollständige Repository-Scans ineffizient sind

Moderne KI-Coding-Tools arbeiten mit Kontextfenstern, die je nach Modell zwischen 32.000 und 128.000 Tokens umfassen. Bei einem Repository mit tausenden Dateien werden diese Fenster schnell ausgeschöpft – und das Modell verliert sich in unwichtigen Code-Abschnitten. Besonders problematisch wird es, wenn Entwickler:

• Häufige Folgefragen stellen, ohne den Kontext manuell einzuschränken.
• Mit großen Monorepos oder Frameworks mit vielen Abhängigkeiten arbeiten.
• Mehrere Sitzungen hintereinander durchführen und dabei unnötige Tokens verbrauchen.

Die Folge: Höhere Cloud-Kosten, langsamere Antwortzeiten und eine sinkende Präzision der KI-Ausgaben.

So funktioniert die lokale AST-Analyse

Das neue Tool, entwickelt von Kunal Kushwaha, nutzt eine lokal ausgeführte AST-Analyse, um die Struktur des Codes zu erfassen. Der Prozess läuft in drei Schritten ab:

1. Mapping der Codebasis: Ein Skript durchsucht das Repository und erstellt einen detaillierten Baum der Dateistruktur, Symboltabellen und Abhängigkeiten. Dieser Schritt wird einmalig oder bei Änderungen ausgeführt.

1. Kontextfilterung: Bei einer neuen KI-Anfrage wird nur der relevante Ausschnitt des Repositorys an den Agenten übergeben – basierend auf den zuvor erfassten Abhängigkeiten und Symbolen.

1. Optimierte KI-Interaktion: Der Agent erhält einen präzisen Kontext, vermeidet Ablenkungen durch irrelevante Dateien und liefert fokussierte Antworten.

Die Lösung ist vollständig lokal und kann mit MCP (Model Context Protocol)-Setups integriert werden. Da sie Open Source ist, lässt sie sich an individuelle Workflows anpassen.

Praktische Vorteile und erste Erfahrungen

Laut Kushwaha reduziert die AST-basierte Analyse die Token-Kosten in seinen Projekten um durchschnittlich 60 %. Zusätzlich profitieren Entwickler von:

• Schnelleren Antwortzeiten, da weniger irrelevante Daten verarbeitet werden müssen.
• Besseren Code-Vorschlägen, da der KI-Agent sich auf den relevanten Kontext konzentriert.
• Kosteneinsparungen, besonders bei der Nutzung von Cloud-basierten KI-Modellen mit Pay-per-Token-Modellen.

Ein weiterer Vorteil: Die lokale Ausführung schützt sensible Code-Daten, da keine vollständigen Repositorys an externe Server gesendet werden müssen.

Wie Sie das Tool in Ihrem Workflow nutzen können

Die Implementierung ist unkompliziert. Nach der Installation führen Sie folgende Schritte aus:

1. Klonen Sie das Repository und installieren Sie die Abhängigkeiten:

npm install -g codex-cli-compact

1. Führen Sie den Initialscan durch, um die Codebasis zu analysieren:

codex-cli-compact scan ./dein-projekt

1. Nutzen Sie das Tool in Kombination mit Ihrem bevorzugten KI-Coding-Agenten. Die Konfiguration erfolgt über eine einfache CLI-Schnittstelle oder eine JSON-Datei.

Für Teams mit spezifischen Anforderungen lässt sich das Tool um benutzerdefinierte Regeln erweitern, etwa zur Steuerung der Dateiauswahl oder zur Integration in CI/CD-Pipelines.

Ausblick: KI-Entwicklung im Wandel

Die Einführung optimierter Kontextfilterung markiert einen wichtigen Schritt hin zu effizienterer KI-gestützter Softwareentwicklung. Während große Tech-Unternehmen weiterhin an Closed-Source-Lösungen arbeiten, zeigt dieses Open-Source-Projekt, wie Entwickler selbst die Kontrolle über ihre KI-Tools zurückgewinnen können.

Mit wachsender Verbreitung von KI-Agenten in der Entwicklung werden Tools wie diese zunehmend an Bedeutung gewinnen – besonders in Unternehmen mit großen Codebasen oder strengen Datenschutzanforderungen. Die Zukunft könnte hybride Ansätze sehen, die lokale AST-Analysen mit Cloud-basierten KI-Modellen kombinieren, um maximale Effizienz und Sicherheit zu erreichen.