Shadow CTO: GitHub-Repo-Gedächtnis mit Hermes Agent erstellen

Die Wartung von Softwareprojekten steht vor einem chronischen Problem: Entscheidungen werden im Code dokumentiert, doch die Gründe dafür verschwinden oft in den Tiefen von Commit-Nachrichten oder Pull-Requests. Eine neue Open-Source-Lösung namens Shadow CTO nutzt nun den Hermes Agent, um jedes GitHub-Repository in ein persistentes KI-Gedächtnis zu verwandeln. Das Tool beantwortet nicht nur technische Fragen, sondern rekonstruiert den ursprünglichen Kontext und die Motivation hinter architektonischen Änderungen.

Ein KI-Assistent, der nie vergisst

Shadow CTO wurde als Teil der Hermes Agent Challenge entwickelt und adressiert ein zentrales Problem in der Softwareentwicklung: Der Verlust von institutionellem Wissen. Während Commits oft detailliert beschreiben, was geändert wurde, fehlt häufig die Dokumentation des warum. Shadow CTO schließt diese Lücke, indem es jede relevante Interaktion mit einem Repository – Commits, Pull-Requests und Issues – analysiert und in einem persistenten Gedächtnis speichert.

Ein konkretes Beispiel verdeutlicht die Funktionsweise: Wird die Frage „Warum wurde Redis entfernt?“ gestellt, liefert das Tool nicht nur eine Zusammenfassung der Änderungen, sondern den genauen Grund aus der Diskussion im Pull-Request, inklusive der aufgetretenen Probleme und der akzeptierten Trade-offs. Diese Antwort basiert auf der tatsächlichen historischen Analyse des Repositorys – ohne Halluzinationen oder oberflächliche Zusammenfassungen.

Vier Kernfunktionen für Entwicklerteams

Die Benutzeroberfläche von Shadow CTO ist in vier zentrale Bereiche unterteilt, die jeweils unterschiedliche Aspekte des KI-Gedächtnisses erschließen:

• Dashboard: Hier können Nutzer neue Repositories hinzufügen, die Synchronisation auslösen und Fragen in natürlicher Sprache stellen. Die Antworten werden als Live-Stream angezeigt, sodass Entwickler die Entstehung der Antwort verfolgen können.

• Entscheidungen: Dieser Bereich listet alle extrahierten Engineering-Entscheidungen auf – inklusive der zugrunde liegenden Begründungen, einer Klassifizierung (z. B. Architektur, Sicherheit, Performance) und eines Vertrauensscores. Jede Entscheidung kann mit Tags versehen werden, um sie später leichter zu filtern.

• Muster: Shadow CTO erkennt wiederkehrende Fehlerquellen und warnt automatisch vor sich wiederholenden Problemen. Beispielsweise könnte das Tool identifizieren, dass eine bestimmte Komponente in den letzten Monaten mehrfach aufgrund von Race Conditions angepasst werden musste.

• Autonome Jobs: Über eine direkte Integration mit dem Hermes-Agents-Scheduler registriert Shadow CTO automatische Hintergrundaufgaben. Dazu gehören tägliche Analysen neuer Entscheidungen oder wöchentliche Berichte über technologische Schulden.

Technische Architektur: Hermes Agent als Rückgrat

Die Implementierung von Shadow CTO setzt vollständig auf die Fähigkeiten des Hermes Agent, der als zustandsbehaftete KI-Engine fungiert. Die wichtigsten Komponenten im Überblick:

1. Persistente Sitzungen pro Repository

Jedes GitHub-Repository erhält eine eigene Hermes-Sitzung, identifiziert durch eine eindeutige Session-ID. Diese ID wird in der lokalen Datenbank gespeichert und stellt sicher, dass die KI-Erinnerungen isoliert und repository-spezifisch bleiben. Selbst wenn zwei Repositories denselben Code enthalten (z. B. eine Open-Source-Bibliothek und ein internes Fork), bleiben ihre Gedächtnisse getrennt.

Der folgende Codeausschnitt zeigt, wie die Session-ID in jeder Interaktion mit Hermes übergeben wird:

# hermes_client.py
response = await self._openai.chat.completions.create(
    model=self.model,
    messages=messages,
    extra_headers={"X-Hermes-Session-Id": session_id},  # Repository-spezifische Session
)

2. Extraktion von Entscheidungen in Echtzeit

Bei jedem neuen Commit oder Pull-Request wird der Hermes Agent mit einem strukturierten Prompt gefüttert, der ihn anweist, nach bedeutsamen Engineering-Entscheidungen zu suchen. Dazu gehören Änderungen an der Architektur, Sicherheitsanpassungen oder Performance-Optimierungen. Die Antwort wird direkt in das Gedächtnis der Session eingespeist.

Ein Beispiel für den Prompt:

INGEST_SYSTEM_PROMPT = """
Du bist der Shadow CTO für {repo_name}.

Analysiere diesen Commit, Pull-Request oder Issue:
- Ist eine technische Entscheidung dokumentiert?
- Falls ja, extrahiere die Begründung und klassifiziere den Typ (z. B. Architektur, Sicherheit, Skalierbarkeit).
- Gib eine Vertrauensbewertung zwischen 0 und 1 an.

Antworte im JSON-Format.
"""

Durch diese kumulative Speicherung entwickelt Hermes mit der Zeit ein tieferes Verständnis für das Projekt. Beispielsweise kann das Tool erkennen, wenn eine Entscheidung später rückgängig gemacht wurde – eine Information, die für die langfristige Wartung entscheidend ist.

3. Streaming-Antworten in natürlicher Sprache

Die Q&A-Funktion nutzt Server-Sent Events (SSE), um Antworten in Echtzeit an die Benutzeroberfläche zu streamen. Im Gegensatz zu klassischen RAG-Systemen (Retrieval-Augmented Generation) greift Shadow CTO nicht auf eine statische Wissensdatenbank zu, sondern fragt direkt das Gedächtnis der Hermes-Session ab.

Der folgende Code zeigt die Implementierung des Streaming-Endpunkts:

# routers/query.py
async for chunk in hermes.stream_chat(
    messages=messages,
    session_id=repo.hermes_session_id,  # Abfrage des Repository-Gedächtnisses
):
    yield f"data: {chunk}\n\n"

4. Autonome Analyse durch Cron-Jobs

Shadow CTO registriert autonome Hintergrundjobs direkt beim Hermes Agent, die regelmäßig Analysen durchführen. Ein Beispiel ist die tägliche Suche nach wiederkehrenden Fehlermustern:

# jobs/cron_setup.py
await hermes.create_job(
    name="shadow-cto-daily-patterns",
    schedule="0 2 * * *",  # Täglich um 2 Uhr
    prompt=(
        "Analysiere die Engineering-Entscheidungen der letzten 30 Tage. "
        "Identifiziere wiederkehrende Fehlerquellen, rückgängig gemachte Änderungen "
        "oder technologische Schulden."
    ),
)

Diese Jobs laufen vollständig im Hintergrund und erzeugen Benachrichtigungen, sobald potenzielle Probleme erkannt werden – ohne manuelle Interaktion.

Warum Hermes Agent die bessere Wahl ist

Die Entwickler von Shadow CTO hätten theoretisch auch auf eine klassische RAG-Lösung setzen können, bei der Dokumente in einer Vektordatenbank gespeichert und bei Bedarf abgefragt werden. Doch diese Herangehensweise hätte entscheidende Nachteile mit sich gebracht:

• Kein Kontext über die Zeit: RAG-Systeme antworten basierend auf statischen Dokumenten – sie verstehen nicht, wie sich ein Projekt entwickelt hat.
• Keine persistente Lernfähigkeit: Jede neue Interaktion startet bei Null, ohne Bezug zu vorherigen Analysen.
• Keine Agenten-Logik: Autonome Aufgaben müssten separat implementiert werden, statt nahtlos in die KI-Engine integriert zu sein.

Hermes Agent hingegen ermöglicht es Shadow CTO, dynamisch zu lernen und sich weiterzuentwickeln – genau wie ein menschlicher Teammitglied. Die Kombination aus persistenten Sitzungen, automatischer Extraktion und agentenbasierter Analyse macht das Tool zu mehr als nur einem Prototypen: Es ist ein proaktiver KI-Partner für die Softwareentwicklung.

Ausblick: Die Zukunft des KI-Gedächtnisses in der Entwicklung

Shadow CTO zeigt, wie zukunftsweisend persistente KI-Gedächtnisse für die Softwareentwicklung sein können. Mit der wachsenden Komplexität von Codebasen wird der Bedarf an automatisierten Wissensmanagement-Systemen weiter steigen. Die Integration in bestehende CI/CD-Pipelines oder die Erweiterung um domänenspezifische Analysen (z. B. Sicherheitslücken) sind nur einige der möglichen nächsten Schritte.

Die größte Stärke von Shadow CTO liegt jedoch darin, dass es nicht nur Fragen beantwortet, sondern aktiv Wissen generiert und bewahrt – und das über den gesamten Lebenszyklus eines Projekts hinweg. In einer Branche, in der Teams ständig wechseln und Code oft über Jahre hinweg weiterentwickelt wird, könnte diese Technologie zum entscheidenden Faktor für nachhaltige Softwarearchitekturen werden.

Die Zukunft der KI in der Entwicklung gehört nicht den statischen Chatbots, sondern den lernenden Assistenten, die mit der Zeit immer besser werden – genau wie Shadow CTO.