Ziel und Problemstellung: Das Projekt zielt darauf ab, eine vollständig lokale, datenschutzkonforme und modulare KI-Agentenplattform zu entwickeln. Die Abhängigkeit von Cloud-Anbietern wurde aufgrund hoher Kosten, API-Bindungen und kritischer Datenschutzbedenken eliminiert. Der Fokus lag auf dem Aufbau einer robusten Architektur, die sowohl kreative als auch analytische Aufgaben effizient bewältigt – und zwar ohne jegliche externe Abhängigkeit.

Ergebnisse: Es wurden mit guten Erfolg Tools entwickelt/aufgebaut und das Wissen mithilfe der erwähnten Gaming-Maschine (per GPU-Beschleunigung, NVIDIA RTX 5070 12GB VRAM) angewendet. 


Übersicht

Architektonische Kernprinzipien & die wichtigsten Erkenntnisse

Der Entwicklungsverlauf hat folgende zentrale Axiome bestätigt:

  1. Architektur vor Modell: Die Leistungsfähigkeit des Systems wird nicht primär durch die Größe der einzelnen Sprachmodelle bestimmt, sondern durch die Intelligenz und Modularität der Agenten-Orchestrierung um diese Modelle herum.
  2. Präzisere Spezialisierung: Spezialisierte Agenten sind für spezifische Aufgaben (Writer, Reviewer, Memory) leistungsfähiger als ein einziges universell eingestelltes Modell.
  3. Wissen ist das Kapital: Für Langzeitprojekte und Konsistenz ist ein persistentes, semantisch nachbaubares Wissensmanagement (Memory) entscheidend.
  4. Supervisor-gesteuerte Pipeline: Die Qualität wird durch einen zentralen Supervisor bestimmt, der Aufgaben in atomare Schritte zerlegt und die passenden Subagenten (Tools) präzise mit vollem (Dateisystem-gestützten) Kontext aufruft.

System-Pfeiler / Die implementierte Basis

Das System wurde schrittweise aufgebaut, indem zentrale Komponenten lückenlos miteinander verbunden wurden:

  1. Lokaler LLM-Kern: Mit dem Einsatz von Ollama und der Benutzeroberfläche OpenWebUI konnte eine modulare Multi-LLM-Plattform geschaffen werden, die auf moderner Hardwarebeschleunigung (GPU) basiert.
  2. Sprachsynthese: Die lokale Integration des TTS-Systems (Supertonic 3) ermöglichte eine vollständig OpenAI-kompatible Sprachausgabe.
  3. Supervisor-Architektur: Anstelle einer rein linearen Kette steht ein zentraler Supervisor-Agent. Dieser steuert den Workflow durch Phasen ( PreFlight, Acceleration, Flight, Landing, Docking) und delegiert Aufgaben über ein Task-Tool an spezialisierte Subagenten.

Evolution zur intelligenten Agentenarchitektur

Die Skalierung des Systems führte von einem linearen Workflow zu komplexeren, wissens-getriebenen Prozessen:

  • Vom Workflow zum Tool-Calling: Die Migration zum LangChain-Framework (LangChain, LangGraph, Deepagent) ermöglichte einen Supervisor, der den Zustand des Projekts versteht. Er nutzt Tool-Calling, um Subagenten (autowriter, reviewer, memorizer, issuetracker) gezielt mit vollem Kontext zu füttern, anstatt den gesamten Prozess in einem Schritt zu lösen.
  • Operatives Memory & Obsidian Vault: Der Supervisor hat vollen Lese- und Schreibzugriff auf einen Obsidian Vault. Das Wissen wird nicht nur temporär gehalten, sondern durch den Memorizer gezielt in strukturierten Dateien ( memory.md) verankert, was eine konsistente Weltbildung über lange Zeiträume ermöglicht.

Fazit und Ausblick: Die Zukunft des Systems

Das Ziel war ein teilautonomer Betrieb unter Leitung des Anwenders. Die derzeitige Architektur ist ein kooperatives System, in dem ein Supervisor die Komplexität der Welt (Obsidian Vault) und die Nuancen der Erzählung (Subagenten) abgleicht.

  • Ökonomie:
    • Das System nutzt viele LLM-Aufrufe und arbeitet für jeden einzelnen systemischen Schritt mit einer maximalen Kapazität von 110k-Tokens.
    • Jeder Schritt ist mit gezielter Middleware gestützt, wobei Tool-Call & Thinking-Modelle wie Gemma4:12b und Qwen3.5:9b benutzt werden.
    • Das System kostet mich Vollbetrieb bis zu ~11ct/h (~300W * 35ct/kWh).
  • Was steht an: Die Perfektionierung des Agenten-Harness (insb. der LLM-Tool-Selector Middleware), um die Entscheidungsfindung des Supervisors bei komplexen Aufgaben noch präziser zu machen und die Autonomie bei der Fehlerkorrektur zu erhöhen.
  • Limitation/Beachtung:
    • Die Stärke liegt in der Trennung von Denken (Supervisor) und Tun (Subagenten). Dies verhindert, dass das System durch zu viele gleichzeitige Aufgaben "überfordert" wird, da der Supervisor immer nur einen Schritt nach dem anderen fokussiert.
    • Das System zeigt aktuell noch Kinderkrankheiten wie das Versagen bei iterativen Tasks, verlässlicher Textextraktion sowie gelegentliche Hardware-bedingte Hickups.

Das Titelbild wurde mit ChatGPT5o erstellt.

ChatGPT Image 30. Juni 2026 00_54_23
ChatGPT Image 30. Juni 2026 00_54_23
langflow_crp_1
langflow_crp_1
langflow2
langflow2
langflow3
langflow3


Architekturen

Sprachsynthese

Read Aloud
      │
      ▼
OpenAI-kompatibler Proxy-Container
      │
      ▼
Supertonic-3
      │
      ▼
Lokale Sprachsynthese

---

Emulierte OpenAI-Endpunkt - unter anderem:

/v1/models
/v1/audio/speech

Audio-Konvertierung - Automatische Anpassung zu MP3

 

Kreative Pipeline

WRITE-Modus

Idee/Draft
   ↓
Writer (ggf. erst in zweiter Iteration)
   ↓
Review
   ↓
Merge + Advice --> Repeat: Writer
   ↓
Memory

REVIEW-Modus (batch-fähig)

Kapitel 1..N
      ↓
Review0..2
      ↓
Review-Merge + Advice (Pro Kapitel)
      ↓
Konsolidierung
      ↓
Memory Update (Txt-basiertes TOML)

Modellrollen

Rolle Modell Aufgabe
Writer & Review0 Mistral Small 3.2 Kreative Texterstellung, Creative Director
Review1 Qwen 3.5 Struktur, Logik, Lore
Review2 Gemma 4 Stil und Konsistenz
Review-Conflictor, Review2Writing Advisor Nemotron Cascade 2 Konsolidierung
Memory Nemotron Nano Wissensextraktion (Zusammenfassungen, 

Charakterdaten, Orte, Fraktionen, Ereignisse, Regeln, Zeitachsen)


Während Phase 1 die solide lokale Infrastruktur und die grundlegende Orchestrierung etablierte, transformiert Phase 2 das System in eine spezialisierte Produktionslinie für Narrative. Der Creative Co-Editor ist kein einzelner Agent, sondern ein modularer Workflow, der die „leere Seite“ überwindet, indem er den kreativen Prozess in spezialisierte, iterative Arbeitsschritte zerlegt.

Pipeline-Architektur & Supervisor-Logik

Das System basiert auf einer Supervisor-gesteuerten Pipeline. Ein zentraler Supervisor-Agent fungiert als Projektleiter, der den Fortschritt durch das Projekt steuert und entscheidet, welche spezialisierten Subagenten (Tools) wann aufgerufen werden. Anstatt ein einziges Modell die gesamte Last des Schreibens tragen zu lassen oder einen fixen Programmablauf aufzurufen, fungiert der Co-Editor als Multi-Agenten-System (MAS). Jede Aufgabe wird von einer spezifischen Rolle übernommen, die eine klare Definition hat: Was sie tun soll – und was sie nicht tun darf.

Die Arbeit wird in logische Phasen unterteilt:

  1. PreFlight & Acceleration: Der Supervisor prüft den aktuellen Zustand, klärt die Intention des Nutzers und erstellt eine atomare Todo-Liste.
  2. Flight (Task Execution): Der Supervisor delegiert Aufgaben an spezialisierte Subagenten:
    • Autowriter: Für die Erstellung komplexer Entwürfe inklusive interner Qualitätssicherung.
    • Review-Graph: Ein paralleles System aus drei Reviewern (Creative, Continuity, Literacy), die Konflikte ausgleichen und präzise Korrekturvorschläge liefern.
    • Memorizer: Ein dedizierter Agent zur Extraktion und Strukturierung von Fakten in das permanente Gedächtnis.
    • Issuetracker: Ein Auditor, der lose Fäden und logische Fehler über die Zeit hinweg überwacht.
  3. Landing & Docking: Der Supervisor validiert die Ergebnisse der Subagenten, bereinigt Redundanzen und liefert dem Nutzer einen abschließenden Bericht über den erledigten Fortschritt.

Methodik und Vorteile

  • Iteratives Processing (Map-Reduce): Lange Werke werden durch die ToDo-Mechanik in Chunks (Kapitel) zerlegt, um das Kontextfenster optimal zu nutzen.
  • Recursive Feedback Loop: Der Autowriter bildet mit Subgraph-Agenten wie den Reviewern eine Schleife, in der Fehler erkannt und dann direkt korrigiert werden.
  • Contextual Memory Management: Durch den Memorizer wird das Wissen komprimiert und persistent gespeichert, sodass das System über lange Zeiträume konsistent bleibt.

Systemaufbau

Diese Skizze zeigt das System als ein Hub-and-Spoke-Modell bzw. zielt auf ein Human-in-the-Loop-System ab. In diesem Modell ist der Supervisor das Zentrum. Er ist nicht nur ein Schritt in einer Kette, sondern der „Projektleiter“, der entscheidet, wann und welches Spezialwerkzeug (Subagent) aktiviert wird.

  • Der Supervisor als Hub: Er hält den Überblick über das gesamte Projekt. Er „sieht“ das gesamte Obsidian-Vault und entscheidet basierend auf dem User-Input, welcher Pfad (Flight Chunk) gerade nötig ist.
  • Subagenten als spezialisierte Werkzeuge: Anstatt dass der Supervisor alles selbst macht, „delegiert“ er Aufgaben an die Subagenten.
  • Nested Graphs (Verschachtelte Graphen): Besonders der Review-Graph ist ein komplexes Unter-System. Wenn der Supervisor „Review“ aufruft, wird ein ganzer Prozess gestartet, in dem drei verschiedene Reviewer gleichzeitig arbeiten, ihre Ergebnisse im Conflict-Adjudicator abgleichen und vom Writing-Advisor aufbereitet werden.
  • Der Autowriter-Loop: Der Autowriter ist ein "High-Level" Subagent, der intern bereits eine kleine Schleife (Schreiben →\rightarrow→ Review) enthält, bevor er das Ergebnis an den Supervisor zurückgibt.

          [ USER INPUT ]
                │
                ▼
      +-----------------------+
      |      SUPERVISOR       | <--- (Das Gehirn: Planer, Entscheider, 
      | (LangGraph Deep Agent)|       Context-Manager für Obsidian Vault)
      +-----------------------+
          │      │      │
   _______│      │      │_______
  /       ▼      ▼      ▼       \
 [PreFlight]  [Tools]  [Landing]  [Docking]
 (Check)    (Subagents) (Validierung) (Report)
          │
          ▼
+---------------------------------------+
|        TASK TOOL (Sub-Agents)        |
|  (Aufgerufen je nach Supervisor-Entscheidung)  |
+---------------------------------------+
          │
          ├─▶ [AUTOWRITER] ─────────────┐
          │  (Schreibt & prüft intern)  │
          │                             │
          ├─▶ [REVIEW-GRAPH] ───────────┼──▶ [REVISIONER]
          │  (Parallel: Creative,       │  (Chirurgische Korrektur)
          │   Continuity, Literacy)     │
          │  │                        │  │
          │  └─▶ [CONFLICT-ADJUDICATOR]│  │
          │  └─▶ [WRITING-ADVISOR] ────┘  │
          │                                │
          ├─▶ [MEMORIZER] ───────────────┘
          │  (Extrahiert & Speichert)
          │
          └─▶ [ISSUETRACKER] ────────────┘
             (Audit & Fehlerverfolgung)