Ziel und Problemstellung: Das Projekt zielt darauf ab, eine vollständig lokale, datenschutzkonforme und modulare KI-Agentenplattform zu entwickeln. Die Abhängigkeit von Cloud-Anbietern wurde aufgrund hoher Kosten, API-Bindungen und kritischer Datenschutzbedenken eliminiert. Der Fokus lag auf dem Aufbau einer robusten Architektur, die sowohl kreative als auch analytische Aufgaben effizient bewältigt – und zwar ohne jegliche externe Abhängigkeit.

Ergebnisse: Es wurden mit guten Erfolg Tools entwickelt/aufgebaut und das Wissen mithilfe der erwähnten Gaming-Maschine (per GPU-Beschleunigung, NVIDIA RTX 5070 12GB VRAM) angewendet. 


Übersicht

Architektonische Kernprinzipien & die wichtigsten Erkenntnisse

Der Entwicklungsverlauf hat folgende zentrale Axiome bestätigt:

  1. Architektur vor Modell: Die Leistungsfähigkeit des Systems wird nicht primär durch die Größe der einzelnen Sprachmodelle bestimmt, sondern durch die Intelligenz und Modularität der Agenten-Orchestrierung um diese Modelle herum.
  2. Präzisere Spezialisierung: Spezialisierte Agenten sind für spezifische Aufgaben (Writer, Reviewer, Memory) leistungsfähiger als ein einziges universell eingestelltes Modell.
  3. Wissen ist das Kapital: Für Langzeitprojekte und Konsistenz ist ein persistentes, semantisch nachbaubares Wissensmanagement (Memory) entscheidend.
  4. Supervisor-gesteuerte Pipeline: Die Qualität wird durch einen zentralen Supervisor bestimmt, der Aufgaben in atomare Schritte zerlegt und die passenden Subagenten (Tools) präzise mit vollem (Dateisystem-gestützten) Kontext aufruft.

System-Pfeiler / Die implementierte Basis

Das System wurde schrittweise aufgebaut, indem zentrale Komponenten lückenlos miteinander verbunden wurden:

  1. Lokaler LLM-Kern: Mit dem Einsatz von Ollama und der Benutzeroberfläche OpenWebUI konnte eine modulare Multi-LLM-Plattform geschaffen werden, die auf moderner Hardwarebeschleunigung (GPU) basiert.
  2. Sprachsynthese: Die lokale Integration des TTS-Systems (Supertonic 3) ermöglichte eine vollständig OpenAI-kompatible Sprachausgabe.
  3. Supervisor-Architektur: Anstelle einer rein linearen Kette steht ein zentraler Supervisor-Agent. Dieser steuert den Workflow durch Phasen ( PreFlight, Acceleration, Flight, Landing, Docking) und delegiert Aufgaben über ein Task-Tool an spezialisierte Subagenten.

Evolution zur intelligenten Agentenarchitektur

Die Skalierung des Systems führte von einem linearen Workflow zu komplexeren, wissens-getriebenen Prozessen:

  • Vom Workflow zum Tool-Calling: Die Migration zum LangChain-Framework (LangChain, LangGraph, Deepagent) ermöglichte einen Supervisor, der den Zustand des Projekts versteht. Er nutzt Tool-Calling, um Subagenten (autowriter, reviewer, memorizer, issuetracker) gezielt mit vollem Kontext zu füttern, anstatt den gesamten Prozess in einem Schritt zu lösen.
  • Operatives Memory & Obsidian Vault: Der Supervisor hat vollen Lese- und Schreibzugriff auf einen Obsidian Vault. Das Wissen wird nicht nur temporär gehalten, sondern durch den Memorizer gezielt in strukturierten Dateien ( memory.md) verankert, was eine konsistente Weltbildung über lange Zeiträume ermöglicht.

Fazit und Ausblick: Die Zukunft des Systems

Das Ziel war ein teilautonomer Betrieb unter Leitung des Anwenders. Die derzeitige Architektur ist ein kooperatives System, in dem ein Supervisor die Komplexität der Welt (Obsidian Vault) und die Nuancen der Erzählung (Subagenten) abgleicht.

  • Ökonomie:
    • Das System nutzt viele LLM-Aufrufe und arbeitet für jeden einzelnen systemischen Schritt mit einer maximalen Kapazität von 110k-Tokens.
    • Jeder Schritt ist mit gezielter Middleware gestützt, wobei Tool-Call & Thinking-Modelle wie Gemma4:12b und Qwen3.5:9b benutzt werden.
    • Das System kostet mich Vollbetrieb bis zu ~11ct/h (~300W * 35ct/kWh).
  • Was steht an: Die Perfektionierung des Agenten-Harness (insb. der LLM-Tool-Selector Middleware), um die Entscheidungsfindung des Supervisors bei komplexen Aufgaben noch präziser zu machen und die Autonomie bei der Fehlerkorrektur zu erhöhen.
  • Limitation/Beachtung:
    • Die Stärke liegt in der Trennung von Denken (Supervisor) und Tun (Subagenten). Dies verhindert, dass das System durch zu viele gleichzeitige Aufgaben "überfordert" wird, da der Supervisor immer nur einen Schritt nach dem anderen fokussiert.
    • Das System zeigt aktuell noch Kinderkrankheiten wie das Versagen bei iterativen Tasks, verlässlicher Textextraktion sowie gelegentliche Hardware-bedingte Hickups.

Das Titelbild wurde mit ChatGPT5o erstellt.

ChatGPT Image 30. Juni 2026 00_54_23
ChatGPT Image 30. Juni 2026 00_54_23
langflow_crp_1
langflow_crp_1
langflow2
langflow2
langflow3
langflow3