Technische Fallstudie
Ada
Ada ist ein lokaler RAG-Prototyp: persönliches Wissen durchsuchbar und KI-abfragbar — ohne Cloud-Pflicht. Electron-Desktop, lokale Embeddings, anbindbare LLM-Laufzeit. Fokus auf Chunking-Qualität und Quellenangaben.
Hintergrund
Nach Sponge (Dokumenten-Pipeline) wollte ich Wissen nicht nur indexieren, sondern kontextbezogen abfragen. Unternehmensprogrammleitung erzeugt viel verteilten Kontext — Ada ist der Versuch, ihn lokal nutzbar zu machen.
Problem
Programm- und Transformationsarbeit erzeugt verstreute Notizen, Architektur-Dokumente und Konferenzmaterial — schneller Zugriff auf diesen Kontext zählt, besonders wenn externe KI-Dienste keine Option sind.
Ziele
- Lokale RAG-Pipeline ohne Cloud-Abhängigkeit
- Ingestion für Markdown und PDF
- Quellenangaben in jeder Antwort
- Chunking-Strategien für heterogene Dokumente evaluieren
Architektur
Aktuelle Implementierung — basierend auf dem, was heute gebaut ist.
Technologie-Stack
TypeScript · Electron · Local LLM · Vector DB · RAG
Technische Herausforderungen
- Chunking-Strategien für heterogene Dokumente
- Latenz lokaler Modelle auf Consumer-Hardware
- Quellenangaben in Antworten nachvollziehbar machen
- Setup-Komplexität als Produktentscheidung behandeln
Abwägungen
- Lokale Modelle: Datenschutz vs. Latenz auf Consumer-Hardware
- Electron: schnelle UI vs. Ressourcenverbrauch
- RAG ohne MCP-Werkzeuge — manuelle Integration statt standardisierter Tool-Verträge
Erkenntnisse
- Lokale KI ist machbar, aber Setup und Modellwahl sind Produktentscheidungen
- RAG-Qualität hängt stärker von Ingestion ab als vom Modell
- Persönliche Nutzung ist der beste Test für Betriebsprobleme
Aktueller Status
Live (Private) — Executive Intelligence für Chancen, Entwicklungen und langfristiges Wissen.
Zukünftige Verbesserungen
- Chunking-Strategien verfeinern (PDF vs. Markdown)
- MCP-Tool-Ebene evaluieren — explizite Tool-Verträge für lokale Aktionen
- Beobachtbarkeit für RAG-Pipeline: welche Chunks, welches Modell, welche Latenz
Geschätzte Meilensteine
- Q2 2026 — Chunking-Evaluierung mit repräsentativen Dokumenten
- Q3 2026 — MCP-Prototyp für lokale Tool-Aufrufe
- Q4 2026 — RAG-Beobachtbarkeit-Dashboard