RAG-Systeme für Unternehmenswissen

Wir bauen Retrieval-Augmented-Generation-Systeme, die über den Prototyp hinauskommen: mit sauberer Ingestion-Pipeline, messbarer Retrieval-Qualität und einem Betriebsmodell auf Ihrer eigenen Infrastruktur.

Wann sich RAG lohnt

Wissen liegt verstreut in Wikis, Laufwerken, Postfächern und Ticketsystemen. Die Frage ist selten, ob ein Sprachmodell darauf antworten kann — sondern ob die Antwort belegbar ist. Genau das leistet RAG: Das Modell bekommt gefundene Passagen als Kontext und antwortet daraus, statt aus dem Gedächtnis. Jede Aussage lässt sich zur Quelle zurückverfolgen.

Nicht jedes Wissensproblem braucht das. Für einen abgegrenzten, gut strukturierten Bestand ist eine Suche mit Facetten schneller, billiger und leichter zu erklären. RAG lohnt sich dort, wo die Frage in Freitext gestellt wird und die Antwort aus mehreren Dokumenten zusammengesetzt werden muss.

Entscheidungen, die dabei anstehen

Welche Quellen hineingehören. Die Zugriffsrechte müssen mitwandern. Sonst beantwortet das System Fragen, die der Fragende gar nicht stellen dürfte — und zwar überzeugend formuliert, was es schlimmer macht.

Wie zerlegt wird. Ein Dokument wird nicht als Ganzes gefunden, sondern in Abschnitten. Wo geschnitten wird und wie viel Überlappung bleibt, entscheidet mehr über die Antwortqualität als die Wahl des Modells.

Welcher Vektor-Store. Läuft ohnehin Postgres, ist pgvector meist die Antwort mit dem geringsten Betriebsaufwand; bei großen Beständen mit viel Filterung spielt eine spezialisierte Datenbank ihre Stärken aus. Die Kriterien haben wir in einem eigenen Beitrag ausgeschrieben: Qdrant oder pgvector.

Wie Qualität gemessen wird. Ohne Evaluierungs-Harness ist jede Änderung an der Pipeline eine Wette. Mit einem Satz Referenzfragen wird sie zu einer Zahl, die vor und nach dem Eingriff vergleichbar ist.

Wo das Modell läuft. Vektor-Store, Pipeline und Dokumente bleiben bei uns standardmäßig auf Ihrer Infrastruktur; die Modellaufrufe lassen sich auf EU-Endpunkte oder ein lokal betriebenes Modell legen.

Was dabei entsteht

Datenaufbereitung und Chunking-Strategie für Ihre Quellsysteme
Embedding- und Vektor-Store-Auswahl, self-hosted und DSGVO-konform
Evaluierungs-Harness: Retrieval- und Antwortqualität als Regressionstest
Rollenbasierter Zugriff, der die Rechte der Quellsysteme übernimmt
Betrieb, Monitoring und Kostenkontrolle

Woran Sie merken, dass es trägt

Jede Antwort trägt ihre Quellen, und die Belege stimmen. Eine Änderung an der Pipeline zeigt sich als Zahl im Evaluierungslauf statt als Bauchgefühl. Und ein neues Quellsystem kommt dazu, ohne dass das System dafür neu gebaut werden muss.

Häufige Fragen

Bleiben unsere Daten bei einem RAG-Projekt im Haus?

Ja. Wir bauen RAG-Systeme standardmäßig self-hosted: Vektor-Store, Pipeline und Dokumente bleiben auf Ihrer Infrastruktur. LLM-Aufrufe lassen sich auf EU-Endpunkte oder lokale Modelle beschränken — das entscheiden wir gemeinsam in der Architekturphase.