Für IT-Verantwortliche Retrieval-Augmented Generation

Wie FrΛIa Antworten aus Ihrem Unternehmens­wissen erzeugt

Ein allgemeines Sprachmodell (wie ChatGPT) hat alleine keinen verlässlichen Zugriff auf Ihre aktuellen Verträge, Richtlinien, Handbücher und Projektunterlagen. FrΛIa nutzt deshalb Retrieval-Augmented Generation, kurz RAG: Vor jeder Antwort werden passende und berechtigte Textstellen aus den angebundenen Unternehmensquellen gesucht und dem Modell als Kontext bereitgestellt.

Die Ausgangslage

Warum ein Sprachmodell allein nicht ausreicht

Ein allgemeines Sprachmodell wurde nicht als verlässlicher Zugriff auf Ihre aktuellen internen Unterlagen entwickelt. Verträge, Preislisten, Richtlinien und Wartungshandbücher ändern sich laufend und unterliegen individuellen Zugriffsrechten. Deshalb werden die für eine Frage benötigten Inhalte zur Laufzeit aus den freigegebenen Quellen ermittelt.

Retrieval-Augmented Generation in einem Satz Ein RAG-System sucht vor jeder Antwort nach relevanten und zulässigen Textstellen, stellt daraus den Antwortkontext zusammen und ermöglicht dem Sprachmodell, seine Aussagen auf konkrete Quellen zu stützen.
Jede Antwort Modell was es gelernt hat Frage und Vorgaben was gefragt und vorgegeben wird Kontext was der Ablauf mitgibt Kontextfenster · begrenzt Foto KI-generiert

Große Kontextfenster ersetzen keine gezielte Suche.

Eine Antwort wird unter anderem durch Modell, Systemvorgaben, Nutzerfrage und bereitgestellten Kontext beeinflusst. Für belastbare Antworten aus Unternehmenswissen ist entscheidend, welche internen Informationen als Kontext ausgewählt werden und ob der Nutzer darauf zugreifen darf.

01 · Die Menge
  • Aktuelle Spitzenmodelle verarbeiten sehr umfangreiche Eingaben, in der Größenordnung von einer Million Token je Anfrage
  • Das entspricht grob einigen hundert bis über tausend Seiten - eine Einordnung, keine feste Umrechnung
  • Ein mittelständisches Unternehmen hat Zehntausende Dokumente; der Bestand passt in kein Kontextfenster
02 · Die Qualität
  • Relevante und irrelevante Inhalte konkurrieren im selben Kontext um Aufmerksamkeit
  • Studien wie „Lost in the Middle" zeigen, dass Position und Menge des Kontexts die Treffgenauigkeit beeinflussen können
  • Eine Prüfung von 18 Modellen beobachtete Qualitätsverluste, je länger die Eingabe wurde

Kontextfenster sind begrenzt. Je nach Modell, Schnittstelle und technischer Umsetzung werden zu lange Eingaben abgewiesen, gekürzt oder vorab zusammengefasst. Unabhängig davon sinkt die Verlässlichkeit, wenn große Mengen wenig relevanter Informationen gemeinsam übergeben werden.

Deshalb wählt Atlas gezielt wenige passende Fundstellen aus, statt den Bestand zu übergeben. Dieses gezielte Heraussuchen ist das Retrieval.

Quellen: Liu et al., Lost in the Middle (Stanford, TACL) · Chroma, Context Rot (2025, 18 Modelle) · Angaben zu Kontextfenstern nach Herstellerangaben, Stand 19.08.2026. Die genannten Studien beziehen sich auf ihren jeweiligen Versuchsaufbau; die Zahlen ändern sich laufend, die Größenordnung nicht.

Der Weg einer Frage

Vom Dokument zur Antwort.

Sieben Stationen liegen zwischen einer Datei in Ihrer Ablage und dem Satz, den ein Mitarbeiter liest. Die ersten vier laufen im Hintergrund, lange bevor jemand fragt. Die letzten drei laufen in dem Moment, in dem die Frage gestellt wird.

LÄUFT IM HINTERGRUND LÄUFT BEI DER FRAGE Synchronisieren SharePoint, Web regelmäßig Zerlegen 1.200 Zeichen 100 überlappen Einbetten 3.072 Werte je Abschnitt Vektordatenbank Abschnitt, Herkunft, Metadaten, Rechte Filtern, suchen Rechte zuerst, dann 25 Dokumente Neu sortieren bis 75 Abschnitte, 5 gehen weiter Antwort mit Quellen Die Quelle führt, der Index folgt.
  1. Im HintergrundQuelle synchronisierenSharePoint und freigegebene Webseiten; Änderungen werden regelmäßig erkannt.
  2. Im HintergrundText extrahieren und zerlegenAbschnitte mit definierter Länge, die einander überlappen - damit ein Satz nicht genau an der Schnittkante zerrissen wird.
  3. Im HintergrundEinbettungen erzeugenJeder Abschnitt wird in eine Zahlendarstellung übersetzt, die Bedeutung vergleichbar macht.
  4. Im HintergrundIndex mit Rechtefeldern aktualisierenTextabschnitte, Herkunft, Metadaten und Berechtigungen werden gemeinsam gespeichert.
  5. Bei der FrageVor der Suche nach Rechten filternNur Abschnitte, für die der Fragende eine Freigabe hat, werden durchsucht.
  6. Bei der FrageTreffer suchen und neu sortierenAus bis zu 25 Dokumenten kommen je höchstens drei Abschnitte in die Bewertung; 5 gehen weiter.
  7. Bei der FrageAntwort mit Quellen erzeugenDie ausgewählten Fundstellen werden an das Sprachmodell übergeben und als Quelle ausgewiesen.

Konfigurationswerte in Grafik und Liste: Stand 22.09.2026

Die Quelle

Die Quellablage bleibt führend

Direkt an SharePoint angebunden

Der Suchindex ist eine Ableitung der Quelle - nicht ihr Ersatz.

Atlas liest Inhalte aus den ausdrücklich freigegebenen SharePoint-Bereichen und aus einzeln benannten Webseiten. Ein regelmäßiger Abgleich erkennt neue oder geänderte Inhalte und aktualisiert die zugehörigen Abschnitte im Suchindex.

Eine aus der Herkunft abgeleitete Kennung verhindert, dass bei Aktualisierungen unkontrollierte Dubletten entstehen: Eine neue Fassung ersetzt die alte, statt neben ihr zu liegen.

Eine wiederkehrende Gegenprüfung vergleicht Quelle und Index in beide Richtungen. Sie meldet Inhalte, die nicht übernommen wurden, sowie Indexeinträge, deren Quelldatei nicht mehr vorhanden ist.

IHRE ABLAGE Unternehmenswissen Projekte Verträge Webseiten regelmäßig nur Geändertes wiederkehrend Gegenprüfung SUCHINDEX Abschnitte + Rechtefelder Die Quelle führt, der Index folgt. Gezählt wird in beide Richtungen: was fehlt und was übrig ist.
Der wichtigste Unterschied

Berechtigungen wirken vor der Ähnlichkeits­suche

Gesperrtes wird gar nicht erst durchsucht

Der Rechtefilter sitzt vor der Ähnlichkeitssuche, nicht dahinter. Was ausgefiltert wird, kann nicht in den Antwortkontext gelangen.

Beim Einlesen ermittelt Atlas für jede Datei die tatsächlichen Freigaben über Microsoft Graph und schreibt sie als Entra-Kennungen an jeden einzelnen Textabschnitt, zusammen mit seiner Vertraulichkeitsstufe. Die Rechteinformation gehört damit zum Indexeintrag, nicht zu einer nachgelagerten Prüfung.

Bei jeder Frage geht die Gruppenmitgliedschaft des Fragenden als Filterbedingung an die Vektordatenbank, bevor diese zu suchen beginnt. Fehlen einem Abschnitt verwertbare Rechteangaben, wird er nicht ausgeliefert. Dieses Verhalten heißt fail closed: Im Zweifel liefert das System weniger, statt möglicherweise Unberechtigtes preiszugeben.

Ein regelmäßiger Abgleich zieht entzogene Freigaben nach, auch wenn die Datei selbst unverändert bleibt.

MIT FREIGABE OHNE FREIGABE Filter: Vertrieb, Leitung Filter: keine Gruppe Die freigegebenen Unterlagen werden durchsucht Nur öffentliche Inhalte Was gesperrt ist, wird gar nicht erst durchsucht. Der Filter greift vor der Suche, nicht danach.
Foto KI-generiert
Warum ein zweiter Blick nötig ist

Ähnlich ist nicht dasselbe wie richtig

Die Treffer werden neu sortiert

Ein Reranking-Modell bewertet jede der bis zu 75 Fundstellen gemeinsam mit der Frage und ordnet sie nach tatsächlicher Relevanz.

Die Ähnlichkeitssuche findet Textstellen, die zur Frage passen könnten - sie vergleicht Bedeutungen, nicht Antworten. Deshalb bewertet anschließend ein spezialisiertes Modell jede dieser Fundstellen einzeln gegen die gestellte Frage. In einem gemessenen Fall lag die Zeile mit der eigentlichen Antwort in der reinen Vektorsuche auf Rang 17 bis 19 und stand nach dem Neusortieren auf Platz 1.

Einer der fünf Plätze im Antwortkontext ist für ein zweites Dokument reserviert. Bei Vergleichsfragen stammen die Belege damit nicht alle aus derselben Datei. Werte nach dem Stand vom 22.09.2026.

NACH ÄHNLICHKEIT NEU SORTIERT Rang 18 Platz 1 5 gehen weiter Bis zu 75 bewertet, fünf an das Modell. Fällt dieser Schritt aus, antwortet der Chat mit der ungeordneten Reihenfolge weiter.
Nachprüfbarkeit

Antworten weisen ihre Fundstellen aus

Die Belege stehen direkt an der Antwort

Bis zu drei Quellenkärtchen mit Dokumentname, Relevanzwert und Link - direkt unter der Antwort.

Im KI-Arbeitsplatz belegt jede Aussage aus der Wissensbasis ihren Satz mit einer Quellennummer. Ein Auszug von 200 Zeichen macht die Angabe nachprüfbar, ohne dass jemand das Dokument öffnen muss. Wo das Modell aus eigenem Wissen ergänzt, wird das ausdrücklich gekennzeichnet - bei Zahlen, Fristen und Namen ist es ganz untersagt.

Fundstellen unterhalb eines Relevanzwerts von 0,3 erscheinen gar nicht erst. Ein Kärtchen mit drei Prozent Relevanz sieht aus wie ein Beleg und ist keiner.

1 2 Ergänzung aus Modellwissen QUELLEN Angebot-2024.pdf 0,81 Preisliste.xlsx 0,64 unter 0,3 wird nicht gezeigt
Datenfluss und Speicherorte

Wo welche Daten verarbeitet werden

Instanz und Suchindex laufen in Ihrer Umgebung im deutschen Rechenzentrum. Einbetten, Neubewerten und Formulieren laufen über eine Azure-Ressource, die allein Ihrem Unternehmen zugeordnet ist, in der vereinbarten Region. Betrieben wird sie im Azure-Abonnement von FrΛIraum.

SchrittVerarbeitete DatenOrt
QuellhaltungOriginaldokumente und WebinhalteIhre bestehende Ablage - unverändert
TextextraktionExtrahierter Text und MetadatenIhre Instanz, deutsches Rechenzentrum
ZerlegenTextabschnitte mit Herkunft und RechteangabenIhre Instanz, deutsches Rechenzentrum
SuchindexAbschnitte, Vektoren, Metadaten, RechteangabenIhre Instanz, deutsches Rechenzentrum
EinbettenEinzelne TextabschnitteIhre Azure-Ressource, vereinbarte Region
NeubewertenFrage und zulässige TrefferkandidatenIhre Azure-Ressource, vereinbarte Region
Antwort formulierenFrage, Vorgaben und die fünf ausgewählten FundstellenIhre Azure-Ressource, vereinbarte Region

Originaldokumente verlassen die Quellablage nicht. An das Sprachmodell geht je Anfrage nur die Auswahl, die Rechteprüfung und Relevanzbewertung überstanden hat.

Laufend gemessen

Qualität und Trennung werden laufend gemessen

Eine Berechtigungsprüfung, die nur beim Bau geprüft wurde, sagt nichts über den Betrieb in acht Monaten. Deshalb läuft die Prüfung weiter, während das System arbeitet.

Wieder­kehrender Trennungstest

Testdokumente mit abgestuften Rechten liegen in der Sammlung, gefragt wird aus mehreren Identitäten. Der letzte Lauf verlief ohne Verletzung.

Fortlaufende Evaluation

Ein festes Set von Prüffragen läuft gegen den echten Chat, ein zweites Modell benotet Relevanz und Quellentreue. Ein Teil der Fragen ist bewusst unbeantwortbar, damit auffällt, wenn das System zu antworten beginnt statt abzulehnen. Umfang und Fragen legen wir mit Ihnen fest.

Melder auf der ganzen Kette

Über die Kette verteilt sitzen Melder: Einer zählt die Abschnitte im Index gegen und meldet jeden ohne Rechtefeld. Ein anderer prüft, ob das Neusortieren tatsächlich arbeitet. Ein weiterer holt die Abschnitte aus der Warteschlange, die nicht durchgekommen sind. Die Zahl wächst mit dem, was es zu überwachen gibt.

Laufender Rechteabgleich

Entzogene Freigaben wirken zeitnah, auch wenn die Datei selbst unverändert bleibt.

Foto KI-generiert
Konfiguration

Womit Atlas im Standard arbeitet

Diese Werte gelten für jede Atlas-Instanz ab Werk. Es sind keine Systemgrenzen: Wenn Datenbestand, Dokumenttypen oder Suchverhalten es erfordern, passen wir sie im Projekt an und prüfen die Änderung mit Ihren eigenen Unterlagen und Fragen nach.

WasStandardWozu
Abschnittsgröße1.200 ZeichenLänge eines Textabschnitts im Suchindex
Überlappung100 ZeichenDamit zusammengehörige Aussagen an der Schnittkante nicht getrennt werden
Einbettungsmodelltext-embedding-3-largeÜbersetzt jeden Abschnitt in eine Zahlendarstellung, die Bedeutung vergleichbar macht
Vektordimensionen3.072Vom Modell vorgegeben
Kandidaten aus der Suche25 Dokumente × 3 AbschnitteTreffermenge, die an die Neubewertung geht. Der Deckel je Dokument verhindert, dass ein einzelnes langes Dokument die Kandidatenliste füllt
Fundstellen für die Antwort5Auswahl, die das Sprachmodell erhält
Erstverarbeitung1 bis 2 TageGemessene Größenordnung für einige tausend Dokumente, abhängig von Umfang und Struktur

Stand der Angaben: 22.09.2026

Einordnung

Technische Begriffe und eingeordnete Verfahren

Diese Begriffe begegnen Ihnen, sobald Sie sich mit dem Thema RAG befassen. Die hervorgehobenen beschreiben, was bei Atlas in der Standardkonfiguration ausgeliefert wird. Die übrigen sind Verfahren, die wir geprüft und für den Standard verworfen haben. Wenn Kundenspezifika es erfordern, ist der Einsatz im Rahmen eines Projektes möglich.

  • Retrieval-Augmented Generation
  • Vektordatenbank
  • Embeddings
  • Chunking
  • Dense-Suche
  • Reranking
  • Cross-Encoder
  • Permission-aware Retrieval
  • Metadata-Filter
  • Quellen-Attribution
  • Agentic RAG
  • Query-Rewriting
  • BYOM
  • Hybrid-Suche
  • BM25
  • Semantic Chunking
  • Parent-Document-Retrieval
  • Contextual Retrieval
  • RAPTOR
  • GraphRAG
  • Self-RAG
  • Corrective RAG
  • HyDE
  • Multi-Query
  • Konfidenz-Gating

Ein Beispiel für das Verworfene: Hybrid-Suche und Parent-Document-Retrieval wurden an einem echten Fehlerfall geprüft. Die richtigen Dokumente lagen bereits unter den ersten zwanzig Treffern - es war ein Sortierproblem, kein Suchproblem. Also kam der Cross-Encoder und nicht die zweite Suchmaschine.

Ihr nächster Schritt

Sprechen wir über Ihre Architektur

Im Architekturgespräch klären wir, welche Quellen angebunden werden, wie sich Ihre SharePoint- und Entra-Berechtigungen abbilden lassen, welche Fragen das System zuverlässig beantworten muss und wie Relevanz, Quellentreue und Berechtigungstrennung im Betrieb gemessen werden.