KI · Themenbeitrag
Ein Sprachmodell kennt nicht automatisch die Dokumente einer Organisation. Retrieval-Augmented Generation verbindet deshalb Informationssuche mit Textgenerierung. Das kann Antworten nachvollziehbarer machen, beseitigt Fehler aber nicht von selbst. Entscheidend sind die Qualität der gefundenen Passagen, ihre Aktualität und die Frage, ob eine Antwort tatsächlich durch diese Quellen gedeckt ist.
Zwei Aufgaben, die getrennt betrachtet werden sollten
Retrieval-Augmented Generation, kurz RAG, kombiniert ein Sprachmodell mit einem durchsuchbaren Dokumentbestand. Zunächst ermittelt eine Suchkomponente passende Textstellen. Anschließend erhält das Modell diese Passagen als zusätzliche Grundlage für seine Antwort. Die grundlegende Forschungsarbeit von Lewis und Kollegen untersuchte diese Verbindung aus parametrischem Modellwissen und externem Speicher anhand wissensintensiver Sprachaufgaben. Der praktische Unterschied zu einem gewöhnlichen Chat liegt nicht darin, dass das Modell plötzlich alles weiß. Vielmehr bekommt es ausgewählte Unterlagen vorgelegt. Dadurch lässt sich Fachwissen aktualisieren, ohne das gesamte Modell neu zu trainieren. Auch Herkunftsnachweise werden möglich. Ob sie belastbar sind, hängt allerdings davon ab, welche Dokumente gefunden wurden und wie sorgfältig die Generierung mit ihnen umgeht.
Ein Suchtreffer ist noch kein Beleg
Die Fehlerkette beginnt häufig vor dem eigentlichen Schreiben. Eine Suche kann eine alte Anleitung bevorzugen, eine entscheidende Ausnahme übersehen oder ähnliche Begriffe miteinander verwechseln. Selbst bei passenden Treffern kann das Sprachmodell Aussagen verbinden, die gemeinsam nicht aus den Quellen folgen. Ein angehängter Link beweist deshalb zunächst nur, dass ein Dokument genannt wurde. Für eine brauchbare Prüfung muss sichtbar sein, welche Passage welche Aussage stützt. Ebenso wichtig ist eine klare Trennung zwischen dokumentierten Fakten und ergänzender Interpretation. Widersprechen sich Unterlagen, sollte das System diesen Konflikt offenlegen. Eine sprachlich glatte Zusammenfassung, die unterschiedliche Versionsstände stillschweigend vermischt, ist für viele Arbeitsabläufe weniger hilfreich als eine ausdrücklich unvollständige Antwort mit präzisen Fundstellen.
So wird der Nutzen im Alltag messbar
Für einen ersten Test eignet sich ein begrenzter Bestand mit bekannten Antworten: etwa freigegebene Handbücher und häufige Servicefragen. Das Team sollte getrennt messen, ob relevante Passagen gefunden werden und ob daraus korrekte Antworten entstehen. Dazu gehören Fragen ohne belegbare Antwort sowie Fälle mit veralteten oder widersprüchlichen Dokumenten. Ein hilfreiches System muss nicht jede Frage beantworten; es muss fehlende Evidenz zuverlässig anzeigen. Praktisch sinnvoll sind Versionsangaben, direkte Sprünge zur Originalstelle und eine nachvollziehbare Dokumentauswahl. Anthropics Untersuchung zu kontextangereicherten Textabschnitten illustriert zudem, dass schon die Aufbereitung des Suchbestands einen Unterschied machen kann. Solche Ergebnisse sind jedoch kein allgemeines Gütesiegel: Jede Sammlung braucht eigene Tests, insbesondere für Fachsprache, Zugriffsrechte und seltene Ausnahmefälle.
Quellen & weiterführende Informationen
- Lewis et al.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasksmlanthology.org
- Anthropic: Contextual Retrievalanthropic.com
Mit KI-Unterstützung aus den genannten Quellen in eigenen Worten erstellt. Forschungsergebnisse, technische Prototypen und gesicherte Erkenntnisse werden im Text unterschieden. Dieser Themenbeitrag ist keine tagesaktuelle Meldung.