Zum Hauptinhalt springen Skip to page footer

Anwendungsfall: RAG auf einer Suchmaschinen-Schnittstelle für kuratierte und massenhafte Dokumentenbestände

In vielen dokumentenintensiven Umgebungen benötigen Benutzer schnelle Antworten, die auf einem bestimmten Satz von Dokumenten basieren. Herkömmliche Ansätze erzeugen jedoch auf zwei Ebenen Reibungsverluste:

Herausforderung


In vielen dokumentenintensiven Umgebungen benötigen Benutzer schnelle Antworten, die auf einem bestimmten Satz von Dokumenten basieren. Herkömmliche Ansätze erzeugen jedoch auf zwei Ebenen Reibungsverluste:

Erstens geben Suchtools Listen von Dateien zurück, ohne eine sofortige, vertrauenswürdige Fragebeantwortung über die Ergebnisse zu ermöglichen.
Zweitens erfordern klassische RAG-Implementierungen oft eine vollständige Aufnahme und Vorverarbeitung des gesamten Korpus per OCR, was Zeit, Kosten und betriebliche Komplexität erhöht – insbesondere, wenn der Benutzer nur einen Teil des Inhalts für eine einzelne Aufgabe benötigt.

Organisationen stehen zudem vor einem Vertrauensproblem: Selbst wenn ein KI-System eine Antwort liefert, haben Benutzer Schwierigkeiten zu überprüfen, woher die Informationen stammen und ob sie auf dem richtigen Dokument und Kontext basieren. Dies verlangsamt die Akzeptanz, erhöht Nacharbeiten und begrenzt den Einsatz von KI in regulierten oder hochriskanten Workflows.

Lösung


Galene.AI ermöglicht ein „RAG auf einer Suchmaschine“-Erlebnis, das eine vertraute Suchschnittstelle mit einem kontrollierten Aufnahme- und Frage-Antwort-Workflow kombiniert. Das System nutzt die Galene.AI-Plattform-APIs, um Dokumente parallel aufzunehmen, einen dedizierten Konversationskontext zu erstellen und fundierte Antworten mit präzisen Quellenangaben zu liefern.

Ein typischer Workflow umfasst:

  1. Suchbasierte Benutzererfahrung
    Die Anwendung präsentiert eine suchmaschinenähnliche Benutzeroberfläche. Der Benutzer gibt eine Anfrage ein und erhält eine Teilmenge von Dokumentenergebnissen.
  2. Auswahl zwischen kuratiertem und massenhaftem Dokumentenbestand
    Der Benutzer kann entweder eine gezielte Teilmenge von Dokumenten auswählen, um einen kuratierten Bestand zu erstellen, oder die Aufnahme des gesamten Ergebnisbestands in einem Schritt auslösen. Dadurch können kuratierte Szenarien mit massenhaften Aufnahme-Szenarien verglichen werden, wobei Unterschiede in Verarbeitungszeit, Auslastung und Abfrageverhalten hervorgehoben werden.
  3. Parallele Aufnahme und Bereitstellung der Konversation
    Sobald der Bestand definiert ist, erfolgt die parallele Aufnahme der ausgewählten Dokumente. Das System erstellt automatisch einen dedizierten Konversationsarbeitsbereich innerhalb der Anwendung, in dem die Bestandsdokumente vorab geladen und für Fragen und Antworten verfügbar gemacht werden. In vielen Fällen ist der Bestand innerhalb von Sekunden abfragebereit, abhängig von der Gesamtzahl der Seiten und dem Gesamt-Datenvolumen.
  4. Fundierte Frage-Antwort-Funktion mit überprüfbaren Quellenangaben
    Benutzer können Fragen direkt zum Bestand stellen. Antworten werden über die Galene.AI-Plattform generiert und mit präzisen bibliografischen Quellen zurückgegeben, einschließlich Dokumentname, Seitenzahl und dem Auszug, der für die Abfrage verwendet wurde. Diese Transparenz verbessert das Vertrauen und unterstützt Prüfungs-Workflows.
  5. OCR nur bei Bedarf zur Laufzeit
    Ein entscheidender Unterschied besteht darin, dass OCR nicht im Voraus für den gesamten Korpus durchgeführt wird. OCR wird erst zur Laufzeit aktiviert – und zwar nur für die Seiten, die semantisch am relevantesten für die Frage des Benutzers sind. Dadurch werden Verarbeitungszeit und Kosten reduziert, während die Genauigkeit in Fällen verbessert wird, in denen kritische Informationen in gescannten Seiten oder nicht-textnativen Formaten eingebettet sind.

Projekterfolg


Strukturierte Ausgabe

Jede Such- und Aufnahmesitzung erzeugt eine konsistente Reihe von Artefakten, die geprüft und wiederverwendet werden können:

  • Ein Dokumentenbestand, der vom Benutzer definiert wurde (entweder kuratiert oder vollständige Aufnahmesitzung)
  • Ein dedizierter Konversationsarbeitsbereich, der mit diesem Bestand verknüpft ist
  • Parallele Aufnahmelogs mit Zeitangaben, Dokumentenzahlen und Verarbeitungsstatus
  • Frage-Antwort-Antworten mit expliziten Quellenangaben, einschließlich Dokumentreferenz, Seite und Auszug
  • OCR-Nachverfolgbarkeit, die zeigt, wann OCR aufgerufen wurde und für welche Seiten
Kontinuierliche Verbesserung

Der Workflow ist so konzipiert, dass er sich im Laufe der Zeit verbessert, ohne dabei Governance und Vertrauen zu beeinträchtigen:

  • Optimierung der Abrufqualität
    Benutzerfeedback und Fragebildmuster werden genutzt, um Indexierungsstrategien, Chunking-Richtlinien, Metadaten-Tagging und Ranking-Signale für eine bessere Abrufpräzision zu verfeinern.
  • Leistungsoptimierung für Aufnahme und Parallelität
    Das System verfolgt die Aufnahmezeit nach Dokumenttyp und -größe, identifiziert Engpässe und optimiert Parallelisierung sowie Ressourcenverteilung, um die Zeit bis zur Einsatzbereitschaft zu verbessern.
  • Intelligente OCR-Aktivierungsregeln
    OCR-Auslöser können basierend auf Dokumenttypen und historischen Mustern angepasst werden, um die Genauigkeit zu verbessern, während die Kosten kontrolliert bleiben.
  • Governance und Wiederholbarkeit
    Bestände, Konversationen und Quellenangaben können versioniert und wiederverwendet werden, was wiederholbare Analyse-Workflows für Prüfungen, Ausschreibungen, Vorfallsüberprüfungen und regulierte Entscheidungsfindungen ermöglicht.

Ihr SpaceNet-Kontakt

Stefan Hagen

Experte für Vernetzung, Open Source Technologien und Großkonzerne
(089) 32356-202
stefan.hagen@space.net