Erwin.works · Beratung, Umsetzung & Betrieb
RAG-Chatbot: Wie KI Ihre eigene Wissensbasis nutzt
Ausgewählte Inhalte als Kontext für die Antwort bereitstellen.
Retrieval-Augmented Generation, kurz RAG, verbindet das Auffinden von Inhalten mit der Antwort eines Sprachmodells. Statt nur auf bereits gelerntes Modellwissen zu vertrauen, erhält das Modell passende Ausschnitte aus einer Wissensbasis. Das kann Antworten besser auf Ihre Unterlagen ausrichten, verhindert Fehler aber nicht vollständig.
Wissensassistenten planenDer Ablauf in vier Schritten
Eine Frage kommt an. Die Anwendung sucht passende Inhalte. Ausgewählte Abschnitte werden zusammen mit der Frage an das Modell übergeben. Das Modell formuliert daraus eine Antwort. Suchverfahren, Auswahl und Umfang des Kontexts beeinflussen das Ergebnis. RAG setzt nicht zwingend ein bestimmtes Suchprodukt oder ausschließlich Vektorsuche voraus.
Fachquelle: Microsoft Learn: Retrieval-Augmented Generation
Beispiel aus der Einarbeitung
Eine Mitarbeiterin fragt, wie sie eine Dienstreise beantragen soll. Die Suche findet eine freigegebene Reisekostenrichtlinie. Der Chatbot soll den beschriebenen Ablauf zusammenfassen. Fehlt die Regel für eine Auslandsreise, darf er sie nicht durch eine plausibel klingende Ergänzung ersetzen. Stattdessen soll er die Grenze nennen und auf den vereinbarten Ansprechpartner verweisen.
RAG ist nicht dasselbe wie Modelltraining
Beim RAG-Verfahren werden Inhalte zur Anfragezeit als Kontext bereitgestellt. Fine-Tuning verändert dagegen Modellparameter anhand von Trainingsbeispielen. Ein Dokumentenimport bedeutet nicht automatisch, dass das Basismodell mit Ihren Dateien nachtrainiert wurde. Für wechselnde Unternehmensunterlagen ist daher zuerst zu klären, wie Inhalte bereitgestellt und aktualisiert werden sollen.
Gefundene Quelle ist nicht gleich belegte Aussage
Ein Dokument kann thematisch passen, ohne den konkreten Sachverhalt zu beantworten. Auch ein korrekt ausgewählter Abschnitt kann vom Modell falsch zusammengefasst werden. Quellenhinweise, genaue Fundstellen und die Prüfung einzelner Aussagen sind unterschiedliche Anforderungen. Lassen Sie diese Funktionen im Abnahmetest zeigen, statt aus einem Quellenlink auf vollständige Nachvollziehbarkeit zu schließen.
Fehlende oder widersprüchliche Informationen
Tests sollten Fragen enthalten, auf die der Bestand keine Antwort hat. Ebenso wichtig sind widersprechende Versionen und mehrdeutige Begriffe. Legen Sie fest, wann der Assistent nachfragt, eine Unsicherheit benennt oder an einen Menschen verweist. Ein pauschaler Hinweis „nutze nur die Quellen“ ist keine technische Garantie gegen falsche Antworten.
Berechtigungen, Aktualisierung und Datenwege
Nur Inhalte, die für den Nutzerkreis freigegeben sind, dürfen in den Kontext gelangen. Die Übernahme externer Rechte muss gesondert eingerichtet werden. Verantwortliche müssen außerdem wissen, wann eine neue Dokumentversion tatsächlich im Bestand angekommen ist. Bei externen Modellen können Frage und ausgewählte Inhalte die eigene Infrastruktur verlassen. Selbsthosting der Plattform ändert das nicht automatisch.
Was davon bei Erwin nachgewiesen ist
Der geprüfte Chatservice stellt gefundene Wissensabschnitte im Antwortkontext bereit. Das entspricht dem Grundmuster wissensgestützter Generierung. Daraus folgen keine Zusagen zu automatischer Synchronisierung, exakten Fundstellen oder übernommenen Quellsystemrechten. Diese Anforderungen werden je Installation geprüft.
Wissensmanagement mit Erwin · Chatbot für Unternehmen · Einrichtung und Abnahme planen
Den nächsten Schritt für Ihr Unternehmen klären
Wir betrachten Ihre Aufgabe, Quellen und vorhandenen Systeme. Die konkrete Umsetzung wird anhand Ihrer Anforderungen geprüft, nicht aus einer allgemeinen technischen Beschreibung abgeleitet.
Der erste Schritt
Welche Aufgabe
kostet Ihr Team
zu viel Zeit?
Erzählen Sie uns kurz davon. Wir besprechen mit Ihnen, ob ein virtueller Mitarbeiter sinnvoll unterstützen kann und wie ein passender Einstieg aussieht.
pellny@seolyse.deWir melden uns persönlich, klären Ihre Ausgangslage und besprechen die nächsten Schritte. Kein automatisches Abonnement.