Definition
Retrieval-Augmented Generation (RAG) ist ein Verfahren, bei dem ein AI-Modell zuerst passende Textstellen aus einer vertrauenswürdigen Quelle abruft und seine Antwort dann auf Grundlage dieser Textstellen formuliert.
Ein großes Sprachmodell allein antwortet auf Basis von Mustern, die es im Training gelernt hat. Deine Rückgabebedingungen oder deine aktuellen Preise gehören nicht dazu. Genau hier setzt RAG an: Sobald eine Frage eingeht, durchsucht das System deine Dokumente (Hilfeartikel, Webseiten, PDFs), gibt die am besten passenden Textstellen an das Modell weiter und weist es an, sich bei der Antwort darauf zu stützen.
Bei Support-Bots ist RAG das übliche Verfahren, damit Antworten aktuell und auf das eigene Unternehmen zugeschnitten bleiben: Du aktualisierst den Artikel, und schon ändert sich die Antwort des Bots, ohne dass das Modell neu trainiert werden muss.
RAG verringert Halluzinationen, verhindert sie aber nicht ganz. Die Suche kann die richtige Textstelle übersehen, oder das Modell kann sie falsch verstehen. Dagegen helfen klare, gut strukturierte Quellinhalte und ein Link zur Quelle bei jeder Antwort.
Beispiel
Im Chat kommt die Frage: „Liefert ihr nach Norwegen?“ Das System ruft den Artikel zu den Lieferländern ab, und der Bot antwortet unter Berufung auf diesen Artikel: „Ja, die Lieferung nach Norwegen dauert 4–6 Werktage.“
So hilft Yaplet
Der AI-Agent von Yaplet antwortet auf Grundlage der Inhalte deiner Website und deiner Wissensdatenbank. Seine Antworten beruhen also auf deinen eigenen Informationen und nicht auf allgemeinem Wissen aus dem Web.