Definition
Eine AI-Halluzination ist eine überzeugt formulierte, aber falsche oder unbelegte Aussage eines AI-Modells, etwa eine erfundene Richtlinie, ein erfundener Preis, eine erfundene Funktion oder eine erfundene Quellenangabe.
Sprachmodelle erzeugen Text, der statistisch plausibel ist, aber nicht mit Fakten abgeglichen wird. Fehlen dem Modell die richtigen Informationen, füllt es die Lücke womöglich mit etwas, das richtig klingt.
Im Kundensupport sind Halluzinationen teuer: Ein Bot, der eine Rückerstattung zusagt, die laut Richtlinie nicht vorgesehen ist, oder eine Funktion verspricht, die das Produkt nicht hat, erzeugt echte Verpflichtungen und verärgerte Kunden.
Zu den Gegenmaßnahmen gehören: Antworten auf freigegebene Inhalte stützen (RAG), das Modell anweisen, offen zu sagen, wenn es etwas nicht weiß, die Themen eingrenzen, zu denen es antworten darf, Quellenlinks anzeigen, Gesprächsverläufe prüfen und bei geringer Sicherheit an einen Menschen übergeben.
Beispiel
Ein Kunde fragt einen Bot nach einem Studentenrabatt. Weil es dazu keinen Artikel gibt, erfindet der Bot „15 % Rabatt mit Studentenausweis“ – einen Rabatt, den das Unternehmen nie angeboten hat.
So hilft Yaplet
Der AI-Agent von Yaplet antwortet auf Basis der Inhalte deiner Website und deiner Wissensdatenbank und kann das Gespräch an dein Team übergeben, wenn er keine Antwort weiß.