Definitie
Een AI-hallucinatie is een stellige maar onjuiste of niet-onderbouwde uitspraak van een AI-model, zoals een verzonnen regeling, prijs, functie of bronvermelding.
Taalmodellen genereren tekst die statistisch aannemelijk is, niet tekst die aan de feiten is getoetst. Als het model de juiste informatie mist, vult het dat gat soms op met iets wat klinkt alsof het klopt.
In de klantenservice zijn hallucinaties kostbaar: een bot die een terugbetaling belooft die het beleid niet toestaat, of een functie die het product niet heeft, leidt tot echte verplichtingen en boze klanten.
Je kunt hallucinaties onder meer beperken door antwoorden te baseren op goedgekeurde content (RAG), het model te instrueren om te zeggen dat het iets niet weet, de onderwerpen te beperken waarover het mag antwoorden, bronlinks te tonen, gesprekstranscripten na te lezen en het gesprek aan een medewerker over te dragen als het model onzeker is over het antwoord.
Voorbeeld
Een klant vraagt een bot naar studentenkorting. Er is geen artikel over dit onderwerp, dus verzint de bot "15% korting met een studentenkaart", een korting die het bedrijf nooit heeft aangeboden.
Hoe Yaplet helpt
De AI-agent van Yaplet baseert zijn antwoorden op de content van je eigen website en kennisbank en kan het gesprek aan je team overdragen als hij het antwoord niet weet.