Definizione
Un'allucinazione AI è un'affermazione falsa o infondata che un modello AI presenta come certa, ad esempio una policy, un prezzo, una funzionalità o una citazione inventati.
I modelli linguistici generano testo statisticamente plausibile, non testo verificato sui fatti. Quando al modello mancano le informazioni giuste, può colmare la lacuna con qualcosa che sembra corretto.
Nel supporto clienti le allucinazioni costano care: un bot che promette un rimborso non previsto dalla policy, o una funzionalità che il prodotto non ha, crea obblighi concreti e clienti scontenti.
Per ridurle puoi basare le risposte su contenuti approvati (RAG), istruire il modello ad ammettere quando non conosce la risposta, limitare gli argomenti che può trattare, mostrare i link alle fonti, rivedere le trascrizioni delle conversazioni e passare la conversazione a una persona quando il livello di confidenza è basso.
Esempio
Un cliente chiede a un bot se esiste uno sconto per studenti. Non trovando articoli sull'argomento, il bot inventa "15% di sconto con la tessera studente", uno sconto che l'azienda non ha mai offerto.
Come aiuta Yaplet
L'agente AI di Yaplet risponde usando i contenuti del tuo sito web e della tua base di conoscenza e, quando non sa rispondere, può passare la conversazione al tuo team.