Definicja
Halucynacja AI to fałszywa lub nieoparta na faktach informacja, którą model AI podaje z pełnym przekonaniem, na przykład zmyślona zasada, cena, funkcja lub źródło.
Modele językowe generują tekst, który jest statystycznie prawdopodobny, ale nie sprawdzają go pod kątem zgodności z faktami. Gdy model nie ma potrzebnych informacji, może uzupełnić lukę czymś, co tylko brzmi wiarygodnie.
W obsłudze klienta halucynacje są kosztowne. Bot, który obiecuje zwrot pieniędzy niezgodny z regulaminem albo funkcję, której produkt nie ma, rodzi realne zobowiązania i złość klientów.
Ryzyko można ograniczyć na kilka sposobów: opierać odpowiedzi na zatwierdzonych treściach (RAG), polecić modelowi, by przyznawał, że czegoś nie wie, zawęzić tematy, na które może odpowiadać, pokazywać linki do źródeł, przeglądać zapisy rozmów i przekazywać rozmowę człowiekowi, gdy model nie jest pewny odpowiedzi.
Przykład
Klient pyta bota o zniżkę studencką. W bazie nie ma artykułu na ten temat, więc bot wymyśla „15% zniżki po okazaniu legitymacji studenckiej”, choć firma nigdy nie oferowała takiego rabatu.
Jak pomaga Yaplet
Agent AI w Yaplet odpowiada na podstawie treści z twojej strony internetowej i bazy wiedzy, a gdy nie zna odpowiedzi, może przekazać rozmowę twojemu zespołowi.