Définition
Une hallucination d'AI est une affirmation formulée avec assurance, mais fausse ou non étayée, produite par un modèle d'AI : une politique, un prix, une fonctionnalité ou une citation inventés, par exemple.
Les modèles de langage génèrent un texte statistiquement plausible, pas un texte vérifié à partir des faits. Quand le modèle ne dispose pas de la bonne information, il peut combler le manque avec une réponse qui semble juste.
En support client, les hallucinations coûtent cher : un bot qui promet un remboursement que la politique de l'entreprise n'autorise pas, ou une fonctionnalité que le produit n'a pas, crée de réels engagements et des clients mécontents.
Pour limiter le risque, tu peux ancrer les réponses dans du contenu validé (RAG), demander au modèle de dire quand il ne sait pas, restreindre les sujets auxquels il peut répondre, afficher des liens vers les sources, relire les conversations et transférer à un humain quand le niveau de confiance est faible.
Exemple
Un client interroge un bot sur une réduction étudiante. Faute d'article sur le sujet, le bot invente « 15 % de réduction sur présentation d'une carte d'étudiant », une remise que l'entreprise n'a jamais proposée.
Comment Yaplet aide
L'agent AI de Yaplet répond à partir du contenu de ton site web et de ta base de connaissances, et peut transférer la conversation à ton équipe quand il ne sait pas répondre.