Definição
Uma alucinação de AI é uma afirmação feita com segurança, mas falsa ou sem fundamento, gerada por um modelo de AI, como uma política, um preço, uma funcionalidade ou uma citação inventados.
Os modelos de linguagem geram texto estatisticamente plausível, e não texto confrontado com os factos. Quando o modelo não tem a informação certa, pode preencher a lacuna com algo que parece correto.
No apoio ao cliente, as alucinações saem caras: um bot que promete um reembolso que a política não prevê, ou uma funcionalidade que o produto não tem, cria obrigações reais e clientes irritados.
Para reduzir o problema, podes basear as respostas em conteúdo aprovado (RAG), instruir o modelo a dizer que não sabe, limitar os temas a que pode responder, mostrar ligações para as fontes, rever as conversas e transferir a conversa para uma pessoa da equipa quando o grau de confiança é baixo.
Exemplo
Um cliente pergunta a um bot se há desconto para estudantes. Como não existe nenhum artigo sobre o assunto, o bot inventa "15 % de desconto com cartão de estudante", um desconto que a empresa nunca ofereceu.
Como a Yaplet ajuda
O agente de AI da Yaplet responde com base no conteúdo do teu website e da tua base de conhecimento e, quando não sabe responder, pode transferir a conversa para a tua equipa.