Definición
Una alucinación de AI es una afirmación falsa o sin fundamento que un modelo de AI presenta con total seguridad, como una política, un precio, una función o una cita inventados.
Los modelos de lenguaje generan texto estadísticamente plausible, no texto contrastado con los hechos. Cuando al modelo le falta la información adecuada, puede rellenar el hueco con algo que parece correcto.
En atención al cliente, las alucinaciones salen caras: un bot que promete un reembolso que la política no permite, o una función que el producto no tiene, genera obligaciones reales y clientes enfadados.
Para reducirlas puedes basar las respuestas en contenido aprobado (RAG), indicar al modelo que diga cuándo no sabe algo, limitar los temas sobre los que puede responder, mostrar enlaces a las fuentes, revisar las conversaciones y pasar la conversación a una persona cuando el nivel de confianza sea bajo.
Ejemplo
Un cliente pregunta a un bot si hay descuento para estudiantes. Como no existe ningún artículo sobre el tema, el bot se inventa «un 15 % de descuento con carnet de estudiante», un descuento que la empresa nunca ha ofrecido.
Cómo ayuda Yaplet
El agente de AI de Yaplet responde a partir del contenido de tu web y de tu base de conocimientos, y puede pasar la conversación a tu equipo cuando no puede responder.