Definicja
Retrieval-augmented generation (RAG), czyli generowanie wspomagane wyszukiwaniem, to technika, w której model AI najpierw wyszukuje trafne fragmenty w zaufanym źródle, a potem na ich podstawie pisze odpowiedź.
Sam duży model językowy odpowiada na podstawie wzorców wyuczonych podczas trenowania, a w danych treningowych nie ma twojej polityki zwrotów ani aktualnego cennika. RAG rozwiązuje ten problem. Gdy pojawia się pytanie, system przeszukuje twoje dokumenty (artykuły pomocy, strony internetowe, pliki PDF), przekazuje modelowi najlepiej pasujące fragmenty i każe mu odpowiadać na ich podstawie.
W botach obsługi klienta RAG to standardowy sposób na to, by odpowiedzi dotyczyły konkretnej firmy i były aktualne. Wystarczy zaktualizować artykuł, a bot zacznie odpowiadać inaczej, bez ponownego trenowania modelu.
RAG ogranicza halucynacje, ale ich nie eliminuje. Wyszukiwanie może nie trafić we właściwy fragment, a model może go źle zinterpretować. Pomagają przejrzyste, dobrze uporządkowane treści źródłowe oraz link do źródła przy każdej odpowiedzi.
Przykład
Klient pyta: „Czy wysyłacie do Norwegii?”. System wyszukuje artykuł o krajach wysyłki, a bot odpowiada: „Tak, dostawa do Norwegii trwa 4–6 dni roboczych”, powołując się na ten artykuł.
Jak pomaga Yaplet
Agent Yaplet AI odpowiada na podstawie treści twojej strony i bazy wiedzy, więc jego odpowiedzi opierają się na twoich informacjach, a nie na ogólnej wiedzy z internetu.