Co to jest RAG?

RAG to sposób przygotowania odpowiedzi modelu z wykorzystaniem wcześniej wyszukanych materiałów. Aplikacja najpierw znajduje pasujące dokumenty lub fragmenty, a potem przekazuje je modelowi razem z pytaniem. Model ma dzięki temu pracować na konkretnych źródłach, a nie tylko wiedzy zapamiętanej podczas treningu.

Przykład: pracownik pyta o zasady urlopu. System wyszukuje obowiązujący dokument firmowy i na jego podstawie tworzy odpowiedź z odnośnikiem. RAG nie oznacza automatycznie uczenia modelu na dokumentach. Nie gwarantuje też poprawności: można znaleźć zły fragment albo źle go wykorzystać. Dostęp do materiałów trzeba sprawdzić przed przekazaniem ich modelowi.