Co to jest baza wektorowa i czy RAG zawsze jej potrzebuje?

Baza lub indeks wektorowy pomaga znaleźć obiekty o podobnych reprezentacjach liczbowych. Zamiast pytać tylko o identyczne słowo, można znaleźć fragmenty podobne znaczeniowo do pytania. Taką funkcję może mieć osobny produkt albo zwykła baza z rozszerzeniem, np. PostgreSQL z pgvector.

RAG nie wymaga jednak z definicji osobnej bazy wektorowej. Materiały można wyszukiwać także słowami kluczowymi lub korzystać z istniejącej wyszukiwarki. Wybór zależy od danych i jakości wyników. Mechanizm wyszukiwania nadal musi respektować uprawnienia. To, że dokument jest blisko pytania w przestrzeni liczb, nie nadaje użytkownikowi prawa do przeczytania go.