Kiedy wybrać RAG, dostrojenie modelu albo zwykły kod?
Najpierw odpowiedz na głos lub w myślach, potem porównaj.
Odpowiedź
Gdy model potrzebuje aktualnej wiedzy z dokumentów i źródeł, zaczynam od wyszukania tych materiałów, czyli RAG. Gdy chodzi o konsekwentny styl lub zachowanie na wielu przykładach, można rozważyć dostrojenie modelu, czyli dodatkową naukę na wybranych danych. Najpierw jednak sprawdzam prostsze rozwiązanie.
Dostrojenie nie jest wygodnym sposobem na natychmiastowe odebranie dostępu do pojedynczego pliku. Zwykły kod jest lepszy do dokładnych obliczeń, porównań i reguł, które już znamy. Nie potrzebuję modelu do sprawdzenia, czy liczba jest dodatnia. Metody można łączyć, ale każda dodatkowa warstwa powinna rozwiązywać konkretny, zmierzony problem.
Dlaczego to ważne: Sprawdza dobór narzędzia, nie chęć użycia AI w każdym miejscu.
Możliwe dopytania: Co z wiedzą, która zmienia się codziennie? Kiedy trening byłby zbędnym kosztem?
Jak poszło? Bądź szczery — „Jeszcze nie” dodaje pytanie do powtórki.
Zacznij od
- F-P01 · Co to jest LLM? — Fundamenty LLM i AI engineering
- F-P03 · Co to jest token i okno kontekstu? — Fundamenty LLM i AI engineering
Dalsza lektura
- Anthropic: Building effective agents(otwiera się w nowej karcie)19.12.2024. Rozróżnienie workflow i agenta; wzorce architektoniczne. Narzędzia w artykule ewoluowały.