RAG vs fine-tuning
RAG dostarcza modelowi aktualny kontekst ze źródeł. Fine-tuning zmienia zachowanie modelu na podstawie danych treningowych. Te techniki rozwiązują inne klasy problemów i często mogą występować razem.
Szybkie porównanie
| Kryterium | RAG | Fine-tuning |
|---|---|---|
| Aktualizacja wiedzy | Zmiana źródeł lub indeksu | Wymaga ponownego treningu lub dostrojenia |
| Źródła | Możliwe śledzenie i cytowanie | Wiedza jest zaszyta w zachowaniu modelu |
| Cel | Dostarczenie kontekstu | Zmiana sposobu wykonywania zadania |
| Koszt aktualizacji | Zwykle niższy | Zwykle wyższy |
| Typowy problem | „Model nie zna naszych dokumentów” | „Model wykonuje zadanie w niewłaściwy sposób” |
Kiedy zacząć od RAG
Gdy firma ma dokumenty, procedury, instrukcje lub inną wiedzę, która zmienia się w czasie i powinna być dostępna bez modyfikowania parametrów modelu. Jakość zależy wtedy od przygotowania danych, retrieval, rerankingu i kontroli źródeł.
Kiedy rozważyć fine-tuning
Gdy problem dotyczy powtarzalnego wzorca zachowania, klasyfikacji, stylu, formatu albo specjalistycznego zadania i poprawny prompt oraz kontekst nadal nie zapewniają wymaganej jakości.
Nie traktuj ich jako zamienników
Jeżeli brakuje aktualnej wiedzy — rozwiązaniem jest zwykle retrieval. Jeżeli model ma kontekst, ale nie wykonuje zadania zgodnie z oczekiwanym wzorcem — wtedy można badać dostrojenie.
Nie wiesz, czego wymaga Twój przypadek?
Opisz dane, źródła wiedzy i oczekiwany rezultat. Najpierw ustalimy problem, potem właściwy mechanizm.