ANSWER ENGINE
RAG czy fine-tuning — co wybrać?
RAG służy głównie do dostarczania modelowi właściwej wiedzy w czasie zapytania. Fine-tuning zmienia sposób zachowania modelu. To dwa różne narzędzia.
Kiedy RAG
Gdy wiedza zmienia się, pochodzi z dokumentów firmy, musi być aktualizowalna i warto wskazać źródło odpowiedzi.
Kiedy fine-tuning
Gdy problem dotyczy formatu, stylu, klasyfikacji lub powtarzalnego zachowania, którego nie da się wygodnie uzyskać samym promptem.
W praktyce
Do firmowej bazy wiedzy najczęściej zaczyna się od RAG, a fine-tuning rozważa dopiero wtedy, gdy istnieje konkretny problem z zachowaniem modelu.