PRZEWODNIK // RAG
Czym jest RAG i baza wiedzy AI?
RAG, czyli Retrieval-Augmented Generation, łączy wyszukiwanie informacji w źródłach z generowaniem odpowiedzi przez model. Jakość zależy od całego pipeline'u, nie tylko od samego LLM.
Odpowiedź w skrócie
System najpierw wyszukuje fragmenty wiedzy pasujące do zapytania, następnie przekazuje je modelowi jako kontekst. Jeżeli retrieval zwróci zły materiał, dobry model nadal może udzielić złej odpowiedzi.
Jak wygląda pipeline RAG
| Warstwa | Rola | Co kontrolować |
|---|---|---|
| Źródła | Dokumenty, bazy i zatwierdzone dane | Aktualność, dostęp, wersje |
| Przygotowanie | Podział i opis treści | Chunking, metadane, jakość tekstu |
| Embedding / indeks | Reprezentacja do wyszukiwania | Spójność indeksu i filtrów |
| Retrieval | Wybór kandydatów | Trafność i pokrycie właściwych źródeł |
| Reranking | Ponowna ocena kandydatów | Czy najlepszy kontekst trafia na górę |
| Generacja | Przygotowanie odpowiedzi | Zgodność ze źródłem i formatem |
Retrieval i generację mierzy się osobno
Najpierw sprawdź, czy system odnalazł właściwy fragment. Dopiero później oceniaj, czy model poprawnie wykorzystał kontekst. Ocena tylko końcowej, dobrze brzmiącej odpowiedzi może ukryć problem w wyszukiwaniu.
Kiedy RAG ma sens
- Wiedza zmienia się częściej niż sam model.
- Informacje znajdują się w dokumentach lub bazach organizacji.
- Potrzebny jest ślad źródła i możliwość weryfikacji odpowiedzi.
- Dostęp do wiedzy zależy od roli użytkownika.
Kiedy RAG nie wystarczy
RAG nie zastępuje deterministycznej logiki biznesowej. Obliczenia, limity, transakcje i jednoznaczne decyzje powinny pozostać w kodzie lub systemie źródłowym.
Typowe źródła błędów
Źródła referencyjne
- Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020 — oryginalna publikacja RAG.
- OWASP LLM Prompt Injection Prevention Cheat Sheet — ryzyko niezaufanej treści i kontrola systemów LLM.
- NIST AI 600-1: Generative AI Profile — ramy zarządzania ryzykiem generatywnej AI.