ANSWER ENGINE
Jak zabezpieczyć system RAG?
Najważniejsza zasada: model nie może zobaczyć dokumentu, którego użytkownik nie ma prawa zobaczyć.
Warstwy ochrony
- autoryzacja do źródeł przed retrieval,
- filtrowanie po metadanych i tenantach,
- minimalizacja kontekstu przekazywanego do modelu,
- logowanie zapytań i źródeł,
- ochrona przed prompt injection w dokumentach,
- testy na wycieki i błędne dziedziczenie uprawnień.
Nie tylko model
Największe ryzyko często leży w warstwie danych i integracji, a nie w samym modelu. Bezpieczeństwo trzeba projektować w całym pipeline.