Prywatne AI dla firm — co to naprawdę znaczy?
Prywatność nie wynika z jednej etykiety ani samego uruchomienia modelu lokalnie. Trzeba zaprojektować cały przepływ danych: wejścia, kontekst, logi, cache, uprawnienia, integracje i retencję.
Prywatne AI oznacza kontrolę nad tym, gdzie dane są przetwarzane, kto może je zobaczyć, co jest logowane i jak długo informacje są przechowywane. Lokalny model może być częścią tej architektury, ale nie jest jej jedynym warunkiem.
Mapa przepływu danych
| Warstwa | Pytanie kontrolne |
|---|---|
| Wejście | Jakie dane wysyła użytkownik lub system? |
| Kontekst | Jakie dokumenty lub rekordy są dołączane do zapytania? |
| Model | Gdzie odbywa się inferencja i kto zarządza środowiskiem? |
| Logi i cache | Co zostaje zapisane po wykonaniu zadania? |
| Integracje | Do jakich systemów wynik może zostać przekazany? |
| Retencja | Jak długo dane pozostają dostępne i kto może je usunąć? |
Lokalnie, chmura czy hybryda
Różne klasy danych mogą mieć różne ścieżki. Lokalne środowisko daje większą kontrolę operacyjną, usługa zewnętrzna może uprościć start, a hybryda pozwala rozdzielić zadania według wrażliwości i wymagań.
Uprawnienia muszą działać przed modelem
System nie powinien pobierać dokumentów ani rekordów, do których użytkownik nie ma dostępu. W RAG filtry uprawnień powinny ograniczać retrieval przed przekazaniem kontekstu do modelu.
Logi i audyt
Zakres logowania powinien wynikać z potrzeby diagnostyki, bezpieczeństwa i prywatności. Warto rozdzielić log techniczny, identyfikator operacji i treści, których retencja wymaga dodatkowego uzasadnienia.
Prywatność nie oznacza automatycznie bezpieczeństwa
Środowisko lokalne bez aktualizacji, segmentacji, kontroli dostępu i kopii danych może być źle zabezpieczone. Ocena powinna dotyczyć całego systemu, nie tylko miejsca uruchomienia modelu.
Źródła referencyjne
- NIST AI Risk Management Framework 1.0 — zarządzanie ryzykiem systemów AI.
- NIST Cybersecurity Framework 2.0 — zarządzanie ryzykiem cyberbezpieczeństwa.
- OWASP GenAI Security Project / Top 10 for LLM Applications — ryzyka aplikacji wykorzystujących LLM.