JAKOŚĆ I BEZPIECZEŃSTWO
Standardy jakości systemów
System ma być mierzalny, kontrolowalny i możliwy do diagnozowania. AI nie powinno zastępować deterministycznej logiki tam, gdzie reguła lub kod są prostsze i bardziej przewidywalne.
Podstawowe zasady
| Zasada | Znaczenie |
|---|---|
| Proces przed technologią | Architektura wynika z wejścia, wyniku, danych, wyjątków i kosztu błędu. |
| Minimalne uprawnienia | Każdy komponent otrzymuje tylko dostęp potrzebny do zadania. |
| Kontrola człowieka | Ryzykowne lub nieodwracalne decyzje mają jawny punkt zatwierdzenia. |
| Obserwowalność | Istotne operacje mają status, log i możliwość odtworzenia przebiegu. |
| Obsługa wyjątków | Timeout, błędne dane i awarie zależności mają zdefiniowaną ścieżkę. |
| Regresja | Istotna zmiana modelu, źródeł lub integracji wymaga powtórzenia testów. |
Bezpieczeństwo danych
Projekt powinien określać źródła informacji, uprawnienia, retencję, logowanie, kopie danych i miejsca, w których treść opuszcza kontrolowane środowisko.
Kontrola jakości
Jakość mierzy się na reprezentatywnych przypadkach, w tym na błędnych wejściach i wyjątkach. Przed rozszerzeniem zakresu pilot powinien osiągnąć uzgodnione kryterium akceptacji.