Co to human-in-the-loop?
To celowo zaprojektowany punkt, w którym człowiek zatwierdza, poprawia albo przejmuje decyzję systemu. Nie jest to przypadkowa ręczna poprawka, tylko część architektury procesu.
Human-in-the-loop stosuje się wtedy, gdy koszt błędu jest zbyt wysoki, aby automat mógł działać bez dodatkowej kontroli, albo gdy system nie ma wystarczających danych do bezpiecznej decyzji.
Kiedy warto dodać punkt akceptacji
- Przed operacją finansową, prawną lub trudną do cofnięcia.
- Gdy wynik wpływa bezpośrednio na klienta, pracownika albo proces krytyczny.
- Gdy dane są niepełne, sprzeczne lub system nie osiąga wymaganego poziomu pewności.
- Przy wyjątkach, których nie da się bezpiecznie opisać regułą.
Co powinien zobaczyć człowiek
Dane wejściowe, propozycję systemu, źródło lub kontekst, powód zatrzymania oraz możliwe dalsze działania. Sama prośba „zaakceptuj / odrzuć” bez kontekstu przenosi ryzyko na użytkownika zamiast je kontrolować.
Jak zapisać decyzję
Proces powinien pozostawić ślad: kto zatwierdził wynik, kiedy, na podstawie jakiego stanu danych i jaki był rezultat. Dzięki temu można później analizować błędy i poprawiać reguły automatyzacji.