Pytanie praktyczne
W skrócie
Automatyzacja bez zgody człowieka jest uzasadniona tam, gdzie decyzja jest odwracalna, stawka ograniczona i istnieje realna droga odwołania — a trudna do obrony tam, gdzie brakuje któregoś z tych warunków.
Trzy warunki czynią nienadzorowaną automatyzację rozsądną: działanie da się szybko cofnąć, najgorszy realistyczny wynik jest ograniczony, a osoba dotknięta może dotrzeć do człowieka mającego uprawnienie, by to cofnąć.
Gdy wszystkie trzy są spełnione, wymóg zatwierdzenia zwykle tylko dodaje zwłoki, nie bezpieczeństwa. Gdy któryś zawodzi, wymóg zatwierdzenia wykonuje realną pracę, a jego usunięcie to przeniesienie władzy, nie oszczędność.
Twierdzenie, że SI nigdy nie powinna decydować samodzielnie, ignoruje miliony decyzji niskiego ryzyka, gdzie ludzki przegląd jest teatrem. Twierdzenie, że powinna zawsze, ignoruje przypadki, w których natychmiastowy, niewyjaśniony wynik kończy czyjś dochód albo opiekę.
Osoba przeglądająca setki poprawnych wyników przestaje sprawdzać i zaczyna potwierdzać. Rubryka nadzoru jest odhaczona, a zabezpieczenie po cichu przestało działać — to dobrze udokumentowany wzorzec, nie hipoteza.
Jeśli zabezpieczenie zależy od utrzymanej ludzkiej czujności przy dużej skali, należy zakładać, że zawodzi, dopóki nie zmierzy się tego inaczej.
W The Unread nic nigdy nie jest przedstawiane jako decyzja. Zmiany pojawiają się jako stan rejestru, już rozstrzygnięty. Nie ma zatwierdzenia do zakwestionowania, bo nie ma chwili, na którą ktokolwiek mógłby wskazać.
Tylko jeśli osoba przeglądająca ma czas, informacje i uprawnienie, by się nie zgodzić. W przeciwnym razie zapisuje odpowiedzialność, nie wykonując jej.
The Unread ukazuje się najpierw po angielsku. Przekłady nie zostały dotąd zapowiedziane.
Rejestr czytelników