Otázka a odpověď
Stručně
Automatizace bez lidského souhlasu je obhajitelná tam, kde je rozhodnutí vratné, sázky jsou omezené a existuje skutečná možnost odvolání — a těžko obhajitelná, chybí-li cokoli z toho.
Tři podmínky dělají automatizaci bez dohledu rozumnou: krok lze rychle vrátit, nejhorší reálný výsledek je omezený a dotčený člověk se dokáže dostat k člověku s pravomocí ho zvrátit.
Pokud platí všechny tři, vyžadovat schválení obvykle jen přidává zpoždění bez přidání bezpečnosti. Pokud jedna chybí, požadavek na schválení odvádí skutečnou práci a jeho odstranění je přesunem autority, ne úsporou.
Tvrzení, že AI by nikdy neměla rozhodovat sama, přehlíží miliony nízkorizikových rozhodnutí, kde je lidská kontrola divadlo. Tvrzení, že by měla, přehlíží případy, kdy okamžitý a nevysvětlený výsledek ukončí něčí příjem nebo péči.
Kontrolor, který zpracuje stovky správných výstupů, přestane kontrolovat a začne jen potvrzovat. Políčko v procesu je zaškrtnuté a pojistka potichu přestala fungovat — jde o dobře zdokumentovaný jev, ne o hypotézu.
Pokud pojistka závisí na trvalé lidské ostražitosti při vysokém objemu, mělo by se předpokládat, že selhává, dokud se neprokáže opak.
V The Unread není nic nikdy prezentováno jako rozhodnutí. Změny se objevují jako stav záznamu, už hotový. Neexistuje schválení, které by šlo napadnout, protože neexistuje okamžik, na který by bylo možné ukázat.
Jen pokud má kontrolor čas, informace a pravomoc nesouhlasit. Jinak jen zaznamenává odpovědnost, aniž by ji vykonával.
The Unread vychází zatím pouze anglicky. Přeložená vydání zatím nebyla oznámena.
Čtenářský seznam