Rozhodování AI: když volí stroje

Automatizovaná rozhodnutí nejsou budoucí scénář. Systémy už ovlivňují, které žádosti se čtou, které transakce se pozastaví, které případy mají přednost a jaký obsah se komu zobrazí.

Většina z toho se popisuje jako podpora rozhodování, ne jako rozhodování samo. Toto rozlišení je na papíře skutečné a v praxi tenké, protože podporovaný člověk obvykle souhlasí.

Systém může být přesnější než člověk, a přesto může jít o špatnou volbu, kterou použít. Přesnost měří shodu s označeným výsledkem. Úsudek zahrnuje zvažování hodnot, které v označeních nikdy nebyly.

Vezměte rozhodnutí, které je statisticky optimální a v konkrétním případě nemravné. Model nemá přístup k té dimenzi, ve které selhává, protože tato dimenze nikdy nebyla zakódována.

Napadnout lidské rozhodnutí znamená požádat člověka, aby ho přehodnotil. Napadnout automatizované znamená žádat organizaci, aby přijala, že se její systém mýlil, což je mnohem větší tvrzení s rozpočtovými dopady.

Přidejte problém vysvětlení — zaměstnanci často neumí říct, proč byl výstup takový, jaký byl — a odvolatel argumentuje proti závěru, který nikdo nedokáže úplně rekonstruovat.

Použitelnou hranicí je: automatizace je vhodná tam, kde je rozhodnutí vratné, sázky jsou omezené a existuje skutečná cesta odvolání s člověkem, který má pravomoc výsledek zvrátit.

Kde chybí kterákoli z těchto tří podmínek, není automatizace otázkou efektivity. Je přesunem autority a takto by se o ní mělo argumentovat.

V The Unread nejsou rozhodnutí, na kterých záleží, ohlašována. Objevují se jako nepřítomnosti: záznam, který už neobsahuje, co obsahoval, status, který se potichu změnil, osoba, kterou už nikdo nehledá.

To je podoba, jakou automatizovaná autorita nejčastěji má. Ne verdikt, ale oprava, která přichází už uplatněná.