Otázka a odpověď
Stručně
Přílišná důvěra proměňuje chyby systému ve společenský fakt: jakmile se výstup bere jako výchozí popis reality, na jeho opravu je potřeba víc důkazů, než bylo potřeba k jeho vytvoření.
Výstup důvěryhodného systému nic nestojí a je přijat automaticky. Vyvrátit ho vyžaduje shromáždit důkazy, najít někoho ochotného je posoudit a vytrvat i po první odpovědi.
Tato nerovnováha je celý problém. Nevyžaduje, aby se systém mýlil často — jen aby proces mýlení byl mnohem levnější než proces jeho nápravy.
Ověřování ustává: nikdo nekontroluje, protože kontrola nikdy nic nenašla. Dovednosti chátrají: lidé, kteří by kontrolovat uměli, jsou přeřazeni jinam. A nesouhlas se stává hodnocením povahy, ne technickým tvrzením.
Cílem není menší důvěra, ale přesná důvěra — znát konkrétní podmínky, za kterých je tento systém nespolehlivý. To vyžaduje, aby organizace zveřejňovaly způsoby selhání, k čemuž je jen málo z nich strukturálně motivováno.
Potíž Aurory Vale v The Unread není v tom, že by někdo lhal. Je v tom, že její výpověď vyžaduje úsilí k posouzení, zatímco výpověď systému žádné úsilí nevyžaduje.
Paušální nedůvěra má vlastní náklady a zahazuje reálný přínos. Kalibrovaná důvěra — znát, kde systém selhává — je užitečnějším cílem.
The Unread vychází zatím pouze anglicky. Přeložená vydání zatím nebyla oznámena.
Čtenářský seznam