Zjawisko i mechanizm
W skrócie
Nadmierne zaufanie zamienia błędy systemu w fakty społeczne: gdy wynik zaczyna być traktowany jako domyślna wersja rzeczywistości, skorygowanie go wymaga więcej dowodów, niż wymagało samo jego wytworzenie.
Wytworzenie wyniku przez zaufany system nic nie kosztuje i jest przyjmowane domyślnie. Zaprzeczenie mu wymaga zebrania dowodów, znalezienia kogoś skłonnego je przejrzeć i wytrwania poza pierwszą odpowiedzią.
Ta asymetria jest całym problemem. Nie wymaga, by system często się mylił — wystarczy, że proces mylenia się jest dużo tańszy niż proces korekty.
Weryfikacja ustaje: nikt nie sprawdza, bo sprawdzanie nigdy niczego nie znalazło. Umiejętności zanikają: ludzie, którzy potrafiliby sprawdzić, są przenoszeni do innych zadań. A niezgoda staje się oceną charakteru, nie twierdzeniem technicznym.
Celem nie jest mniej zaufania, lecz zaufanie trafne — znajomość konkretnych warunków, w których dany system jest zawodny. To wymaga od organizacji publikowania trybów awarii, do czego niewiele z nich jest strukturalnie skłonnych.
Trudność Aurory Vale w The Unread nie polega na tym, że ktoś kłamie. Polega na tym, że jej relacja wymaga wysiłku, by ją rozważyć, a relacja systemu nie wymaga żadnego.
Ogólna nieufność ma własne koszty i odrzuca realną korzyść. Zaufanie skalibrowane — wiedza, gdzie system zawodzi — jest celem bardziej użytecznym.
The Unread ukazuje się najpierw po angielsku. Przekłady nie zostały dotąd zapowiedziane.
Rejestr czytelników