Fiducia calibrata
In breve
La fiducia eccessiva trasforma gli errori di un sistema in fatti sociali: una volta che un output viene trattato come il racconto predefinito della realtà, correggerlo richiede più prove di quante ne siano servite per produrlo.
L'output di un sistema fidato non costa nulla da produrre e viene accettato per default. Contraddirlo richiede raccogliere prove, trovare qualcuno disposto a rivederle, e insistere oltre la prima risposta.
Quell'asimmetria è tutto il problema. Non serve che il sistema sbagli spesso — basta che il processo di sbagliare costi molto meno del processo di essere corretto.
La verifica si ferma: nessuno controlla perché controllare non ha mai trovato nulla. Le competenze si atrofizzano: le persone che potrebbero controllare vengono spostate altrove. E il dissenso diventa un giudizio sul carattere, non un'affermazione tecnica.
L'obiettivo non è meno fiducia, ma una fiducia accurata — conoscere le condizioni specifiche in cui questo sistema non è affidabile. Questo richiede alle organizzazioni di pubblicare le proprie modalità di errore, cosa a cui poche sono strutturalmente motivate.
La difficoltà di Aurora Vale in The Unread non è che qualcuno stia mentendo. È che il suo racconto richiede sforzo per essere considerato, e il racconto del sistema non ne richiede nessuno.
La diffidenza generalizzata ha i suoi costi e scarta benefici reali. Una fiducia calibrata — sapere dove il sistema fallisce — è l'obiettivo più utile.
The Unread esce inizialmente in inglese. Al momento non sono state annunciate edizioni tradotte.
Registro lettori