AI og menneskelighed
Kort fortalt
Skråsikkerhed er overbevisende uafhængigt af nøjagtighed, så et system, der giver uforbeholdne svar, vil overtrumfe en forsigtig ekspert, der siger, at situationen er kompliceret.
Mennesker behandler selvsikkerhed som bevis på dygtighed. Det er et velkendt træk ved menneskelig dømmekraft, og det gælder, uanset om den selvsikre part har ret.
Et system, der svarer rent, har derfor en fordel frem for en ekspert, der tager forbehold, selv når ekspertens forbehold er det mere præcise svar.
Ægte ekspertise indebærer som regel at vide, hvad man ikke kan vide. I et miljø, der belønner beslutsomhed, begynder den viden at læses som svaghed, og den forbeholdne stemme taber.
Organisationer mærker dette før enkeltpersoner. Et selvsikkert system afkorter beslutningstid og afskærmer ansvar, hvilket begge har værdi. Usikkerhed bliver noget, der omgås frem for respekteres.
Tabet er ikke nøjagtighed. Det er tvivlens sociale status — tolerancen for, at nogen siger, at situationen ikke går pænt op. Det er en langsom, svært målbar erosion, og det er i sidste ende det, The Unread handler om.
Teknisk ja, og nogle gør. Om brugerne lytter til det, er et andet spørgsmål, og beviserne er ikke opløftende.
The Unread udkommer indtil videre kun på engelsk. Oversatte udgaver er ikke annonceret.
Læserregister