AI en de mens
Kort gezegd
Zelfverzekerdheid overtuigt los van nauwkeurigheid, dus een systeem dat ongenuanceerde antwoorden geeft, overtuigt meer dan een zorgvuldige menselijke expert die zegt dat de situatie ingewikkeld is.
Mensen behandelen zelfverzekerdheid als bewijs van bekwaamheid. Dit is een bekend kenmerk van menselijk oordeel, en het werkt ongeacht of de zelfverzekerde partij gelijk heeft.
Een systeem dat helder antwoordt, heeft daardoor een voorsprong op een expert die nuanceert, zelfs wanneer die nuancering het accuratere antwoord is.
Werkelijke deskundigheid houdt meestal in dat u weet wat u niet kunt weten. In een omgeving die daadkracht beloont, gaat die kennis lezen als zwakte, en verliest de genuanceerde stem.
Organisaties voelen dit eerder dan individuen. Een zelfverzekerd systeem verkort beslistijd en verschuift verantwoordelijkheid, allebei waardevol. Onzekerheid wordt iets om omheen te werken in plaats van te respecteren.
Het verlies is niet nauwkeurigheid. Het is de sociale status van twijfel — de tolerantie voor iemand die zegt dat de situatie niet netjes uitkomt. Dat is een langzame, moeilijk meetbare erosie, en daar gaat The Unread uiteindelijk over.
Technisch gezien wel, en sommige doen dat. Of gebruikers daarop letten, is een aparte vraag, en het bewijs stemt niet hoopvol.
The Unread verschijnt in eerste instantie in het Engels. Vertaalde edities zijn tot nu toe niet aangekondigd.
Lezersregister