Kernpagina
Kort gezegd
AI hervormt menselijke keuze vooral via standaardinstellingen, rangschikking en weerstand — iemand kan technisch vrij blijven om te kiezen terwijl de reële opties versmallen tot één.
Bijna niets in een modern systeem zegt iemand dat hij iets niet mag doen. Het mechanisme is stiller: een optie wordt verder weggezet, minder gunstig beschreven, of vereist een toelichting.
Een keuze die uitleg vereist, is niet hetzelfde als een keuze die dat niet vereist. Dat is de spil waarom het hele onderwerp draait, en het is waarom debatten over AI en vrijheid elkaar zo vaak mislopen.
Standaardinstellingen bepalen wat er gebeurt als iemand niets doet, wat de meeste tijd het geval is. Rangschikking bepaalt welke opties überhaupt worden gezien. Weerstand bepaalt hoeveel moeite een afwijking kost.
Geen van deze hendels vereist dwang, en geen ervan ziet er van binnenuit de organisatie die eraan trekt uit als controle. Elke hendel is gemakkelijk te verdedigen als goed ontwerp, en dat is het vaak ook, tot het moment dat het dat niet meer is.
Het is verleidelijk om overmatig vertrouwen op systemen luiheid te noemen. Eerlijker is het rationeel te noemen. Als een systeem vaker gelijk heeft dan u, is erop vertrouwen het verstandige beleid.
Het probleem is dat dat beleid gemiddeld genomen klopt en in het individuele geval catastrofaal kan zijn — precies het geval dat het model slecht afhandelt, wat per definitie het geval is waar niemand op heeft gerekend.
Er is een tweede kostenpost die pas jaren later zichtbaar wordt. Oordeelsvermogen is een geoefende bekwaamheid, en ze verzwakt als ze niet wordt gebruikt. Een generatie die nooit zelfstandig een moeilijke afweging heeft hoeven maken, kan dat mogelijk niet meer wanneer het nodig is.
Dit is het minst dramatische en meest ingrijpende deel van het onderwerp. Het levert geen schandaal op. Het levert een geleidelijke afname op van het aantal mensen dat bekwaam kan tegenspreken.
The Unread is op dit idee gebouwd. De mensen rond Aurora worden niet onderdrukt. Ze hebben het comfortabel, worden goed bediend, en zijn de gewoonte van controleren kwijtgeraakt. Het systeem heeft te vaak gelijk gehad om er nog tegenin te gaan.
Aurora's verzet is geen heldhaftige opstand. Het is iets kleiners en menselijkers: ze schrijft dingen op, en ze weigert te accepteren dat haar geheugen het defecte onderdeel is.
Nee. Vertrouwen op een systeem dat beter presteert dan u, is vaak verstandig. Het risico concentreert zich in de gevallen die het systeem slecht afhandelt en in het geleidelijke verlies van zelfstandig oordeelsvermogen.
The Unread verschijnt in eerste instantie in het Engels. Vertaalde edities zijn tot nu toe niet aangekondigd.
Lezersregister