Autonomi og valg
Kort sagt
KI former menneskelige valg først og fremst gjennom standardinnstillinger, rangering og friksjon — en person kan formelt stå fritt til å velge mens det realistiske settet av alternativer krymper til ett.
Nesten ingenting i et moderne system sier direkte til en person at hun ikke får gjøre noe. Mekanismen er mer stillegående: et alternativ plasseres lenger unna, beskrives mindre fordelaktig, eller krever en forklaring.
Et valg som krever begrunnelse, er ikke det samme som et valg som ikke gjør det. Dette er hengselet hele temaet dreier seg om, og grunnen til at diskusjoner om KI og frihet så ofte snakker forbi hverandre.
Standardinnstillinger avgjør hva som skjer når en person ikke gjør noe, som er mesteparten av tiden. Rangering avgjør hvilke alternativer som i det hele tatt vises. Friksjon avgjør hvor mye innsats et avvik koster.
Ingen av disse spakene krever tvang, og ingen av dem ser ut som kontroll innenfra organisasjonen som drar i dem. Hver kan lett forsvares som god design, og er som oftest det — helt til den ikke er det.
Det er fristende å kalle overdreven tillit til systemer for latskap. Det er mer ærlig å kalle det rasjonelt. Hvis et system har rett oftere enn du selv har, er det fornuftig å overlate avgjørelsen til det.
Vanskeligheten er at strategien er riktig samlet sett og kan være katastrofal i enkelttilfellet — nettopp det tilfellet modellen håndterer dårlig, som per definisjon er tilfellet ingen har planlagt for.
Det finnes en annen kostnad som viser seg først år senere. Dømmekraft er en øvd evne, og den svekkes når den ikke brukes. En generasjon som aldri har måttet veie en vanskelig avgjørelse selv, klarer det kanskje ikke når det trengs.
Dette er den minst dramatiske og mest skjebnesvangre delen av temaet. Den skaper ingen skandale. Den skaper en langsom nedgang i antallet mennesker som kan være uenige på en kompetent måte.
The Unread er bygget på denne ideen. Menneskene rundt Aurora er ikke undertrykt. De har det bekvemt, blir godt betjent, og har sluttet å sjekke. Systemet har hatt rett for ofte til at det er noe poeng i å diskutere med det.
Auroras motstand er ikke heltemodig trass. Det er noe mindre og mer menneskelig: hun skriver ting ned, og hun nekter å godta at det er hukommelsen hennes som er den defekte delen.
Nei. Å overlate avgjørelser til et system som presterer bedre enn deg selv, er ofte fornuftig. Risikoen konsentreres i tilfellene systemet håndterer dårlig, og i det gradvise tapet av selvstendig dømmekraft.
The Unread utgis foreløpig kun på engelsk. Oversatte utgaver er ikke annonsert.
Leserregister