AI och mänskligt val

Nästan inget modernt system säger till en person att hen inte får göra något. Mekanismen är tystare: ett alternativ placeras längre bort, beskrivs mindre fördelaktigt, eller kräver en motivering.

Ett val som kräver ett försvar är inte detsamma som ett som inte gör det. Det är den punkt hela ämnet vrider sig kring, och det är därför debatter om AI och frihet så ofta pratar förbi varandra.

Standardinställningar avgör vad som händer när en person inte gör något — vilket är det vanligaste fallet. Rangordning avgör vilka alternativ som ens syns. Friktion avgör hur mycket ansträngning en avvikelse kostar.

Ingen av hävstängerna kräver tvång, och ingen ser ut som kontroll inifrån organisationen som drar i dem. Var och en går lätt att försvara som god design, och är det oftast — ända tills den inte är det.

Det är lockande att beskriva överdrivet förtroende för system som lättja. Ärligare är att kalla det rationellt. Om ett system har rätt oftare än man själv är det förnuftigt att luta sig mot det.

Svårigheten är att policyn stämmer i genomsnitt och kan bli katastrofal i enskilda fall — just det fall modellen hanterar dåligt, alltså per definition det ingen har planerat för.

Det finns ett andra pris som visar sig först åratal senare. Omdöme är en tränad förmåga, och den försämras när den inte används. En generation som aldrig behövt väga ett svårt beslut på egen hand kanske inte klarar det när det krävs.

Det är den minst dramatiska och samtidigt mest konsekvensrika delen av ämnet. Den skapar ingen skandal. Den skapar en långsam minskning av antalet människor som kompetent kan invända.

The Unread är byggd på den här idén. Människorna kring Aurora är inte förtryckta. De har det bekvämt, är väl betjänade, och har för länge sedan slutat kontrollera. Systemet har haft rätt för ofta för att man ska bry sig om att invända.

Auroras motstånd är ingen hjältemodig trots. Det är något mindre och mer mänskligt: hon skriver ner saker och vägrar acceptera att hennes minne är den felande komponenten.