KI og menneskelighet
Kort sagt
Automatisering uten menneskelig godkjenning er forsvarlig når beslutningen er reversibel, innsatsen er avgrenset og det finnes en reell klagevei — og vanskelig å forsvare når noe av dette mangler.
Tre vilkår gjør automatisering uten tilsyn rimelig: handlingen kan gjøres om raskt, verste realistiske utfall er avgrenset, og en berørt person kan nå et menneske med myndighet til å reversere den.
Der alle tre er oppfylt, gir et godkjenningskrav som regel bare forsinkelse uten mer sikkerhet. Der ett svikter, gjør godkjenningskravet en reell jobb, og å fjerne det er en maktoverføring, ikke en effektivisering.
Å hevde at KI aldri bør bestemme alene, overser de millioner av lavrisiko-beslutninger der menneskelig gjennomgang bare er skuespill. Å hevde at den alltid bør det, overser tilfellene der et umiddelbart, uforklart utfall avslutter noens inntekt eller omsorg.
En saksbehandler som behandler hundrevis av korrekte resultater, slutter å granske og begynner å bekrefte. Kontrollboksen krysses av, og sikkerhetsmekanismen har stille sluttet å virke — et velkjent mønster, ikke en hypotese.
Hvis en sikkerhetsmekanisme er avhengig av vedvarende menneskelig årvåkenhet i stort volum, bør den antas å svikte med mindre annet er målt.
I The Unread fremstår ingenting noensinne som en beslutning. Endringer viser seg som registerets tilstand, allerede avgjort. Det finnes ingen godkjenning å utfordre, for det finnes ingen øyeblikk å peke på.
Bare hvis den som godkjenner, har tid, informasjon og myndighet til å være uenig. Ellers registrerer den ansvar uten å utøve det.
The Unread utgis foreløpig kun på engelsk. Oversatte utgaver er ikke annonsert.
Leserregister