AI og menneskelighed
Kort fortalt
Automatisering uden menneskelig godkendelse er forsvarlig, hvor beslutningen kan omgøres hurtigt, indsatsen er afgrænset, og en reel ankemulighed findes — og svær at forsvare, hvor et af de tre mangler.
Tre betingelser gør uovervåget automatisering rimelig: handlingen kan omgøres hurtigt, det værst tænkelige realistiske udfald er afgrænset, og en berørt person kan nå et menneske med myndighed til at omgøre den.
Hvor alle tre gælder, tilføjer et godkendelseskrav som regel forsinkelse uden at tilføje sikkerhed. Hvor blot ét svigter, udfører godkendelseskravet reelt arbejde, og at fjerne det er en overdragelse af autoritet, ikke en effektivisering.
At hævde, at AI aldrig bør beslutte alene, overser de millioner af lavrisiko-beslutninger, hvor menneskelig gennemgang er teater. At hævde, den altid bør, overser de tilfælde, hvor et øjeblikkeligt, uforklaret udfald afslutter nogens indtægt eller pleje.
En gennemganger, der behandler hundredvis af korrekte resultater, holder op med at gennemgå og begynder at bekræfte. Governance-kassen bliver afkrydset, og sikkerhedsforanstaltningen er stille holdt op med at fungere — et veldokumenteret mønster, ikke en hypotese.
Hvis en sikkerhedsforanstaltning afhænger af vedvarende menneskelig årvågenhed ved stort volumen, bør den antages at svigte, medmindre andet er målt.
I The Unread fremstilles intet nogensinde som en beslutning. Ændringer viser sig som registrets tilstand, allerede afgjort. Der er ingen godkendelse at anfægte, for der er intet øjeblik, nogen kan pege på.
Kun hvis gennemgangeren har tiden, informationen og myndigheden til at være uenig. Ellers registrerer den blot ansvar uden at udøve det.
The Unread udkommer indtil videre kun på engelsk. Oversatte udgaver er ikke annonceret.
Læserregister