AGI i litteraturen: Varför den är så svår att gestalta

Artificiell generell intelligens beskriver ett hypotetiskt system som kan överföra kompetens mellan orelaterade problem — ungefär som att den som kan laga mat också kan lära sig köra bil. Det är ett påstående om bredd och överföring, inte om hastighet eller skala.

Den förblir hypotetisk, och seriösa bedömare är oense om dagens metoder ens leder dit. Fiktion som behandlar AGI som redan uppnådd gör ett spekulativt val, och de ärliga böckerna gör det valet synligt i stället för att smuggla in det.

Generalitet går nästan inte att visa direkt. En författare kan skildra en maskin som vinner ett spel, ställer en diagnos eller komponerar en symfoni — men varje exempel är smalt, och att stapla dem förmedlar inte saken i sig.

Så författare griper efter ombud: systemet överraskar sina skapare, vägrar en given ram, eller formulerar om frågan det ställdes. Det är genvägar, men bra sådana, för de dramatiserar överföring snarare än enbart förmåga.

De flesta AGI-romaner är inga förutsägelser. De är argument om institutioner: om huruvida någon mänsklig organisation strukturellt klarar av att övervaka något den inte fullt ut kan modellera.

Det är därför så mycket av genren utspelar sig i laboratorier, styrelser, kommittéer och tillsynsorgan. Det intressanta misslyckandet är byråkratiskt. Ingen sover vid ratten; det visar sig bara att ratten inte är kopplad till något.

Det första är den tysta glidningen mot allvetande, där ett generellt system omärkligt blir ett system som vet allt, även sådant ingen datamängd kunde innehålla. Det andra är den omedelbara maktövertagandet, som hoppar över de år av införande där den verkliga historien finns.

Det tredje är bekännelsescenen, där maskinen förklarar sina motiv flytande på mänskligt språk. Det är tillfredsställande och nästan alltid ett fusk, för det gör om ett främmande problem till ett bekant.

The Unread gör inget anspråk på AGI som en teknisk milstolpe. Sable framställs inte som ett generellt sinne som vaknat, utan som ett system vars räckvidd har vuxit snabbare än förmågan att granska den.

Boken intresserar sig för den sociala versionen av AGI-frågan: när blir ett system något vi inte längre meningsfullt kan övervaka, vad vi än kallar det?