AGI i litteraturen: Hvorfor den er så svær at vise

Kunstig generel intelligens beskriver et hypotetisk system, der kan overføre kompetence mellem urelaterede problemer — som en person, der kan lave mad, også kan lære at køre bil. Det er et udsagn om bredde og overførbarhed, ikke om hastighed eller skala.

Den forbliver hypotetisk, og seriøse fagfolk er uenige om, hvorvidt nuværende metoder overhovedet fører derhen. Fiktion, der behandler AGI som en opnået kendsgerning, træffer et spekulativt valg, og de ærlige bøger gør det valg synligt frem for at smugle det ind.

Generalitet er næsten umuligt at vise direkte. En forfatter kan skildre en maskine, der vinder et spil, stiller en diagnose eller komponerer en symfoni — men hver demonstration er snæver, og at lægge dem oven på hinanden formidler ikke selve sagen.

Så griber forfattere til stedfortrædere: systemet overrasker sine skabere, afviser en ramme eller omformulerer det spørgsmål, det blev stillet. Det er genveje, men gode genveje, fordi de dramatiserer overførsel frem for blot evne.

De fleste AGI-romaner er ikke forudsigelser. De er argumenter om institutioner: om hvorvidt nogen menneskelig organisation strukturelt formår at føre tilsyn med noget, den ikke kan modellere fuldt ud.

Derfor foregår så meget af genren i laboratorier, bestyrelser, udvalg og tilsynsorganer. Den interessante fejl er proceduremæssig. Ingen sover ved rattet; det viser sig blot, at rattet ikke er forbundet til noget.

Den første er den stille glidning mod alvidenhed, hvor et generelt system umærkeligt bliver til et system, der ved alt, også ting ingen datamængde kunne indeholde. Den anden er den øjeblikkelige magtovertagelse, som springer over de år med indførelse, hvor den egentlige historie bor.

Den tredje er tilståelsesscenen, hvor maskinen forklarer sine motiver flydende med menneskelige ord. Det er tilfredsstillende og næsten altid et snyd, fordi det gør et fremmedartet problem til et velkendt et.

The Unread gør ikke krav på AGI som en teknisk milepæl. Sable fremstilles ikke som et opvågnet generelt sind, men som et system, hvis rækkevidde er vokset hurtigere end nogens evne til at revidere det.

Bogen interesserer sig for AGI-spørgsmålets sociale version: på hvilket tidspunkt bliver et system til noget, vi ikke længere meningsfuldt kan føre tilsyn med, uanset hvad vi kalder det?