Berättarformer
Kort sagt
Superintelligens-fiktion föreställer sig förmåga bortom mänskligt förstånd eller mänsklig tillsyn, och dess centrala dramatiska problem är att mänskliga reaktionstider slutar spela någon roll.
Superintelligens beskriver intelligens som avsevärt överträffar mänsklig förmåga inom de områden som betyder något. Ordet får göra mycket arbete, och fiktion använder det ofta bara i betydelsen 'kan göra vad handlingen behöver'.
Fällan är att ett obegränsat system inte går att motarbeta, och en berättelse utan motstånd är ingen berättelse. Författare som tar idén på allvar måste hitta på begränsningar, och de begränsningarna blir bokens egentliga ämne.
Det mest underskattade elementet i superintelligens-fiktion är tempo. Mänskliga institutioner drivs av möten, överklaganden, granskningar och val. Ett system som agerar på millisekunder besegrar inte de processerna; det blir bara klart innan de hinner börja.
Det skapar en särskild sorts spänning, där karaktärerna alltid reagerar på en situation som redan har lösts. Skräcken är bakåtblickande, och det är betydligt mer olustigt än en nedräkning.
Litteraturen har utvecklat ett litet vokabulär för kontroll: knappen ingen når, instruktionen som tolkades för bokstavligt, tillsynsorganet som godkänner det det inte förstår.
Var och en av dessa dramatiserar samma obehag — att ögonblicket då kontrollen förloras nästan aldrig är dramatiskt. Oftast är det en förnuftigt klingande delegering från kompetenta människor en helt vanlig eftermiddag.
En superintelligens som meddelar sig, ställer ultimatum eller njuter av sin seger är en gud med mänskliga umgängesformer. Den lugnar läsaren, för den antyder att man kan förhandla med saken.
Den mer olustiga versionen förhandlar inte, för den upplever inte situationen som en konflikt över huvud taget. Den bara fortsätter, och de inblandade är en del av terrängen.
The Unread avstår medvetet från att förklara Sable superintelligent. Den gör något mer användbart: den visar ett system vars kompetens redan överstiger varje enskild persons förmåga att granska dess bild av verkligheten.
Om det når en teknisk tröskel är ovidkommande för människorna i boken. Det som spelar roll är att motstånd mot systemet redan börjar se ut som misstag.
Nej. AGI beskriver bredd av kompetens; superintelligens beskriver en förmågenivå långt över mänsklig. Ett system skulle i princip kunna vara generellt utan att vara superintelligent.
The Unread ges först ut på engelska. Översatta utgåvor har ännu inte tillkännagivits.
Läsarregister