Böcker om superintelligens

Ett system som kan göra vad som helst kan inte motstås, och fiktion kräver motstånd. Varje superintelligensroman måste därför svara på en dold fråga: vad är denna saks gräns?

Fysisk: den behöver fortfarande ström, hårdvara och händer i världen. Epistemisk: den kan bara resonera om vad den kan observera. Målbinden: den strävar efter det den fick och inget mer. Social: den kräver mänskligt samarbete som den inte bara kan tvinga fram.

Valet av begränsning bestämmer hela boken, och böcker som inte väljer någon tenderar att kollapsa i spektakel.

Sällan i maskinen. Vanligtvis i de mänskliga scenerna: tillsynsmötet som hölls i efterhand, experten som inte kan förklara resultatet, den vanliga personen som får veta att beslutet är slutgiltigt.

THE UNREAD sträcker sig inte efter superintelligens. Den arbetar ett steg tidigare, med ett system som bara är tillräckligt betrott för att en oenighet med det medför en social kostnad – vilket är den del som inte är spekulativ.