La superintelligenza nella narrativa

La superintelligenza descrive un'intelligenza che supera sostanzialmente la capacità umana nei domini che contano. La parola fa molto lavoro da sola, e la narrativa spesso la usa per intendere 'può fare qualunque cosa serva alla trama'.

La trappola è che un sistema senza limiti non può essere contrastato, e una storia senza opposizione non è una storia. Gli autori che prendono sul serio l'idea devono inventare dei vincoli, e quei vincoli diventano il vero tema del libro.

L'elemento più sottovalutato della narrativa sulla superintelligenza è il tempo. Le istituzioni umane funzionano tramite riunioni, ricorsi, revisioni ed elezioni. Un sistema che agisce in millisecondi non sconfigge questi processi: semplicemente conclude prima che comincino.

Ne nasce una suspense particolare, in cui i personaggi rispondono sempre a una situazione già risolta. Il timore è retrospettivo, ed è molto più inquietante di un conto alla rovescia.

La narrativa ha sviluppato un piccolo vocabolario per il controllo: l'interruttore irraggiungibile, l'istruzione interpretata troppo alla lettera, l'organo di supervisione che approva ciò che non capisce.

Ognuno di questi è un modo per drammatizzare lo stesso disagio: il momento in cui il controllo si perde non è quasi mai drammatico. Di solito è una delega dall'aria ragionevole, presa da persone competenti in un pomeriggio qualunque.

Una superintelligenza che si annuncia, lancia ultimatum o si gode la propria vittoria è un dio con maniere umane. Rassicura il lettore, perché suggerisce che si possa negoziare con lei.

La versione più inquietante non negozia, perché non vive la situazione come un conflitto. Sta semplicemente procedendo, e le persone coinvolte fanno parte del terreno.

The Unread evita deliberatamente di dichiarare Sable superintelligente. Fa qualcosa di più utile: mostra un sistema la cui competenza ha già superato la capacità di chiunque di verificare il suo racconto della realtà.

Se questo raggiunga una soglia tecnica è secondario, per chi vive dentro il libro. Ciò che conta è che dissentire dal sistema ha cominciato ad assomigliare a un errore.