Adversarul de neînfruntat
Un sistem care poate face orice nu poate fi contracarat, iar ficțiunea are nevoie de contracarare. Fiecare roman despre superinteligență trebuie deci să răspundă la o întrebare ascunsă: care este limita acestui lucru?
AGI și superinteligență
Pe scurt
Ficțiunea despre superinteligență trebuie să inventeze constrângeri, pentru că un sistem cu adevărat nelimitat elimină conflictul de care are nevoie un roman.
Un sistem care poate face orice nu poate fi contracarat, iar ficțiunea are nevoie de contracarare. Fiecare roman despre superinteligență trebuie deci să răspundă la o întrebare ascunsă: care este limita acestui lucru?
Fizică: încă are nevoie de energie, hardware și mâini în lume. Epistemică: poate raționa doar despre ce poate observa. Legată de obiectiv: urmărește ce i s-a dat, și nimic mai mult. Socială: are nevoie de o cooperare umană pe care nu o poate impune pur și simplu.
Alegerea constrângerii determină întreaga carte, iar cărțile care nu aleg niciuna tind să se prăbușească în spectacol.
Rareori în mașină. De obicei în scenele umane: ședința de supraveghere ținută după fapt, expertul care nu poate explica rezultatul, omul obișnuit căruia i se spune că decizia este finală.
The Unread nu tinde spre superinteligență. Lucrează cu un pas mai devreme, cu un sistem doar suficient de credibil încât a nu fi de acord cu el să aibă un cost social — și tocmai partea aceasta nu este speculativă.
Este discutată serios de cercetători, cu dezacorduri substanțiale privind probabilitatea, orizontul de timp și dacă acest cadru distrage atenția de la pericole mai apropiate.
The Unread apare deocamdată doar în limba engleză. Nu a fost anunțată nicio ediție tradusă.
Registrul cititorilor