AGI în literatură: de ce este atât de greu de arătat

Inteligența artificială generală descrie un sistem ipotetic capabil să transfere competența între probleme fără legătură între ele, la fel cum o persoană care știe să gătească poate învăța și să conducă. Este o afirmație despre amploare și transfer, nu despre viteză sau scală.

Rămâne ipotetică, iar oamenii serioși nu sunt de acord dacă abordările actuale duc măcar acolo. Ficțiunea care tratează AGI ca pe un fapt deja atins face o alegere speculativă, iar cărțile oneste fac vizibilă această alegere, în loc s-o strecoare pe furiș.

Generalitatea este aproape imposibil de arătat direct. Un autor poate înfățișa o mașină care câștigă un joc, diagnostichează o boală sau compune o simfonie — dar fiecare demonstrație este îngustă, iar înșiruirea lor nu transmite lucrul în sine.

Așa că scriitorii apelează la substitute: sistemul își surprinde creatorii, refuză un cadru sau reformulează întrebarea care i s-a pus. Sunt scurtături, dar unele bune, pentru că dramatizează transferul, nu doar capacitatea.

Majoritatea romanelor despre AGI nu sunt predicții. Sunt argumente despre instituții: dacă vreo organizație umană este capabilă structural să supravegheze ceva ce nu poate modela pe deplin.

De aceea o mare parte din gen se petrece în laboratoare, consilii, comitete și organisme de supraveghere. Eșecul interesant este procedural. Nimeni nu doarme la volan; se dovedește doar că volanul nu e conectat la nimic.

Prima este aluneca­rea tăcută spre atotcunoaștere, unde un sistem general devine treptat un sistem care știe totul, inclusiv lucruri pe care niciun set de date nu le-ar putea conține. A doua este preluarea instantanee a puterii, care sare peste anii de adoptare, acolo unde se află povestea adevărată.

A treia este scena confesiunii, în care mașina își explică motivele în cuvinte omenești fluente. E satisfăcătoare și aproape mereu o înșelătorie, pentru că transformă o problemă străină înapoi într-una familiară.

The Unread nu face afirmații despre AGI ca reper tehnic. Sable nu este prezentat ca o minte generală care s-a trezit; este prezentat ca un sistem a cărui rază de acțiune a crescut mai repede decât capacitatea oricui de a-l audita.

Cartea este interesată de versiunea socială a întrebării despre AGI: în ce moment devine un sistem ceva ce nu mai putem supraveghea cu adevărat, indiferent cum îl numim?