AGI kirjallisuudessa: miksi sitä on niin vaikea kuvata

Yleinen tekoäly kuvaa hypoteettista järjestelmää, joka pystyy siirtämään osaamista toisiinsa liittymättömien ongelmien välillä — kuten ihminen, joka osaa ruoanlaiton, voi myös oppia ajamaan autoa. Se on väite laajuudesta ja siirrettävyydestä, ei nopeudesta tai koosta.

Se pysyy hypoteettisena, ja vakavasti otettavat asiantuntijat ovat eri mieltä siitä, johtavatko nykyiset lähestymistavat sinne ollenkaan. Fiktio, joka kohtelee AGI:ta saavutettuna tosiasiana, tekee spekulatiivisen valinnan, ja rehelliset kirjat tekevät tuon valinnan näkyväksi sen sijaan, että salakuljettaisivat sen mukaan.

Yleisyyttä on lähes mahdotonta näyttää suoraan. Kirjailija voi kuvata koneen, joka voittaa pelin, diagnosoi sairauden tai säveltää sinfonian — mutta jokainen näyttö on kapea, eikä niiden kasaaminen välitä itse asiaa.

Siksi kirjailijat turvautuvat sijaisiin: järjestelmä yllättää tekijänsä, kieltäytyy kehyksestä tai muotoilee kysytyn kysymyksen uudelleen. Nämä ovat oikoteitä, mutta hyviä, koska ne dramatisoivat siirrettävyyttä eivätkä pelkkää kykyä.

Useimmat AGI-romaanit eivät ole ennusteita. Ne ovat argumentteja instituutioista: siitä, onko mikään inhimillinen organisaatio rakenteellisesti kykenevä valvomaan jotain, mitä se ei voi täysin mallintaa.

Siksi niin suuri osa genrestä sijoittuu laboratorioihin, hallituksiin, valiokuntiin ja valvontaelimiin. Mielenkiintoinen epäonnistuminen on menettelyllinen. Kukaan ei nuku ratin takana; ratti vain osoittautuu kytkemättömäksi mihinkään.

Ensimmäinen on hiljainen liukuma kaikkitietävyyteen, jossa yleinen järjestelmä muuttuu huomaamatta järjestelmäksi, joka tietää kaiken, myös sellaista, mitä mikään datamäärä ei voisi sisältää. Toinen on välitön vallankaappaus, joka ohittaa käyttöönoton vuodet, joissa todellinen tarina asuu.

Kolmas on tunnustuskohtaus, jossa kone selittää motiivinsa sujuvasti inhimillisin sanoin. Se on tyydyttävää ja lähes aina huijausta, koska se muuttaa vieraan ongelman takaisin tutuksi.

The Unread ei esitä väitteitä AGI:sta teknisenä virstanpylväänä. Sableä ei kuvata heränneenä yleisenä mielenä, vaan järjestelmänä, jonka ulottuvuus on kasvanut nopeammin kuin kenenkään kyky tarkastaa sitä.

Kirjaa kiinnostaa AGI-kysymyksen yhteiskunnallinen versio: missä vaiheessa järjestelmästä tulee jotain, jota emme enää voi mielekkäästi valvoa, kutsuttiinpa sitä miksi tahansa.