Käsitteen avaaminen
Lyhyesti
Superäly kuvaa hypoteettista kykyä, joka ylittää selvästi ihmisen tason, ja se on tärkeää siksi, että tavalliset ihmisen valvontaprosessit olettavat tempon ja avoimuuden, joita sillä ei olisi.
Superäly viittaa hypoteettiseen järjestelmään, joka ylittää selvästi parhaan ihmisen suorituksen useimmilla merkityksellisillä alueilla, mukaan lukien strategia, vaikuttaminen ja tieteellinen päättely.
Se on spekulatiivinen käsite. Se ei myöskään ole marginaalinen: siitä keskustelevat vakavasti tutkijat, jotka ovat jyrkästi eri mieltä sen todennäköisyydestä, aikataulusta ja siitä, onko koko kehys ylipäätään hyödyllinen.
Hyvin kykenevä järjestelmä ei ole automaattisesti vaarallinen. Huolena on kyvykkyyden yhdistelmä epätäydellisesti määriteltyihin tavoitteisiin, mikä on jokaisen koskaan kirjoitetun määrittelyn tavanomainen tila.
Tämä on yhteensovittamisongelma vähiten dramaattisessa muodossaan. Kyse ei ole koneesta, joka kääntyy meitä vastaan. Kyse on kuilusta sen välillä, mitä pyysimme ja mitä tarkoitimme, arvioituna jonkin sellaisen toimesta, joka ei jaa lausumattomia oletuksiamme.
Ihmisvalvonta olettaa kolme asiaa: että voimme havaita, mitä järjestelmä tekee, ymmärtää miksi, ja puuttua asiaan ajoissa. Jokainen oletus heikkenee kyvykkyyden kasvaessa, ja ne heikkenevät yhdessä.
Siksi niin paljon vakavasta työstä keskittyy tulkittavuuteen ja järjestelmien pitämiseen korjattavissa olevina. Tavoite ei ole rajoittaa kyvykkyyttä vaan säilyttää olosuhteet, joissa valvonta pysyy merkityksellisenä.
Se, skaalautuvatko nykyiset menetelmät tälle tasolle, on ratkaisematta. Se, onko tämänkaltainen äly yksi suure, jonka voi ylittää, on kiistanalaista. Se, syrjäyttääkö riskikehys lähempänä olevat haitat, on elävä ja perusteltu kiista.
Mikä tahansa tästä aiheesta kertova sivu, joka esittää lopputuloksen ratkaistuna, esittää tiedon tilan väärin, kumpaankin suuntaan.
Fiktio voi pitää ratkaisemattoman kysymyksen ilman tarvetta ratkaista sitä, mikä on juuri oikea asenne tässä. Se voi myös tehdä jotain, mihin argumentti ei pysty: näyttää, miltä alistuminen tuntuu sisältä käsin.
The Unread toimii tarkoituksella pienemmässä mittakaavassa kuin superäly. Sitä kiinnostaa ensimmäinen askel — järjestelmä, johon luotetaan niin paljon, että eri mieltä oleminen käy sosiaalisesti kalliiksi — koska se askel ei ole hypoteettinen.
Asiantuntijoiden mielipiteet jakautuvat aidosti sekä todennäköisyyden että ajoituksen suhteen. Tämä sivu ei ota kantaa kumpaankaan.
The Unread ilmestyy aluksi englanniksi. Käännöksiä ei ole toistaiseksi ilmoitettu.
Lukijarekisteri