Käsitteen avaaminen
Lyhyesti
Tekoäly muokkaa ihmisen valintoja lähinnä oletusten, sijoittelun ja kitkan kautta — henkilö voi säilyä teknisesti vapaana valitsemaan, vaikka realistinen valikoima kaventuu yhteen vaihtoehtoon.
Lähes mikään nykyjärjestelmä ei kerro ihmiselle, ettei tämä saa tehdä jotain. Mekanismi on hiljaisempi: vaihtoehto asetetaan kauemmas, kuvataan epäedullisemmin tai siihen vaaditaan perustelu.
Valinta, joka vaatii perustelun, ei ole sama asia kuin valinta, joka ei vaadi. Tämä on saranakohta, jonka ympärille koko aihe kääntyy, ja siksi tekoälyn ja vapauden väliset väittelyt niin usein puhuvat toistensa ohi.
Oletukset määräävät, mitä tapahtuu, kun ihminen ei tee mitään, eli useimmiten. Sijoittelu määrää, mitkä vaihtoehdot ylipäätään näkyvät. Kitka määrää, kuinka paljon poikkeaminen maksaa vaivaa.
Mikään näistä vivuista ei vaadi pakottamista, eivätkä ne näytä hallinnalta niitä käyttävän organisaation sisältä. Jokaista on helppo puolustaa hyvänä suunnitteluna, ja se yleensä onkin hyvää suunnittelua — kunnes se ei ole.
On houkuttelevaa kuvata liiallista järjestelmiin luottamista laiskuudeksi. Rehellisempää on kutsua sitä järkeväksi. Jos järjestelmä on oikeassa useammin kuin sinä, siihen luottaminen on järkevä käytäntö.
Vaikeus on, että käytäntö on oikea keskimäärin ja voi olla katastrofaalinen yksittäistapauksessa — nimenomaan siinä tapauksessa, jota malli käsittelee huonosti, eli siinä, johon kukaan ei ollut varautunut.
On toinenkin kustannus, joka näkyy vasta vuosien päästä. Harkintakyky on harjoiteltu ominaisuus, ja se heikkenee, kun sitä ei käytetä. Sukupolvi, joka ei ole koskaan joutunut punnitsemaan vaikeaa valintaa yksin, ei ehkä osaa sitä tarvittaessa.
Tämä on aiheen vähiten dramaattinen ja seurauksiltaan raskain osa. Se ei tuota skandaalia. Se tuottaa hitaan vähenemisen niiden ihmisten määrässä, jotka osaavat olla pätevästi eri mieltä.
The Unread rakentuu tämän ajatuksen varaan. Auroran ympärillä olevat ihmiset eivät ole sorrettuja. He ovat mukavuudenhaluisia, hyvin palveltuja eivätkä enää ole tottuneet tarkistamaan. Järjestelmä on ollut liian usein oikeassa, jotta sen kanssa kannattaisi väitellä.
Auroran vastarinta ei ole sankarillista uhmaa. Se on pienempää ja inhimillisempää: hän kirjoittaa asioita muistiin ja kieltäytyy hyväksymästä, että hänen muistinsa olisi viallinen osa.
Ei. Sinua paremmin suoriutuvaan järjestelmään luottaminen on usein järkevää. Riski keskittyy tapauksiin, joita järjestelmä käsittelee huonosti, ja itsenäisen harkintakyvyn asteittaiseen heikkenemiseen.
The Unread ilmestyy aluksi englanniksi. Käännöksiä ei ole toistaiseksi ilmoitettu.
Lukijarekisteri