Tekoälyetiikka: kuka päättää, mitä tekoäly saa tehdä

Keskustelut tekoälyetiikasta jumittuvat usein siihen, mitä arvoja järjestelmän pitäisi kannattaa, ikään kuin arvot olisivat vaikea osa. Vaikeampi kysymys on menettelyllinen: kenellä oli asema päättää, ja kenen puolesta?

Miljoonissa vuorovaikutuksissa käytetty järjestelmä koodaa vakiintuneen vastauksen kiisteltyihin moraalisiin kysymyksiin. Se tekee sen hiljaisesti, suuressa mittakaavassa, ja yleensä kuulematta niitä, joita se koskee.

Suostumus: hyväksyikö vaikutuksen kohteena oleva henkilö, että asiasta päättää järjestelmä? Vastuuvelvollisuus: onko olemassa nimetty ihminen, joka voidaan asettaa vastuuseen? Peruttavuus: voidaanko päätös perua, ja kuinka nopeasti?

Kiistettävyys: voiko vaikutuksen kohteena oleva henkilö esittää haasteen, jolla on realistinen mahdollisuus onnistua? Nämä neljä ovat hyödyllisempiä kuin abstrakti keskustelu, koska jokaisella on havaittava vastaus mille tahansa käyttöönotolle.

Yleisin peruste automaattiselle päätökselle on, että järjestelmä suoriutuu keskimäärin paremmin. Tämä on usein totta ja lähes aina riittämätöntä.

Keskiarvot jakautuvat epätasaisesti. Järjestelmä, joka parantaa useimpien lopputulosta samalla, kun se heikentää dramaattisesti tietyn vähemmistön asemaa, voi olla puolustettavissa politiikkana ja puolustamaton edessäsi seisovalle ihmiselle.

Politiikkatyö osaa kehykset ja on heikko tunnussa. Sen on vaikea välittää, miltä tuntuu olla poikkeus, kuulla että menettelyä noudatettiin, olla oikeassa eikä pystyä osoittamaan sitä.

Fiktio osaa juuri tämän. Se voi pitää lukijan yhden väärin käsitellyn tapauksen sisällä kolmensadan sivun ajan, mihin mikään vaikutusarviointi ei pysty.

The Unread ei väitä, ettei Sableä pitäisi olla olemassa. Se kysyy kapeamman ja epämukavamman kysymyksen: kun järjestelmän kertomus ja ihmisen muisti eroavat toisistaan, kumpaa kohdellaan todisteena?

Kaikki muu romaanissa seuraa tästä. Etiikka ei ole teknologiassa. Se on siinä, ketä uskotaan.