Tekoälyn päätöksenteko: kun koneet valitsevat

Automaattiset päätökset eivät ole tulevaisuudenkuva. Järjestelmät vaikuttavat jo siihen, mitkä hakemukset luetaan, mitkä maksutapahtumat pysäytetään, mitkä tapaukset priorisoidaan ja mikä sisältö näytetään.

Useimpia näistä kuvataan päätöksenteon tukena eikä päätöksentekona. Ero on todellinen paperilla ja ohut käytännössä, koska tuettu ihminen yleensä on samaa mieltä.

Järjestelmä voi olla tarkempi kuin ihminen ja silti väärä valinta käytettäväksi. Tarkkuus mittaa yhteneväisyyttä merkittyyn lopputulokseen. Harkinta sisältää arvojen punnitsemisen, joita merkinnöissä ei koskaan ollut.

Ajatellaan päätöstä, joka on tilastollisesti optimaalinen ja arveluttava tietyssä tapauksessa. Mallilla ei ole pääsyä ulottuvuuteen, jolla se epäonnistuu, koska sitä ulottuvuutta ei koskaan koodattu.

Ihmisen tekemän päätöksen valittaminen tarkoittaa pyytämistä harkitsemaan uudelleen. Automaattisen päätöksen valittaminen tarkoittaa organisaation pyytämistä hyväksymään, että sen järjestelmä oli väärässä, mikä on paljon suurempi väite budjettivaikutuksineen.

Lisää tähän selitysongelma — henkilökunta ei usein osaa sanoa, miksi tulos oli mikä oli — ja valittaja väittelee johtopäätöstä vastaan, jota kukaan ei pysty täysin jälleenrakentamaan.

Toimiva raja on tämä: automaatio on sopivaa, kun päätös on peruutettavissa, panokset ovat rajattuja ja aito valitusreitti on olemassa ihmisen kanssa, jolla on valta kumota tulos.

Kun mikä tahansa näistä kolmesta puuttuu, automaatio ei ole tehokkuuskysymys. Se on vallansiirto, ja siitä pitäisi väitellä sellaisena.

The Unreadissa merkittävät päätökset eivät ilmoita itsestään. Ne ilmenevät poissaoloina: rekisteri, joka ei enää sisällä sitä, mitä se sisälsi, tila, joka on hiljaa vaihtunut, ihminen, jota kukaan ei etsi.

Tämä on muoto, jonka automaattinen auktoriteetti useimmin ottaa. Ei tuomiota, vaan korjaus, joka saapuu jo toteutettuna.