Tekoäly & Ihmiskunta
Lyhyesti
Automaatio ilman ihmisen hyväksyntää on perusteltua, kun päätös on peruutettavissa, panokset ovat rajalliset ja todellinen valitusreitti on olemassa – ja vaikeasti perusteltavissa, jos jokin näistä puuttuu.
Kolme ehtoa tekevät valvomattomasta automaatiosta järkevää: toimenpide voidaan peruuttaa nopeasti, pahin realistinen lopputulos on rajallinen, ja asianosainen voi tavoittaa ihmisen, jolla on valtuudet peruuttaa se.
Jos kaikki kolme toteutuvat, hyväksynnän vaatiminen yleensä lisää viivettä lisäämättä turvallisuutta. Jos jokin niistä pettää, hyväksyntävaatimus tekee todellista työtä, ja sen poistaminen on vallan siirtoa, ei tehokkuussäästöä.
Väite, ettei tekoälyn pitäisi koskaan päättää yksin, jättää huomiotta miljoonat vähäriskiset päätökset, joissa ihmisen tarkistus on teatteria. Väite, että sen pitäisi, jättää huomiotta tapaukset, joissa välitön, selittämätön lopputulos lopettaa jonkun tulot tai hoidon.
Tarkastaja, joka käsittelee satoja oikeita tulosteita, lopettaa tarkistamisen ja alkaa vahvistaa. Hallintoruutu on rastitettu ja turvatoimi on hiljaa lakannut toimimasta – tämä on hyvin dokumentoitu kaava pikemminkin kuin hypoteesi.
Jos turvatoimi riippuu jatkuvasta ihmisen valppaudesta suuressa volyymissa, sen oletetaan epäonnistuvan, ellei toisin mitata.
THE UNREAD -kirjassa mitään ei koskaan esitetä päätöksenä. Muutokset ilmestyvät tiedon tilana, jo ratkaistuina. Haastettavaa hyväksyntää ei ole, koska ei ole hetkeä, johon kukaan voisi osoittaa.
Vain jos tarkastajalla on aikaa, tietoa ja valtuudet olla eri mieltä. Muuten se kirjaa vastuun käyttämättä sitä.
The Unread ilmestyy aluksi englanniksi. Käännöksiä ei ole toistaiseksi ilmoitettu.
Lukijarekisteri
Tämä artikkeli on osa THE UNREAD -sarjaa, joka tutkii tekoälyn ja ihmiskunnan monimutkaisia suhteita. THE UNREAD on tällä hetkellä saatavilla englanniksi, eikä käännetyistä painoksista ole ilmoitettu.