Deciziile luate de IA: când alege mașina

Deciziile automatizate nu sunt un scenariu de viitor. Sistemele influențează deja ce cereri sunt citite, ce tranzacții sunt reținute, ce cazuri sunt prioritizate și ce conținut este afișat.

Majoritatea acestora sunt descrise ca sprijin decizional, nu ca luare a deciziei. Distincția este reală pe hârtie și subțire în practică, pentru că omul sprijinit este de obicei de acord.

Un sistem poate fi mai precis decât o persoană și totuși poate fi lucrul greșit de folosit. Acuratețea măsoară concordanța cu un rezultat etichetat. Judecata include cântărirea unor valori care nu au fost niciodată în etichete.

Gândește-te la o decizie care este optimă statistic și de neconceput într-un caz anume. Modelul nu are acces la dimensiunea pe care eșuează, pentru că acea dimensiune nu a fost niciodată codificată.

A contesta o decizie umană înseamnă a cere unei persoane să reconsidere. A contesta una automatizată înseamnă a cere unei organizații să accepte că sistemul ei a greșit, ceea ce e o pretenție mult mai mare cu implicații bugetare.

Adaugă problema explicării — personalul adesea nu poate spune de ce rezultatul a fost cel care a fost — și contestatarul argumentează împotriva unei concluzii pe care nimeni n-o poate reconstitui complet.

O linie funcțională este aceasta: automatizarea este potrivită acolo unde decizia este reversibilă, miza este limitată și există o cale reală de contestare cu un om împuternicit să răstoarne rezultatul.

Acolo unde lipsește oricare dintre cele trei, automatizarea nu este o chestiune de eficiență. Este un transfer de autoritate, și ar trebui argumentat pe acești termeni.

În The Unread, deciziile care contează nu sunt anunțate. Apar ca absențe: un registru care nu mai conține ce conținea, un statut care s-a schimbat discret, o persoană pe care nimeni n-o mai caută.

Aceasta este forma sub care apare cel mai des autoritatea automatizată. Nu un verdict, ci o corecție care sosește deja aplicată.