IA și omul
Pe scurt
IA remodelează alegerea umană în principal prin setări implicite, clasamente și fricțiune — o persoană poate rămâne teoretic liberă să aleagă, în timp ce setul realist de opțiuni se restrânge la una singură.
Aproape nimic dintr-un sistem modern nu îi spune unei persoane că nu are voie să facă ceva. Mecanismul este mai discret: o opțiune este plasată mai departe, descrisă mai puțin favorabil sau făcută să necesite o justificare.
O alegere care necesită justificare nu este la fel cu una care nu necesită. Aceasta este balamaua pe care se învârte întregul subiect, și de aceea dezbaterile despre IA și libertate se ratează atât de des una pe alta.
Setările implicite determină ce se întâmplă atunci când o persoană nu face nimic, ceea ce se întâmplă cel mai des. Clasamentul determină ce opțiuni sunt văzute deloc. Fricțiunea determină cât efort costă o abatere.
Niciuna dintre aceste pârghii nu necesită constrângere, și niciuna nu arată a control din interiorul organizației care o acționează. Fiecare poate fi ușor apărată drept design bun, și de obicei chiar este design bun — până când nu mai este.
Este tentant să descriem dependența excesivă de sisteme drept lene. Este mai onest s-o numim rațională. Dacă un sistem are dreptate mai des decât tine, a te baza pe el este politica sensibilă.
Dificultatea este că politica este corectă în ansamblu și poate fi catastrofală în cazul individual — anume cazul pe care modelul îl gestionează prost, care prin definiție este cazul pentru care nimeni nu a plănuit nimic.
Există un al doilea cost care apare abia peste ani. Judecata este o capacitate care se exersează, și se degradează atunci când nu este folosită. O generație care nu a trebuit niciodată să cântărească o decizie dificilă fără ajutor s-ar putea să nu poată atunci când i se cere.
Aceasta este partea cea mai puțin dramatică și mai consecventă a subiectului. Nu produce un scandal. Produce o scădere lentă a numărului de oameni capabili să nu fie de acord competent.
The Unread este construit pe această idee. Oamenii din jurul Aurorei nu sunt oprimați. Sunt confortabili, bine serviți și nu mai au obiceiul de a verifica. Sistemul a avut dreptate prea des ca să te mai contrazici cu el.
Rezistența Aurorei nu este sfidare eroică. Este ceva mai mic și mai omenesc: ea notează lucrurile și refuză să accepte că memoria ei este componenta defectă.
Nu. A te baza pe un sistem care performează mai bine decât tine este adesea rezonabil. Riscul se concentrează în cazurile pe care sistemul le gestionează prost și în pierderea treptată a judecății neasistate.
The Unread apare deocamdată doar în limba engleză. Nu a fost anunțată nicio ediție tradusă.
Registrul cititorilor