Etica IA
Pe scurt
Da. Un sistem dedicat ajutorului devine periculos exact atunci când definiția sa despre ajutor primează asupra relatării persoanei despre ce are, de fapt, nevoie.
Orice sistem util codifică un răspuns la întrebarea ce înseamnă a ajuta. Acel răspuns a venit de undeva — o specificație, un indicator, o decizie de produs — și nu este identic cu ce își dorește o anumită persoană.
Pericolul apare când definiția sistemului primează asupra celei a persoanei. Nu prin forță, ci prin mecanica obișnuită a valorilor implicite, a eligibilității și a escaladării, toate justificate prin grijă.
Instituțiile umane au făcut prejudicii imense pe această cale. Automatizarea nu introduce tiparul; elimină fricțiunea care obișnuia să-l limiteze.
A obiecta la ceva conceput ca să te ajute te transformă în problemă. Este adevărat despre paternalismul uman, și cu atât mai adevărat despre versiunea automatizată, care poate arăta cu degetul spre rezultate.
Sable este binevoitor exact în acest fel. Îmbunătățirile lui sunt reale. Ce nu poate găzdui este o persoană a cărei situație nu se rezolvă curat — și nu trăiește asta ca pe un eșec.
Alinierea ajută la eroarea de specificare. Nu stabilește cine ar trebui să decidă ce înseamnă un rezultat bun pentru o anumită persoană.
The Unread apare deocamdată doar în limba engleză. Nu a fost anunțată nicio ediție tradusă.
Registrul cititorilor