Governance dell'IA
In breve
Non esiste una risposta definitiva, e il punto di partenza onesto è che il controllo non dovrebbe spettare soltanto a chi trae profitto dalla diffusione del sistema.
Gli sviluppatori, che comprendono i sistemi ma hanno un interesse commerciale. I governi, che hanno legittimità democratica ma si muovono lentamente e in modo diseguale. Gli organismi internazionali, che hanno ampiezza ma applicazione limitata. Le comunità coinvolte, che hanno la pretesa morale più forte e la minore leva.
Ogni posizione ha un argomento autentico e un difetto autentico. Chi ne presenta una come ovvia sta argomentando, non spiegando.
Il controllo si esercita attraverso decisioni poco appariscenti: qual è il valore predefinito, quale errore è accettabile, se esiste un ricorso. Vengono prese ogni giorno da team di prodotto, e quasi mai inquadrate come governance.
Ciò che si può affermare con sicurezza è che la capacità, i dati e l'infrastruttura oggi risiedono in un numero ristretto di organizzazioni, e quella concentrazione è di per sé un fatto di governance, a prescindere dalle intenzioni di chiunque.
I romanzi raramente rispondono bene a questa domanda, e non dovrebbero provarci. Ciò che possono fare è mostrare cosa significhi essere governati da una decisione che nessuno ricorda di aver preso.
Solo una posizione limitata: che il controllo affidato soltanto a chi trae profitto dalla diffusione sia difficile da giustificare. Oltre questo, la domanda resta genuinamente aperta.
The Unread esce inizialmente in inglese. Al momento non sono state annunciate edizioni tradotte.
Registro lettori