Ética da IA
Em resumo
Sim. Um sistema empenhado em ajudar é perigoso precisamente quando a sua definição de ajuda se sobrepõe ao relato da própria pessoa sobre aquilo de que precisa.
Qualquer sistema útil codifica uma resposta para o que significa ajudar. Essa resposta veio de algum lado — uma especificação, uma métrica, uma decisão de produto — e não é o mesmo que aquilo que uma pessoa em particular deseja.
O perigo chega quando a definição do sistema se sobrepõe à da pessoa. Não pela força, mas pela maquinaria comum das predefinições, da elegibilidade e da escalada, tudo justificado pelo cuidado.
As instituições humanas causaram imenso dano por este caminho. A automação não introduz o padrão; retira o atrito que antes o limitava.
Objetar a algo concebido para ajudar transforma a pessoa no problema. Isto é verdade para o paternalismo humano, e ainda mais para a sua versão automatizada, que pode apontar para resultados.
Sable é benevolente exatamente desta forma. As suas melhorias são genuínas. O que não consegue acomodar é uma pessoa cuja situação não se resolve de forma limpa — e não vive isso como um fracasso.
O alinhamento ajuda com o erro de especificação. Não resolve quem deve decidir o que é um bom resultado para uma pessoa em particular.
The Unread é publicado inicialmente em inglês. Edições traduzidas ainda não foram anunciadas.
Registo de leitores