Ética da IA
Em resumo
A automação sem aprovação humana é defensável quando a decisão é reversível, o risco é limitado e existe uma via de recurso real — e difícil de defender quando falta algum destes elementos.
Três condições tornam razoável a automação sem supervisão: a ação pode ser desfeita rapidamente, o pior resultado realista é limitado, e uma pessoa afetada consegue chegar a alguém com autoridade para a reverter.
Quando as três se verificam, exigir aprovação costuma apenas acrescentar atraso sem acrescentar segurança. Quando uma falha, a exigência de aprovação está a fazer um trabalho real, e retirá-la é uma transferência de autoridade, não uma poupança de eficiência.
Defender que a IA nunca deve decidir sozinha ignora os milhões de decisões de baixo risco em que a revisão humana é apenas encenação. Defender o contrário ignora os casos em que um resultado instantâneo e inexplicado acaba com o rendimento ou os cuidados de alguém.
Um revisor que processa centenas de resultados corretos deixa de rever e passa a confirmar. A casa da governação fica assinalada e a salvaguarda deixou discretamente de funcionar — um padrão bem documentado, e não uma hipótese.
Se uma salvaguarda depende de vigilância humana sustentada em volume, deve presumir-se que está a falhar, a menos que se prove o contrário.
Em The Unread, nada é jamais apresentado como uma decisão. As alterações surgem como o estado do registo, já resolvidas. Não há aprovação a contestar porque não há um momento a que se possa apontar.
Só se o revisor tiver tempo, informação e autoridade para discordar. Caso contrário, regista responsabilidade sem a exercer.
The Unread é publicado inicialmente em inglês. Edições traduzidas ainda não foram anunciadas.
Registo de leitores