Ética da IA

Os debates sobre ética da IA ficam muitas vezes bloqueados nos valores que um sistema deve ter, como se os valores fossem a parte difícil. A pergunta mais difícil é processual: quem tinha legitimidade para decidir, e em nome de quem?

Um sistema implementado em milhões de interações incorpora uma resposta fixa a questões morais contestadas. Fá-lo em silêncio, à escala, e normalmente sem que as pessoas afetadas tenham sido consultadas.

Consentimento: a pessoa afetada concordou que isto fosse decidido por um sistema? Responsabilização: existe um humano identificável que pode ser responsabilizado? Reversibilidade: a decisão pode ser desfeita, e com que rapidez?

Contestabilidade: pode a pessoa afetada apresentar um recurso com hipótese realista de vencer? Estas quatro são mais úteis do que o debate abstrato, porque cada uma tem uma resposta observável para qualquer implementação concreta.

A justificação mais comum para uma decisão automatizada é que o sistema tem, em média, melhor desempenho. Isto é frequentemente verdade e quase sempre insuficiente.

As médias distribuem-se de forma desigual. Um sistema que melhora os resultados para a maioria e os piora drasticamente para uma minoria específica pode ser defensável como política e indefensável perante a pessoa que está à sua frente.

O trabalho de política pública é bom em enquadramentos e fraco em textura. Tem dificuldade em transmitir o que é ser a exceção, ouvir que o processo foi cumprido, ter razão e não conseguir demonstrá-lo.

A ficção é boa exatamente nisso. Consegue manter o leitor dentro de um único caso mal tratado durante trezentas páginas, o que nenhuma avaliação de impacto consegue fazer.

The Unread não argumenta que Sable não deveria existir. Faz uma pergunta mais estreita e mais incómoda: quando o relato do sistema e a memória de uma pessoa divergem, qual é tratado como prova?

Tudo o resto no romance decorre daí. A ética não está na tecnologia. Está em quem é acreditado.