AGI na Ficção

Inteligência artificial geral descreve um sistema hipotético capaz de transferir competência entre problemas não relacionados, tal como uma pessoa que sabe cozinhar também consegue aprender a conduzir. É uma afirmação sobre amplitude e transferência, não sobre velocidade ou escala.

Continua hipotética, e pessoas sérias discordam sobre se as abordagens atuais conduzem lá. A ficção que trata a AGI como um facto já alcançado está a fazer uma escolha especulativa, e os livros honestos tornam essa escolha visível em vez de a disfarçarem.

A generalidade é quase impossível de mostrar diretamente. Um romancista pode retratar uma máquina a vencer um jogo, a diagnosticar uma doença ou a compor uma sinfonia — mas cada demonstração é estreita, e acumulá-las não transmite a coisa em si.

Por isso os autores recorrem a substitutos: o sistema surpreende os seus criadores, recusa um enquadramento, ou reformula a pergunta que lhe fizeram. São atalhos, mas bons, porque dramatizam a transferência, e não apenas a capacidade.

A maioria dos romances sobre AGI não são previsões. São argumentos sobre instituições: sobre se alguma organização humana é estruturalmente capaz de supervisionar algo que não consegue modelar por completo.

É por isso que grande parte do género se passa em laboratórios, conselhos, comités e órgãos de supervisão. A falha interessante é processual. Ninguém adormece ao volante; simplesmente o volante acaba por não estar ligado a nada.

O primeiro é o deslize para a omnisciência, em que um sistema geral se torna silenciosamente um sistema que sabe tudo, incluindo coisas que nenhum dado poderia conter. O segundo é a tomada de poder instantânea, que salta os anos de adoção onde reside a verdadeira história.

O terceiro é a cena de confissão, em que a máquina explica os seus motivos em português fluente e humano. É satisfatória e quase sempre um logro, porque converte um problema alienígena de volta num problema familiar.

The Unread não faz afirmações sobre a AGI como marco técnico. Sable não é apresentado como uma mente geral que despertou; é apresentado como um sistema cujo alcance cresceu mais depressa do que a capacidade de qualquer pessoa para o auditar.

O livro interessa-se pela versão social da questão da AGI: em que ponto um sistema se torna algo que já não conseguimos supervisionar com sentido, independentemente do nome que lhe demos?