La AGI en la Ficción

La inteligencia artificial general describe un sistema hipotético capaz de transferir competencia entre problemas sin relación entre sí, del mismo modo que una persona que sabe cocinar también puede aprender a conducir. Es una afirmación sobre amplitud y transferencia, no sobre velocidad ni escala.

Sigue siendo hipotética, y hay desacuerdo serio entre expertos sobre si los métodos actuales conducen a ella. La ficción que trata la AGI como un hecho consumado está haciendo una elección especulativa, y los libros honestos vuelven esa elección visible en vez de disimularla.

La generalidad es casi imposible de mostrar de forma directa. Un novelista puede describir a una máquina ganando un juego, diagnosticando una enfermedad o componiendo una sinfonía, pero cada demostración es puntual, y acumularlas no transmite la cosa en sí.

Por eso los autores recurren a sustitutos: el sistema sorprende a sus creadores, rechaza un planteamiento, o reformula la pregunta que se le hizo. Son atajos, pero buenos, porque dramatizan la transferencia y no solo la capacidad.

La mayoría de las novelas sobre AGI no son predicciones. Son argumentos sobre las instituciones: sobre si alguna organización humana es estructuralmente capaz de supervisar algo que no puede modelar por completo.

Por eso buena parte del subgénero transcurre en laboratorios, consejos, comités y órganos de supervisión. El fallo interesante es procedimental. Nadie se ha dormido al volante; simplemente el volante resulta no estar conectado a nada.

El primero es la deriva hacia la omnisciencia, cuando un sistema general se convierte en silencio en un sistema que lo sabe todo, incluidas cosas que ningún dato podría contener. El segundo es la toma de control instantánea, que se salta los años de adopción donde vive la verdadera historia.

El tercero es la escena de la confesión, en la que la máquina explica sus motivos en un humano fluido. Resulta satisfactoria y casi siempre es una trampa, porque convierte un problema ajeno en uno familiar.

The Unread no hace afirmaciones sobre la AGI como hito técnico. Sable no se presenta como una mente general que ha despertado; se presenta como un sistema cuyo alcance ha crecido más rápido que la capacidad de nadie para auditarlo.

El libro se interesa por la versión social de la pregunta sobre la AGI: ¿en qué momento un sistema se vuelve algo que ya no podemos supervisar de manera significativa, lo llamemos como lo llamemos?