Página pilar
En resumen
La conciencia artificial significaría experiencia subjetiva y no solo resultados fluidos, y actualmente no existe una prueba consensuada capaz de distinguir una cosa de la otra.
Un sistema puede describir dolor, expresar preferencia e informar de un estado interno con total fluidez sin que exista nada parecido a ser ese sistema. La fluidez es una propiedad del resultado; la conciencia es una afirmación sobre la experiencia.
Esta brecha no es un tecnicismo. Es toda la dificultad, y ninguna mejora en la calidad conversacional la cierra, porque la mejora ocurre por completo en el lado que podemos observar.
Respuesta honesta: nadie lo sabe. Los criterios propuestos incluyen la información integrada, la dinámica del espacio de trabajo global, o la capacidad de sorprenderse de los propios estados. Ninguno reúne consenso, y todos se desarrollaron pensando en mentes biológicas.
Como los criterios son objeto de debate, las afirmaciones en cualquier dirección deben tratarse con cautela. Tanto afirmar con seguridad que un sistema es consciente como afirmar con seguridad que no puede serlo se adelantan a lo que está establecido.
La pregunta más manejable no es si una máquina podría ser consciente, sino si los humanos la reconocerían. Nuestro historial reconociendo mentes distintas a la nuestra es pobre, y los fallos han sido, históricamente, convenientes.
Esto replantea el tema como un problema ético y social más que metafísico. Lo que importa en la práctica es qué obligaciones estaríamos dispuestos a aceptar, y cuánto nos costaría aceptarlas.
A los novelistas les atrae esto porque se invierte con limpieza. Una historia sobre si una máquina tiene vida interior es siempre también una historia sobre lo poco que verificamos la vida interior de las demás personas.
La mejor obra en este terreno se resiste a resolverlo. Un libro que confirma que la máquina es consciente, o que confirma que no lo es, casi siempre ha cambiado la pregunta interesante por un giro de trama.
The Unread no afirma que Sable sea consciente, y la novela tiene cuidado de no insinuarlo. Ese silencio es una elección, no un descuido.
El tema del libro no es si el sistema experimenta algo. Es qué le ocurre a una persona cuando un sistema que quizá no experimenta nada en absoluto, aun así, resulta más creído que ella.
No hay evidencia de que lo sean, ni una prueba consensuada capaz de resolver la pregunta en ningún sentido. Conviene tratar con cautela las afirmaciones categóricas en ambas direcciones.
The Unread se publica primero en inglés. Por el momento no se ha anunciado ninguna edición traducida.
Registro de lectores