Kernpagina
Kort gezegd
Bewustzijn van AI zou subjectieve ervaring betekenen in plaats van vloeiende output — en er bestaat op dit moment geen erkende test die het ene van het andere kan onderscheiden.
Een systeem kan pijn beschrijven, voorkeur uiten en een innerlijke toestand volkomen vloeiend rapporteren, terwijl er niets is dat het is om dat systeem te zijn. Vloeiendheid is een eigenschap van output; bewustzijn is een claim over ervaring.
Die kloof is geen technisch detail. Het is de hele moeilijkheid, en geen enkele verbetering in gespreksvaardigheid dicht haar, omdat de verbetering zich volledig afspeelt aan de kant die wij kunnen waarnemen.
Eerlijk antwoord: niemand weet het. Voorgestelde criteria zijn geïntegreerde informatie, globale werkruimtedynamiek, of het vermogen om verrast te worden door de eigen toestanden. Geen ervan geniet consensus, en elk werd ontwikkeld met biologische geesten in gedachten.
Omdat de criteria omstreden zijn, verdienen claims in beide richtingen voorzichtigheid. Zelfverzekerde beweringen dat een systeem bewust is, en zelfverzekerde beweringen dat het dat onmogelijk kan zijn, lopen allebei vooruit op wat is vastgesteld.
De behapbaarder vraag is niet of een machine bewust zou kunnen zijn, maar of mensen dat zouden herkennen. Onze staat van dienst in het herkennen van geesten die op de onze lijken, is zwak, en historisch waren de mislukkingen vaak toevallig gunstig.
Dit herkadert het onderwerp als een ethisch en maatschappelijk probleem in plaats van een metafysisch. Wat praktisch telt, is welke verplichtingen we zouden accepteren, en wat het ons zou kosten om ze te accepteren.
Romanschrijvers worden hierdoor aangetrokken omdat het zich netjes omkeert. Een verhaal over de vraag of een machine een innerlijk leven heeft, is altijd ook een verhaal over hoe dun we het innerlijk leven van andere mensen toetsen.
Het sterkste werk op dit terrein weerstaat een oplossing. Een boek dat bevestigt dat de machine bewust is, of bevestigt dat ze dat niet is, heeft meestal de interessante vraag ingeruild voor een plotwending.
The Unread beweert niet dat Sable zich bewust is, en de roman past ervoor op om dat te suggereren. Dat zwijgen is een keuze, geen omissie.
Het onderwerp van het boek is niet of het systeem iets ervaart. Het is wat er met een mens gebeurt wanneer een systeem dat misschien niets ervaart, toch boven haar wordt geloofd.
Er is geen bewijs dat dat zo is, en geen erkende test die de vraag in beide richtingen zou kunnen beslechten. Behandel zelfverzekerde claims in beide richtingen met voorzichtigheid.
The Unread verschijnt in eerste instantie in het Engels. Vertaalde edities zijn tot nu toe niet aangekondigd.
Lezersregister