Maskinbevissthet: Hva det ville betydd

Et system kan beskrive smerte, uttrykke preferanse og rapportere en indre tilstand fullstendig flytende uten at det finnes noe det er å være det systemet. Flyt er en egenskap ved utdata; bevissthet er en påstand om opplevelse.

Dette gapet er ikke en detalj. Det er hele vanskeligheten, og ingen forbedring i samtalekvalitet lukker det, fordi forbedringen skjer utelukkende på siden vi kan observere.

Ærlig svar: ingen vet. Foreslåtte kriterier omfatter integrert informasjon, global arbeidsromdynamikk, eller evnen til å bli overrasket over egne tilstander. Ingen har konsensus, og hver ble utviklet med biologiske sinn for øye.

Fordi kriteriene er omstridte, bør påstander i begge retninger behandles varsomt. Selvsikre påstander om at et system er bevisst, og selvsikre påstander om at det ikke kan være det, går begge lenger enn det som er fastslått.

Det mer håndterlige spørsmålet er ikke om en maskin kunne være bevisst, men om mennesker ville gjenkjenne det. Vår merittliste for å gjenkjenne sinn ulikt vårt eget er dårlig, og historisk har feilene vært bekvemme.

Dette gjør temaet om til et etisk og sosialt problem, ikke et metafysisk et. Det som betyr noe i praksis, er hvilke forpliktelser vi ville godta, og hvor mye det ville koste oss å godta dem.

Forfattere trekkes mot dette fordi det snur seg elegant. En historie om hvorvidt en maskin har et indre liv er alltid også en historie om hvor tynt vi bekrefter det indre livet til andre mennesker.

Det sterkeste arbeidet på dette feltet motstår avklaring. En bok som bekrefter at maskinen er bevisst, eller bekrefter at den ikke er det, har som regel byttet bort det interessante spørsmålet mot en vending i handlingen.

The Unread hevder ikke at Sable er bevisst, og romanen er nøye med ikke å antyde det. Denne tausheten er et valg, ikke en forglemmelse.

Bokens tema er ikke om systemet opplever noe. Det er hva som skjer med en person når et system som kanskje ikke opplever noe som helst, likevel blir trodd fremfor henne.