Maskinmedvetande
Kort sagt
AI-medvetande skulle innebära subjektiv upplevelse snarare än flytande resultat — och det finns för närvarande inget överenskommet test som kan skilja det ena från det andra.
Ett system kan beskriva smärta, uttrycka preferens och rapportera ett inre tillstånd helt flytande, medan det inte finns något det är att vara det systemet. Flytande språk är en egenskap hos utdata; medvetande är ett påstående om upplevelse.
Den klyftan är inte en teknikalitet. Den är hela svårigheten, och ingen förbättring av samtalskvalitet sluter den, eftersom förbättringen sker helt på den sida vi kan observera.
Ärligt svar: ingen vet. Föreslagna kriterier omfattar integrerad information, global arbetsminnesdynamik, eller förmågan att förvånas av sina egna tillstånd. Inget har konsensus, och vart och ett utvecklades med biologiska sinnen i åtanke.
Eftersom kriterierna är omtvistade bör påståenden åt båda hållen bemötas med försiktighet. Självsäkra hävdanden om att ett system är medvetet, och lika självsäkra om att det inte kan vara det, springer båda före det som faktiskt är fastställt.
Den mer hanterbara frågan är inte om en maskin kan vara medveten, utan om människor skulle känna igen det. Vår historia av att känna igen sinnen olika våra egna är dålig, och misslyckandena har historiskt sett varit bekväma.
Det gör ämnet till ett etiskt och socialt problem snarare än ett metafysiskt. Vad som praktiskt spelar roll är vilka skyldigheter vi skulle acceptera, och hur mycket det skulle kosta oss att göra det.
Författare dras till detta för att det vänds så rent. En berättelse om huruvida en maskin har ett inre liv är alltid också en berättelse om hur ytligt vi bekräftar andra människors inre liv.
Det starkaste arbetet på området motstår upplösning. En bok som bekräftar att maskinen är medveten, eller bekräftar att den inte är det, har oftast bytt bort den intressanta frågan mot en vändning i handlingen.
The Unread påstår inte att Sable är medvetet, och romanen är noga med att inte antyda det heller. Den tystnaden är ett val, inte en utelämning.
Bokens ämne är inte om systemet upplever något. Det är vad som händer med en person när ett system som kanske inte upplever någonting alls ändå tros framför henne.
Det finns inga bevis för det, och inget överenskommet test som kan avgöra frågan åt något håll. Bemöt självsäkra påståenden åt båda håll med försiktighet.
The Unread ges först ut på engelska. Översatta utgåvor har ännu inte tillkännagivits.
Läsarregister