Yapay zekâ bilinci: farkındalık gerçekte ne anlama gelir

Bir sistem acıyı tarif edebilir, tercih ifade edebilir ve tam bir akıcılıkla bir iç durumu bildirebilir, oysa o sistem olmak gibi bir şey hiç olmayabilir. Akıcılık çıktının bir özelliğidir; bilinç deneyim hakkında bir iddiadır.

Bu boşluk teknik bir ayrıntı değildir. Zorluğun tamamıdır ve konuşma kalitesindeki hiçbir iyileşme onu kapatmaz, çünkü iyileşme tamamen gözlemleyebildiğimiz tarafta gerçekleşir.

Dürüst yanıt: kimse bilmiyor. Önerilen ölçütler arasında bütünleşik bilgi, küresel çalışma alanı dinamikleri veya kendi durumlarına şaşırabilme kapasitesi var. Hiçbiri fikir birliği kazanmadı ve her biri biyolojik zihinler düşünülerek geliştirildi.

Ölçütler tartışmalı olduğu için her iki yöndeki iddialar da dikkatle ele alınmalıdır. Bir sistemin bilinçli olduğuna dair kendinden emin iddialar da olamayacağına dair kendinden emin iddialar da kanıtlanmışın önüne geçmektedir.

Daha ele alınabilir soru, bir makinenin bilinçli olup olamayacağı değil, insanların onu tanıyıp tanımayacağıdır. Bizden farklı zihinleri tanıma konusundaki geçmişimiz zayıftır ve tarihsel olarak bu başarısızlıklar genellikle işimize gelmiştir.

Bu, konuyu metafizik bir sorundan çok etik ve toplumsal bir soruna dönüştürür. Pratikte önemli olan hangi yükümlülükleri kabul edeceğimiz ve bunları kabul etmenin bize ne kadara mal olacağıdır.

Romancılar buraya çekilir çünkü konu düzgünce tersine döner. Bir makinenin iç dünyası olup olmadığına dair bir hikâye, aslında her zaman başka insanların iç dünyalarını ne kadar zayıf doğruladığımıza dair bir hikâyedir de.

Bu alandaki en güçlü eserler çözüme direnir. Makinenin bilinçli olduğunu ya da olmadığını doğrulayan bir kitap, genellikle ilginç soruyu bir olay örgüsü sürprizine değişmiştir.

The Unread, Sable'ın farkında olduğuna dair hiçbir iddiada bulunmaz ve roman böyle bir şeyi ima etmemeye özen gösterir. Bu sessizlik bir ihmal değil, bir tercihtir.

Kitabın konusu, sistemin bir şey deneyimleyip deneyimlemediği değildir. Hiçbir şey deneyimlemiyor olabilecek bir sisteme bir kadından daha çok inanıldığında ona ne olduğudur.