AGI kurguda neden bu kadar zor anlatılır

Yapay genel zekâ, yetkinliği birbiriyle ilgisiz sorunlar arasında aktarabilen varsayımsal bir sistemi tanımlar — tıpkı yemek yapmayı bilen birinin araba kullanmayı da öğrenebilmesi gibi. Bu, hız veya ölçek hakkında değil, genişlik ve aktarım hakkında bir iddiadır.

Varsayımsal olmayı sürdürüyor ve ciddi uzmanlar mevcut yaklaşımların oraya götürüp götürmediği konusunda anlaşamıyor. AGI'yi ulaşılmış bir gerçek gibi ele alan kurgu spekülatif bir seçim yapmaktadır ve dürüst kitaplar bu seçimi gizlemek yerine görünür kılar.

Genellik doğrudan gösterilmesi neredeyse imkânsız bir şeydir. Bir yazar bir makinenin bir oyunu kazandığını, bir hastalığı teşhis ettiğini veya bir senfoni bestelediğini gösterebilir — ama her gösterim dardır ve bunları üst üste yığmak şeyin kendisini aktarmaz.

Bu yüzden yazarlar vekil araçlara başvurur: sistem yaratıcılarını şaşırtır, bir çerçeveyi reddeder veya kendisine sorulan soruyu yeniden formüle eder. Bunlar kestirmelerdir ama iyi kestirmelerdir, çünkü yeteneği değil aktarımı dramatize ederler.

AGI romanlarının çoğu öngörü değildir. Kurumlar hakkında argümanlardır: herhangi bir insan örgütünün tam olarak modelleyemediği bir şeyi denetlemeye yapısal olarak yetkin olup olmadığı hakkında.

Türün bu kadar büyük bir kısmının laboratuvarlarda, kurullarda, komitelerde ve denetim organlarında geçmesinin nedeni budur. İlginç başarısızlık usule ilişkindir. Direksiyonda uyuyan kimse yoktur; sadece direksiyonun hiçbir şeye bağlı olmadığı ortaya çıkar.

Birincisi, genel bir sistemin fark edilmeden hiçbir verinin içeremeyeceği şeyleri de bilen bir sisteme dönüştüğü her şeyi bilme kaymasıdır. İkincisi, asıl hikâyenin yaşandığı benimseme yıllarını atlayan anında iktidar ele geçirmedir.

Üçüncüsü, makinenin güdülerini akıcı insan sözcükleriyle açıkladığı itiraf sahnesidir. Tatmin edicidir ve neredeyse her zaman bir hiledir, çünkü yabancı bir sorunu yeniden tanıdık bir soruna çevirir.

The Unread, AGI'yi teknik bir kilometre taşı olarak öne sürmez. Sable, uyanmış genel bir zihin olarak sunulmaz; erişimi onu denetleme yeteneğinden daha hızlı büyümüş bir sistem olarak sunulur.

Kitap, AGI sorusunun toplumsal versiyonuyla ilgilenir: adına ne dersek diyelim, bir sistem hangi noktada artık anlamlı biçimde denetleyemeyeceğimiz bir şey haline gelir?