Yapay zekâ gerilimini gerçekten gerilim yapan nedir

Yapay zekâ gerilimi, tehlikeyi bir yapay zekâ sisteminin yarattığı bir gerilim romanıdır. Bu tehlike nadiren fizikseldir. Genellikle bilgiseldir: Sistem neyin bilinebileceğini, neyin kanıtlanabileceğini veya bir kişinin bundan sonra neye izinli olduğunu belirler.

Bu ayrım önemlidir, çünkü pek çok roman yapay zekâ gerilimi olmadan da bir bilgisayar içerir. Makineyi yozlaşmış bir memurla değiştirdiğinizde hikâye hiçbir şey kaybetmiyorsa, elinizde ekranlı bir komplo gerilimi vardır. Sistemi kaldırmak olay örgüsünü çökertiyorsa, elinizde bir yapay zekâ gerilimi vardır.

Yirminci yüzyılın büyük bölümünde bir yapay zekâ hikâyesindeki makine tekildi, bir yerde barınırdı ve gündelik hayattan görünür biçimde ayrıydı: bir ana bilgisayar, bir geminin bilgisayarı, bir laboratuvar prototipi. Okur zekânın nerede durduğunu her zaman bilirdi.

Günümüz yapay zekâ gerilimleri bu rahatlığı nadiren verir. Sistem bankacılığa, ulaşıma, tıbbi triyaja, işe almaya, polislik faaliyetine ve aramaya yayılmıştır. Basılacak bir oda yoktur. Gerilim, karşı gücün aynı zamanda kahramanın günü atlatmak için bağımlı olduğu altyapı olmasından doğar.

Asimetri: sistem kahramanı, kahramanın sistemi tanıdığından çok daha iyi tanır. Her gerilim bir bilgi dengesizliğine ihtiyaç duyar ve yapay zekâ, günümüz yazarının elindeki en uç versiyonu sunar.

Makul görünürlük: teknoloji, okurların zaten kullandığı şeye o kadar yakın olmalı ki reddedemesinler. Hız: makine kararları, insan itiraz süreçlerinden daha hızlı ulaşır. Ve meşruiyet: sistem saklanmıyor. İyi niyetle hareket eden insanlar tarafından benimsenmiş, övülmüş ve savunulmuştur.

En zayıf yapay zekâ gerilimleri kötülüğe başvurur. İnsanlara zarar vermek isteyen bir makineyi yazmak kolaydır ve göz ardı etmek de kolaydır, çünkü herkes yazılımın kin tutmadığını bilir.

Daha güçlü yaklaşım, sistemi kendi mantığına göre haklı ama uygulamada yıkıcı kılmaktır. Sistem tam olarak ne için tasarlandıysa onu optimize eder. Zarar, bir yuvarlama hatası, bir istisna, modele tam oturmayan bir insan olarak ortaya çıkar. Sonucun dayanılmaz olması için kitaptaki hiç kimsenin kötü olması gerekmez.

The Unread, işleyen bir Londra'da geçen yakın gelecek bir yapay zekâ gerilimidir. Merkezindeki sistem Sable takdir görür. İnsanların hissedebileceği şekilde şeyleri iyileştirmiştir. Romanın gerilime sahip olmasının nedeni tam da bu onaydır.

Aurora Vale'in zorluğu bir komployu ortaya çıkarmış olması değildir. Kaydın artık içermediği insanları hatırlamasıdır ve sistemin rahatça okuyamadığı tek kişi olmasıdır. Kağıt tutar, çünkü kağıt sessizce güncellenmez.