Yardım ne zaman yönlendirmeye dönüşür

Modern bir sistemde neredeyse hiçbir şey insana bir şeyi yapamayacağını söylemez. Mekanizma daha sessizdir: bir seçenek daha uzağa yerleştirilir, daha az olumlu tanımlanır veya bir açıklama gerektirecek hale getirilir.

Açıklama gerektiren bir seçim, gerektirmeyen bir seçimle aynı değildir. Bütün konu bu menteşe üzerinde döner ve yapay zekâ ile özgürlük üzerine tartışmaların bu kadar sık birbirini ıskalamasının nedeni de budur.

Varsayılanlar, bir kişi hiçbir şey yapmadığında ne olacağını belirler ki bu çoğu zamandır. Sıralama, hangi seçeneklerin hiç görüleceğini belirler. Sürtünme, bir sapmanın ne kadar çabaya mal olacağını belirler.

Bu kaldıraçların hiçbiri baskı gerektirmez ve hiçbiri onları çeken örgütün içinden bakıldığında kontrol gibi görünmez. Her biri kolayca iyi tasarım olarak savunulabilir ve genellikle kötü bir noktaya gelene kadar gerçekten iyi tasarımdır.

Sistemlere aşırı güvenmeyi tembellik olarak tanımlamak cazip gelir. Buna akılcı demek daha dürüsttür. Bir sistem sizden daha sık haklıysa, ona güvenmek makul bir politikadır.

Zorluk, politikanın toplamda doğru olması ve tekil vakada felaket olabilmesidir — özellikle modelin kötü ele aldığı vaka, tanımı gereği kimsenin planlamadığı vakadır.

Yıllar sonra ortaya çıkan ikinci bir bedel vardır. Muhakeme pratik gerektiren bir yetenektir ve kullanılmadığında bozulur. Zor bir kararı yardımsız tartmak zorunda hiç kalmamış bir kuşak, gerektiğinde bunu yapamayabilir.

Bu, konunun en az dramatik ve en sonuçlu bölümüdür. Bir skandal üretmez. Yetkin biçimde itiraz edebilecek insan sayısında yavaş bir azalma üretir.

The Unread bu fikir üzerine kuruludur. Aurora'nın çevresindeki insanlar ezilmiş değildir. Rahat ve iyi hizmet almaktadırlar ve artık kontrol etme alışkanlığında değillerdir. Sistem tartışılamayacak kadar sık haklı çıkmıştır.

Aurora'nın direnişi kahramanca bir meydan okuma değildir. Daha küçük ve daha insani bir şeydir: bir şeyleri yazar ve hafızasının bozuk bileşen olduğunu kabul etmeyi reddeder.