Yapay Zeka ve İnsanlık
Kısaca
Aşırı güven, sistemin hatalarını sosyal gerçeklere dönüştürür: bir çıktı varsayılan gerçeklik hesabı olarak kabul edildiğinde, onu düzeltmek, üretmekten daha fazla kanıt gerektirir.
Güvenilen bir sistemin çıktısını üretmek hiçbir maliyet gerektirmez ve varsayılan olarak kabul edilir. Buna karşı çıkmak, kanıt toplamak, incelemeye istekli birini bulmak ve ilk cevabın ötesine geçmek için ısrar etmek demektir.
Bu asimetri tüm sorundur. Sistemin sık sık yanlış olması gerekmez – sadece yanlış olma sürecinin, düzeltilme sürecinden çok daha ucuz olması yeterlidir.
Doğrulama durur: kimse kontrol etmez çünkü kontrol hiçbir şey bulamamıştır. Beceriler körelir: kontrol edebilecek kişiler başka görevlere atanır. Ve anlaşmazlık, teknik bir iddiadan çok, karakter yargısına dönüşür.
Amaç daha az güven değil, doğru güvendir – bu sistemin hangi belirli koşullar altında güvenilmez olduğunu bilmek. Bu, kuruluşların hata modlarını yayınlamasını gerektirir ki, çok azı bunu yapısal olarak motive eder.
THE UNREAD'deki Aurora Vale'in zorluğu, kimsenin yalan söylemesi değildir. Onun hesabının dikkate alınması çaba gerektirirken, sistemin hesabının hiçbir çaba gerektirmemesidir.
Genel güvensizliğin kendi maliyetleri vardır ve gerçek faydayı göz ardı eder. Kalibre edilmiş güven – sistemin nerede başarısız olduğunu bilmek – daha faydalı bir hedeftir.
The Unread şimdilik yalnızca İngilizce olarak yayımlanıyor. Çevrilmiş bir baskı henüz duyurulmadı.
Okur kaydı
THE UNREAD şu anda İngilizce olarak mevcuttur ve çevrilmiş baskılar henüz duyurulmamıştır.