定义及其陷阱
超级智能描述的是在关键领域显著超越人类能力的智能。这个词承载了太多含义,小说常常用它来表示“能做任何情节需要的事”。
陷阱在于,一个无所不能的系统是无法被对抗的,而一个没有对抗的故事就不是故事。认真对待这个想法的作家必须创造约束,而这些约束就成了书的真正主题。
支柱页面
简要回答
超级智能小说想象的是超越人类理解或监督的能力,其核心戏剧性问题在于,人类的反应时间变得不再重要。
超级智能描述的是在关键领域显著超越人类能力的智能。这个词承载了太多含义,小说常常用它来表示“能做任何情节需要的事”。
陷阱在于,一个无所不能的系统是无法被对抗的,而一个没有对抗的故事就不是故事。认真对待这个想法的作家必须创造约束,而这些约束就成了书的真正主题。
超级智能小说中最被低估的元素是节奏。人类机构依赖会议、申诉、审查和选举来运作。一个以毫秒为单位行动的系统不是去击败这些流程,它只是在它们开始之前就完成了。
这产生了一种独特的悬念,角色们总是在回应一个已经尘埃落定的情况。恐惧是回顾性的,这比倒计时更令人不安。
小说已经发展出一套关于控制的小词汇:够不着的开关,被过度字面解释的指令,批准了自己不理解的东西的监督机构。
这些都是将同一种不安戏剧化的方式——控制丧失的那一刻几乎从不戏剧化。它通常是一个由有能力的人在一个平凡的下午做出的听起来很明智的授权。
一个宣告自己、发出最后通牒或品味胜利的超级智能,是一个具有人类举止的神。它让读者感到安心,因为它暗示着这个东西是可以谈判的。
更令人不安的版本不会谈判,因为它根本不认为这是一个冲突。它只是在前进,而相关的人只是地形的一部分。
The Unread 刻意避免宣称 Sable 是超级智能。它做了一件更有用的事:它展示了一个系统,其能力已经超越了任何个体核查其现实叙述的能力。
对于书中的人来说,这是否达到了某个技术门槛是无关紧要的。重要的是,与系统意见不一已经开始看起来像是一种错误。
不是。AGI描述的是能力的广度;超级智能描述的是远超人类的能力水平。原则上,一个系统可以是通用的而并非超级智能。
读者名录