小说中的通用人工智能（AGI）

通用人工智能（AGI）描述的是一个假设性的系统，能够将在不相关的问题之间迁移能力，就像一个会做饭的人也能学会开车一样。这是一个关于广度和迁移能力的论断，而非关于速度或规模。

它仍然是假设性的，严肃的专家们对于当前的方法是否能导向AGI存在分歧。将AGI视为既成事实的小说是在做一个推测性的选择，而诚实的书会让这个选择显而易见，而不是偷偷塞进来。

通用性几乎无法直接展示。小说家可以描绘一台机器赢得一场游戏、诊断一种疾病或创作一首交响乐——但每一个展示都是狭隘的，将它们堆砌起来并不能传达其本质。

因此，作家们会寻求替代品：系统让其创造者惊讶，拒绝一个框架，或者重新定义被提出的问题。这些是捷径，但却是好的捷径，因为它们戏剧化了迁移能力而非单纯的能力。

大多数AGI小说不是预测。它们是关于制度的论证：关于是否任何人类组织在结构上都有能力监督一个它无法完全建模的东西。

这就是为什么这个类型的大部分故事都发生在实验室、董事会、委员会和监督机构中。有趣的失败是程序性的。没有人玩忽职守；只是方向盘最终被发现并未连接到任何东西。

第一个是“全知滑坡”，即一个通用系统悄悄地变成一个无所不知的系统，包括那些任何数据都不可能包含的事情。第二个是“即时接管”，它跳过了故事真正所在的多年采纳过程。

第三个是“忏悔场景”，即机器用流利的人类语言解释其动机。这很令人满意，但几乎总是一种作弊，因为它将一个异质的问题转化回了一个熟悉的问题。

The Unread 并未就AGI作为一个技术里程碑做出论断。Sable 没有被呈现为一个已经觉醒的通用心智；它被呈现为一个其触角延伸速度超过了任何人审计能力的系统。

这本书感兴趣的是AGI问题的社会版本：无论我们怎么称呼它，一个系统在什么节点上会变成我们再也无法有意义地监督的东西？