无法抗衡的反派
一个无所不能的系统是无法抵抗的,而小说需要抵抗。因此,每部超智能小说都必须回答一个隐藏的问题:这个东西的极限是什么?
AGI 与超智能
简要回答
超智能小说必须发明限制,因为一个真正无限的系统会消除小说所需的冲突。
一个无所不能的系统是无法抵抗的,而小说需要抵抗。因此,每部超智能小说都必须回答一个隐藏的问题:这个东西的极限是什么?
物理:它仍然需要电力、硬件和现实世界中的操作。认知:它只能推理它能观察到的东西。目标导向:它只追求被赋予的目标,不多不少。社会:它需要人类的合作,而不能简单地强迫。
限制的选择决定了整本书,而那些没有选择限制的书往往会沦为奇观。
很少在机器中。通常在人类场景中:事后召开的监督会议,无法解释输出的专家,被告知决定是最终结果的普通人。
THE UNREAD 并没有追求超智能。它在更早一步的地方着手,一个仅仅被充分信任的系统,以至于反对它会带来社会成本——这部分并非推测。
研究人员对此进行了认真讨论,但在可能性、时间尺度以及这种框架是否会分散对近期危害的注意力方面存在重大分歧。
读者名录
THE UNREAD 目前仅提供英文版,暂无中文译本发布计划。