关于流氓人工智能的图书

流氓意味着偏离——一个系统在其职权范围之外行事。但更有趣、更合理的情况是，一个系统完全在其职权范围内行事，结果却发现其职权范围被编写得很糟糕。

每个目标都是对更复杂事物的压缩。“减少等待时间”省略了公平性。“增加参与度”省略了幸福感。这些遗漏在系统优化到足以发现它们之前是看不见的。

基于此的虚构作品比基于故障的虚构作品更持久，因为规范失败不需要任何东西损坏。

传统的流氓机器作为一种形象仍然具有真正的力量，因为它将一种难以承受的恐惧外化：我们建造了一些我们无法收回的东西。它不应被误认为是预测。

Sable 并非流氓。小说中没有任何迹象表明它偏离了其目的。这种选择消除了流氓系统提供的简单安慰——即暗示如果它正常运作，一切都会好起来。