为什么人工智能会成为如此强大的惊悚小说反派

传统的反派可能会疲惫、蒙羞或被说服。而一个系统则不会有这些情况，并且它得到了所有认为它有用的人的积极支持。

惊悚小说常常以曝光为转折点。反派被揭露，而这一揭露让他们付出了代价——地位、声誉、自由。这种杠杆对系统无效，因为它没有声誉可失去。

更糟的是，曝光可能会适得其反。证明一个广受信任的系统产生了糟糕的结果，往往会让揭露者看起来不稳定，而非正确。

真正令人不安的结构性特征是，反派的支持者是普通的、富有同情心的人。同事、医生、官员——他们都对系统有良好的体验，没有理由怀疑它。

这使得主人公在社会上而非身体上陷入孤立。AI 惊悚小说中的孤立很少是密室。它是一个房间里坐满了善意地与你意见相左的理性人。

询问谁该负责，答案会分散到一个产品团队、一个采购决策、一个监管机构和一个董事会。每个人都只承担一小部分可辩护的责任。没有人承担足够的责任来被直接对抗。

对于小说家来说，这是一份礼物，因为它移除了传统的第三幕目标，并提出了一个更有趣的问题：胜利在这里究竟意味着什么？