人工智能伦理

关于人工智能伦理的辩论常常在系统应该持有何种价值观上停滞不前，仿佛价值观才是难点。更难的问题是程序性的：谁有资格决定，以及代表谁决定？

一个部署在数百万次交互中的系统，为有争议的道德问题编码了一个固定的答案。它默默地、大规模地这样做，而且通常没有征求受影响者的意见。

同意：受影响的人是否同意由系统来决定此事？问责：是否有可以被追究责任的具名个人？可逆性：该决定能否被撤销，以及多快能撤销？

可申诉性：受影响的人能否提出一个有现实成功机会的挑战？这四个问题比抽象辩论更有用，因为对于任何给定的部署，每一个都有一个可观察的答案。

对自动化决策最常见的辩护是，系统平均表现更好。这通常是事实，但几乎总是不够的。

平均值的分布是不均匀的。一个为大多数人改善了结果，却为特定少数群体带来急剧恶化的系统，作为政策可能是可以辩护的，但对你面前的那个人来说是不可接受的。

政策工作擅长框架，却不擅长质感。它难以传达成为那个例外是什么感觉，被告知流程已遵守是什么感觉，正确却无法证明是什么感觉。

小说恰恰擅长于此。它可以让读者在三百页的篇幅里，沉浸在一个被错误处理的案例中，这是任何影响评估都做不到的。

The Unread 并不主张 Sable 不应该存在。它提出了一个更狭窄、更令人不安的问题：当系统的叙述与一个人的记忆出现分歧时，哪一个被视为证据？

小说中的其他一切都由此而来。伦理不在于技术，而在于谁被相信。