什么是自动化偏差？

自动化偏差描述了两种相关的倾向：未经充分检查就接受自动化推荐，以及当系统未提示时未能采取行动。

两者都是人类对可靠工具的正常反应，而非疏忽。这正是它们难以被设计规避的原因。

警惕性成本高昂且无法规模化。一位审查员在看到四百个正确输出后，快速批准第四百零一个并非粗心；他们是对自己的经验做出的理性反应。

有效的措施往往是结构性的而非激励性的：抽样审计、刻意呈现不确定性、在显示系统输出前要求独立判断，以及限制案例数量。

单独训练人们更小心，通常是无效的。

因为它解释了明智的人们如何在没有人行为不当的情况下最终认可伤害，这正是现代人工智能小说必须解决的戏剧性问题。