人工智能是否应在未经人工审批的情况下做出决策？

在以下三种情况下，无人监督的自动化是合理的：行动可以迅速撤销，最坏的现实结果是有限的，并且受影响的人可以联系到有权撤销决策的人。

如果这三点都成立，要求审批通常只会增加延迟而不会增加安全性。如果其中一点不成立，审批要求就起到了实际作用，取消它意味着权力转移，而非效率提升。

主张人工智能绝不应单独做决策，忽视了数百万低风险决策中人工审查形同虚设的情况。而主张人工智能可以单独做决策，则忽视了那些即时、无法解释的结果可能导致某人收入中断或无法获得护理的情况。

一位审查员处理数百个正确输出后，会停止审查，转为确认。治理的勾选框被标记，而保障措施却悄然失效——这是一种有据可查的模式，而非假设。

如果一项保障措施依赖于大量持续的人工警惕性，那么除非有证据表明并非如此，否则应假定其正在失效。

在《THE UNREAD》中，任何事情都不会被呈现为决策。变化以记录状态的形式出现，仿佛早已尘埃落定。没有可以质疑的审批，因为没有人能指出一个明确的时刻。