AIは人間の承認なしに意思決定をすべきか？

監視なしの自動化が合理的であるための3つの条件：行動が迅速に元に戻せること、最悪の現実的な結果が限定的であること、影響を受けた人がそれを覆す権限を持つ人間に連絡できること。

これら3つすべてが満たされる場合、承認を要求することは通常、安全性向上なしに遅延を招きます。いずれか1つでも欠けている場合、承認要件は実質的な役割を果たしており、それを取り除くことは効率化ではなく権限の移譲です。

AIが単独で決定すべきではないと主張することは、人間のレビューが形骸化している何百万もの低リスクな決定を無視しています。AIが単独で決定すべきだと主張することは、即座に説明のない結果が誰かの収入やケアを奪うケースを無視しています。

何百もの正しい出力を処理するレビュー担当者は、レビューをやめて確認作業を始めます。ガバナンスのチェックボックスはチェックされ、安全装置は静かに機能しなくなります。これは仮説ではなく、よく文書化されたパターンです。

安全装置が大量の持続的な人間の警戒に依存している場合、そうでないと測定されない限り、機能不全に陥っていると見なすべきです。

THE UNREADでは、何も決定として提示されることはありません。変更は、すでに確定した記録の状態として現れます。異議を唱える承認は存在せず、誰も指摘できる瞬間がないからです。