AI가 인간의 승인 없이 결정을 내리도록 허용해야 할까요?

감독 없는 자동화를 합리적으로 만드는 세 가지 조건이 있습니다. 첫째, 조치를 신속하게 되돌릴 수 있어야 합니다. 둘째, 최악의 현실적인 결과가 제한적이어야 합니다. 셋째, 영향을 받은 사람이 이를 되돌릴 권한을 가진 사람에게 연락할 수 있어야 합니다.

이 세 가지 조건이 모두 충족될 때, 승인을 요구하는 것은 일반적으로 안전을 추가하지 않고 지연만 초래합니다. 이 중 하나라도 실패하면 승인 요구 사항은 실제적인 역할을 하며, 이를 제거하는 것은 효율성 향상이 아니라 권한의 이전입니다.

AI가 절대 단독으로 결정해서는 안 된다고 주장하는 것은 인간의 검토가 형식적인 수백만 건의 중요하지 않은 결정을 무시하는 것입니다. 반대로 AI가 단독으로 결정해야 한다고 주장하는 것은 즉각적이고 설명 없는 결과가 누군가의 수입이나 보살핌을 끝내는 경우를 무시하는 것입니다.

수백 개의 올바른 결과물을 처리하는 검토자는 검토를 멈추고 확인만 하게 됩니다. 거버넌스 상자는 체크되었지만, 안전장치는 조용히 기능을 멈춘 것입니다. 이는 가설이 아니라 잘 문서화된 패턴입니다.

안전장치가 대량의 지속적인 인간 감시에 의존한다면, 다른 방식으로 측정되지 않는 한 실패하고 있다고 가정해야 합니다.

THE UNREAD에서는 어떤 것도 결정으로 제시되지 않습니다. 변경 사항은 이미 확정된 기록의 상태로 나타납니다. 이의를 제기할 승인 자체가 없으므로, 누구도 특정 시점을 지적할 수 없습니다.