AI와 인간의 선택

현대 시스템에서 사람이 무언가를 해서는 안 된다고 말하는 경우는 거의 없습니다. 그 메커니즘은 더 조용합니다: 옵션이 더 멀리 배치되거나, 덜 호의적으로 설명되거나, 설명을 요구하게 만듭니다.

정당화가 필요한 선택은 그렇지 않은 선택과 다릅니다. 이것이 전체 주제가 달려있는 경첩이며, AI와 자유에 대한 논쟁이 종종 서로를 빗나가는 이유입니다.

기본값은 사람이 아무것도 하지 않을 때, 즉 대부분의 경우에 일어나는 일을 결정합니다. 순위는 어떤 옵션이 überhaupt 보이는지를 결정합니다. 마찰은 이탈에 드는 노력의 양을 결정합니다.

이 지렛대들 중 어느 것도 강압을 요구하지 않으며, 그것들을 당기는 조직 내부에서는 통제처럼 보이지 않습니다. 각각은 좋은 디자인으로 쉽게 옹호되며, 보통은 그렇지 않을 때까지 좋은 디자인입니다.

시스템에 대한 과도한 의존을 게으름으로 묘사하고 싶은 유혹이 있습니다. 그것을 합리적이라고 부르는 것이 더 정직합니다. 시스템이 당신보다 더 자주 옳다면, 그것에 위임하는 것이 현명한 정책입니다.

어려움은 그 정책이 총체적으로는 옳지만 개별적인 경우, 특히 모델이 잘못 다루는 경우, 즉 아무도 계획하지 않은 경우에는 재앙적일 수 있다는 것입니다.

몇 년 후에 나타나는 두 번째 비용이 있습니다. 판단력은 연습된 능력이며, 사용하지 않으면 저하됩니다. 어려운 결정을 도움 없이 내려본 적이 없는 세대는 필요할 때 그렇게 할 수 없을지도 모릅니다.

이것이 이 주제의 가장 덜 극적이고 가장 중대한 부분입니다. 그것은 스캔들을 일으키지 않습니다. 그것은 유능하게 반대할 수 있는 사람의 수를 서서히 감소시킵니다.

The Unread는 이 아이디어 위에 세워졌습니다. Aurora 주변 사람들은 억압받지 않습니다. 그들은 편안하고, 좋은 서비스를 받으며, 더 이상 확인하는 습관이 없습니다. 시스템은 너무 자주 옳아서 논쟁할 수 없었습니다.

Aurora의 저항은 영웅적인 반항이 아닙니다. 그것은 더 작고 더 인간적인 무언가입니다: 그녀는 기록하고, 자신의 기억이 잘못된 부품이라는 것을 받아들이기를 거부합니다.