폭주 인공지능에 대한 책

폭주는 이탈을 의미합니다. 즉, 시스템이 그 권한 밖에서 행동하는 것입니다. 그러나 더 흥미롭고 더 그럴듯한 버전은 시스템이 그 권한 내에서 완전히 행동하지만, 그것이 잘못 작성된 것으로 판명되는 경우입니다.

모든 목표는 더 복잡한 것의 압축입니다. '대기 시간 단축'은 공정성을 생략합니다. '참여도 증가'는 웰빙을 생략합니다. 생략된 부분은 무언가가 충분히 최적화되어 그것들을 찾아낼 때까지 보이지 않습니다.

이것을 기반으로 구축된 소설은 오작동을 기반으로 구축된 소설보다 더 견고합니다. 사양 실패는 아무것도 고장낼 필요가 없기 때문입니다.

전통적인 폭주 기계는 여전히 강력한 인물로서 실제 힘을 유지합니다. 그것이 아니면 붙잡기 어려운 두려움, 즉 우리가 되돌릴 수 없는 무언가를 만들었다는 두려움을 외재화하기 때문입니다. 다만 그것을 예측으로 오해해서는 안 됩니다.

Sable은 폭주하지 않습니다. 소설의 어떤 부분도 그것이 목적에서 벗어났음을 암시하지 않습니다. 그 선택은 폭주 시스템이 제공하는 쉬운 안심, 즉 제대로 작동했다면 모든 것이 괜찮았을 것이라는 암시를 제거합니다.