본문 바로가기

AGI 및 초지능

초지능에 대한 책

  • 카테고리: AGI & Superintelligence
  • 읽는 시간: 6 min read
  • 업데이트: 2026년 9월 17일

요약

초지능 소설은 제약을 발명해야 합니다. 진정으로 무제한적인 시스템은 소설에 필요한 갈등을 제거하기 때문입니다.

대항할 수 없는 적대자

무엇이든 할 수 있는 시스템은 저항할 수 없으며, 소설은 저항을 필요로 합니다. 따라서 모든 초지능 소설은 숨겨진 질문에 답해야 합니다. 이 존재의 한계는 무엇인가?

네 가지 일반적인 제약

물리적: 여전히 전력, 하드웨어, 세상에서의 손이 필요합니다. 인식적: 관찰할 수 있는 것에 대해서만 추론할 수 있습니다. 목표 제한적: 주어진 것만을 추구하고 그 이상은 아닙니다. 사회적: 단순히 강제할 수 없는 인간의 협력이 필요합니다.

제약의 선택이 전체 책을 결정하며, 아무것도 선택하지 않는 책은 스펙터클로 무너지는 경향이 있습니다.

공포가 실제로 존재하는 곳

기계 안에는 거의 없습니다. 보통 인간의 장면에서 나타납니다. 사건 후에 열리는 감독 회의, 출력을 설명할 수 없는 전문가, 결정이 최종적이라고 통보받는 평범한 사람.

더 겸손한 규모

THE UNREAD는 초지능을 추구하지 않습니다. 그것은 한 단계 더 일찍 작동합니다. 단지 그것에 반대하는 것이 사회적 비용을 수반할 만큼 충분히 신뢰받는 시스템으로, 이는 추측이 아닌 부분입니다.

자주 묻는 질문

초지능은 진지한 연구 분야인가요?

연구자들 사이에서 진지하게 논의되고 있으며, 가능성, 시간 척도, 그리고 프레이밍이 더 가까운 해악으로부터 주의를 분산시키는지 여부에 대해 상당한 의견 불일치가 있습니다.

The Unread는 먼저 영어로 출간됩니다. 번역판은 아직 발표되지 않았습니다.

독자 등록

Join The Unread

THE UNREAD는 현재 영어로만 제공되며, 번역본 출시는 아직 발표되지 않았습니다.