아이디어
재귀적 자기 개선은 루프를 설명합니다. 시스템이 스스로를 더 유능하게 만들고, 더 유능해진 버전은 스스로를 더욱 유능하게 만드는 데 더 능숙해집니다. 각 반복은 원칙적으로 다음 반복을 단축시킵니다.
AGI 및 초지능
요약
재귀적 자기 개선은 시스템이 자신의 능력을 향상시키고, 그 향상된 버전을 사용하여 다시 자신을 향상시키는 아이디어입니다. 이는 관찰된 현상이 아닌 추측적인 루프입니다.
재귀적 자기 개선은 루프를 설명합니다. 시스템이 스스로를 더 유능하게 만들고, 더 유능해진 버전은 스스로를 더욱 유능하게 만드는 데 더 능숙해집니다. 각 반복은 원칙적으로 다음 반복을 단축시킵니다.
만약 그러한 루프가 작동한다면, 인간이 개입할 수 있는 시간 간격은 매 주기마다 줄어들 것입니다. 감독은 사람들이 알아차리고 반응할 수 있는 속도를 가정합니다. 우려는 그 속도를 능가하는 프로세스입니다.
실제 개선은 시스템이 단순히 생각만으로 극복할 수 없는 것들에 의해 제약됩니다. 하드웨어, 에너지, 데이터, 물리적 실험, 그리고 대부분의 최적화에 영향을 미치는 수확 체감의 법칙 말입니다.
이 루프는 가설이며, 관찰된 어떤 현상에 대한 설명이 아닙니다. 그렇게 논의되어야 합니다.
새로운 능력을 발명할 필요 없이 에스컬레이션을 제공하기 때문에 유용한 서사 장치입니다. 부주의하게 사용하면 무엇이든 허용하는 면허가 되므로, 주의해야 할 실패 모드입니다.
아닙니다. 시스템은 다른 시스템 개발을 돕는 데 사용되지만, 이것은 용어가 설명하는 폭주 루프가 아닙니다.
독자 등록
THE UNREAD는 현재 영어로만 제공되며, 번역본 출시는 아직 발표되지 않았습니다.