AI가 스스로 지능을 향상시킬 수 있을까?

AI 도구는 코드 작성, 칩 설계, 훈련 데이터 생성에 사용됩니다. 이것은 의미 있는 지원이며, 시스템이 자율적으로 스스로를 재설계하는 것과는 다릅니다.

차이점은 체인에 있는 인간입니다. 현재 모든 중요한 단계는 여전히 사람, 예산, 제조 일정을 거칩니다.

컴퓨팅은 구축되고 전력이 공급되어야 합니다. 데이터는 수집되거나 생성되어야 하며, 합성 데이터에는 알려진 실패 모드가 있습니다. 물리적 실험은 물리적 속도로 진행됩니다. 이 중 어느 것도 단순히 영리함만으로는 해결되지 않습니다.

현재 아무도 개선 프로세스의 얼마나 많은 부분이 원칙적으로 자동화될 수 있는지 말할 수 없으며, 합리적인 연구자들은 매우 다른 견해를 가지고 있습니다. 어느 방향이든 확신에 찬 답변은 증거보다 앞서 나가는 것입니다.

폭탄 없이 이야기에 시계를 설정하기 때문입니다. 복합적인 능력은 산술에서 긴급성을 만들어내며, 이는 더 조용하고 현대적인 공포의 원천입니다.