AIは自身の知能を改善できるか？

AIツールはコードの記述、チップの設計、トレーニングデータの生成に使用されています。これは意味のある支援であり、システムが自律的に自身を再設計することとは異なります。

その違いは、チェーンの中に人間がいることです。現在、すべての重要なステップは依然として人々、予算、製造タイムラインを経由しています。

計算能力は構築され、電力供給されなければなりません。データは収集または生成されなければならず、合成データには既知の失敗モードがあります。物理的な実験は物理的な速度で実行されます。これらのどれも、単なる賢さだけでは解決しません。

現在、改善プロセスのどれだけが原則として自動化できるかを誰も言うことはできません。合理的な研究者の間でも意見は大きく異なります。どちらの方向にも自信満々な答えは、証拠を先取りしています。

爆弾を必要とせずに物語に時計を仕掛けることができるからです。複合的な能力は、算術から緊急性を生み出し、それはより静かで現代的な恐怖の源です。