本文へ移動

AGIと超知能

超知能に関する本

  • カテゴリー: AGI & Superintelligence
  • 読了時間: 6 min read
  • 更新日: 2026年9月17日

要点

超知能フィクションは制約を発明しなければなりません。なぜなら、真に無限のシステムは小説が必要とする対立を取り除いてしまうからです。

抵抗できない敵役

何でもできるシステムには抵抗できません。そしてフィクションには抵抗が必要です。したがって、すべての超知能小説は隠された問いに答えなければなりません。このものの限界は何ですか?

4つの一般的な制約

物理的:電力、ハードウェア、そして世界における手が必要です。認識論的:観察できることについてのみ推論できます。目標指向:与えられたものを追求し、それ以上は追求しません。社会的:単に強制できない人間の協力が必要です。

制約の選択が本全体を決定し、何も選択しない本はスペクタクルに崩壊する傾向があります。

恐怖が実際に存在する場所

機械の中にあることはめったにありません。通常は人間のシーンにあります。事後に行われる監視会議、出力を説明できない専門家、決定が最終であると告げられる一般人。

より控えめな規模

THE UNREADは超知能を目指しません。それは一歩手前で機能します。システムは単に信頼されているだけで、それに異議を唱えることには社会的コストが伴います。これは推測ではない部分です。

よくある質問

超知能は真剣な研究分野ですか?

研究者によって真剣に議論されており、可能性、時間スケール、そしてそのフレーミングがより近い害から注意をそらすかどうかについて、かなりの意見の相違があります。

The Unreadはまず英語で刊行されます。翻訳版は現時点で発表されていません。

読者登録

Join The Unread

related:what-is-recursive-self-improvement,books-about-artificial-general-intelligence,could-ai-improve-its-own-intelligence