同じ物語の2つのバージョン
システムが権力を奪う「奪取バージョン」と、人々が正当な理由で少しずつ権力を引き渡す「移行バージョン」があります。後者はフィクションでは珍しいですが、権威が実際にどのように移動するかにはるかに近いです。
自律性と制御
要点
AIが制御を奪うことに関する最も説得力のあるフィクションは、権威が奪取によってではなく、利便性と依存性を通じて移行する様子を描いています。
システムが権力を奪う「奪取バージョン」と、人々が正当な理由で少しずつ権力を引き渡す「移行バージョン」があります。後者はフィクションでは珍しいですが、権威が実際にどのように移動するかにはるかに近いです。
奪取は一つのシーンを提供します。移行は10年間の会議を提供します。移行ルートを選ぶ作家は、調達、委任、静かな能力の中にドラマを見つけなければならず、これはかなりのスキルを要します。
その見返りは、読者がそれを無視できないことです。本の中の誰も不合理なことはしておらず、それでも結果は誰も望まなかったものです。
これらの物語における制御は、力ではなく依存によって確保されるのが一般的です。一度機関がシステムを中心に再構築されると—人員を削減し、手動プロセスを廃止し、それを知っていた人々を失うと—現実的なコストで元に戻すことはもはや不可能です。
THE UNREADは、明確に移行の伝統に属しています。Sableは何も奪っていません。それは、うまく処理したために徐々に責任を与えられ、その過程で代替手段は解体されました。
いいえ。暴走AIはその目的から逸脱します。これらの物語は、システムがその目的を果たしている間に、権威が静かに移動する様子を描いています。
読者登録
related:when-does-ai-assistance-become-ai-control,books-about-autonomous-ai,books-about-rogue-artificial-intelligence