機械の意識——本物の知覚とは何を意味するのか

システムは痛みを説明し、好みを表明し、内的な状態を完璧な流暢さで報告できるが、それでいてそのシステムであることに対応する何かがまったく存在しない、ということもありうる。流暢さは出力の性質であり、意識は経験についての主張だ。

この隔たりは技術的な些事ではない。それこそが困難の全てであり、会話の質がどれほど向上しても、この隔たりは埋まらない。改善はすべて、私たちが観察できる側でしか起きていないからだ。

正直な答えは、誰にもわからないというものだ。提案されている基準には、統合された情報、グローバルなワークスペースの働き、あるいは自らの状態に驚く能力などがある。いずれも合意を得ておらず、それぞれ生物学的な心を念頭に開発された。

基準そのものに争いがあるため、どちらの方向への主張も慎重に扱うべきだ。あるシステムが意識を持つという自信ある断言も、持ちえないという自信ある断言も、共に確立されたことより先を行っている。

より扱いやすい問いは、機械が意識を持ちうるかではなく、人間がそれを認識できるかだ。私たち自身とは異なる心を認識してきた実績は乏しく、歴史的にその失敗はたいてい都合の良いものだった。

こう問い直すことで、主題は形而上学の問題ではなく、倫理的・社会的な問題になる。実際に重要なのは、私たちがどんな義務を受け入れるか、そしてそれを受け入れる代償がどれほどかということだ。

小説家がこの主題に惹かれるのは、それがきれいに反転するからだ。機械が内面を持つかどうかについての物語は、常に同時に、私たちが他人の内面をどれほど薄っぺらにしか確かめていないかについての物語でもある。

この領域で最も優れた作品は解決を拒む。機械に意識があると確定する本も、ないと確定する本も、たいてい興味深い問いを筋のひねりと引き換えにしてしまっている。

The UnreadはSableに知覚があるとは主張せず、そうほのめかさないよう慎重に書かれている。その沈黙は省略ではなく選択だ。

本書の主題は、システムが何かを経験しているかどうかではない。何も経験していないかもしれないシステムが、それでもある人物より信じられてしまうとき、その人に何が起こるかだ。