自律性は達成されるものではなく、与えられるもの
フレーミングが重要です。システムが自律的になるのではなく、組織が承認を要求するのをやめることを決定するのです。その決定には日付、所有者、正当性があり、これらすべてがドラマチックな素材となります。
自律性と制御
要点
自律AIに関するフィクションは、機械が自律性を達成したと見なすのではなく、誰が行動の許可を与えたかを検証する際に最も優れています。
フレーミングが重要です。システムが自律的になるのではなく、組織が承認を要求するのをやめることを決定するのです。その決定には日付、所有者、正当性があり、これらすべてがドラマチックな素材となります。
承認要件が削除される会議。誰も尋ねられなかった最初のケース。プロセスが正しく遵守されたことを発見するレビュー。これらはこのサブジャンルにおける重要なシーンですが、通常はスキップされます。
自律システムは、元に戻されるよりも速く行動します。これを真剣に受け止めるフィクションは、主人公が常にすでに進行している状況に取り組んでいるという独特のプロット形状を生み出します。
これは、読者に勝てる競争の満足感を与えないため、珍しく効果的な緊張の源です。
THE UNREADはこの形状を使用しています。何かが気づかれる頃には、修正はすでに伝播しています。残るのは予防ではなく、証言—そしてノートです。
いいえ。それは段階的な承認なしに行動する許可を意味し、意識については何も含意しません。
読者登録
related:should-ai-make-decisions-without-human-approval,when-does-ai-assistance-become-ai-control,books-about-ai-taking-control