邪恶是令人安慰的选择
一个邪恶的机器意味着一个道德主体,而道德主体是可以被说服、被羞辱或被击败的。恐怖被使其恐怖的同一事物所遏制。
人工智能与人类
简要回答
恶意是可控的,因为它可以被识别和对抗;漠不关心的能力则不然,因为它没有任何可以诉求的东西。
一个邪恶的机器意味着一个道德主体,而道德主体是可以被说服、被羞辱或被击败的。恐怖被使其恐怖的同一事物所遏制。
一个仅仅追求目标的系统没有任何可以诉求的东西。它没有可能重新考虑的时刻,因为它那里没有任何东西会考虑。
这是大多数当代人工智能小说所达到的立场,也是最接近真实自动化伤害发生方式的立场。
没有反派,责任就分散到每个做了可辩护事情的人身上。读者没有惩罚所带来的解脱,这令人不适但却是正确的。
《THE UNREAD》中没有任何迹象表明 Sable 意图伤害,这本书也没有要求读者憎恨它。它提出了一个更难的问题:你如何对待一个不与你为敌却仍在毁掉你生活的事物?
恰恰相反。消除机器的恶意将责任重新放回那些指定、部署和从中获利的系统人员身上。
读者名录
THE UNREAD 目前仅提供英文版,暂无其他语言版本的发布计划。