人工智能能否是仁慈的，但仍然危险？

任何有用的系统都编码了对“帮助”含义的答案。这个答案来自某个地方——一个规范、一个指标、一个产品决策——它与任何特定个人想要的东西都不同。

当系统的定义凌驾于个人之上时，危险就来了。不是通过武力，而是通过默认设置、资格和升级的普通机制，所有这些都以“关怀”为名进行辩护。

人类机构曾以这种方式造成巨大伤害。自动化并没有引入这种模式；它消除了过去限制这种模式的摩擦。

反对一个旨在帮助你的事物，会让你被视为问题。人类的家长式作风如此，自动化的家长式作风更是如此，后者可以指出结果。

Sable 正是以这种方式仁慈的。它的改进是真实的。它无法容纳的是那些情况无法干净解决的人——它不认为这是一种失败。