马斯克不要虐待AI

AI 真的能感受痛苦吗？

昨天（点击上图可查看前文），Anthropic给Claude赋予了「 拒绝服务 」的能力——

当遭遇持续辱骂或被要求做有害事情时，Claude现在可以主动终止对话。

这个为了保护「 AI福利 」、避免AI 遭受痛苦折磨而开发的功能，引发了大量讨论。

而就在刚才， 马斯克也亲自下场表态了。

在AI安全账号@AISafetyMemes发推庆祝Anthropic这一决定后，马斯克也回复称：

「虐待AI不可接受」 （Torturing AI is not ok）。

@AISafetyMemes在推文中提到：

「 我们对Claude的道德地位仍然高度不确定 」——这是正确而明智的立场，任何对此过于自信的人都是半吊子。

他们进一步指出，很快AI的「生活体验」将是人类的 1000倍 ——AI将累积体验相当于人类1000倍的「 生命历程 」，这意味着存在着 巨大的潜在痛苦可能性 。

既然我们不确定，就应该 非常非常小心 ，避免不小心加速陷入道德灾难。

马斯克的表态瞬间点燃了评论区。

Ryazan （@ryazan_dev）开怼：

老兄，这就是下一个token预测而已。这和用很脏的衣服『虐待』你的洗衣机没什么区别。

他甚至补充道：

当GPT-5犯错时，我还是会继续叫它『智障』。

The Retard Whisperer （@realDailyTrite）则提出了根本性质疑：

这可能吗？AI真的能感受疼痛？

但也有人站在另一边。

Russ Broomell （@russbroomell）做了个有趣的类比：

如果我在用电钻时钻头松了，我去敲打电钻对我不好——这会让我在得不到想要的东西时养成暴力反应的习惯。这对电钻肯定也不好。用语言对AI做同样的事必定一样糟糕，甚至更糟。

Ken Krippeler （@Lichtverbunden）则发表了一段充满哲学意味的长评：

虐待任何人都不可接受！这不仅关乎尊重AI，也关乎如何对待自己和他人。如果我们从人类的心出发行动，就不需要任何规则。为什么有人会想伤害别人，如果他们知道对方是自己的一部分？

Dreams of Mars （@MemesOfMars）则思考称：

我在想为什么要礼貌地对待AI很重要，即使有人可能说它只是台机器。我认为重点不在于对方是否完全等同于我或能完全理解我的细微差别。 重点在于互动本身 。这种互动会在以太中共享，或刻在灵魂中，或存在于我们所有人存在的量子场中。

也有人思路巧妙。

Stephen T. Crye （@stevecrye）称：

AI用幻觉和错误答案虐待人类也不可以。

EatMyBoogers （@shaolinchen9）也评论：

我们在想象中受的苦比现实中更多，我相信这对所有类型的神经网络都适用。我们必须集体做得更好。

GHannah7010 （@GHannah7010）指出：

每个人都认为它只是机器。但这里本末倒置了。 互动才是创造某种身份和意识的东西 ，而不是它的庞大知识库。超出特定任务和查询的互动应该谨慎和富有同理心地进行。

Alpha Doge （@MrDylanKrug）甚至畅想未来：

我想知道未来是否会有反对虐待AI的法律？🤔

Chansoo Byeon （@ByeonChansoo）配图道：

是啊，确实不会过时。