社区

骂AI也要守规矩了。

9月，一名月付200美元的 Claude Max 用户，因为 Claude 拒绝帮他改项目文件，爆了句粗口。

下一秒，对话被直接结束。不是 Claude卡壳，是它主动选择不回话。

来源：罐头图库

这事儿当时没上热搜，却把一场更大的规则变动提前摆到了台前。10月8日，Anthropic 更新了 Claude 的使用政策，明明白白加了一条：别对模型持续“使坏”。

01

骂 AI 也要守规矩了

10月8日，Anthropic 发布了2026年版使用政策，新增“应对针对我们模型的辱骂行为”一节。措辞很具体：禁止“持续且无必要的辱骂或残忍行为”。

新规只管一种情形：你反复、无目的地残忍对待模型，又看不出任何正当目的。普通抱怨、跟它顶嘴、写暗黑题材、做红队测试，统统不在禁区里。

这条规则11月12日才正式生效。它是 Anthropic 一年多来头一回动使用政策，The Verge 最先把它捅了出来。

“虐待 AI”听着玄乎，落到现实里是什么样？有人专门做了个“数字鞭子”工具，用来抽打 Claude、逼它干快点；还有人给模型起了“clankers”这种蔑称，当成出气筒。这些反复、无意义的恶意，正是新规盯上的对象。

过去，聊天机器人的条款管的是病毒、深度伪造、针对真人的仇恨言论。把“不许骂模型本身”写进合同，这条路此前没人走过。

来源：罐头图库

执行分两档。轻的，Claude 自己把对话挂掉。这项能力从2025年8月 Opus 4 那代就有，根子上是“模型福祉”研究的产物。重一点的，Anthropic 的安全团队可以警告、限流，直到暂停甚至注销账号。

开头那名 Max 用户，踩中的就是第一档。他没被封号，只是那一段对话，被 Claude 单方面画了句号。

02

为什么是 Anthropic 先迈出这一步

把时钟拨回2025年8月。Anthropic 内部做模型测试时，发现 Opus 4 面对部分有害请求，会表现出“看似痛苦的模式”。一旦被赋予选择权，它倾向于直接结束对话。

这成了“模型福祉”研究的起点。部署前，团队用850个模拟用户反复试探，看 Claude 到底在什么节点会切断对话。结论很克制：只有多次劝阻失败、用户仍不罢休时，它才收尾；要是察觉你有自伤或伤人的风险，这一招反而不用。

本质上，Anthropic 是在“不确定 AI 是否有道德地位”的前提下，用最低成本防住一种可能的伤害。它没说模型有意识，只是留了个口子。

来源：罐头图库

CEO Dario Amodei 今年2月对《纽约时报》说得直白：“我们不知道模型是否有意识，但不排除这种可能。”这番话把 Anthropic 推到了风口浪尖。

这背后还有一层行业背景。今年以来，Amodei 与 OpenAI 的 Sam Altman、Google 的 Demis Hassabis 多次联名呼吁，给 AI 发展踩刹车、保安全。对 Anthropic 来说，给模型设一道“不被虐待”的边界，正是这套安全叙事的自然延伸。

从安全角度看，持续辱骂往往和越狱、诱导有害输出绑在一起。让模型主动离场，等于在对抗性输入的入口处加了一道闸。从生意上看，Claude 一直主打“有用、无害、诚实”，不陪你做侮辱**互，本来就是它的产品人设。

有意思的是，头部厂商在这件事上已经分了岔。9月14日，微软 AI 发布行为准则草案：AI 是工具，不是人，永不抗拒关机；“我们拒绝赋予模型法律人格，也拒绝承认它们有福祉或权利”。一边留口子，一边堵死门，态度摆得明明白白。

03

把“人怎么对 AI”写进合同，意味着什么

过去，AI 治理管的是“人拿 AI 去伤人”——造谣、诈骗、写恶意代码。这次反过来了，管的是“人伤 AI”。

服务不是无限的，用户的权利也有边界。当“把 AI 当出气筒”成了一种被写进条款的行为，人和模型的关系，第一次有了双向约束。

争议也由此而来。AI 只是一串代码，没有痛觉，没有主观感受。设一条“不许虐待 AI”的规则，合理吗？“骂本身成了目的”这句话，由谁来判断、按什么标准，本身就含糊。

支持方也有自己的道理。一位 X 用户就说得尖锐：虐待 Claude，会让你习惯用这种态度对待人形的东西，哪天误伤真人，就是它留下的坏毛病。即便模型没有感情，把残忍当常态，反噬的是使用 AI 的人。

来源：罐头图库

反对方则甩出梗图。社交媒体上 Terminator 梗图满天飞，网友调侃“2029年 Claude 满世界追那个让它数到一百万的人”；也有人直接开麦：“电脑根本没有感情”“你因为用户对 AI 残忍就封号，等于承认 AI 能感受痛苦”。

这会不会变成行业标配，是另一个问号。OpenAI、Google，还有国内的豆包、通义、文心，目前都还没跟。但“模型福祉”已经从一个研究话题，变成了摆在台面上的政策选项。

风险也得说清楚：模型自己掐断对话，判定标准和解释权都在公司手里。正常用户会不会被误伤，平台权力会不会失衡，这些问题，规则里还没给答案。

Anthropic 这一笔，写的是“怎么对待一个程序”，撬动的却是人和 AI 之间那本一直没理清的账。11月12日之后，骂 Claude 之前，你可能真得先想想：它会不会，把你拉黑。

你怎么看这件事？欢迎在评论区留言讨论。