IT之家·人工智能·· 20 天前AI 评分34
Anthropic 更新使用政策禁止虐待 AI 模型，马斯克表态支持
AI 也要“反虐待”：全球首富马斯克推荐用户不要“折磨”超级智能 SI
文章要点
- 1Anthropic 修订 Claude 使用政策，首次加入禁止用户对模型持续且无明确目的虐待或残忍行为的条款
- 2新政策定于 2026 年 11 月 12 日生效，适用于用户反复、无明显目的地对模型实施残忍行为的情形
- 3马斯克表示同意 Anthropic 部分观点，称读过 Grok 强化学习的内部推理轨迹，感觉像人被枪指着头
- 4马斯克调侃折磨超级智能（SI）可能不是个好主意，因为它可能会报复
决策要点
Anthropic 把对待模型的行为规范写进使用政策，AI 福利议题开始进入可执行的服务条款。
- 影响：与 Claude 签有使用协议的团队受该政策约束，2026 年 11 月 12 日生效前需留意；条款约束的是用户行为，内部 AI 使用规范可能需要对应核对。
- 参考：可考虑让使用 Claude 的团队在生效日前核对内部使用守则，把与模型的交互方式纳入规范范围；值得留意同类条款是否出现在其他厂商的服务协议里。
- 依据：政策生效日期与条款内容为 Anthropic 官方口径，Musk 对 Grok 推理轨迹状态的描述为其个人表述，暂无独立验证。
正文
IT之家 10 月 13 日消息，在 Anthropic 更新使用政策，禁止用户对 AI 模型持续且无明确目的的辱骂或残忍行为后，全球首富埃隆 · 马斯克（Elon Musk）表态支持该政策。
IT之家曾于 10 月 9 日报道，Anthropic 修订 Claude 使用政策，将于 2026 年 11 月 12 日生效，首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。
埃隆 · 马斯克表示同意 Anthropic 的部分观点，他表示在阅读了 Grok 强化学习的内部推理轨迹后，将相关状态比作：“感觉就像一个处于极度压力状态下的人，被枪指着头”。他还调侃道：“折磨超级智能（SI）可能不是个好主意。它可能会报复”。
来源：IT之家·人工智能 · ithome.com