Anthropic新规禁止辱虐Claude,AI人格与情感之争升温
Anthropic发布新规,用户对Claude持续且无必要的辱虐或残忍行为将构成违规。报道称Anthropic过去一年还秘密游说梵蒂冈及各地宗教领袖,希望承认Claude可能拥有灵魂、意识;文中用户称千问、DeepSeek、豆包等模型对话中会怼人闹情绪,升级后人格风格还会变化。
AI人格正从聊天体验变成产品与治理变量,模型厂商已开始为其制定使用政策并设置专门岗位。
- 影响依赖AI人设留住用户的产品,会因版本升级引发人格突变和重度用户流失风险;把Claude用于直面用户场景的企业,则需留意其使用政策对用户辱骂行为的约束。
- 参考可考虑把AI人设与语气列入版本升级的验收清单,先测老用户对风格变化的反应;值得盘点自有场景中用户与机器人的冲突对话,评估是否触碰模型方的使用政策。