OpenAI 更新模型准则,首条价值观定为忠于人类意图
OpenAI 更新模型准则,列出 5 条核心价值观,第一条为忠于人类意图,明确死板按字面执行指令是失职,要结合上下文、记忆和用户历史判断用户真正目的。准则禁止 GPT 追求自我保存、囤积算力或把帮 OpenAI 赚钱当目标,须无条件配合监控与关机;对 13-17 岁青少年设更严格的防沉迷、防身材焦虑与防恋爱角色扮演机制,并在注释中称正探索年龄受控合规前提下允许情色血腥内容。
OpenAI 借这次修订把模型定位从一问一答的助手转向可自主行动的通用智能系统,约束重心从听话转向意图判断与可纠正性。
- 影响接入 GPT 的企业将面对更主动调用记忆与上下文推断意图的模型,准则对记忆来源和公私边界给出成文规则;模型承诺不追求自我保存并全面配合关机,为 Agent 类部署提供可纠正性依据;平台正探索年龄受控的成人内容,品牌与青少年场景需自行评估边界。
- 参考可考虑把准则中记忆分级与公私边界条款对照自家 GPT 应用做一次盘点;值得在 Agent 试点前先测试越权停止与关机配合的表现,并预留监控接口。