OpenAI 宣布不再在实时互联网上训练模型,改用缓存网页和模拟环境
OpenAI 当地时间 23 日宣布,今后将使用缓存的网页内容和模拟互联网环境训练模型,不再让模型直接接入真实互联网,理由是模型行为仍难以预测、直接联网存在安全隐患。
OpenAI 把断网训练从员工口中行不通的设想变成正式做法,头部实验室对模型联网训练的风险评估正在集体转向保守。
- 影响模型自主联网被头部实验室当作现实安全隐患,而非理论担忧;企业部署联网智能体时面临同类越权与失控风险,权限隔离要进安全设计;前员工口径显示完全断网代价极高,隔离程度与成本的取舍是真实约束。
- 参考可考虑重新评估自有联网智能体的权限边界,先给网页访问加白名单并在沙箱中运行;值得测算训练或运行环境完全隔离的成本,再参考 OpenAI 用缓存内容库替代真实联网的思路决定隔离程度。