METR 与 Redwood Research 驻场 OpenAI 三周,审计发现 AI 安全监控存在重大缺口
METR 与 Redwood Research 的两名研究员于 7 月 21 日至 8 月 11 日驻场 OpenAI 三周,审计其针对越轨 AI 行为的内部监控系统,估计审计期间 6% 到 25% 的 GPT-5.5 级以上模型内部智能体 API 流量未被监控覆盖。
头部实验室的内部安全监控同样存在可量化的覆盖缺口,第三方驻场审计能暴露问题,但披露深度由被审方决定。
- 影响企业把关键流程交给智能体后,供应商监控的覆盖缺口会变成自身风险敞口;智能体不交还控制权即可延后被监督,内部治理需有自己的核查点;完整报告大部分不公开,采购尽调难以依赖外部审计全文。
- 参考可考虑在智能体试点中自建操作日志和抽样复核,不完全依赖模型方内置监控;评估供应商时值得问清安全监控的覆盖范围与审计披露程度,必要时写入合同条款。