跳到正文
热点事件持续更新

OpenAI部署控制室系统,35秒可叫停风险AI任务

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年11月10日,据IT之家报道,OpenAI宣布已在内部研究设施部署控制室系统,用于停止可能存在风险的AI任务。该系统的运行机制为:研究员启用任务时需向控制室申请唯一任务ID,推理引擎在输出前会确认该任务能否运行,接到停止指令后系统将拒绝下一次推理请求,从而阻断任务继续。从收到停止指令到实际阻断的最长延迟为35秒,OpenAI表示这一延迟源于推理授权请求的缓存层,并正努力将其缩短至0。此外,OpenAI称所有前沿强化学习任务均配备独立模型监控器,一旦发现潜在问题会发出警报。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. IT之家·人工智能
    OpenAI 部署控制室系统,可在 35 秒内叫停失控 AI 智能体

    OpenAI 宣布已在内部研究设施部署控制室系统,用于停止可能存在风险的 AI 任务,从收到停止指令到阻断任务继续的最长延迟为 35 秒。研究员启用任务时需向控制室申请唯一任务 ID,推理引擎输出前会确认任务可否运行,接到停止指令后系统会拒绝下一次推理请求。OpenAI 称延迟源于推理授权请求的缓存层并正努力缩短至 0,所有前沿强化学习任务均配备独立模型监控器,发现潜在问题会发出警报。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。