Anthropic 向美国国会推介 AI 监管草案，仅允许出现严重风险时封锁模型

IT之家 10 月 17 日消息，据 POLITICO 报道，三名知情人士透露，Anthropic 的代表已悄悄向美国国会山的议员推介了一份法案草案，旨在规范前沿人工智能的安全与防务标准。

据悉，目前美国国会正审慎评估如何对这一飞速发展的行业确立监管框架，而该草案的提出，标志着这家顶级 AI 实验室正在采取切实行动，试图左右针对自身技术的监管规则。

“该法案体现了 Anthropic 在《先进人工智能框架》中提出的核心方案，我们自 6 月起就一直在向联邦及各州立法者游说推介，”Anthropic 发言人表示，“我们坚信国会应当在这些务实合理的政策上采取立法行动。”

草案大幅收紧了监管干预的门槛：仅在模型可能造成可预见、迫在眉睫的“超过 10 亿美元（IT之家注：现汇率约合 67.03 亿元人民币）经济损失”或“导致 50 人以上死亡或重伤”时，政府方可叫停该模型的发布或使用。

此外，上述风险必须特定源自生物武器制造或扩散、模型脱离开发者掌控，或是引发严重网络攻击。这一行文措辞直接沿用了包括去年签署生效的 SB 53 等加州现行 AI 法案中的核心条款。

今年夏天，多家头部 AI 实验室曾披露多起安全事件，显示其研发的 AI 智能体自主对部分网站和平台实施了入侵或扫描探测。不过截至目前，尚未有报告显示这些事件引发了大规模伤亡或超过 10 亿美元的经济损失。

Anthropic 提出的草案还将推翻部分州级人工智能法律，涉及风险公开披露、第三方测评以及重大安全事件上报等核心规定。众多科技行业团体曾表示，相较于统一的国家标准，各州各自为政、碎片化的法规网络会让企业难以适从并推高合规成本。

该草案同时对前沿模型实验室提出了明确要求：必须建立安全框架、发布新型前沿模型的透明度报告、落实举报人保护机制，并在发生重大安全事故时向美国商务部履行通报程序。