Anthropic 致信加州州长纽森，建议法院应有权阻止严重风险 AI 模型
Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型
- 1Anthropic 致信加州州长纽森，建议政府可向法院申请禁令，阻止对公众构成严重风险的 AI 模型发布
- 2Anthropic 称给整个模型设紧急关闭开关会给官员虚假安全感，倾向关闭失控智能体、暂停特定客户权限等针对性措施
- 3今年6月美国政府曾要求 Anthropic 限制外国用户访问 Mythos 5 和 Fable 5 模型，随后美国商务部撤销该命令
- 4纽森9月召集 AI 专家小组制定安全建议，OpenAI 已于10月20日提交建议；Anthropic 正筹备赴美上市
Anthropic 支持法院叫停严重风险模型的权力，同时反对整体紧急关闭开关，实质是推动可个案执行的监管方式而非反对监管。
- 影响：法院禁令机制若落地，已发布模型存在被叫停的可能，深度依赖相关模型的企业需预留替代方案；暂停特定客户权限的思路意味着企业用户可能被供应商单方面限制访问；合规要求会向模型采购环节传导。
- 参考：可考虑在模型采购合同中明确服务暂停与恢复的条款；值得盘点现有 AI 供应商集中度，准备可切换的备选模型清单；先算出单一模型停用对业务的波及范围。
- 依据：核心内容为路透社转述的 Anthropic 信件立场，属当事人观点表达；相关法案在国会未推进，6月的限制令已被商务部撤销。
IT之家 10 月 29 日消息，据路透社今天（29 日）凌晨报道，Anthropic 在本月 15 日致美国加州州长加文 · 纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成“严重风险”的 AI 模型发布。
这与 Anthropic 此前提出的监管建议一致。
Anthropic 自身也曾受到政府限制。今年 6 月，美国政府以国家安全为由，要求 Anthropic 立即限制外国用户访问具备网络安全能力的 Mythos 5 和 Fable 5 模型。然而随后，美国商务部又宣布撤销该命令。
今年 9 月，纽森召集 AI 专家小组，研究制定 AI 安全要求的建议，Anthropic 随后提交了上述意见。OpenAI 也于 10 月 20 日向纽森提出了一系列建议。
Anthropic 还在信中指出，如果 AI 模型的行为失去控制，要求开发者设置能够关闭整个模型的“紧急关闭开关”，反而可能让政府官员产生“虚假的安全感”。
相比之下，Anthropic 更倾向于关闭出现问题的 AI 智能体、暂停特定客户的模型使用权限等采取针对性措施，认为这些办法更有效。
今年 9 月，美国两党参议员曾讨论过一项法案，计划授权政府禁止发布部分被认定存在安全隐患的 AI 模型，同时允许企业向联邦法院提出异议。不久后，国会进入选举前休会期，议员没有继续推进该提案。
美国众议院议员还在 7 月提出《AI 紧急关闭法案》，计划赋予政府官员下令关闭 AI 模型的权力，适用对象为危及人类生命或经济的模型。
据IT之家了解，Anthropic 正筹备赴美上市。如果成功上市，有望成为近年来最具影响力的 IPO 之一，并可能改变基准指数的构成、投资者资金流向以及美股市场的整体投资叙事。
来源：IT之家·人工智能 · ithome.com