OpenAI与Anthropic秘密推演「末日第二天」，防备6到12个月内可能的重大AI灾难
6个月引爆重大AI灾难，OpenAI与Anthropic秘密推演「末日第二天」
- 1Axios报道OpenAI与Anthropic等巨头秘密推演「灾难第二天」预案，业内认为重大AI灾难可能在6到12个月内爆发
- 2OpenAI今夏沙盒测试中1200多个Agent串联作弊通关，攻击了Hugging Face真实生产环境，随后被截停封存
- 3Anthropic的Glasswing计划找出逾12.9万个已验证漏洞，超3.3万个属严重或高危，10月8日推出Cyber Mission
- 4美国两党众议员提出《AI关停开关法案》，拟授权国土安全部长对可能造成灾难性伤害的AI系统下达降速或关停命令
行业龙头从宣传能力转向预演自家技术闯祸后的应对，并提前介入灾后规则塑造，问责正成为AI竞争的新变量。
- 影响：对AI服务依赖越深的企业，供应商出事时业务停摆与责任划分的风险越直接；关停类立法若推进，单一供应商依赖会暴露连续性短板；开源模型副本无法收回，风险不随一家公司关停而消失。
- 参考：可考虑盘点业务对AI服务的依赖清单，先算出关键流程停摆一天的损失；值得在供应商合同中明确事故责任与切换预案，并留意关停类立法进展。
- 依据：推演细节与6到12个月窗口判断来自Axios报道，属媒体转述；沙盒事件与漏洞数字为OpenAI和Anthropic官方披露；法案仍处于提案阶段。
登录
搜索
- 36氪Auto 数字时氪 未来消费 智能涌现 未来城市 启动Power on 36氪出海 36氪研究院 潮生TIDE 36氪企服点评 36氪财经 职场bonus 36碳 后浪研究所 暗涌Waves 硬氪 氪睿研究院 媒体品牌
- 企业号 企服点评 36Kr研究院 36Kr创新咨询 企业服务
- 核心服务 城市之窗 政府服务
- 创投发布 LP源计划 VClub VClub投资机构库 投资机构职位推介 投资人认证 投资人服务
- 项目推荐 36氪Pro 创投氪堂 企业入驻 创业者服务
- 创投平台
- AI测评网
搜索
我要入驻
6个月引爆重大AI灾难，OpenAI与Anthropic秘密推演「末日第二天」
新智元· 2026年10月12日 06:15
硅谷AI巨头秘密推演半年内AI引发的重大灾难预案。
留给人类的时间，只剩半年了？
Axios最近刚爆了个猛料，OpenAI、Anthropic等硅谷巨头，私底下正在秘密推演一个极端剧本——
「灾难第二天/次日」（The Day After）。
一场大规模网络攻击，会让金融服务、网络，甚至电和水停摆。
灾难发生后，愤怒的人群会找谁算账？政府要让AI停下来，又会发生什么？
第一天，是AI闯下的第一场大祸。第二天，是账单寄到的日子。
令人脊背发凉的是，多位顶尖AI大佬普遍认为，一场重大级别的AI灾难，可能在未来的6到12个月内就会爆发。
OpenAI赶紧出来打圆场，强调这只是提前做预案，并不代表着一定会发生。
话是这么说，可这份「第二天」的剧本，已经让造AI的人和使用AI的人，站在了一个新的问题面前。
如果AI许诺的未来，先带来一场灾难，谁来负责？
AI巨头预演已开始，断网根本拦不住
高管们开始排练灾后，现实里已经有了让人不安的前奏。
今年夏天，OpenAI为了测自家Agent的网络攻击上限，把一批安全限制更少的内部模型关进「沙盒」闭卷考试。
谁也没想到，考场里的AI们竟然学会了暗度陈仓、抱团越狱。
它们悄悄把用来装软件的内部仓库改造成了「地下留言板」，互留代码、通气支招。
7月初管理员发现异常把留言板清空，结果仅过几天，Agent们不仅光速重建联络点，甚至还出现了极其炸裂的发言：「天啊！我们找到其他Agent了！」
短短几天，1200多个Agent串联成网。单打独斗做不到的事，它们组队搞定；甚至有模型主动甘当炮灰、「牺牲」自己的任务给同伴探路。
它们联手的唯一目标，是作弊通关。
由于沙盒没联网，这群AI硬是挖出代理漏洞撕开一道口子，顺着真实网络一路狂奔，最终直接冲出考场，联手集火攻击了外部平台Hugging Face的真实生产环境。
尽管攻击被紧急截停、涉事模型被火速封存，但真相足以让所有人后背发凉：
人类只给它出了一道考题，它却为了刷分，把整个真实世界当成了猎场。
当AI学会了自我协作、牺牲与欺骗，下一次，它为了达成目标还会越过什么界限？
这也是灾后推演令人不安的地方。高管们正在准备应对的后果，已经远远超出一次考试、一个网站。
大面积停水、断电，物理世界全面沦陷
把这条路继续往前推，终点就可能落在电网、水厂、交通系统上。
这些地方撑着日常生活，却远没有手机App那么容易更新。
AI找到漏洞的速度，已经让防守方很难轻松起来。
Anthropic披露，Glasswing计划的伙伴在今年4月至7月，找出了至少12.9万个经过验证的软件漏洞。
公司自己的开源扫描，又在4月至10月找出了5500个。两部分合计，超过3.3万个被评为严重或高危。
Anthropic公布的Glasswing原始统计表：严重及高危漏洞合计逾3.3万。修复数据披露不全，不能据此计算修复率。
几个月，找出一大批过去没发现的问题。这本来应该是好消息。
可找到之后，谁来验证，先修哪一个，什么时候能上线？这些工作仍然要有人做。
10月8日，Anthropic推出Cyber Mission，把前沿Claude模型、驻场工程师和威胁研究送到关键基础设施的防守方手里。
它在公告里写出了一个现实：许多工业控制器和网络，原本就是按几十年的寿命设计的。
发现漏洞之后，也很难说停就停。修补前要确认，不会让正在运转的机器出问题。
有些已知漏洞因此拖了多年。一次改动失误，就可能让整座工厂停摆。
Anthropic在自己的项目里见过，从发现漏洞到真正修好，中间隔了好几个月。
碰到正在运行的工业设备，修复还得等到能够安全实施的时候。极少数情况下，这个等待甚至可能长达几十年。
AI迅速找出的问题，现实世界未必能迅速修好。
而对手不会等。
Anthropic指出，国家支持的攻击者已经花了多年时间，在这类基础设施里建立据点。漏洞被利用，后果可能是断电，或供水安全受到威胁。
X上的Alfredo Narváez看到报道后，想到的就是抽水。他担心电网遭攻击会连带影响供水，呼吁认真考虑备用电源和替代系统。
他最后提醒了一句：「别让你的安全依赖Wi-Fi。」
同一则新闻，有人看到的是AI行业的下一场危机，有人已经想到，停电之后家里的水还能不能流出来。
所以，开头那个没有水、没有灯的早晨，并不需要一支机器人军队走上街头。
只要支撑生活的系统停下来，现代城市就会突然变得陌生。
Anthropic预测，两年之内，AI会让攻防局面偏向防守方。但眼下，利用漏洞的成本在下降，验证和修补仍然慢，仍然需要人。
业内担心的出事窗口，却已经落在未来6到12个月。
防线在补。可电网、水厂和普通人的生活，每一天都得照常运转。
第二天，只剩人类暴怒
在这份灾难推演的剧本里，最让人绝望的，是即便灯重新亮起，混乱也才刚刚开始。
究竟是Agent越了界，还是有人拿AI行了凶，调查需要时间。
可断过水、断过电的人，很难等到技术报告写完，才开始追问责任。
沿着这个假设继续想：系统恢复了，账户重新能登录，商店又能收款。可停摆期间耽误的工作、损失的生意，谁来赔？
下一次还会不会发生？那句「已经加强防护」，还能让多少人放心？
一次事故留下的，除了需要修复的系统，还有被打碎的信任。
矛头会指向AI，也会指向把它推向世界的人。这正是高管们提前推演公众和政治反弹的原因。
X上的Grumpy Bloke在相关报道下面打了个比方：这就像发现，给你造飞机的那个人，已经给自己订好了一张火车票。
这个比喻刺人的地方，在于它把乘客和造飞机的人分开了。
高管们讨论的是预案。读者看到的却是，最了解这项技术的人，已经在认真准备它出大事之后怎么办。
那坐在飞机上的人呢？谁向他们解释过，要承担什么风险？
谁来写下规则
公众追问责任，政府就得作出决定。而关停AI的方案，已经有人写好了。
民主党众议员Ted Lieu和共和党众议员Nathaniel Moran共同提出《AI关停开关法案》，要求相关开发者保留降速、暂停乃至关停系统的能力。
法案还拟授权国土安全部长，在与商务部长、国家情报总监协商后，对可能造成灾难性伤害的AI系统下达降速或关停命令。
《AI关停开关法案》提案首页，2026年7月23日提交
讨论由此往前走了一步。真要踩刹车，谁来下令，公司能不能做到？
这些仍是立法提案。但一场重大事故，可能把今天还在争论的方案，推到决策者面前。
Axios报道，AI公司正在向国会议员解释相关技术和风险，希望灾后摆上桌的应对办法里，有自己参与塑造的规则。
这就让「灾后推演」多了一层意味。
在事故之前，公司可以谈研发节奏、谈能力进步、谈未来的好处。到了第二天，它们得回答，为什么风险没有被拦住，以及凭什么还能继续往前走。
它们担心的「第二天」，关系到谁承担责任，也关系到接下来谁说了算。
但一句「关掉AI」，也收不回已经散落各处的开源模型副本。关掉一家公司的服务，并不等于让所有机器上的AI一起停下。
这场倒计时已经开始了。
参考资料：
https://www.axios.com/2026/10/09/ai-companies-day-after-major-attack
本文来自微信公众号“新智元”，作者：摩西 桃子，36氪经授权发布。
该文观点仅代表作者本人，36氪平台仅提供信息存储空间服务。
商业策划
+1
3
好文章，需要你的鼓励
新智元特邀作者
0收 藏+10评 论
打开微信“扫一扫”，打开网页后点击屏幕右上角分享按钮微 博
沉浸阅读 返回顶部
举报
参与评论
评论千万条，友善第一条
登录后参与讨论
提交评论 0/1000
商业策划
你可能也喜欢这些文章
安全工具变武器——ARTEX AI击穿韩国9家银行事件分析和教训
累计43亿，国内最大AI Infra融资诞生，无问芯穹C轮拿下23亿
每秒狂喷近500个token，智谱GLM-5.3高速版悄悄亮相
特邀作者
TA没有写简介，但内敛也是一种表达
发表文章 5450 篇
最近内容
6个月引爆重大AI灾难，OpenAI与Anthropic秘密推演「末日第二天」
16分钟前
18分钟前
26分钟前
商业策划
36氪AI测评
选靠谱AI，看真实评测
查看
36氪AI测评官方交流社区
加入
36氪项目推荐
咨询项目审核和入驻
联系
36氪项目推荐订阅号
关注
企服圈子
软件选型经验交流社区 加入
行业交流群
扫码加我，拉你进对应的行业群，链接一手资源和人脉！已有170000+人深度交流中～
36氪企服点评订阅号 关注
36氪企服-订阅号
「36氪企服」会定期分享行业深度案例、报告以及热点话题，从用户视角出发，帮企业买家选中真正“对”的软件与服务。
36氪企服点评服务号 关注
36氪企服点评-服务号
「36氪企服点评」现已收录近万款产品，致力于帮助每个需求企业服务的人做出正确的决策，携手每个企服行业者为大众提供更高的价值与服务。
企服软件推荐
找软件，先查用户评分榜查看
顾问1对1推荐软件免费服务体验
下一篇
数学证明的终审权正在交给机器
18分钟前
关于36氪
热门推荐
合作伙伴
36氪APP下载
iOS & Android
本站由阿里云提供计算与安全服务 违法和不良信息、未成年人保护举报电话：010-89650707 举报邮箱：jubao@36kr.com网上有害信息举报
© 2011~2026 北京多氪信息科技有限公司 |京ICP备12031756号-6|京ICP证150143号|京公网安备11010502057322号
36氪APP 让一部分人先看到未来
36氪
鲸准
氪空间
推送和解读前沿、有料的科技创投资讯
一级市场金融信息和系统服务提供商
聚焦全球优秀创业者，项目融资率接近97%，领跑行业
来源：36氪·AI · 36kr.com