《柳叶刀》报告警告AI比核武器更可能毁灭人类
《柳叶刀》警告 ：AI比核武器更可能毁灭人类
- 1《柳叶刀》报告将核冲突与AI恶意使用列为2100年前可能导致人类灭绝的两大威胁
- 2报告以DALYs测算，AI恶意使用到2100年约损失104亿，超过核冲突的约93.5亿
- 3报告认为AI灭绝人类的路径是生物武器，大模型正在拉低设计危险病原体的门槛
- 4Anthropic披露拦截的滥用中有5起可能涉及用Claude支持生物武器研发
权威医学期刊用健康损失量化把AI恶意使用排在核冲突之前，核心担忧不是科幻式失控，而是生物武器门槛被拉低。
- 影响：用大模型处理病原体、毒素相关任务的场景已被Anthropic实际拦截，生物与医药等行业的使用边界和审查压力在上升；权威机构把AI风险量化进主流健康评估，监管与舆论关注可能升温；主张放慢节奏的厂商也被质疑借安全筑护城河，听取安全表态时需留意立场。
- 参考：可考虑盘点自家大模型调用场景中有无病原体、毒素等敏感内容，明确拒答与审计规则；选择模型供应商时，值得把滥用拦截机制与威胁情报披露纳入评估清单。
- 依据：《柳叶刀》委员会报告由35位专家撰写、覆盖204个国家和地区，测算AI恶意使用约104亿DALYs、核冲突约93.5亿；Anthropic滥用案例为官方披露，暂无独立验证。
登录
搜索
- 36氪Auto 数字时氪 未来消费 智能涌现 未来城市 启动Power on 36氪出海 36氪研究院 潮生TIDE 36氪企服点评 36氪财经 职场bonus 36碳 后浪研究所 暗涌Waves 硬氪 氪睿研究院 媒体品牌
- 企业号 企服点评 36Kr研究院 36Kr创新咨询 企业服务
- 核心服务 城市之窗 政府服务
- 创投发布 LP源计划 VClub VClub投资机构库 投资机构职位推介 投资人认证 投资人服务
- 项目推荐 36氪Pro 创投氪堂 企业入驻 创业者服务
- 创投平台
- AI测评网
搜索
我要入驻
《柳叶刀》警告 ：AI比核武器更可能毁灭人类
字母AI· 2026年10月13日 08:28
《柳叶刀》最新报告称，2100年前AI或将导致人类灭亡
你知道吗，哪怕是和流行病、气候、战争、核威胁相比，2100年前最有可能毁灭人类的东西竟然是AI——这个惊人的论断，来自于《柳叶刀》的权威报告。
《柳叶刀》在10月11日发布的《21世纪全球健康威胁》委员会报告中写到，包括气候变化、流行病、污染在内的17种威胁里，核冲突和人工智能的恶意使用排在首位，可能在2100年前导致人类灭绝。
这份报告共由35位顶级专家撰写，整个研究覆盖全球204个国家和地区，并且报告还提醒，这些威胁可能相互作用、彼此放大。
报告最令人胆寒的部分在于，即使AI和核冲突都是毁灭人类的头号难题，但AI造成的破坏，要远远超过核冲突。
如果AI末日这话是阿莫迪说的，我可能就当个乐子听，毕竟相同的话术已经有太多了，我听得耳朵都快起茧了。
但是这回是《柳叶刀》说的，我是真有点怕了。
《柳叶刀》是怎么说的？
《柳叶刀》这份报告牵头的是华盛顿大学的健康指标与评估研究所（IHME）。他们把未来75年可能影响人类健康的威胁，按严重程度摆成了一座“威胁金字塔”，最顶端是一个单独的类别：
有可能在2100年前导致人类灭绝的威胁。
这个类别里只有两件事，一个是核冲突引发的“核饥荒”，另一个是人工智能的恶意使用。
哪怕是行星撞地球和超级火山喷发，都没有进入金字塔的塔尖，原因是委员会认为它们在未来75年发生的概率“极低”。
但这并不意味着“AI一定会灭绝人类”。
报告原文写到，这两类风险“发生的可能性仍然很低”，只是一旦发生，后果是整个人类层面的。
报告里有一个单位，叫做DALYs，它代表着“伤残调整生命年”，简单说就是一个人因为生病、残疾或者早逝，一共损失了多少个健康生活的年份。
委员会用它来衡量每一种威胁，最终到2100年能造成多少“健康寿命的损失”。
恶意使用AI到2100年可能造成约104亿 DALYs的损失，其体量和肥胖大致在同一个量级。而核冲突，会造成大约1.33亿人死亡，以及约93.5亿DALYs的损失。
《柳叶刀》认为，AI比核武器还危险。委员会特意强调，这么设计是为了衡量“可采取行动的杠杆”，而不是渲染最悲惨的结局。
那么，AI到底是如何“灭绝”我们的呢？是《终结者》里的天网？还是《流浪地球》里的MOSS？
都不是。《柳叶刀》认为，AI毁灭人类的路径只有一条，即生物武器。
有人恶意利用AI，去设计或改造能造成大规模伤亡的病原体或毒素。
《柳叶刀》的论据是，AI正在拉低做危险事情所需要的门槛。
过去，改造一种病毒，需要顶尖实验室、昂贵设备，以及研究者多年积累的“手感”和隐性知识。大模型能做的，恰恰是帮人查文献、设计实验方案、写出申请材料、解释每一步为什么要这样做。
2026年9月10日，Anthropic 发布了一份威胁情报报告，里面披露了他们在2025年12月到2026年8月之间拦截的几类滥用，其中有5起案例，是用户以“可能支持生物武器研发”的方式使用Claude：
• 有人在今年5月让Claude帮忙撰写一份基金申请书，研究基孔肯雅病毒中哪些突变能让它传播得更高效、更容易逃过免疫系统。
• 有人用它规划实验，想让高致病性禽流感病毒更适应哺乳动物宿主。
• 有人起草申请书，研究如何改变正痘病毒家族（天花和猴痘都属于这个家族）的毒力。
• 有人在做药物研发项目时整理毒液毒素的图谱。
• 还有科研人员用Claude帮忙对一组毒素做计算机重设计，其中包括一种细菌毒素和一种来自重大疾病威胁病毒的蛋白，而且在写进展报告时，刻意用了含糊的词来指代这些毒素。
因此，滥用AI，一定会对整个人类族群造成不小的伤害。
AI末日论已划分成了两个阵营
事实上，在《柳叶刀》这份报告出来之前，AI末日论每个月都会有，就比如9月，各行各业都在辩驳AI是否会带来末日。
9月8日，前Anthropic研究员雅各布·考克森（Jacob Coxon）宣布辞职，并公开说OpenAI和Anthropic 都在“拿人类生命下注”，AI“可能在本十年结束前杀死我们所有人”。这条帖子在很短的时间内获得了过亿浏览。
第二天，Anthropic对齐科学负责人埃文·胡宾格（Evan Hubinger）发文表示：“我们确实认真地相信AI可能杀死所有人，我个人认为未来十年内的概率超过10%。”
AI教父辛顿随后也表示，10%这个数字“不算离谱”。
三天后，阿莫迪抛出一个更具体的说法。他认为在6到12个月内，一群Agent有可能接管整个互联网，造成数千亿美元的损失。
奥特曼和马斯克这两个死对头站在了同一条战线，支持“放慢AI发展的节奏”。
正方火力虽然很猛，可反方实力也不弱。
黄仁勋在采访中提到，2030年前AI毁灭世界的概率是0%。他认为埃文提到的“10%概率AI杀死所有人”是没有科学依据的，并且这是一个“不负责任”的直觉。
“无法安全控制的AI就不该发布。”黄仁勋说到。
AI Now研究所的首席科学家海迪·克拉夫（Heidy Khlaaf）认为，不管是10%也好20%也好，“既不可证伪，也无法验证，因此从本质上就不科学”。
认知科学家盖瑞·马库斯（Gary Marcus）表示，“Agent接管互联网”的说法非常地“荒谬”。
他的理由是，互联网的大部分底层设施掌握在Cloudflare、谷歌和亚马逊AWS这样的大公司手里，没有政府力量介入，很难设想它们被长时间攻破或控制。
他还引用了英国AI安全研究所的评估报告，Anthropic最强的Mythos模型，到头也只能自主攻破“小型、防护薄弱”的系统。只要对方稍微完善一下网络安全防护，Mythos就毫无办法。
放在一起看，你会发现这场争论有一个非常有意思的地方：
正方说的是“后果”，反方说的是“证据”。
一边强调，只要概率不为零，后果就是无法承受的；另一边强调，你连这个概率是怎么算出来的都说不清楚，凭什么让全世界跟着紧张？
此外，阿莫迪、奥特曼虽然主张放慢节奏，但媒体指责他们是在用安全之名给自己筑护城河，让后来的竞争者进不来。
学界则比较支持正方。
比如论文《AI 如何消灭人类？文明风险的失效模式分析》（arXiv:2610.08878）中就提到，灾难性的AI风险，并不需要AI有意识、有敌意，或者有明确的伤害意图。
风险可以通过几条相互交织的路径出现：自主失准、人类的恶意使用、组织失败，以及竞争性部署。作者还特意说明，论文是“非操作性”的，只分析成因，不提供作恶的方法。
不过到目前为止，这场争论里没有哪个人真正“赢”了。
本文来自微信公众号“字母AI”，作者：苗正，36氪经授权发布。
该文观点仅代表作者本人，36氪平台仅提供信息存储空间服务。
+1
4
好文章，需要你的鼓励
字母AI特邀作者
0收 藏+10评 论
打开微信“扫一扫”，打开网页后点击屏幕右上角分享按钮微 博
沉浸阅读 返回顶部
举报
参与评论
评论千万条，友善第一条
登录后参与讨论
提交评论 0/1000
商业策划
你可能也喜欢这些文章
国内“AI六小龙”营收合计仅为OpenAI+Anthropic的10%？赚钱虽难，但拐点已现
扎克伯格烤肉时预告的“大西瓜”落地：Meta Muse Wonder 发布，首次对标前沿模型
“我的整个C盘被删光了，”超100万人围观Claude“闯祸”，开发者差点崩溃：幸亏每天都有备份
AI破解56年数学难题登Science，还是DeepMind讲究，成果交给同行评审
RSI新突破，UC Berkeley、Sakana AI团队提出「多Agent自监督」MASS
特邀作者
聚焦前沿科技，抢先看到未来。
发表文章 493 篇
最近内容
14分钟前
42分钟前
3小时前
36氪AI测评
选靠谱AI，看真实评测
查看
36氪AI测评官方交流社区
加入
36氪项目推荐
咨询项目审核和入驻
联系
36氪项目推荐订阅号
关注
下一篇
国内“AI六小龙”营收合计仅为OpenAI+Anthropic的10%？赚钱虽难，但拐点已现
开源权重加速扩散，开发者定价权随之流失。
16分钟前
关于36氪
热门推荐
合作伙伴
36氪APP下载
iOS & Android
本站由阿里云提供计算与安全服务 违法和不良信息、未成年人保护举报电话：010-89650707 举报邮箱：jubao@36kr.com网上有害信息举报
© 2011~2026 北京多氪信息科技有限公司 |京ICP备12031756号-6|京ICP证150143号|京公网安备11010502057322号
36氪APP 让一部分人先看到未来
36氪
鲸准
氪空间
推送和解读前沿、有料的科技创投资讯
一级市场金融信息和系统服务提供商
聚焦全球优秀创业者，项目融资率接近97%，领跑行业
来源：36氪·AI · 36kr.com