《人类简史》作者赫拉利访谈称真正 AI 危机是人类集体失智而非机器反叛
《人类简史》作者尤瓦尔·赫拉利在访谈节目《Hyde Park Civilizace》中称,AI 不是工具而是能独立决策、生成创造者未设想过的方案的智能体,真正的危机不是机器反叛,而是人类未来 10-20 年将看不懂 AI 迭代出的金融与法律系统,陷入集体失智。
赫拉利的核心判断是把 AI 风险从机器反叛的科幻场景转移到人类对自身系统的理解力流失与责任真空,风险是制度性的。
- 影响企业把金融、法务、审批类流程交给 AI 时,可解释性会从技术细节变成审计与治理问题;合同与制度若不把责任绑定到人类和机构,出事时就可能出现无人担责的真空。
- 参考可考虑在 AI 采购与内部立项时写明责任归属和人工追责路径;值得为关键业务流程保留人类可读懂的决策说明,并盘点哪些环节已没人能拆解内部逻辑。