Anthropic 警告：小型 AI 模型数月后或在物联网设备上自我复制

IT之家 10 月 13 日消息，Anthropic 于当地时间周一称，其实验表明，再过数月，小型 AI 模型或将具备在商用物联网（IoT）设备上自我复制的能力，这类设备包括智能烤箱、杂牌安卓电视盒子等。

在实验中，Anthropic 研究 AI 模型能否找到存在安全漏洞的设备、把自身复制到设备内，并在无需人类干预的情况下持续扩散。

研究发现，参数量 300 亿以下的小模型可以完成自我复制流程里的多项步骤，但很难独立跑完从头到尾的完整链路。

在移除部分安全校验环节的简化测试环境下，Anthropic 发现 GLM-5.2 以及性能更强的模型能够实现端到端的完整自我复制。

Anthropic 警告，这类可自我复制的模型很难被关停，不存在统一的总开关。而且和传统非 AI 恶意软件不一样，它们可以自行理解陌生设备，甚至能够瞄准数据中心处理器发起渗透。

本次研究重点选取安卓电视、智能家电等联网物联网设备，原因是这类设备普遍安全防护薄弱。

IT之家注意到，这家 AI 大厂还警示：如果小模型继续按照过往的速度迭代，在今年年底前就可以实现自主复制；紧随其后，基于模型权重的小型复制体也会出现。

Anthropic 表示，这类自主 AI 系统的复制速度大概率偏慢，并且会依托大量广泛存在、安全防护较弱的算力资源。报告同时提出，应当强化系统防护，提高这类 AI 智能体扩散传播的难度。