跳到正文
原文
IT之家·人工智能·· 20 天前AI 评分46

Anthropic 推出防模型蒸馏攻击新防护,窃取数据量最高降低 99%

Anthropic 推出新防护措施,模型蒸馏攻击窃取数据量最高降低 99%

文章要点
  • 1Anthropic 推出防蒸馏攻击新防护,称被窃取数据量已降低约 90% 至 99%(官方口径)
  • 2Anthropic 称智谱 AI 研发 GLM-5.3 期间曾尝试从 Claude 蒸馏提取模型能力,并警告相关风险
  • 3官方称攻击者可提取的推理 token 数量降至之前的十分之一至百分之一,防护误报率低于 0.1%
  • 4Anthropic 封禁数万个与蒸馏相关账号,称防护稳健度相当于阻止协助制造生物武器的体系
决策要点

蒸馏防护从服务条款约束升级为基础设施级拦截,前沿模型的推理过程被当作核心资产保护,并开始公开点名具体厂商。

  • 影响:依赖 Claude 推理输出做蒸馏或二次训练的业务面临拦截与封号风险;数万账号被封、误报率低于 0.1%,重度使用也需评估误伤可能;中国厂商的能力复用路线被公开点名,跨境使用海外模型的合规风险上升。
  • 参考:以模型输出训练自有模型的企业可先盘点数据链路是否涉及 Claude 受保护推理内容;值得为关键业务准备替代模型,避免单点依赖;中国团队可把公开点名情况纳入模型选型与合规评估。
  • 依据:90% 至 99%、推理 token 降至十分之一至百分之一、误报率低于 0.1% 均为 Anthropic 官方口径,暂无独立验证;智谱相关说法为 Anthropic 单方面表述。
正文

IT之家 10 月 13 日消息,Anthropic 于当地时间周一表示,该公司推出了多项新防护措施,旨在防止竞争对手复刻 Claude AI 模型的能力。这些措施已经将模型蒸馏攻击中被窃取的数据量降低了约 90% 至 99%。

模型蒸馏已经成为头部 AI 企业重点担忧的问题,Anthropic、OpenAI、谷歌等企业认为,这种手段可以让竞争对手以更低成本、更快速度复刻出模型的前沿能力。

Anthropic 称,这套用于限制外界获取 Claude 推理过程的防护机制,大幅减少了信息提取行为。如今“蒸馏攻击者所能提取到的推理词元(token)数量,仅为之前的十分之一至百分之一”。

IT之家注意到,这家总部位于加州的企业表示,新防护提升了使用代理网络反复探测 Claude 受保护推理链路的难度,拦截信息提取尝试,阻碍大规模蒸馏行动。

Anthropic 称,这套安全系统的稳健程度“大致相当于阻止 Claude 协助制造生物武器的防护体系”,误报率低于 0.1%。

Anthropic 封禁了数万个和蒸馏活动相关的账号,并以 AI 初创企业智谱 AI 举例,称该公司在研发 GLM-5.3 模型期间,曾尝试从 Claude 蒸馏提取模型能力。Anthropic 警告,这类行为会带来安全与国家安全风险。

来源:IT之家·人工智能 · ithome.com