跳到正文
原文
Anthropic:Newsroom·· 13 天前精选AI 评分67

Anthropic 详解 Claude 文本水印工作原理

How Claude’s text watermark works

文章要点
  • 1Anthropic 宣布未来 Claude 模型输出将自带文本水印,用于判断内容由 Claude 参与生成的可能性
  • 2此举为遵守欧盟 AI 法案,Anthropic 与约 190 个签署方于 2026 年 7 月签署透明度行为准则
  • 3水印基于 Google DeepMind 的 SynthID-Text 方法,官方称不改变质量、速度与价格
  • 4水印已全球启用,检测 API 处于私测,面向监管、执法、媒体、事实核查等组织并计划扩大
决策要点

文本水印把 AI 是否参与写作变成可事后检验的属性,生成内容标识正从厂商自愿转为欧盟法规下的默认动作。

  • 影响:用 Claude 生成或改写的外发内容将默认带可检测标识,内容合规与审计流程需要纳入;水印全球生效,不限欧盟业务范围;官方称水印不增加 token、不影响速度与价格,成本影响可忽略。
  • 参考:可考虑盘点用 Claude 生成或改写后对外发布的内容清单,决定是否需要主动声明 AI 参与;有欧盟合规义务的企业可登记申请检测 API 私测;值得提醒审核团队,水印检测与第三方 AI 检测软件的结论并不等同。
  • 依据:质量与成本影响为官方口径,暂无独立验证,其引用 SynthID-Text 论文中 Gemini 流量的对照实验;签署方约 190 家,检测 API 处于私测阶段。
正文 · AI 翻译

未来的 Claude 模型将生成带有水印的文本。这是一种判定 Claude 是否参与撰写某段文本之可能性的方法,我们与其他几家主要 AI 提供商一道,正在实施这一变更,以遵守《欧盟人工智能法案》。

在本文中,我们针对收到的部分问题分享解答,包括我们所选的水印方法如何工作、它是否会影响 Claude 的输出,以及我们为什么要做出这一改变。概要如下:

  • 我们使用的水印方法不会对 Claude 输出的质量或内容产生任何实际影响;
  • 读者将无法分辨带水印文本与不带水印文本之间的差异;
  • 文本中不会添加任何内容,也没有隐藏字符;
  • 水印不需要额外的 token,也不会带来更高的成本;
  • 水印不包含任何身份识别信息,也无法追溯到特定的个人、组织或对话;
  • 水印不会是 Claude 独有的。自 8 月 2 日起,欧盟要求在其市场提供服务的 AI 提供商对 AI 生成的内容进行标记。其他主要模型开发商也已签署了同一份《行为准则》,并将实施各自的水印。

什么是水印?

像 Claude 这样的大型语言模型的工作方式是一次生成一个词。模型每次决定下一个词时,都会从一组候选词中进行挑选,最终根据前文选出最合理或最可能的一个。以句子 “The weather today was cold and…” 为例,下一个词几乎不可能是 “sugary”,但很可能是 “overcast” 或 “grey”。在大多数情况下,模型最终选择这两个词中的哪一个,对读者来说并无太大影响——无论选哪个,句子的含义都基本相同。在这种情况下,选择由一个随机数来确定。

水印正是利用这类低风险的选择——它们在一段生成的文本中会出现很多次——在 Claude 的响应中留下一种模式。这种模式读者无法察觉,但任何拥有对其编码的密钥的人都可以察觉到。使用水印时,选择仍然是随机做出的,但随机性的来源有所不同。水印不再使用任意的随机数生成器来挑选下一个词,而是利用密钥和前几个词来确定模型应该选择哪个词。也就是说,Claude 挑选的词仍然是随机的,但现在,人们可以检查词序列,看它是否与 Claude 在使用密钥的情况下会做出的选择相一致。如果一致,就可以给出该文本由 Claude 生成的概率。

重要的是,这并不意味着模型从现在起会总是偏向选择 overcast 或 grey。与不带水印的文本一样,可能这一句选 overcast,下一句选 grey,取决于前面出现的词。水印方法也不会促使 Claude 选择它本来根本不会考虑的词(例如,它不会让 Claude 选出 “nubilous” 这样的词——这是 overcast 或 grey 的一个生僻1同义词,Claude 在正常情况下几乎肯定不会使用它)。

水印如何影响 Claude 的输出?

水印不会影响 Claude 输出的质量。对读者而言,带水印的回复与不带水印的回复无法区分(就这一点而言,AI 水印与纸币、其他实物以及某些数字文档上的同名水印大不相同,后者是肉眼可见的)。

在内部测试中,我们没有发现水印对 Claude 文本的内容、创意水平或可读性产生任何影响。在我们所采用技术的原始论文——SynthID-Text 论文中,Google DeepMind 通过向其 Gemini 流量中的一部分提供使用水印的模型,并对比点赞与点踩的评分来测试这种影响。他们发现与未加水印的模型相比没有统计学上的显著差异。在一项对照研究中,人类评审员并排比较带水印与不带水印的回答,也未发现质量上的差异。

一个有用的类比是想象你在玩大富翁(Monopoly)之类的游戏。每一回合,每个玩家根据掷骰子的结果在棋盘上随机前进若干格。假设我们决定不通过掷骰子来获得这种随机性,而是使用一本记录圆周率各位数字的书。2 我们从一个随机选取的数字开始(比如说小数点后第 1,012,845 位,恰好是 6),从那一刻起,每个玩家就直接把序列中的下一个数字当作自己的下一次“掷骰”。

无论从哪个角度看,这些移动仍然是随机的:随机性来自圆周率还是每次掷骰子,对玩家——乃至对游戏结果——都没有任何影响。但如果我们在游戏结束后能看到所有移动的序列(并且我们知道圆周率的数值),就能推断出这局游戏是否很可能使用了圆周率来决定移动。从某种意义上说,使用了圆周率的那局游戏就被“打上了水印”。

Claude 生成的文本也是如此。水印不会改变读者所感受到的含义或体验,但如果你想在事后检验某段文本是否很可能由 Claude 生成,水印可以让你做到这一点。

你们使用的是哪种具体的水印方法?

Claude 的文本水印是 Google DeepMind 于 2024 年在一篇 Nature 论文中发表的 SynthID-Text 方法的一个版本。它属于一系列可追溯到 Scott Aaronson 在 2022 年所提方案的方法,所有这些方法都遵循我们在上文描述的同一设计原则——水印只改变用于在词语之间进行选择的随机性来源。

水印的有效性存在局限性。使用我们的密钥,只能回答“这段文字有多大可能是部分由 Claude 写的?”这一问题。它无法确认文本是否为人类所写,也无法判断文本是否由另一个 AI 写成(即使那个 AI 也使用水印,它也会拥有不同的密钥;它也可能使用完全不同的水印方法)。水印检测在小样本上效果也不佳,因为小样本中的词语选择较少,可依据的信息也就更少。随着文本篇幅的增加,对 Claude 参与创作的置信度也会随之提高。

在事实性段落中,水印会较为稀疏,因为这类段落里能在不降低文本准确性的前提下做出的选择更少。例如,以“Isaac Newton 最著名的著作名为 Principia…”这句话为例。下一个词是否为“Mathematica”至关重要(这是唯一正确的答案),因此水印将无用武之地。校对也是如此。如果你把一篇文字交给 Claude,要求它只修改语法和标点而不做其他任何改动,水印就只能存在于少数几处修改之中,这可能太少而无法被检测到。

如果 Claude 校对或编辑了人类撰写的文本,那会怎样?

水印只适用于 Claude 所选择的词语。当 Claude 校对某人撰写的文本时,它返回的内容通常只经过轻微编辑;由于几乎所有词语都出自原作者之手,水印几乎没有(甚至完全没有)可以依附之处。根据文本的长度以及 Claude 编辑程度的不同,这些修改可能不足以让 Claude 的参与被检测出来。Claude 写得越多,需要做出的决定就越多,水印的存在空间也就越大。

代码呢? 

正如我们在上文所指出的,AI 水印利用的是那些无论选择哪个词效果都同样好的决策场景。而在需要精确输出的场合——即别无选择,如果换用其他措辞就会导致事实错误或代码失效——则不会应用水印。

例如,一旦模型写出了“2 + 2 =”,下一个 token 就有一个非常明确的最佳选择(如果模型在算这道加法,没有任何答案能与“4”同样好;如果它在谈论 George Orwell 的《一九八四》,则没有任何答案能与“5”同样好)。水印的“推动”在此处不会被施加。出于同样的原因,代码——在许多情况下必须精确——通常比其他某些形式的文本带有更少的水印。

话虽如此,在代码中某些特定词语或术语之间确实存在任意选择的场合,水印是可以使用的,例如代码中的注释。但根据定义,它对实际产出的代码的影响微乎其微。

这对用户意味着什么?

这会拖慢模型速度,或使其成本更高吗?

不会。水印对模型速度的影响微乎其微,而且由于它不会产生额外的 token,模型的服务和使用价格保持不变。

水印能被追溯到我或我的组织吗?

不能。水印只应用于 Claude 及其输出。它不会识别任何与个别用户有关的信息。无论是水印还是其密钥中,都没有任何内容能让任何人恢复关于用户、其组织或其与 Claude 对话的任何信息。

你们为什么要对 Claude 的输出添加水印?

我们实施水印是为了遵守《欧盟人工智能法案》。2026 年 7 月,Anthropic 与其他几家主要 AI 模型提供商以及总计约 190 个签署方共同签署了欧盟《人工智能生成内容透明度实践准则》。该准则要求 AI 系统提供商使用“标记”AI 生成文本的方法。我们在发布时即在全球范围内应用水印,因为我们目前还没有一种能按地区加以限定的持久可靠方法。不过,我们会继续评估不同的方案,并在有进展时分享最新消息。

其他问题

我如何检测某段文字是否由 Claude 撰写?

我们正在发布一个私密预览版的检测 API。目前它面向欧盟法律所要求的合格组织开放(例如监管机构、执法部门、媒体、事实核查机构、独立研究人员、教育机构以及欧盟民间社会组织)。同样有义务验证水印以确保自身遵守该法案的企业也可以使用。我们计划随着时间推移逐步扩大对检测 API 的访问权限。你可以在此登记对访问权限的兴趣。

那图片和其他文件呢?

当 Claude 生成一个受支持类型的文件(例如 .png、.jpg 或 .svg)时,它会在文件的元数据中附加一个内容凭证,形式为一段经加密签名的小注释,说明该文件是由 Claude 制作或处理的。这是一个名为 C2PA 的开放行业标准——相机制造商和照片编辑软件也使用同样的标准来记录图像的来源。任何支持 C2PA 的工具都能读取它;我们也将提供自己的工具,你可以拖入一个文件进行查验。

这个元数据标签与水印截然不同。文件中的任何内容都不会改变——它既不嵌入也不隐藏。与文字一样,该凭证只表明 Claude 参与了该文件的制作;它不包含任何身份识别信息。

难道有人不能只通过编辑文字来绕过水印吗?

在某种程度上,是的。轻微编辑可能无法完全去除水印;但如果每个词都被替换的完全重写则可以。当然,在后一种情况下,这段文字是否还能被称为 AI 生成是值得商榷的。

水印究竟能证明什么?

水印只能判断 Claude 可能在某个环节参与了该内容。它无法区分“Claude 写了这段内容”和“Claude 对这段内容进行了大量编辑”。

水印适用于翻译吗?

是的。由 Claude 生成的翻译带有水印,因为在这种情况下每个词都由 Claude 选定。

较早的 Claude 模型呢?

欧盟法律为 2026 年 8 月 2 日之前发布的 Anthropic 模型设置了一个过渡期,我们也正在为这些模型添加水印。这项工作将在未来几个月内逐步推出。

这与 Pangram 等 AI 检测软件有何不同?

AI 检测软件使用不同的方法,因为提供此类软件的公司没有我们的密钥。除其他外,这些服务会分析文本的多个方面,例如 AI 措辞中经常出现的微妙(或不那么微妙)的“破绽”。例如,AI 模型似乎偏爱“this isn't [X], it's [Y]”这样的句式,而且使用“quietly”一词的频率远超你的想象。识别这些模式与检测水印有着本质区别。

这会改变某个输出的所有者,或者其法律责任承担者吗?

不会。水印只能帮助检测该内容是否可能由 Claude 生成或处理。它不涉及所有权或作者身份,也不会改变用户在我们的条款下所享有的权利。只有当 Claude 参与了内容或文件的处理时,我们才会应用水印。


2026年9月1日更新:提供了关于水印检测 API 的最新信息。

来源:Anthropic:Newsroom · anthropic.com