8月15日,Anthropic正式对外公布了Claude聊天机器人的文本水印(Watermarking)技术细节。这项功能旨在让外部检测方能够识别出由Claude生成的文本,以满足欧盟AI法案(EU AI Act)透明度准则的要求。此前,多家媒体曾报道部分用户因此取消订阅,但Anthropic在官方博客中强调,水印不会影响Claude的输出质量,对普通读者完全不可感知。
水印如何工作
Anthropic在博客文章中解释了其水印机制的核心原理:当Claude在”低风险选择”场景下进行表述——比如在”overcast”和”grey”两个描述天气的词汇之间做选择时——模型可以在答复中生成一种”对读者不可感知,但持有对应密钥的检测者可识别”的隐藏模式。
Anthropic明确表示:”水印不会影响Claude的输出质量。对读者而言,带水印的回复与不带水印的回复无法区分。”
该水印方案采用的是Google DeepMind团队于2024年发布的SynthID-Text技术。Anthropic计划向外提供一个水印检测API,允许第三方开发者和平台接入验证。
值得注意的是,水印技术与市面上的AI内容检测工具(如Pangram等公司推出的产品)有本质区别。Anthropic指出,那些工具依赖的是分析写作”习惯”——比如句子结构特征”his isn’t [X], it’s [Y]”——来判断是否由AI生成,”这种做法与检查水印有根本不同”。
编辑能否去除水印
这是用户最关心的问题之一。Anthropic的答案是:可以去除,但程度取决于编辑深度。
- 轻度编辑:大概率无法完全去除水印,文本中仍保留可检测信号。
- 完全重写:即每个词都被替换,水印将完全消失。Anthropic同时指出:”在这种情况下,该文本是否还能被称为AI生成,值得商榷。”
对于仅由Claude进行校对或轻微修改的文本,水印是否仍有效取决于”文本长度以及Claude编辑的程度”。如果仅做了轻微润色,”几乎所有文字”都是由人类作者撰写,”水印几乎没有可依附的内容”。
对代码的影响有限
Anthropic在博客中也专门解答了水印对代码输出的影响。由于代码需要保证功能性,模型在生成代码时”没有在多种同等有效选项间自由选择的自由度”——因此代码中的水印密度会比普通文本低。
不过Anthropic也承认,在代码的注释部分(即任意选择特定词汇或术语的地方),水印仍可发挥作用。”但这一定义上对实际生成的代码影响可以忽略不计。”
行业背景与合规压力
Anthropic透露,Claude不会是唯一生成带水印文本的AI助手,”其他主要模型开发商已签署同一行为准则,并将实施各自的水印方案”。这意味着水印可能将成为主流AI厂商的标配合规动作。
欧盟AI法案的透明度准则(Transparency Code)要求AI公司必须使用户能够识别AI生成的内容,水印被视为实现这一目标的技术路径之一。尽管部分用户对这一政策表示强烈不满(Reddit上有人称之为”针对无辜用户的阴谋”,X平台上”数十名”用户声称已取消Claude订阅),Anthropic仍选择按法规要求推进。
技术意义
SynthID-Text水印方案的核心优势在于其隐蔽性和可检测性的平衡:普通用户阅读时完全无法察觉异常,但持有检测密钥的机构可以高置信度地判定内容来源。这一思路与数字媒体隐写术(Steganography)有异曲同工之妙,但专门针对大语言模型的概率分布特性设计。
对内容平台、学术机构和监管部门而言,可靠的AI文本水印意味着更便捷的内容溯源能力。而对普通用户来说,除非刻意删除或重写,否则通过AI辅助产出的内容将不再”无迹可寻”。
Anthropic表示,水印检测API将于近期向开发者开放,具体接入方式将在官方文档中公布。