Anthropic准备给受支持的新模型加入文本水印。它拿欧盟《AI法案》的透明度要求解释这项安排。听起来很合规,做法却相当恶劣,因为水印进入的往往不只是一段机器独立生成的文字,它也可能进入一个人已经完成的作品。
作者写好文章,观点是自己的,材料是自己的,结构也是自己安排的。他觉得几处表达不够顺,让Claude润色一下。Claude重新输出文本,水印随之混进文章。到了检测环节,机器只能读出Claude留下的统计信号。它读不出作者花了多少时间,更不知道Claude只改过哪些句子。
文章从这一刻起就被污染了。
这里的污染有很具体的含义。版权在法律上可能仍然属于作者,可作品内部已经附着了一层机器来源嫌疑。水印无法交代人和Claude各自完成了什么,也无法衡量Claude的参与程度。它只提供一个十分醒目的结果:检测到了Claude。
对大多数读者来说,这个结果已经足够形成判断。很少有人会继续追查Claude只校对了几个病句,还是从头写了整篇文章。学校、出版社、雇主或者内容平台看到水印,也很可能先怀疑作者。随后需要解释的人是作者。他要找出原稿、笔记和版本记录,证明自己的思想早已存在,证明Claude只是帮他整理语言。
一项原本清楚的版权,就这样被塞进了说不清的人机关系里。
Anthropic当然没有直接拿走版权。它根本用不着拿走。它只要在作品里留下自己的信号,就能让外界开始怀疑作品的作者归属。版权证书或服务条款仍然可以写着用户拥有输出,现实中的作者信誉却已经受到了损害。权利还在,权利的可信度变脏了。
这正是“版权污染”与版权夺取的区别。夺取会改变权利归属,污染会让权利变得含混,让作者承担额外的证明责任。前者容易识别,也容易反对。后者藏在一段貌似中立的技术信号里,造成的后果却会跟着作品流通。
更荒唐的是,Anthropic自己承认,检测到Claude标记无法证明完整来源。Claude可能只参与了校对、翻译、摘要或者文件转换,原始思想和文字完全可能来自用户。Anthropic水印说明
这份免责声明已经把问题说穿了。连水印的制造者都知道它无法证明作者身份,却仍然把这个极易被当成作者证明的信号植入文本。等到外界发生误判,Anthropic再告诉作者,技术上不应该这样理解。
作者要为现实后果负责,Anthropic只对技术定义负责。很方便。
欧盟《AI法案》也没有要求这种粗暴做法。第50条为标准编辑以及不实质改变输入和原意的操作留下了例外。欧盟委员会相关说明 如果Anthropic仍让校对、轻微润色之类的输出携带同类水印,那属于公司主动扩大标记范围。欧盟要求识别AI生成内容,没有授权Anthropic把一个含义不清的机器信号掺进人类作者的作品,再让作者自己收拾残局。
Anthropic若真的要履行透明度义务,就应当把水印限制在模型实质生成的内容中。一次普通校对不能给全文留下机器创作嫌疑。检测结果也必须说明Claude做了什么,而不能只扔出一个有水印的结论。
否则,所谓合规只是在拿作者的版权当试纸。Anthropic把自己的机器信号滴上去,等颜色发生变化,再让作者向全世界解释这篇文章究竟是谁写的。
这种做法不道德。
合规不能靠污染别人的版权来完成。
跳到正文