AI资讯industry
OpenAI 公布 EU AI Act 下的文本溯源方案,推出 textGrain 文本水印
核心亮点
OpenAI 拿出了一套应对欧盟《AI 法案》(EU AI Act)的文本溯源方案,主角是一个叫 textGrain 的水印技术。它不改变你看到的文字,却在模型是怎么选词的过程里埋下了一串看不见的统计信号。
具体能力与事件经过
和图像水印不同,textGrain 作用在生成这一步:模型每选一个词,都会按特定分布做微妙的偏好偏移,让输出在统计上带上可检测的指纹,但肉眼和语义完全无感。接口(API)客户从即日起,可以对部分模型选择性开启这项水印。
面向普通用户的铺开也在路上:未来数周,欧盟地区的 ChatGPT 与 Codex 输出会逐步带上这种隐形水印。也就是说,一段文字即便被复制、改写、翻译,只要保留足够原文,检测器仍能大概率认出它出自 OpenAI 模型。
技术细节
关键在选择性和可逆可控。OpenAI 强调水印是可选开关,企业可按合规需要开启;检测器目前不公开发布,只面向获批的研究者与专家机构,目的是防止对抗性剥离,也避免水印模式被反向研究。
与竞品对比
相比 Google 的 SynthID 文本方案或早期词汇同义替换类水印,textGrain 走的是统计分布路线,对流畅度影响更小,也更难被简单编辑抹掉。不过代价是检测需要原模型方配合,跨厂商互认仍是难题。
行业影响与适用场景
对监管:欧盟的溯源条款终于有了可落地的技术抓手。对企业:在欧盟上线的生成式产品,现在多了一个合规选项。对开发者:水印开启后输出可被追溯,意味着 AI 代写在强监管场景下的可审计性提升,但也带来轻微延迟与成本。