← 返回 Sardaana AI
OpenAI 将在欧盟为 ChatGPT 和 Codex 文本加入隐形水印以遵守《人工智能法》
OpenAI 表示,未来几周将向欧盟的 ChatGPT 和 Codex 用户推出隐形水印;全球 API 开发者现在即可启用。公司承认,轻度编辑就会削弱检测效果。
据 TechCrunch 报道,OpenAI 于 2026 年 10 月 5 日在博客中宣布,将为 欧盟 境内由 ChatGPT 和 Codex 生成的文本添加 隐形水印。此举旨在遵守 欧盟《人工智能法》 自 8 月 2 日 起生效的透明度规定,即 AI 生成内容必须以机器可识别的方式加以标注。
原理
- 水印不是可见符号。模型借助密钥微妙地影响用词选择,留下统计规律,检测器仅凭文本即可识别。由于水印存在于词语之中,复制粘贴后依然保留。
- OpenAI 发布了该方法(名为 textGrain)的技术报告,由其与宾夕法尼亚大学和耶鲁大学的研究人员共同撰写。
- OpenAI 称,水印不会识别用户身份,开启后模型性能没有明显变化。
推出安排
- 未来几周面向所有套餐的符合条件的 ChatGPT 和 Codex 用户推出,仅限欧盟,不会在全球默认开启。
- 任何地区的 API 开发者今天起可为部分模型启用,默认关闭。
- 检测工具初期只向经批准的研究人员和专业机构开放。
局限(据 OpenAI 自述)
在一项测试中,将 10% 的词 替换为同义词,检测率从约 92% 降至 66%。短文本、数学答案和翻译文本更难检测。OpenAI 提醒,没有水印”并不能证明是人类所写”。
背景
两个月前,Anthropic 表示将在全球范围内为 Claude 文本加水印,引发部分用户批评。《华尔街日报》2024 年曾报道,OpenAI 早已开发出文本水印但暂缓推出,部分原因是担心用户转向竞争对手。