OpenAI 将在欧盟为 ChatGPT 和 Codex 生成文本添加水印

OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本添加不可见水印，以遵守 8 月 2 日生效的 EU AI Act 透明度规则。水印将在未来几周面向欧盟所有套餐的合格用户推出，全球 API 开发者即日起可为部分模型开启，默认关闭，暂不设为全球默认。水印通过微调模型用词形成可被检测器识别的模式，随文本复制粘贴保留，OpenAI 称其不识别用户身份，也未观察到模型性能明显变化。OpenAI 同时发布与宾夕法尼亚大学、耶鲁大学研究者合著的技术报告 textGrain，介绍用密钥对下一个词预测排序的方法。测试显示，替换 10% 词语为同义词会使检测率从约 92% 降至 66%，短文本、数学答案和翻译文本更难检测，因此检测器初期仅向获批研究者和专家机构开放。