OpenAI 将在欧盟默认给 ChatGPT 输出加水印

OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本添加水印，其他地区也提供该功能但默认关闭，欧盟的举措是为遵守 8 月生效的欧盟 AI Act，该法要求以其他工具可检测的方式标记 AI 生成内容。OpenAI 的水印方法为专有技术，名为 textGrain，并已发布技术论文说明其原理，其思路与其他 LLM 水印工具类似，即在用词中植入人类读者难以察觉、也不明显影响输出质量的模式，持有密钥者可用专用检测器识别。OpenAI 表示将向有限数量的研究者和机构开放检测器访问权限，其他方可通过申请审批流程逐步加入。报道同时指出，SynthID 和 C2PA 等现有标准对具备基本知识的人来说相对容易被绕过。