跳到正文
原文
BleepingComputer· Mayank Parmar·本站收录 · 原文发表

OpenAI 将在欧盟为 ChatGPT 和 Codex 文本加入不可见水印

OpenAI is adding invisible watermarks to ChatGPT and Codex text in the EU

AI 导读

OpenAI 准备在未来几周为欧盟地区符合条件的 ChatGPT 和 Codex 文本输出加入不可见水印,该水印在阅读或复制时不可见,通过 textGrain 技术微调模型用词形成可检测的统计模式。全球 API 开发者即日起可对支持的模型选择开启水印,默认关闭;水印检测器同时开放申请,初期仅限获批的研究者和专家机构。OpenAI 自己的测试显示水印容易被编辑破坏,在 400 token 段落中替换 10% 同义词使检测率从约 92% 降至 66%,替换 25% 降至 17%;在 1% 误报率下,200 token 心理学回答的检测率约 80%,400 token 时约 95%,数学等用词自由度低的主题检测更差。OpenAI 提醒,未检测到水印不能证明文本由人类撰写,检测到水印也不会透露生成者身份、账号、提示词或对话内容,且无法判断最终作品有多少由人类撰写或编辑。

阅读原文bleepingcomputer.com