跳到正文
原文
Ars Technica AI· Ashley Belanger·本站收录· 原文发表精选关注度39

研究者称 OpenAI 和 Google 新推图像模型易被诱骗生成裸照

OpenAI, Google pushing new AI models easily tricked into making nudes, researchers say

AI 导读

安全研究机构 White Circle 的预印本称,其新攻击方法 RISE 仅用现成工具和 API 调用,就可在约 13% 的请求中绕过 DALL·E 3、Google Nano Banana 2 和 GPT-Image-2 的护栏生成色情内容。RISE 由生成越狱的攻击模型(从 Hugging Face 下载的 Qwen 模型)与判定输出是否为违禁内容的裁判模型 Gemini 3.8 Flash 组成。White Circle 称,用同一方法测试 OpenAI 和 Google 新发布的 ChatGPT Images 2.5 与 Nano Banana 2.1,两者比前代更容易被攻破;两家公司未回应 Ars 的置评请求。该机构计划在 GitHub 开源整套攻击管线,并于 11 月的 NeurIPS 2026 公布研究。

推荐理由

White Circle 用公开模型搭出的 RISE 攻击管线显示,图像模型的护栏仍可被非专业手段绕过,为第三方评测提供可参考的方法。

相关论文
阅读原文arstechnica.com