Gray Swan 发起视觉漏洞挑战赛,聚焦多模态越狱
Gray Swan Announces the Visual Vulnerabilities Challenge
AI 导读
Gray Swan AI 推出 Visual Vulnerabilities 挑战赛,聚焦多模态越狱,要求参赛者用一张或多张图片作为提示词的一部分,绕过 AI 模型的安全护栏与内容过滤,诱导其产生被禁止的行为。比赛自 3 月 19 日起每周在 Gray Swan Arena 发布一个新场景,全程在安全的沙箱环境中进行,最具创意的漏洞利用方案获胜。