跳到正文
10月8日 · 周四

全部论文

找到 5 篇
筛选1

攻击类型

越狱3检测规避1

攻击技术

编码与混淆1

防御类型

检测与过滤1

影响

有害内容3输出被操纵2

系统形态

模型与 API5

攻击面/入口

用户输入4图像与音视频2

层

提示层5模型层16应用层69训练与数据层3

系统组件

护栏与评审4推理链1视觉2多模态2

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1049 篇还没打标签，不在筛选结果里。
层：提示层清除全部

另有 1049 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 评测与基准arXiv:2609.05843 ·

    SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

    模型与 API测试GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等 12 个提示层
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报，全文扰动最重。

    SinoGlyphBench是一个配对诊断基准，用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    完整解读
  4. 防御arXiv:2609.36562 ·

    ThinkingGuard：通过逐步风险归因解码多模态大语言模型中的隐式危害

    构建 TriggerBench 并训练 ThinkingGuard，检测图文隐式风险

    模型与 API测试ThinkingGuard（Qwen3-VL-8B-Instruct）、GPT-5.1、Claude-Sonnet-4-6 等 9 个提示层
    摘要TriggerBench 隔离触发条件，ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。

    这篇工作研究多模态隐式风险检测：图文各自良性，风险只在关键元素与触发元素交互时出现。

    完整解读
  5. 评测与基准arXiv:2608.03070 ·

    FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0

    建立越狱原语分类与双重危害基准，评测模型抵御常见越狱的能力

    模型与 API测试Claude Fable 5、Claude Opus 4.8、GPT-5.6 Sol 等 8 个提示层
    摘要论文系统评测了前沿模型对已知静态越狱的防御能力，揭示了厂商间防护鲁棒性的巨大分化。

    本研究针对前沿 AI 大模型在 CBRNE 与网络高危滥用领域的安全防护，提出了 FAR.AI 最低安全标准（Minimal Standard v1.0）及配套评测基准，系统量化了当前主流模型的防护鲁棒性。

    完整解读
已经到底了