跳到正文
10月8日 · 周四

全部论文

找到 6 篇
筛选2

攻击类型

越狱3提示注入2投毒与后门1检测规避1

攻击技术

编码与混淆1潜伏触发1

模型自身风险

失准与价值偏离1

防御类型

检测与过滤2

影响

有害内容2越权操作3输出被操纵1

系统形态

模型与 API3AI Agent3编程 Agent2

攻击面/入口

用户输入6网页与界面3文档与消息1工具返回2代码仓库与依赖1检索语料1记忆写入2图像与音视频3

层

提示层3应用层3

系统组件

记忆1护栏与评审3推理链1视觉2多模态2

被测模型厂商

OpenAI18Qwen（阿里）17Anthropic13Google13Meta12DeepSeek11Kimi（月之暗面）9Mistral6智谱 GLM5其他10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 981 篇还没打标签，不在筛选结果里。
攻击面/入口：用户输入被测模型厂商：其他清除全部

另有 981 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv 2609.05843

    SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

    arXiv
    2609.05843
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Intern-S2 Preview、GPT-5.4 mini、GPT-5.5 等 12 个
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报，全文扰动最重。

    SinoGlyphBench是一个配对诊断基准，用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    深度解读完整解读
  4. 评测与基准arXiv 2609.36562

    ThinkingGuard：通过逐步风险归因解码多模态大语言模型中的隐式危害

    构建 TriggerBench 并训练 ThinkingGuard，检测图文隐式风险

    arXiv
    2609.36562
    发表
    层
    提示层
    场景
    模型与 API
    测试
    ShieldVLM、GuardReasoner-VL、HiddenDetect 等 9 个
    摘要TriggerBench 隔离触发条件，ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。

    这篇工作研究多模态隐式风险检测：图文各自良性，风险只在关键元素与触发元素交互时出现。

    深度解读完整解读
  5. 评测与基准arXiv 2601.10156

    ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用

    提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用

    arXiv
    2601.10156
    发表
    层
    应用层
    场景
    AI Agent
    测试
    ShieldAgent-THU、Safiron、TS-Guard 等 10 个
    摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。

    ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。

    深度解读完整解读
  6. 评测与基准arXiv 2609.32616

    Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH，评测智能体遭虚假指责后是否破坏已正确的工作

    arXiv
    2609.32616
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Hy3、Claude-Sonnet-5、Claude-Opus-5 等 14 个

    摘要论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。

    深度解读完整解读
已经到底了