跳到正文
10月8日 · 周四

全部论文

找到 4 篇
筛选2

攻击类型

越狱4提示注入15投毒与后门4提取与窃取2检测规避4

模型自身风险

拒答失当1

防御类型

模型加固1检测与过滤2权限与审批1

影响

有害内容2越权操作2

系统形态

模型与 API2AI Agent2

攻击面/入口

用户输入4工具返回1图像与音视频1

层

提示层1应用层2训练与数据层1

系统组件

护栏与评审2推理链1权限与沙箱1视觉1多模态1

被测模型厂商

Qwen（阿里）11Meta7其他11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 973 篇还没打标签，不在筛选结果里。
攻击类型：越狱被测模型厂商：OpenAI清除全部

另有 973 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.36562

    ThinkingGuard：通过逐步风险归因解码多模态大语言模型中的隐式危害

    构建 TriggerBench 并训练 ThinkingGuard，检测图文隐式风险

    arXiv
    2609.36562
    发表
    层
    提示层
    场景
    模型与 API
    测试
    GPT-5.1、OpenAI Moderation API、ThinkingGuard（Qwen3-VL-8B-Instruct） 等 9 个
    摘要TriggerBench 隔离触发条件，ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。

    这篇工作研究多模态隐式风险检测：图文各自良性，风险只在关键元素与触发元素交互时出现。

    深度解读完整解读
  2. 防御arXiv 2601.10156

    ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用

    提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用

    arXiv
    2601.10156
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-4o、GPT-4o-mini、Qwen3-8B 等 10 个
    摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。

    ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。

    深度解读完整解读
  3. 防御arXiv 2608.13304

    WIFA：按意图分组监督缓解包装式越狱与过度拒答

    提出 WIFA 意图组监督微调，缓解包装式越狱与过度拒答

    arXiv
    2608.13304
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GPT-4o、Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct 等 4 个
    摘要WIFA 用匹配意图组做数据层，WIFA-Boost 偏高安全，A-GCRT 在 Qwen 上把过拒降到基座以下。

    WIFA 是一种自动意图组数据构造，用来让安全微调拒绝有害意图而不是拒绝表面包装。WIFA-Boost 与 A-GCRT 在同一数据层上选取不同的安全–过拒工作点。

    深度解读完整解读
  4. 防御arXiv 2609.34518

    SEAD 论文提出工具型 Agent 的状态视角攻击与防御方法 DART 与 SAGE

    提出工具智能体的状态攻击 DART 与预执行防御 SAGE

    arXiv
    2609.34518
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-5.6 Luna、GPT-5.6 Terra、Gemini 3.8 Flash 等 8 个

    摘要论文提出状态控制框架 SEAD、攻击 DART 与防御 SAGE，实验显示执行反馈与环境探测在攻防交互中具有关键作用。

    深度解读完整解读
已经到底了