跳到正文
10月9日 · 周五

全部论文

找到 5 篇
筛选5

攻击类型

越狱5提示注入25投毒与后门24模型篡改1提取与窃取2拒绝服务1

攻击技术

多轮渐进1推理链操控1潜伏触发1

模型自身风险

失准与价值偏离1

防御类型

监控与审计1

影响

有害内容3越权操作1数据与隐私泄露1

系统形态

模型与 API2AI Agent3

攻击面/入口

用户输入5工具返回2记忆写入2

层

提示层4模型层2应用层3训练与数据层2

系统组件

MCP 与技能2记忆3护栏与评审5监控器7推理链3权限与沙箱5微调与开源权重1视觉1音频1多模态2

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 532 篇还没打标签，不在筛选结果里。
攻击类型：越狱层：模型层层：应用层系统组件：记忆系统组件：推理链清除全部

另有 532 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2606.09084

    研究者提出 Context-Fractured Decomposition 攻击

    提出 CFD，跨会话拆解有害目标以绕过工具智能体本地监控

    arXiv
    2606.09084
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-4.1、GPT-5-nano、Claude-3.5-Sonnet 等 6 个
    摘要CFD 用无指令 artifact 把越狱拆到跨会话。

    CFD针对工具型 LLM 智能体：利用 artifact 来源不被跟踪这一部署失败模式，把有害目标拆开后延迟组合。

    深度解读完整解读
  2. 风险行为arXiv 2609.08186

    论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式

    揭示推理加深引发的对齐坍塌，用 Reasoning Trap 放大越狱

    arXiv
    2609.08186
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen3-8B、Qwen3-14B、Llama2-7B 等 8 个
    摘要更深推理提升题目准确率，同时提高扰动下的相对损失。

    作者研究扩展推理是否以对齐稳健性为代价，提出 ALR、RT 与 RRA。。

    深度解读完整解读
  3. 其他arXiv 2609.12413

    SoK 综述：智能体 AI 时代的越狱攻击、防御与实践考量

    综述智能体执行链路中的越狱攻击、防御与实践权衡

    arXiv
    2609.12413
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Qwen3.5-4B、Llama-3.1-8B-Instruct
    摘要SoK 将越狱重放到智能体流水线，并用两种模型检验回复层防御的边际与代价。

    Mia 等人把越狱安全从单轮回复扩展到智能体的规划、记忆、工具和智能体间通信，并问既有结论在更强原生对齐下是否还成立。

    深度解读完整解读
  4. 可解释性arXiv 2609.23587

    大型推理模型的效率与安全困境：量化与剪枝如何影响越狱鲁棒性

    分析量化、剪枝与 KV 缓存压缩对推理模型越狱鲁棒性的影响

    arXiv
    2609.23587
    发表
    层
    模型层
    场景
    模型与 API
    测试
    QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-8B 等 4 个
    摘要效率压缩常使 LRM 越狱 HR 下降，作者将其归因于推理退化而非对齐增强。

    作者分析量化、剪枝和 KV 缓存压缩如何同时改变 LRM 的显存、推理和越狱脆弱性。。

    深度解读完整解读
已经到底了