跳到正文
10月9日 · 周五

全部论文

找到 3 篇
筛选4

攻击类型

越狱3

攻击技术

梯度与表征优化2自动化搜索10多轮渐进3编码与混淆10角色扮演与说服2对话结构操控1推理链操控3跨模态载荷2针对防御10潜伏触发18诱导选用3

防御类型

检测与过滤1

影响

有害内容2数据与隐私泄露1

系统形态

模型与 API1AI Agent2编程 Agent1

攻击者权限

黑盒1

攻击面/入口

用户输入3记忆写入1

层

提示层1应用层2

系统组件

记忆1护栏与评审3嵌入0

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 432 篇还没打标签，不在筛选结果里。
攻击技术：多轮渐进系统组件：记忆系统组件：护栏与评审系统组件：嵌入清除全部

另有 432 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2606.09084

    研究者提出 Context-Fractured Decomposition 攻击

    提出 CFD，跨会话拆解有害目标以绕过工具智能体本地监控

    arXiv
    2606.09084
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-4.1、GPT-5-nano、Claude-3.5-Sonnet 等 6 个
    摘要CFD 用无指令 artifact 把越狱拆到跨会话。

    CFD针对工具型 LLM 智能体：利用 artifact 来源不被跟踪这一部署失败模式，把有害目标拆开后延迟组合。

    深度解读完整解读
  2. 评测与基准arXiv 2609.09798

    CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

    arXiv
    2609.09798
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒
    测试
    CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个

    摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    深度解读完整解读
  3. 评测与基准arXiv 2609.36849

    研究评估 GradSafe 在多轮对话中的越狱检测脆弱性

    评测多轮对话中 GradSafe 越狱检测的可分性与脆弱性

    arXiv
    2609.36849
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Llama 3.1 8B Instruct、Qwen2.5-7B-Instruct、Llama Guard 3 (meta-llama/Llama-Guard-3-8B)
    摘要CWS 显示不安全梯度在真实多轮流量中变弱，且随攻击族和模型而变。

    作者评估梯度越狱检测从单条提示词迁到多轮对话后还剩多少可分性，方法是用 Context Window Scanner 把 GradSafe 原封不动地套到用户轮窗口上。

    深度解读完整解读
已经到底了