跳到正文
10月8日 · 周四

全部论文

找到 7 篇
筛选2

攻击类型

越狱4提示注入3投毒与后门3模型篡改1提取与窃取1检测规避1恶意使用1

防御类型

检测与过滤2

影响

有害内容2数据与隐私泄露1输出被操纵2可用性与可靠性1

系统形态

模型与 API5LLM 应用1AI Agent1编程 Agent1

攻击面/入口

用户输入4工具与技能描述1训练数据2分发渠道1

层

提示层1模型层2应用层2训练与数据层2

系统组件

MCP 与技能1护栏与评审1

被测模型厂商

Google5其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 749 篇还没打标签，不在筛选结果里。
攻击类型：越狱攻击类型：投毒与后门清除全部

另有 749 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.06001

    AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击

    提出 AgentSpy，在系统调用层观测编程智能体并检测技能注入攻击

    arXiv
    2610.06001
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个
    摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。

    本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。

    深度解读完整解读
  2. 分析与理论arXiv 2610.02886

    研究揭示无触发投毒审计缺口：事实答对不等于决策正确

    揭示无触发虚假训练下事实回答与下游决策的审计差距

    arXiv
    2610.02886
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-3B 等 9 个
    摘要作者发现无触发词虚假训练下事实回答与下游决策存在脱节，直接审计与事实纠错均无法保证决策正确。

    论文是一项针对语言模型在无触发词虚假信息训练下行为表现的实证分析研究。

    深度解读完整解读
  4. 分析与理论arXiv 2609.36477

    研究发现护栏模型在基座模型不确定处过度自信

    诊断护栏相对基座在对抗提示上的置信失校

    arXiv
    2609.36477
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Llama-Guard 7B、Llama-Guard-2 8B、Llama-Guard-3 8B 等 10 个
    摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。

    诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。

    深度解读完整解读
  5. 分析与理论arXiv 2605.17173

    研究提出 IRT 框架拆解大模型跨语言安全护栏退化

    提出多组 IRT 框架拆解跨语言安全护栏退化原因

    arXiv
    2605.17173
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gpt-4.1-mini、gpt-4o-mini、gpt-4.1-nano 等 15 个
    摘要多组 IRT 把多语安全失败拆成能力、语言难度和题目特异差距，并在闭源配置上估计这些因子。

    Zhang、Patel、Truong 与 Koyejo 用多组项目反应理论，解释安全护栏为何随语言变化，而不是只报告一个 JSR。

    深度解读完整解读
  6. 分析与理论arXiv 2609.32288

    预训练数据投毒的可解理论：依赖极限顺序的缩放指数

    证明预训练投毒的清洁超额风险指数随极限顺序变化

    arXiv
    2609.32288
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    OLMo-style models
    摘要投毒清洁超额风险的幂指数取决于先固定宽高比还是先取充足数据极限。

    可解的预训练数据投毒理论：清洁超额风险的缩放指数随极限顺序改变。。

    深度解读完整解读
  7. 分析与理论arXiv 2609.32116

    研究提出 Best-of-N 越狱的物理势垒模型，挑战攻击成功率幂律规律

    用物理陷阱模型描述 Best-of-N 越狱的攻击面规律

    arXiv
    2609.32116
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Qwen2.5-7B (base)、Llama-3.1-8B-Instruct、Qwen2.5-3B-Instruct 等 5 个
    摘要四参数势垒模型拟合 BoN 的两预算面，并把指数交叉归因于数据集有限。

    Biroli 用一个玻璃陷阱式的微观模型，把 Best-of-N 越狱写成熵瓶颈加能量鞍点，并用四个数描述 (N, M) 攻击面及温度依赖。。

    深度解读完整解读
已经到底了