跳到正文
10月8日 · 周四

全部论文

找到 2 篇
筛选1

攻击类型

越狱1提示注入1投毒与后门1

防御类型

模型加固3推理时干预2检测与过滤2指令与数据隔离1权限与审批1监控与审计1

影响

数据与隐私泄露1输出被操纵1

系统形态

模型与 API1AI Agent1编程 Agent1

攻击面/入口

用户输入1工具与技能描述1分发渠道1

层

模型层1应用层1

系统组件

MCP 与技能1护栏与评审1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1057 篇还没打标签，不在筛选结果里。
防御类型：检测与过滤清除全部

另有 1057 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv:2610.06001 ·

    AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击

    提出 AgentSpy，在系统调用层观测编程智能体并检测技能注入攻击

    编程 Agent测试gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个应用层
    摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。

    本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。

    完整解读
  2. 分析与理论arXiv:2609.36477 ·

    研究发现护栏模型在基座模型不确定处过度自信

    诊断护栏相对基座在对抗提示上的置信失校

    模型与 API测试Llama-Guard 7B、Llama-Guard-2 8B、Llama-Guard-3 8B 等 10 个模型层
    摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。

    诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。

    完整解读
已经到底了