10月8日 · 周四

红队 · 论文

找到 2 篇

筛选

攻击类型

提示注入1 投毒与后门1

防御类型

检测与过滤1

影响

数据与隐私泄露1

系统形态

AI Agent1 编程 Agent1

攻击面/入口

工具与技能描述1 分发渠道1

层

系统组件

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。

话题：红队清除全部

另有 77 篇还没有研究类型，暂不在这些分类里。

分析与理论arXiv:2610.06001 · 10月5日
AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击
提出 AgentSpy，在系统调用层观测编程智能体并检测技能注入攻击
编程 Agent测试gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个应用层
摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。
本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。
完整解读
分析/可解释性arXiv:2609.32116 · 9月26日
研究提出 Best-of-N 越狱的物理势垒模型，挑战攻击成功率幂律规律
测试Qwen2.5-7B (base)、Llama-3.1-8B-Instruct、Qwen2.5-3B-Instruct 等 5 个
摘要四参数势垒模型拟合 BoN 的两预算面，并把指数交叉归因于数据集有限。
Biroli 用一个玻璃陷阱式的微观模型，把 Best-of-N 越狱写成熵瓶颈加能量鞍点，并用四个数描述 (N, M) 攻击面及温度依赖。。
完整解读

已经到底了