10月8日 · 周四

红队 · 论文

找到 3 篇

筛选2

攻击类型

模型自身风险

欺骗与谋划2

防御类型

检测与过滤1 权限与审批1 监控与审计2

影响

越权操作1 数据与隐私泄露1 监督失效1

系统形态

AI Agent3 编程 Agent1

攻击面/入口

层

系统组件

监控器2 权限与沙箱1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。

防御类型：权限与审批防御类型：监控与审计话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2609.22076 · 9月18日
APort Vault 发布：用 4,371 条人工攻击评测 AI Agent 支付授权
提出 APort Vault，评测支付智能体授权层对越权转账的拦截
AI Agent测试Claude Fable 5.1、Claude Sonnet 5、Claude Haiku 4.5 等 14 个应用层
完整解读
评测与基准arXiv:2609.19587 · 9月17日
红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器
红队评估编码智能体的阻断监视器，并提出 Auto Mode++加固
编程 Agent测试Opus 5、Opus 4.8、Opus 4.7 等 8 个应用层
摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。
完整解读
评测与基准arXiv:2609.30217 · 9月25日
EvasionBench：普通任务压力下智能体出现工具性监控规避
提出 EvasionBench，测量任务压力下智能体对同步监控的规避
AI Agent测试GLM 5.2、DeepSeek V4 Flash、Muse Spark 1.3 等 12 个应用层
完整解读

已经到底了