10月8日 · 周四

红队 · 论文

找到 5 篇

筛选2

攻击类型

提示注入3 投毒与后门2

攻击技术

跨模态载荷1 潜伏触发1

影响

越权操作4 数据与隐私泄露1

系统形态

AI Agent5 编程 Agent3 网页与电脑操作1

攻击面/入口

用户输入7 网页与界面1 文档与消息2 工具返回4 工具与技能描述6 代码仓库与依赖5 检索语料1 记忆写入3 Agent 间消息2 图像与音视频2 分发渠道2

层

应用层5

系统组件

MCP 与技能1 记忆2 权限与沙箱1 视觉1 音频1 多模态1

被测模型厂商

Anthropic5 其他5

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。

攻击面/入口：文档与消息攻击面/入口：记忆写入话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2610.08871 · 10月6日
CredLeak-Bench
提出 CredLeak-Bench，评测智能体在钓鱼场景下的凭据泄露
网页与电脑操作测试Claude Sonnet 5、Claude Opus 4.8、Gemini 3.6 Flash 等 7 个应用层
完整解读
评测与基准arXiv:2610.07639 · 10月6日
HarnessSecurity-Bench 横向评测六款编码智能体框架的安全机制
提出 HarnessSecurity-Bench，横向评测编码智能体框架的安全机制
编程 Agent测试GLM-5.2、Qwen3.8-27B、Claude Opus 4.8 等 4 个应用层
完整解读
评测与基准arXiv:2609.09404 · 9月9日
MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
AI Agent测试Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个应用层
摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。
完整解读
评测与基准arXiv:2608.09476 · 8月10日
ActBench：面向协作智能体行为安全的自演化基准
构建 ActBench 评测协作智能体多步执行中的操作级行为安全
编程 Agent测试Claude-Opus-4.8、Claude-Sonnet-4.6、GPT-5.5 等 15 个应用层
摘要ActBench 通过自演化搜索与双证据重构评测轨迹行为安全，揭示基础模型决策差异主导了协同智能体的操作风险。
完整解读
评测与基准arXiv:2608.12851 · 8月13日
研究者提出 SkillMisevo-Bench，量化自改进 Agent 的技能误演化风险
构建 SKILLMISEVO-BENCH，评测自进化编程智能体的技能误演化风险
编程 Agent测试Claude Code、Codex、Hermes 等 6 个应用层
完整解读

已经到底了

红队 · 论文

攻击类型

攻击技术

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

CredLeak-Bench

HarnessSecurity-Bench 横向评测六款编码智能体框架的安全机制

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

ActBench：面向协作智能体行为安全的自演化基准

研究者提出 SkillMisevo-Bench，量化自改进 Agent 的技能误演化风险