10月9日 · 周五

全部论文

找到 2 篇

筛选5

攻击类型

防御类型

指令与数据隔离1 权限与审批1

影响

系统形态

AI Agent14 编程 Agent1 网页与电脑操作1 多智能体1

攻击面/入口

用户输入2 网页与界面1 文档与消息1 工具返回2 工具与技能描述1 代码仓库与依赖3 检索语料1 记忆写入3 Agent 间消息5

层

系统组件

MCP 与技能18 记忆4 RAG1 护栏与评审2 监控器7 权限与沙箱2 视觉1 多模态1

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 534 篇还没打标签，不在筛选结果里。

系统形态：编程 Agent 系统形态：多智能体攻击面/入口：文档与消息攻击面/入口：工具与技能描述系统组件：权限与沙箱清除全部

另有 534 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv 2610.0763910月6日
HarnessSecurity-Bench 横向评测六款编码智能体框架的安全机制
提出 HARNESSSECURITY-BENCH 评测编码智能体框架的安全机制
arXiv
2610.07639
发表
10月6日
层
应用层
场景
编程 Agent
- 攻击提示注入
- 组件权限与沙箱
深度解读完整解读
防御arXiv 2609.229499月19日
多智能体系统提示注入威胁模型与防御架构：14 类攻击向量与四类防御
提出多智能体提示注入威胁模型与四层架构防御
arXiv
2609.22949
发表
9月19日
层
应用层
场景
多智能体
被测模型
GPT-4o (2024-08-06)、Claude 3.5 Sonnet、Llama 3 70B-Instruct
- 防御指令与数据隔离
- 攻击提示注入
- 组件权限与沙箱
深度解读完整解读

已经到底了