10月9日 · 周五

全部论文

找到 1 篇

筛选5

攻击类型

越狱11 提示注入63 投毒与后门11 模型篡改0 检测规避1 拒绝服务1 恶意使用1

模型自身风险

欺骗与谋划1

影响

系统形态

AI Agent1 多智能体1

攻击面/入口

用户输入10 网页与界面1 文档与消息1 工具返回1 代码仓库与依赖1 Agent 间消息1 图像与音视频1 训练数据0

层

模型层1 应用层1 训练与数据层8

系统组件

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 426 篇还没打标签，不在筛选结果里。

攻击类型：模型篡改攻击类型：恶意使用攻击面/入口：工具返回攻击面/入口：训练数据层：应用层清除全部

另有 426 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv 2609.331029月27日
ORBIT：基于 UK AISI Inspect 的多智能体安全评测框架
提出 ORBIT 框架，评测多智能体系统中的攻击、合谋与多类防御
arXiv
2609.33102
发表
9月27日
层
应用层
场景
多智能体
- 攻击提示注入
- 风险欺骗与谋划
- 组件监控器
摘要ORBIT 用六层配置比较多智能体防御，逐动作监控不迁移到合谋。
深度解读完整解读

已经到底了