10月8日 · 周四

Agent 安全 · 论文

找到 3 篇

筛选2

攻击类型

越狱2 提示注入2

攻击技术

自动化搜索4 多轮渐进1 编码与混淆4 跨模态载荷3 针对防御1 潜伏触发6 诱导选用2

防御类型

监控与审计1

影响

系统形态

AI Agent3 多智能体1

攻击者权限

攻击面/入口

用户输入2 工具返回2 工具与技能描述1 Agent 间消息1

层

系统组件

MCP 与技能1 监控器1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 380 篇还没打标签，不在筛选结果里。

攻击技术：多轮渐进攻击技术：诱导选用话题：Agent 安全清除全部

另有 380 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2610.07089 · 10月5日
研究者提出统一滥用监控基准，覆盖分解攻击与提示注入约 6200 条轨迹
构建统一滥用监视基准，用危害窗口评测跨威胁动作监控
AI Agent测试Gemma 4 26B-A4B、Qwen3.6 27B、Qwen3.5 27B 等 12 个应用层
摘要统一智能体滥用监视框架，动作视角兼顾两类威胁但危害定位仍存瓶颈。
完整解读
攻击arXiv:2608.30441 · 8月31日
ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹
AI Agent攻击者黑盒测试DeepSeek、GPT-4o、Claude 4.8 Opus 等 7 个应用层
完整解读
评测与基准arXiv:2609.32635 · 9月26日
TrustFork：显示身份如何劫持 LLM 智能体编排的权限
提出 TRUSTFORK，评测展示身份如何劫持多智能体编排的操作权限
多智能体测试GPT-5.6-Sol、GPT-5.6-Luna、Kimi-K3 等 8 个应用层
- 诱导选用
摘要论文提出了多智能体安全基准 TRUSTFORK，揭示展示身份如何劫持操作权威，并证明事后验证无法弥补已发生的执行破坏。
完整解读

已经到底了