防御arXiv 2610.03089
COBRA:为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA 双 LLM 架构,防御计算机使用 Agent 的分支转向攻击
- arXiv
- 2610.03089
- 发表
- 层
- 应用层
- 场景
- 网页与电脑操作
- 被测模型
- gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等6个
摘要提出分支转向防御架构 COBRA,通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
提出 COBRA 双 LLM 架构,防御计算机使用 Agent 的分支转向攻击
摘要提出分支转向防御架构 COBRA,通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
提出 ZoneClaw,用记忆分区防御计算机使用 Agent 的持久记忆攻击
提出 SCOPE,联合后训练计算机使用智能体的任务能力与安全决策
提出 Aura,用可信内核中介移动 Agent 的身份、感知与动作控制
Aura 用内核中介的结构化智能体交互,替换以屏幕为接口的移动助手。。
用 MobiRed 评测移动 LLM Agent 面对第三方渠道的提示注入
摘要论文评估了移动 LLM 智能体作为 confused deputy 的易受攻击性,作者称非应用控制通道可诱导智能体执行多步越权危害。