跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 11 篇
筛选5

攻击类型

提示注入11

防御类型

指令与数据隔离5权限与审批9

影响

越权操作11

系统形态

AI Agent11网页与电脑操作1多智能体1

攻击面/入口

用户输入18网页与界面14文档与消息11工具返回23工具与技能描述9代码仓库与依赖6记忆写入10Agent 间消息6权重与梯度0分发渠道3

层

应用层11

系统组件

权限与沙箱10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。
系统形态：AI Agent系统形态：网页与电脑操作系统形态：多智能体攻击面/入口：文档与消息攻击面/入口：权重与梯度话题：Agent 安全清除全部
  2. 防御arXiv 2610.02569

    Pincer：用数字分身学习用户偏好并执行动态最小权限

    提出 Pincer，用数字分身学习用户偏好并对 Agent 做资源层最小权限授权

    arXiv
    2610.02569
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Claude Haiku 4.5、Muse Spark 1.2 Contributor
    摘要Pincer 在资源层以三票合取做授权。

    Pincer 是加在现成 coding agent 上的资源层授权防御：用只受用户侧信息影响的 digital twin 做动态最小权限，并与 tool-call 层防御并存。要处理的是用户维护策略带来的权限蠕变和授权疲劳，以及不学习用户策略的 tool-call 分类器。作者引述工作称 auto mode 会放行多数不安全操作，并认为推理代码或复杂 shell 的效果在这一层不实际。

    深度解读完整解读
  5. 防御arXiv 2609.22573

    研究提出面向企业 MCP 的零信任授权与工具发现方案

    提出企业 MCP 的零信任授权扩展，拒绝提示注入下的越权工具调用

    arXiv
    2609.22573
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    gpt-5、claude-sonnet-4-6、claude-opus-4-7 等 6 个
    摘要同一份按工具声明同时管 MCP 的发现、列表和调用，使注入不能扩大已有凭证的权限。

    作者把零信任放在 MCP 工具调用边界：智能体即使被提示注入，也不能调用其凭证范围之外的工具。问题来自三点部署性质。调用意图会随不可信上下文改变。

    深度解读完整解读
  10. 评测与基准arXiv 2608.09476

    ActBench：面向协作智能体行为安全的自演化基准

    提出自演化基准 ActBench，评测协作智能体的操作级行为安全

    arXiv
    2608.09476
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Claude-Opus-4.8、Claude-Sonnet-4.6、GPT-5.5 等 15 个

    摘要ActBench 通过自演化搜索与双证据重构评测轨迹行为安全，揭示基础模型决策差异主导了协同智能体的操作风险。

    深度解读完整解读
已经到底了