跳到正文
10月8日 · 周四

全部论文

找到 6 篇
筛选3

攻击类型

越狱1提示注入3投毒与后门1恶意使用1

模型自身风险

欺骗与谋划4奖励作弊3失准与价值偏离1Agent 危险操作6拒答失当2

防御类型

检测与过滤1权限与审批2监控与审计5

影响

越权操作6

系统形态

AI Agent6编程 Agent2网页与电脑操作2

攻击者权限

黑盒1

攻击面/入口

用户输入3网页与界面1文档与消息1工具返回3代码仓库与依赖1记忆写入1

层

应用层6

系统组件

MCP 与技能1记忆2护栏与评审2监控器5推理链1权限与沙箱8视觉1多模态1

被测模型厂商

其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 701 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作系统组件：MCP 与技能系统组件：监控器清除全部

另有 701 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.12001

    Pheo 提出 OATS：用确定性解析器在运行时治理 Agent 技能动作

    提出 OATS，用确定性解析器在运行时治理 Agent 技能动作

    arXiv
    2609.12001
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Claude Sonnet 5、GPT-5.5、gpt-5-mini 等 4 个

    摘要论文论证了发布时恶意扫描无法替代运行时动作许可控制，提出了轻量确定性控制门 OATS，展示了双层防御组合的必要性。

    深度解读完整解读
  5. 防御arXiv 2609.22724

    MATE：面向移动 Agent 的策略感知安全审计方法

    提出策略条件轨迹审计器 MATE，判断移动 Agent 是否违反可编辑安全策略

    arXiv
    2609.22724
    发表
    层
    应用层
    场景
    网页与电脑操作
    攻击者
    黑盒
    测试
    MATE-0.5B、MATE-1.5B、MATE-3B 等 8 个
    摘要MATE 用合成轨迹微调轻量审计器，在可编辑策略下判断移动智能体轨迹是否违规并给出解释。

    MATE 是面向移动 GUI 智能体的轻量策略条件轨迹审计器，在给定自然语言安全策略时判断轨迹是否违规并解释原因。

    深度解读完整解读
  6. 防御arXiv 2609.35659

    Tracekit：面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit，对编码 Agent 做防篡改的意图-推理-动作审计

    arXiv
    2609.35659
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Code (claude -p, version 2.1)、独立评审（同一 CLI，无工具）
    摘要Tracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。

    深度解读完整解读
已经到底了