跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 5 篇
筛选3

攻击类型

提示注入4投毒与后门1

模型自身风险

Agent 危险操作1

防御类型

模型加固3检测与过滤2指令与数据隔离3权限与审批4水印与溯源1

影响

有害内容2越权操作18数据与隐私泄露4输出被操纵5可用性与可靠性1监督失效2

系统形态

LLM 应用1AI Agent4编程 Agent1

攻击面/入口

网页与界面3文档与消息2工具返回3检索语料2

层

应用层4训练与数据层1

系统组件

MCP 与技能1记忆1权限与沙箱1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 278 篇还没打标签，不在筛选结果里。
防御类型：模型加固防御类型：指令与数据隔离影响：输出被操纵话题：Agent 安全清除全部

另有 278 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.11757

    研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

    提出 A-VIP，将购物意图绑定到支付授权以阻断商户文本操控

    arXiv
    2609.11757
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个

    摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。

    深度解读完整解读
  3. 防御arXiv 2610.00850

    AuraForge：为训练安全编码 Agent 扩展安全监督

    提出 AuraForge，从漏洞修复合成安全测试并监督训练编码智能体

    arXiv
    2610.00850
    发表
    层
    训练与数据层
    场景
    编程 Agent
    测试
    Qwen3.5-4B、Muse Spark 1.3、DeepSeek-V4.1-Flash 等 11 个
    摘要AuraForge 用攻击效果测试和防泄露环境做成 AuraGym，合成监督的误拒更低，训出的 4B 模型增益高于人工测试。

    AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务，用来监督编程智能体同时满足功能请求和隐含的安全要求。

    深度解读完整解读
已经到底了