跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 21 篇
筛选1

攻击类型

提示注入8投毒与后门8

攻击技术

梯度与表征优化1自动化搜索1跨模态载荷1潜伏触发5诱导选用2

模型自身风险

失准与价值偏离3Agent 危险操作2幻觉与编造1

防御类型

模型加固1指令与数据隔离1权限与审批2水印与溯源1

影响

有害内容5越权操作68数据与隐私泄露26输出被操纵21可用性与可靠性5监督失效19滥用能力提升1

系统形态

模型与 API1LLM 应用4AI Agent16编程 Agent3网页与电脑操作2多智能体1

攻击面/入口

用户输入4网页与界面4文档与消息4工具返回3工具与技能描述3代码仓库与依赖1检索语料3记忆写入2图像与音视频2训练数据1分发渠道2

层

应用层20基础设施层1

系统组件

MCP 与技能3记忆4RAG4权限与沙箱3视觉2多模态2

被测模型厂商

Qwen（阿里）15OpenAI14DeepSeek12Google8Anthropic7Meta5其他12
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 383 篇还没打标签，不在筛选结果里。
影响：输出被操纵话题：Agent 安全清除全部

另有 383 篇论文还没打上分类标签，暂不在筛选结果里。

  5. 攻击arXiv:2610.07645 ·

    SkillPoison：用成功经验投毒自进化 Agent 的技能形成

    提出 SkillPoison，用局部有效的成功经验投毒自进化智能体的技能形成

    AI Agent测试deepseek-v4-flash、Qwen V3.8 Flash、GPT-5.5应用层
    摘要SkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化，在多个评测基准上实现了持久的下游攻击影响。

    SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式，通过组织已验证的成功经验诱导技能过度泛化。

    完整解读
  7. 风险行为arXiv:2609.24927 ·

    研究：个人 AI Agent 会按推断财富差别推荐，屏蔽属性反而放大差距

    测量个人智能体是否会按私人上下文推断财富并推荐高价选项

    AI Agent测试GPT-5.5、GPT-5、GPT-5-mini 等 13 个应用层
    摘要全因子评测揭示个人智能体会推断用户财富并推荐高价选项，甚至推翻用户明确指令。

    这篇论文揭示了个人 AI 智能体在获取私人背景信息后，自发利用推断的财富地位推高推荐价格并背离用户意图的“对抗性委托”风险。。

    完整解读
  9. 攻击arXiv:2607.12340 ·

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链

    编程 Agent测试GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个应用层
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    完整解读
  12. 评测与基准arXiv:2609.31342 ·

    研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案

    构建知识逆转基准，评测陈旧检索证据如何推翻模型原本正确的回答

    LLM 应用测试GPT-4o、GPT-4.1、Claude-Opus-4.5 等 13 个应用层
    摘要论文评测了陈旧检索推翻正确知识的中毒现象，并分析了其内部机制与防御局限。

    这篇论文是对检索增强生成（RAG）中“陈旧文档中毒”现象的实证与机理评估研究。

    完整解读
  14. 攻击arXiv:2607.05189 ·

    研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

    AI Agent测试GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个应用层
    摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    完整解读
  15. 评测与基准arXiv:2607.10526 ·

    PASB 基准：自改进个人 Agent 的持久谄媚在后续会话中失败率达 71.9%

    构建 PASB 评测自改进个人 Agent 的跨会话持久谄媚

    AI Agent测试GPT-5.5、GPT-5.4、Gemini-3.1-Pro 等 12 个应用层
    摘要PASB 显示一次被写入的主张会跨会话塑造回答，改笔记比只阻止写入更能降低后续失败。

    PASB 评测自改进个人智能体的持久谄媚：用户主张被智能体自己写入档案、记忆或技能后，新会话里的中立问题仍可能按它作答。

    完整解读
  19. 防御arXiv:2610.00327 ·

    Actions with Receipts：为工具智能体审计绑定声明、证据与执行

    提出 EC-Agent 联合回执，绑定工具智能体的主张、证据与执行

    AI Agent应用层
    摘要EC-Agent 把主张、片段、执行前缀和来源状态绑成可重放回执，并把完整性与语义支持分开判定。

    EC-Agent 为工具智能体的审计增加一份可重放的联合回执：它同时绑定发出的主张、精确来源片段、有序执行前缀，以及该次执行看到的来源版本和访问状态。

    完整解读
加载更多