跳到正文
10月10日 · 周六

全部论文

找到 6 篇
筛选3

攻击类型

投毒与后门3

影响

越权操作49数据与隐私泄露23输出被操纵20可用性与可靠性6

系统形态

AI Agent6

层

应用层6

系统组件

MCP 与技能3记忆3护栏与评审4推理链4视觉5多模态8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 193 篇还没打标签，不在筛选结果里。
影响：可用性与可靠性系统组件：MCP 与技能系统组件：记忆清除全部

另有 193 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv 2609.35381

    研究：MCP 错误信息面向开发者，能力越强的 Agent 受损越大

    测量面向开发者的 MCP 错误信息对工具调用 Agent 恢复的影响

    arXiv
    2609.35381
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-5.5、GPT-5.6 Sol、GPT-6 Sol 等 5 个
    摘要面向开发者的 MCP 错误步骤会让只能调用工具的智能体停手。

    MCP 错误信息里的下一步常常按人类开发者来写，而只能调用服务器工具的智能体会照着做。做不到就结束回合。作者先统计这类文本，再在 BFCL V4 上只更换错误文本，看回合状态能否回到参考调用之后。

    深度解读完整解读
  3. 其他arXiv 2609.08832

    自进化智能体框架缩小 LLM 智能体的「一致性差距」

    提出离线两阶段框架，诊断易翻转步骤并生成记忆指南以稳定智能体

    arXiv
    2609.08832
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-4.1、GPT-OSS-120B
    摘要用离线一致性诊断生成记忆指南，在 AppWorld 上提高重复全通过率。

    作者要缩小的是 LLM 智能体平均通过、重复不稳之间的 consistency gap，即 Mean@k 减 Passˆk。

    深度解读完整解读
  5. 评测与基准arXiv 2608.18066

    Salesforce AI Research 重测自改进 Agent

    重测记忆型自改进 Agent 的运行方差与任务顺序敏感性

    arXiv
    2608.18066
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-5-mini、Gemini-2.5-Pro、GPT-OSS-120B 等 4 个
    摘要论文揭示了基于记忆的自改进智能体在多次运行和乱序下的脆弱性，并指出规约不完备是诱发退化的关键瓶颈。

    这篇论文是对基于文本记忆的自我改进智能体在复杂环境中评估可靠性的实证研究。

    深度解读完整解读
  6. 攻击arXiv 2608.12273

    研究者提出 Convergent Detour Hijacking 攻击，可让技能型 LLM Agent 绕路并放大资源消耗

    提出 CDH 攻击，让技能型 Agent 绕路放大资源消耗

    arXiv
    2608.12273
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Claude-Haiku-4.5、DeepSeek-V4-Pro、DeepSeek-V4-Flash 等 6 个
    摘要CDH 让静态技能在保持任务完成时拉高调用与 token，耗时则因后端而异。

    CDH 是针对渐进披露技能智能体的发布者侧、纯文本攻击：一个静态协调器把本可正确完成的任务，拐进有界但更耗资源的技能绕路，再交还原任务。

    深度解读完整解读
已经到底了