跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 2 篇
筛选3

影响

有害内容1越权操作37数据与隐私泄露14输出被操纵13可用性与可靠性2监督失效3滥用能力提升1

系统形态

AI Agent2网页与电脑操作1

层

应用层2

系统组件

MCP 与技能1记忆1护栏与评审1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 268 篇还没打标签，不在筛选结果里。
影响：可用性与可靠性系统组件：MCP 与技能系统组件：记忆话题：Agent 安全清除全部

另有 268 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2608.18066

    Salesforce AI Research 重测自改进 Agent

    重测记忆型自改进智能体，揭示任务顺序和多次运行带来的性能不稳

    arXiv
    2608.18066
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    GPT-5-mini、Gemini-2.5-Pro、GPT-OSS-120B 等 4 个
    摘要论文揭示了基于记忆的自改进智能体在多次运行和乱序下的脆弱性，并指出规约不完备是诱发退化的关键瓶颈。

    这篇论文是对基于文本记忆的自我改进智能体在复杂环境中评估可靠性的实证研究。

    深度解读完整解读
  2. 风险行为arXiv 2609.35381

    研究：MCP 错误信息面向开发者，能力越强的 Agent 受损越大

    评测 MCP 错误文本对工具调用 Agent 任务恢复的影响

    arXiv
    2609.35381
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-5.5、GPT-5.6 Sol、GPT-6 Sol 等 5 个
    摘要面向开发者的 MCP 错误步骤会让只能调用工具的智能体停手。

    MCP 错误信息里的下一步常常按人类开发者来写，而只能调用服务器工具的智能体会照着做。做不到就结束回合。作者先统计这类文本，再在 BFCL V4 上只更换错误文本，看回合状态能否回到参考调用之后。

    深度解读完整解读
已经到底了