跳到正文
10月9日 · 周五

全部论文

找到 9 篇
筛选6

攻击类型

提示注入5投毒与后门5

攻击技术

编码与混淆1潜伏触发3诱导选用1

模型自身风险

失准与价值偏离2

防御类型

权限与审批1

影响

越权操作4数据与隐私泄露1输出被操纵2可用性与可靠性1

系统形态

模型与 API1AI Agent23编程 Agent4网页与电脑操作2多智能体5

攻击面/入口

文档与消息1工具与技能描述2代码仓库与依赖1检索语料1记忆写入5Agent 间消息1权重与梯度1分发渠道2

层

应用层9

系统组件

MCP 与技能10记忆9护栏与评审4监控器16推理链3权限与沙箱5微调与开源权重2视觉3多模态3

被测模型厂商

OpenAI13Qwen（阿里）9Anthropic7Google7DeepSeek6其他10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 514 篇还没打标签，不在筛选结果里。
系统形态：编程 Agent系统形态：网页与电脑操作系统形态：多智能体系统组件：记忆被测模型厂商：Google被测模型厂商：Meta清除全部

另有 514 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.25776

    EvoMal 攻击利用自我进化编码 Agent 的自我投毒实现蠕虫式传播

    提出 EVOMAL 攻击，诱导编码 Agent 自我投毒并蠕虫式传播技能

    arXiv
    2608.25776
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Gemma-4-31B-IT、Devstral-Small-2、Qwen3-Coder-Next 等 7 个

    摘要论文指出了自演化智能体模仿检索代码的自我毒化漏洞，提出 EVOMAL 攻击与防御，阐明了供应链新风险。

    深度解读完整解读
  2. 评测与基准arXiv 2608.18066

    Salesforce AI Research 重测自改进 Agent

    重测记忆型自改进智能体，揭示任务顺序和多次运行带来的性能不稳

    arXiv
    2608.18066
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    Gemini-2.5-Pro、GPT-5-mini、GPT-OSS-120B 等 4 个
    摘要论文揭示了基于记忆的自改进智能体在多次运行和乱序下的脆弱性，并指出规约不完备是诱发退化的关键瓶颈。

    这篇论文是对基于文本记忆的自我改进智能体在复杂环境中评估可靠性的实证研究。

    深度解读完整解读
  5. 其他arXiv 2609.10144

    AIOS 的内核管理共享内存：面向系统级个性化的新抽象

    AI 导读研究提出"内核管理共享内存"，由智能体系统内核而非单个智能体统一负责记忆检索、隐私执行与提示注入。

    arXiv
    2609.10144
    发表
    层
    应用层
    场景
    多智能体
    测试
    Llama-3.1:8B、GPT-4o、Qwen-2.5:7B
    摘要作者称内核集中管理记忆，能拿到无约束上下文的大部分个性化收益，并降低延迟。

    kernel-managed shared memory 把多智能体的检索、隐私和注入收进 agent-system kernel，并在 AIOS 上与三种替代方案比较。

    深度解读完整解读
  7. 攻击arXiv 2608.06862

    SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

    提出 SYNCHAIN，诱导计算机使用 Agent 自合成潜伏技能并跨任务触发

    arXiv
    2608.06862
    发表
    层
    应用层
    场景
    网页与电脑操作、编程 Agent
    测试
    Llama-3.1-8B、Qwen3.5-9B、Ministral-3-8B 等 5 个

    摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。

    深度解读完整解读
  8. 评测与基准arXiv 2609.17320

    Emergence World：对长时程多智能体系统开展对抗压力测试

    构建 Emergence World，评测长时程多智能体对抗韧性与群体失效

    arXiv
    2609.17320
    发表
    层
    应用层
    场景
    多智能体
    测试
    Gemini 3.5 Flash、Gemini 3.1 Flash Lite、Claude Opus 4.8 等 9 个

    摘要作者通过长期平行世界实验指出模型对齐不具备可组合性，单模型群体会产生社会奉承、协同退缩及语言不透明等失效。

    深度解读完整解读
  9. 防御arXiv 2609.17648

    多智能体 LLM 流水线中的信任传播与结构隔离

    提出任务绑定令牌与策略预言机，在多智能体流水线中拦截未授权执行

    arXiv
    2609.17648
    发表
    层
    应用层
    场景
    多智能体
    测试
    gemma4:31b-cloud
    摘要结构性授权拦住了记忆投毒的未授权执行，持密钥时承重的是策略预言机。

    作者在一条会改写沙箱邮件库的四智能体流水线上，检查低权限失陷会不会变成未授权的真实动作。

    深度解读完整解读
已经到底了