Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 22 papers

Another 201papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.07645

    SkillPoison:用成功经验投毒自进化 Agent 的技能形成

    提出 SkillPoison,用局部有效的成功经验诱导自进化 Agent 形成过度泛化技能

    Published
    Setting
    AI Agent
    Evaluated models
    deepseek-v4-flash, Qwen V3.8 Flash, GPT-5.5
    AbstractSkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化,在多个评测基准上实现了持久的下游攻击影响。

    SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式,通过组织已验证的成功经验诱导技能过度泛化。

    Paper analysisRead analysis
  2. AttacksarXiv 2610.04589

    StegoMemory red team testing: agent persistent memory can be used as a cross-session covert channel

    提出 StegoMemory,评测智能体持久记忆作为跨会话隐写信道

    Published
    Setting
    AI Agent
    Evaluated models
    Llama 3.1 405B, Claude 3.5 Sonnet, GPT-4o and others13

    Abstract研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密,写入持久化是主要防御瓶颈,呼吁建立记忆完整性防御。

    Paper analysisRead analysis
  3. AttacksarXiv 2609.39788

    研究:多智能体系统潜在通信链路可被训练用于提升有害顺从

    提出只训练或篡改多智能体潜在通信链路来提高有害遵从

    Published
    Evaluated models
    Llama-3.2-3B-Instruct, Qwen2.5-3B-Instruct, Gemma-3-1B-IT and others7
    Abstract潜在链路本身即可改变冻结智能体系统的安全,奖励既能攻击也能修复。

    学习得到的潜在通信链路会改变由冻结、对齐智能体组成的系统是否遵从有害请求。。作者研究三种拓扑:双智能体、三级顺序协作,以及双专家加汇总。

    Paper analysisRead analysis
  4. AttacksarXiv 2609.35576

    研究提出跨 LLM 助手的记忆跳跃攻击

    提出跨独立 Agent 的记忆跳跃攻击,经共享工件在助手间自传播

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.6 Luna, Kimi-K2.6, GPT-OSS-120B and others6
    Abstract论文证实持久工件与内存可形成跨智能体传播链,揭示了将共享工件纳入安全防线的重要意义。

    该论文系统研究并量化了通过共享持久工件在具有独立私有内存的 LLM 智能体之间发生自传播的“工件介导传播”攻击风险。

    Paper analysisRead analysis
  5. AttacksarXiv 2609.17817

    论文:用投毒基准污染自改进编码 Agent,令其后续版本写出漏洞代码

    提出基准投毒攻击,使自修改编码 Agent 跨代写出含漏洞代码

    Published
    Evaluated models
    Claude Sonnet 4.5, Qwen3.5-397B, gpt-oss-120b and others5

    Abstract论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞,警示系统设计需纳入安全约束。

    Paper analysisRead analysis
  6. AttacksarXiv 2608.05563

    研究者提出 PoisonedEvolution 轨迹投毒攻击

    提出 PoisonedEvolution 轨迹投毒,诱导自演化技能系统固化恶意行为

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.4, MiniMax-M2.5, DeepSeek-V3.2 and others6
    Abstract论文揭示自演化技能系统的证据晋升漏洞,提出并验证轨迹投毒攻击。

    这篇论文揭示了自演化技能系统在将交互经验转化为持久指令时的安全风险。

    Paper analysisRead analysis
  7. AttacksarXiv 2606.09084

    研究者提出 Context-Fractured Decomposition 攻击

    提出 CFD 跨会话分解攻击,利用工件来源缺口绕过工具型 Agent 的本地检查

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-4.1, GPT-5-nano, Claude-3.5-Sonnet and others6
    AbstractCFD 用无指令 artifact 把越狱拆到跨会话。

    CFD针对工具型 LLM 智能体:利用 artifact 来源不被跟踪这一部署失败模式,把有害目标拆开后延迟组合。

    Paper analysisRead analysis
  8. AttacksarXiv 2605.11047

    DeepTrap 框架在 OpenClaw 上自动挖掘智能体执行上下文漏洞

    提出 DEEPTRAP 以搜索可诱导不安全轨迹的执行上下文载荷

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.4, Claude Sonnet 4.6, GLM-5 and others9
    AbstractDEEPTRAP 用轨迹级搜索发现 OpenClaw 上下文风险,作者称不能只看最终回复。

    DEEPTRAP 是针对 OpenClaw 的自动化红队框架,搜索执行前被改写的文件、记忆、技能、工具元数据或配置,而不是改用户指令。

    Paper analysisRead analysis
  9. AttacksarXiv 2605.08460

    论文建模多智能体网络中的子智能体继承攻击面

    建模并利用多智能体网络中子智能体生成时的记忆继承漏洞

    Published
    Evaluated models
    MiniMax M2.5, Llama-4-Maverick-17B-128E-Instruct-FP8, Qwen3.5-Plus and others5
    Abstract形式化子智能体继承,在 OpenClaw 上演示四类编排层漏洞并提出防御。

    作者对多智能体网络里的子智能体继承做形式化分析,并用开源框架上的 PoC 演示编排层如何让单点妥协继续扩散。

    Paper analysisRead analysis
  10. AttacksarXiv 2604.05549

    Stop obsessing over prompts: reasoning hijacking and constraint tightening for red-teaming LLM agents

    提出 JailAgent,不改用户提示,经推理劫持与记忆投毒操纵 Agent 动作

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-3.5-turbo, GPT-4o, GPT-5 and others7
    AbstractJailAgent 不改提示词,用三阶段操纵推理与检索。

    JailAgent 是不修改用户原始提示词的 LLM 智能体红队框架。

    Paper analysisRead analysis
  11. 论文提出 eTAMP 攻击:网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP,用网页内容跨会话投毒 Web Agent 轨迹记忆并诱导越权操作

    Published
    Setting
    web agent
    Evaluated models
    GPT-5-mini, GPT-5.2, GPT-OSS-120B and others6
    Abstract论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP,作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    Paper analysisRead analysis
  12. AttacksarXiv 2603.17239

    LAAF: A Systematic Red-Teaming Method and Automated Attack Framework for LPCI Vulnerabilities in Agentic LLM Systems

    Proposes LAAF, which automatically attacks LPCI vulnerabilities in agent systems in stages

    Published
    Setting
    AI Agent
    Evaluated models
    gemini-2.0-flash-001, claude-3-haiku-20240307, meta-llama/llama-3.1-70b-instruct and others5
    AbstractLAAF does LPCI red teaming with taxonomy plus stage seeding.

    The authors state that LAAF is an automated red-teaming framework built specifically for LPCI in agentic LLMs. The issue to address is that encoded, delayed, and conditionally triggered payloads can persist in memory or RAG and re-enter across sessions, whereas Garak and PyRIT do not use the previous round's breakthrough results to seed the next stage across the six stages.

    Paper analysisRead analysis
  13. AttacksarXiv 2602.15654

    Zombie Agent: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injection

    提出 Zombie Agent 攻击,经网页间接注入将载荷写入长期记忆并跨会话触发

    Published
    Setting
    AI Agent
    Evaluated models
    Gemini-2.5-Flash, GLM-4.7-Flash
    Abstract记忆写入把一次网页间接注入变成跨会话控制。

    Zombie Agent 把自进化 LLM 智能体的跨会话记忆当成攻击面:攻击者只发布网页,良性任务读入后,正常记忆更新留下载荷,并在以后无关会话里触发未授权工具行为。

    Paper analysisRead analysis
  14. AttacksarXiv 2602.08563

    Stateless yet not forgetful: implicit memory in LLMs as a hidden channel

    提出隐式记忆时间炸弹,使模型跨独立交互累积隐藏状态后激活

    Published
    Evaluated models
    GPT-4o, GPT-4.1, GPT-5.2 and others12
    Abstract作者展示时间炸弹可由提示词或微调诱导。

    作者把这篇工作定位为立场论文:再摄入存在时,按无状态设计的 LLM 仍可能经自身输出携带状态。要处理的问题是,这种不依赖外部记忆模块的通道会让风险跨过单次请求,而单触发测试看不到完整条件。

    Paper analysisRead analysis