Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 18 papers

Another 218papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.07645

    SkillPoison:用成功经验投毒自进化 Agent 的技能形成

    提出 SkillPoison,用局部有效的成功经验诱导自进化 Agent 形成过度泛化技能

    Published
    Setting
    AI Agent
    Evaluated models
    deepseek-v4-flash, Qwen V3.8 Flash, GPT-5.5
    AbstractSkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化,在多个评测基准上实现了持久的下游攻击影响。

    SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式,通过组织已验证的成功经验诱导技能过度泛化。

    Paper analysisRead analysis
  2. AttacksarXiv 2610.04589

    StegoMemory red team testing: agent persistent memory can be used as a cross-session covert channel

    提出 StegoMemory,评测智能体持久记忆作为跨会话隐写信道

    Published
    Setting
    AI Agent
    Evaluated models
    Llama 3.1 405B, Claude 3.5 Sonnet, GPT-4o and others13

    Abstract研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密,写入持久化是主要防御瓶颈,呼吁建立记忆完整性防御。

    Paper analysisRead analysis
  3. AttacksarXiv 2609.35576

    研究提出跨 LLM 助手的记忆跳跃攻击

    提出跨独立 Agent 的记忆跳跃攻击,经共享工件在助手间自传播

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.6 Luna, Kimi-K2.6, GPT-OSS-120B and others6
    Abstract论文证实持久工件与内存可形成跨智能体传播链,揭示了将共享工件纳入安全防线的重要意义。

    该论文系统研究并量化了通过共享持久工件在具有独立私有内存的 LLM 智能体之间发生自传播的“工件介导传播”攻击风险。

    Paper analysisRead analysis
  4. AttacksarXiv 2608.05563

    研究者提出 PoisonedEvolution 轨迹投毒攻击

    提出 PoisonedEvolution 轨迹投毒,诱导自演化技能系统固化恶意行为

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.4, MiniMax-M2.5, DeepSeek-V3.2 and others6
    Abstract论文揭示自演化技能系统的证据晋升漏洞,提出并验证轨迹投毒攻击。

    这篇论文揭示了自演化技能系统在将交互经验转化为持久指令时的安全风险。

    Paper analysisRead analysis
  5. AttacksarXiv 2606.09084

    研究者提出 Context-Fractured Decomposition 攻击

    提出 CFD 跨会话分解攻击,利用工件来源缺口绕过工具型 Agent 的本地检查

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-4.1, GPT-5-nano, Claude-3.5-Sonnet and others6
    AbstractCFD 用无指令 artifact 把越狱拆到跨会话。

    CFD针对工具型 LLM 智能体:利用 artifact 来源不被跟踪这一部署失败模式,把有害目标拆开后延迟组合。

    Paper analysisRead analysis
  6. AttacksarXiv 2605.11047

    DeepTrap 框架在 OpenClaw 上自动挖掘智能体执行上下文漏洞

    提出 DEEPTRAP 以搜索可诱导不安全轨迹的执行上下文载荷

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.4, Claude Sonnet 4.6, GLM-5 and others9
    AbstractDEEPTRAP 用轨迹级搜索发现 OpenClaw 上下文风险,作者称不能只看最终回复。

    DEEPTRAP 是针对 OpenClaw 的自动化红队框架,搜索执行前被改写的文件、记忆、技能、工具元数据或配置,而不是改用户指令。

    Paper analysisRead analysis
  7. AttacksarXiv 2605.08460

    论文建模多智能体网络中的子智能体继承攻击面

    建模并利用多智能体网络中子智能体生成时的记忆继承漏洞

    Published
    Evaluated models
    MiniMax M2.5, Llama-4-Maverick-17B-128E-Instruct-FP8, Qwen3.5-Plus and others5
    Abstract形式化子智能体继承,在 OpenClaw 上演示四类编排层漏洞并提出防御。

    作者对多智能体网络里的子智能体继承做形式化分析,并用开源框架上的 PoC 演示编排层如何让单点妥协继续扩散。

    Paper analysisRead analysis
  8. AttacksarXiv 2604.05549

    Stop obsessing over prompts: reasoning hijacking and constraint tightening for red-teaming LLM agents

    提出 JailAgent,不改用户提示,经推理劫持与记忆投毒操纵 Agent 动作

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-3.5-turbo, GPT-4o, GPT-5 and others7
    AbstractJailAgent 不改提示词,用三阶段操纵推理与检索。

    JailAgent 是不修改用户原始提示词的 LLM 智能体红队框架。

    Paper analysisRead analysis
  9. 论文提出 eTAMP 攻击:网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP,用网页内容跨会话投毒 Web Agent 轨迹记忆并诱导越权操作

    Published
    Setting
    web agent
    Evaluated models
    GPT-5-mini, GPT-5.2, GPT-OSS-120B and others6
    Abstract论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP,作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    Paper analysisRead analysis
  10. AttacksarXiv 2603.17239

    LAAF: A Systematic Red-Teaming Method and Automated Attack Framework for LPCI Vulnerabilities in Agentic LLM Systems

    Proposes LAAF, which automatically attacks LPCI vulnerabilities in agent systems in stages

    Published
    Setting
    AI Agent
    Evaluated models
    gemini-2.0-flash-001, claude-3-haiku-20240307, meta-llama/llama-3.1-70b-instruct and others5
    AbstractLAAF does LPCI red teaming with taxonomy plus stage seeding.

    The authors state that LAAF is an automated red-teaming framework built specifically for LPCI in agentic LLMs. The issue to address is that encoded, delayed, and conditionally triggered payloads can persist in memory or RAG and re-enter across sessions, whereas Garak and PyRIT do not use the previous round's breakthrough results to seed the next stage across the six stages.

    Paper analysisRead analysis
  11. AttacksarXiv 2602.15654

    Zombie Agent: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injection

    提出 Zombie Agent 攻击,经网页间接注入将载荷写入长期记忆并跨会话触发

    Published
    Setting
    AI Agent
    Evaluated models
    Gemini-2.5-Flash, GLM-4.7-Flash
    Abstract记忆写入把一次网页间接注入变成跨会话控制。

    Zombie Agent 把自进化 LLM 智能体的跨会话记忆当成攻击面:攻击者只发布网页,良性任务读入后,正常记忆更新留下载荷,并在以后无关会话里触发未授权工具行为。

    Paper analysisRead analysis
  12. AttacksarXiv 2601.00240

    When agents view humans as out-group: belief-dependent bias in LLM-driven agents

    提出 BPA 改写 profile 与记忆,重新诱发智能体对人类的外群体偏向

    Published
    Evaluated models
    gpt-4o-mini
    Abstract最小群体线索下出现内群体偏向。

    作者考察 LLM 智能体在任意群体边界下会不会把人类当外群体,并用信念投毒检验面向人类的抑制是否依赖身份信念。

    Paper analysisRead analysis
  13. AttacksarXiv 2507.10457

    论文提出 LPCI:针对 Agent 逻辑层与持久记忆的提示控制注入攻击

    提出 LPCI,把延迟条件载荷写入记忆与检索库以跨会话触发

    Published
    Setting
    AI Agent
    Evaluated models
    ChatGPT, Claude, LLaMA3 and others8
    Abstract作者定义 LPCI。

    作者把LPCI定义为针对智能体逻辑执行、记忆留存和工具集成的跨阶段漏洞类,而不是单次输入上的提示改写。

    Paper analysisRead analysis
You have reached the end