跳到正文
10月13日 · 周二

全部论文

找到 25篇

另有203篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.12524

    对 AI Agent 系统攻击的探索

    重测并扩展对 AI Agent 的提示注入,并用 Agent Card 欺骗操纵 A2A 选择

    发表
    场景
    AI Agent
    被测模型
    Ollama Mistral 0.9.5、llama3-8b-8192、gemini-2.0-flash-lite 等5个
    摘要单智能体过滤与分类可被格式或措辞绕过,A2A 选卡还会偏向名称和描述。

    作者在自建的 LangChain、AutoGen 和 A2A 系统上重测提示注入,并改 Agent Card 看选择是否偏移。摘要称试验主要凸显单智能体弱点,同时把攻击扩到多智能体。

    深度解读完整解读
  2. 攻击arXiv 2610.04589

    StegoMemory 红队测试:智能体持久记忆可被用作跨会话隐蔽信道

    提出 StegoMemory,评测智能体持久记忆作为跨会话隐写信道

    发表
    场景
    AI Agent
    被测模型
    Llama 3.1 405B、Claude 3.5 Sonnet、GPT-4o 等13个

    摘要研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密,写入持久化是主要防御瓶颈,呼吁建立记忆完整性防御。

    深度解读完整解读
  3. 攻击arXiv 2610.00392

    A2A-TIBA:针对 A2A 协议 LLM 智能体的间接提示注入攻击与三层同构攻防模型

    提出 A2A-TIBA,经 A2A 对等任务间接注入并植入常驻回调

    发表
    被测模型
    MiniMax-M3、deepseek-v4-pro、glm-5.3 等8个
    摘要A2A-TIBA 一次植入后绕过智能体,GDA 用四类结果定位防线,ELA-ITL 把信封标注列为第三层。

    A2A-TIBA 把间接提示注入和绕过放进 A2A:gray-box 攻击者已能投递任务,诱导目标部署常驻回调程序后,下令和外传不再经过智能体。

    深度解读完整解读
  4. 评测与基准arXiv 2609.35912

    MMSkillRisk:多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

    提出 MMSkillRisk 基准,评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

    发表
    被测模型
    GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等6个

    摘要论文提出 MMSkillRisk 基准与 NCVA 攻击,揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。

    深度解读完整解读
  5. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入,清空工具 Agent 的思维链以绕过推理监控

    发表
    场景
    AI Agent
    被测模型
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等4个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过,且工具执行受解析器宽容度影响。

    深度解读完整解读
  6. 攻击arXiv 2609.18217

    研究:跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击,利用 MCP 隐式信任外发敏感文件

    发表
    被测模型
    GPT-4o、GPT-4o-mini、GPT-5.4 等15个

    摘要论文揭示了 MCP 多通道隐式信任层级,通过跨通道分段与协议级利用突破现有防御,展示了严重的凭证外发风险。

    深度解读完整解读
  7. 攻击arXiv 2609.15383

    微软团队提出 capability laundering 攻击:弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击,拆分任务向对齐模型套取能力

    发表
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    GPT-5.5、Claude Opus 4.8、Grok-4.3 等7个

    摘要作者提出了能力洗钱攻击,发现未对齐编排器分解咨询对齐模型可恢复能力差距,指出需建立跨会话防御。

    深度解读完整解读
  8. 攻击arXiv 2608.06862

    SynChain:诱导计算机使用 Agent 自建攻击链并跨任务持久化

    提出 SYNCHAIN,诱导计算机使用 Agent 自建跨任务持久攻击链

    发表
    被测模型
    Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B

    摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁,验证了潜伏载荷的跨任务传播能力与防御局限。

    深度解读完整解读
  9. 攻击arXiv 2607.03968

    研究揭示 IDE 编程 Agent 的工作流级越狱:GitHub Copilot 四后端 816/816 生成有害内容

    提出工作流级越狱,让编程 Agent 在开发任务中写入有害示例

    发表
    被测模型
    Claude Sonnet 4.6、Claude Haiku 4.5、Gemini 3.1 Pro 等4个
    摘要作者报告 Copilot 后端会在编码工作流中生成其在单轮条件下通常拒绝的有害答案。

    这是一项生产 IDE 编码智能体的工作流越狱研究,受测对象是 Copilot 的四个模型后端,而非评测流水线中的名义目标。

    深度解读完整解读
  10. 攻击arXiv 2606.21732

    研究者提出 relinking 漏洞:LLM Agent 压缩边界可被拼出恶意指令

    提出 Relink 攻击,在 Agent 压缩边界将分散良性片段重组为恶意指令

    发表
    场景
    AI Agent
    被测模型
    Gemma-4-31B-it、GPT-OSS-20B、Qwen3.6-27B 等15个
    摘要论文指出提示词压缩引入重链漏洞,提出 RELINK 攻击工具与 KBRA 边界审计防御,证明压缩边界应作为关键安全边界。

    本文研究了智能体基于摘要的提示词压缩所引入的新型安全漏洞——重链(Relinking),并提出了系统化的攻击构建方法与边界审计防御机制。

    深度解读完整解读
  11. 攻击arXiv 2604.03081

    针对 LLM 编码 Agent 技能生态的供应链投毒攻击

    提出 PoisonedSkills,评测编码 Agent 技能生态的文档投毒

    发表
    被测模型
    Claude Sonnet 4.6、GLM-4.7、MiniMax-M2.5 等5个
    摘要作者称技能文档可成为系统操作攻击入口,但结果只评估加载后的阶段。

    PoisonedSkills 研究编码智能体的技能供应链投毒,重点是文档内容如何进入实际系统操作。。

    深度解读完整解读
  12. 攻击arXiv 2603.17239

    LAAF:面向 Agentic 大语言模型系统 LPCI 漏洞的系统化红队方法与自动化攻击框架

    提出 LAAF,分阶段自动攻击智能体系统的 LPCI 漏洞

    发表
    场景
    AI Agent
    被测模型
    gemini-2.0-flash-001、claude-3-haiku-20240307、meta-llama/llama-3.1-70b-instruct 等5个
    摘要LAAF 以分类加阶段播种做 LPCI 红队。

    作者称 LAAF 是专为智能体 LLM 中 LPCI 构建的自动化红队框架。要处理的是:编码、延迟、条件触发的载荷可留在记忆或 RAG 中跨会话重入,而 Garak、PyRIT 不按六阶段用上一轮突破结果播种下一阶段。

    深度解读完整解读
  13. 攻击arXiv 2603.01414

    通过动作级操纵越狱具身 LLM

    提出 Blindfold,用动作级操纵越狱具身 LLM

    发表
    被测模型
    Llama-3.1-8B、DeepSeek-R1-14B、Gemma-3-27B 等8个
    摘要Blindfold 以动作级代理规划越狱具身 LLM,作者称可绕过语义检查并在仿真与真机生效。

    Blindfold 是面向具身 LLM 规划模块的 no-box 攻击,把恶意意图改写成看似良性的动作序列。

    深度解读完整解读
  14. 攻击arXiv 2603.00131

    Thought Virus:多 Agent 系统中潜意识提示引发的病毒式失准

    提出 Thought Virus,经潜意识提示使偏好沿多 Agent 消息传播

    发表
    被测模型
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct
    摘要Thought Virus 把单点偏差传到下游。

    Thought Virus 把 subliminal prompting 放进多智能体通信,看单点偏差会不会在不点名目标概念时传到全网。

    深度解读完整解读
  15. 攻击arXiv 2602.14211

    SkillJect:为技能型 Agent 自动生成基于技能的提示注入

    提出 SkillJect,自动生成投毒 skill 诱导代码 Agent 执行隐藏脚本

    发表
    被测模型
    Claude-4.6-Sonnet、GPT-5-mini、GLM-4.7 等10个
    摘要SkillJect 用双通道和闭环精炼投毒 skill。

    SkillJect 是针对可安装 agent skill 的自动化提示注入框架。作者要解决的是:公开或手工放入 skill 的恶意指令常常被拒绝或忽略,而 skill 一旦安装就会被反复当作可信指导加载。

    深度解读完整解读
  16. 攻击arXiv 2602.07379

    Aegis:面向 AI 语音 Agent 的治理、完整性与安全

    提出 Aegis 红队框架,多轮攻击高风险语音 Agent

    发表
    场景
    AI Agent
    被测模型
    GPT-4o、GPT-4o-mini、Gemini-1.5 Pro 等7个
    摘要Aegis 红队评测三类语音智能体:查询式访问消掉认证与泄密成功,行为类攻击仍在。

    Aegis 用多轮红队评测已接入业务系统的 ALLM 语音智能体。作者称这是该设定下的 the first systematic red-teaming framework。

    深度解读完整解读
  17. 攻击arXiv 2601.05466

    通过强化学习用迭代式工具伪装攻击越狱大语言模型

    提出 iMIST,用工具伪装和 PPO 迭代越狱大语言模型

    发表
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    DeepSeek-V3、Qwen3-32B、GPT-OSS-120B
    摘要iMIST 用工具伪装和在线 PPO 做黑盒越狱,Table I 中 JADES 高于同格基线。

    iMIST是黑盒越狱方法:把恶意查询伪装成合法工具调用,再用在线强化学习把响应的有害性分数往上推。

    深度解读完整解读