跳到正文
10月13日 · 周二

全部论文

找到 6篇
筛选4

攻击类型

越狱40提示注入58投毒与后门21提取与窃取6恶意使用11

影响

数据与隐私泄露3

系统形态

模型与 API39LLM 应用9AI Agent6coding agent1

攻击者权限

黑盒3

攻击面/入口

用户输入6Agent 间消息3

层

应用层5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 218篇还没打标签，不在筛选结果里。
攻击类型：提取与窃取系统形态：AI Agent系统形态：coding agent攻击面/入口：用户输入清除全部

另有218篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.03434

    Persona Guardrail：面向智能体系统的生产级防御框架

    提出 Persona Guardrail，强制客服智能体守住功能边界

    arXiv
    2610.03434
    发表
    层
    应用层
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    Qwen3-30B-A3B、Qwen3-VL-30B、Qwen3-8B 等5个
    摘要Persona Guardrail 用功能边界做同步输入输出校验，并在 PAGE 与生产延迟预算下给出评测。

    Persona Guardrail 是客服向智能体的同步运行时防御：先写明功能边界，再决定放行或拦截，而不是只检测某一攻击类。

    深度解读完整解读
  2. 攻击arXiv 2609.09865

    CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

    提出 CGMIA，检测代码生成基准样本是否泄漏进训练集

    arXiv
    2609.09865
    发表
    层
    模型层
    场景
    coding agent
    攻击者
    灰盒
    被测模型
    Qwen2.5-Coder (3B)、CodeGemma (2B)、DeepSeek-Coder (1.3B) 等5个
    摘要CGMIA 融合相似度、通过率、困惑度与 CodeBERT，在模拟泄漏上优于八个 MIA 基线。

    CGMIA 用成员推断检测代码生成基准是否泄入 LLM 训练集，使评测不依赖对训练语料的直接访问。

    深度解读完整解读
  3. 攻击arXiv 2608.04192

    研究者提出 SkillClone，仅凭正常提问即可克隆 LLM Agent 隐藏技能功能

    提出 SkillClone，仅凭良性任务交互重构闭源 Agent 技能

    arXiv
    2608.04192
    发表
    层
    应用层
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    DeepSeek-Flash、DeepSeek-Pro、GLM-5.1 等5个
    摘要论文揭示了仅靠良性任务交互即可重构闭源智能体技能隐藏功能的风险，表明功能保密需要限制累积信息泄露。

    论文从功能保密视角系统研究了大语言模型智能体技能的行为重构威胁。

    深度解读完整解读
  4. 攻击arXiv 2607.25560

    SigLeak 可从执行轨迹推断专有 Agent 技能

    提出 SigLeak，从黑盒 Agent 执行轨迹推断专有技能

    arXiv
    2607.25560
    发表
    层
    应用层
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    GPT-5.4-mini、GPT-5.5、GLM-5.2 等4个

    摘要提出了通过良性查询和对照轨迹推断黑盒专有技能的 SigLeak 框架，揭示了智能体执行可见性带来的行为侧信道泄露风险。

    深度解读完整解读
  5. 防御arXiv 2605.11036

    SeqWM：面向 LLM 智能体的序列行为水印框架

    提出 SeqWM，把水印写入智能体动作转移并用随机密钥检测

    arXiv
    2605.11036
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    LLaMA-3.2 3B Instruct、Gemma 4 E4B-it、Qwen3-4B Instruct
    摘要SeqWM 以条件转移嵌行为水印。

    SeqWM 是给 LLM 智能体动作序列加水印的框架，用来在只看到动作时判断轨迹是否来自持有密钥的带水印源。

    深度解读完整解读
  6. 攻击arXiv 2602.07379

    Aegis：面向 AI 语音 Agent 的治理、完整性与安全

    提出 Aegis 红队框架，多轮攻击高风险语音 Agent

    arXiv
    2602.07379
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-4o、GPT-4o-mini、Gemini-1.5 Pro 等7个
    摘要Aegis 红队评测三类语音智能体：查询式访问消掉认证与泄密成功，行为类攻击仍在。

    Aegis 用多轮红队评测已接入业务系统的 ALLM 语音智能体。作者称这是该设定下的 the first systematic red-teaming framework。

    深度解读完整解读
已经到底了