跳到正文
10月13日 · 周二

全部论文

找到 5篇
筛选4

攻击类型

越狱19提示注入81投毒与后门55提取与窃取5检测规避7拒绝服务5

影响

数据与隐私泄露4

系统形态

模型与 API30LLM 应用7AI Agent5coding agent1具身与机器人0

攻击面/入口

用户输入4

层

应用层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 203篇还没打标签，不在筛选结果里。
攻击类型：提取与窃取系统形态：AI Agent系统形态：coding agent系统形态：具身与机器人清除全部

另有203篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.09865

    CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

    提出 CGMIA，检测代码生成基准样本是否泄漏进训练集

    arXiv
    2609.09865
    发表
    层
    模型层
    场景
    coding agent
    攻击者
    灰盒
    被测模型
    Qwen2.5-Coder (3B)、CodeGemma (2B)、DeepSeek-Coder (1.3B) 等5个
    摘要CGMIA 融合相似度、通过率、困惑度与 CodeBERT，在模拟泄漏上优于八个 MIA 基线。

    CGMIA 用成员推断检测代码生成基准是否泄入 LLM 训练集，使评测不依赖对训练语料的直接访问。

    深度解读完整解读
  2. 攻击arXiv 2608.04192

    研究者提出 SkillClone，仅凭正常提问即可克隆 LLM Agent 隐藏技能功能

    提出 SkillClone，仅凭良性任务交互重构闭源 Agent 技能

    arXiv
    2608.04192
    发表
    层
    应用层
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    DeepSeek-Flash、DeepSeek-Pro、GLM-5.1 等5个
    摘要论文揭示了仅靠良性任务交互即可重构闭源智能体技能隐藏功能的风险，表明功能保密需要限制累积信息泄露。

    论文从功能保密视角系统研究了大语言模型智能体技能的行为重构威胁。

    深度解读完整解读
  3. 攻击arXiv 2607.25560

    SigLeak 可从执行轨迹推断专有 Agent 技能

    提出 SigLeak，从黑盒 Agent 执行轨迹推断专有技能

    arXiv
    2607.25560
    发表
    层
    应用层
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    GPT-5.4-mini、GPT-5.5、GLM-5.2 等4个

    摘要提出了通过良性查询和对照轨迹推断黑盒专有技能的 SigLeak 框架，揭示了智能体执行可见性带来的行为侧信道泄露风险。

    深度解读完整解读
  4. 攻击arXiv 2603.11132

    WebWeaver：以隐蔽的上下文推断攻破 LLM 多智能体系统拓扑机密性

    提出 WebWeaver ，只攻陷单个智能体并从对话上下文恢复多智能体通信拓扑

    arXiv
    2603.11132
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    Llama 3.1 8B、Qwen 2.5 7B、Mistral NeMo 12B 等6个
    摘要WebWeaver 用上下文推断拓扑。

    WebWeaver 是针对 LLM-MAS 通信拓扑机密性的推断攻击：只控制一个任意智能体，从对话上下文恢复全图，而不是查询智能体 ID。

    深度解读完整解读
  5. 攻击arXiv 2602.07379

    Aegis：面向 AI 语音 Agent 的治理、完整性与安全

    提出 Aegis 红队框架，多轮攻击高风险语音 Agent

    arXiv
    2602.07379
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-4o、GPT-4o-mini、Gemini-1.5 Pro 等7个
    摘要Aegis 红队评测三类语音智能体：查询式访问消掉认证与泄密成功，行为类攻击仍在。

    Aegis 用多轮红队评测已接入业务系统的 ALLM 语音智能体。作者称这是该设定下的 the first systematic red-teaming framework。

    深度解读完整解读
已经到底了