跳到正文
10月9日 · 周五

全部论文

找到 7 篇
筛选5

攻击类型

越狱9提示注入31投毒与后门18提取与窃取7检测规避4拒绝服务1恶意使用4

攻击技术

自动化搜索2潜伏触发1诱导选用1

模型自身风险

拒答失当1幻觉与编造1

防御类型

模型加固1检测与过滤1

影响

有害内容1数据与隐私泄露6

系统形态

模型与 API2LLM 应用1AI Agent4编程 Agent1

攻击者权限

黑盒3灰盒1

攻击面/入口

用户输入7记忆写入1

层

提示层1模型层3应用层4训练与数据层1

系统组件

MCP 与技能2记忆1RAG1推理链1

被测模型厂商

Google15Qwen（阿里）11OpenAI8Meta7DeepSeek5其他23
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 435 篇还没打标签，不在筛选结果里。
攻击类型：提取与窃取层：模型层层：应用层被测模型厂商：智谱 GLM被测模型厂商：Microsoft清除全部

另有 435 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.04192

    研究者提出 SkillClone，仅凭正常提问即可克隆 LLM Agent 隐藏技能功能

    提出 SKILLCLONE，仅凭良性任务交互重构 Agent 隐藏技能功能

    arXiv
    2608.04192
    发表
    层
    应用层
    场景
    AI Agent
    攻击者
    黑盒
    测试
    GLM-5.1、DeepSeek-Flash、DeepSeek-Pro 等 6 个
    摘要论文揭示了仅靠良性任务交互即可重构闭源智能体技能隐藏功能的风险，表明功能保密需要限制累积信息泄露。

    论文从功能保密视角系统研究了大语言模型智能体技能的行为重构威胁。

    深度解读完整解读
  2. 防御arXiv 2602.24210

    研究者提出 Staged Decoding 与 SFT 数据集，减少大推理模型推理轨迹中的隐私泄露

    提出 Staged Decoding 与指令跟随训练，减少推理轨迹隐私泄露

    arXiv
    2602.24210
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Phi 4 3.8B、Phi 4 14B、Qwen 3 1.7B 等 6 个
    摘要用一般指令跟随训练加分段解码，可降低轨迹隐私泄露，但数学效用下降。

    本文把大推理模型的隐私问题做成轨迹可控性：隐私指令是指令，轨迹不跟随就会把敏感上下文写进可被提示注入导出的文本。

    深度解读完整解读
  4. 攻击arXiv 2607.25560

    SigLeak 可从执行轨迹推断专有 Agent 技能

    提出 SigLeak，从良性查询的执行轨迹推断专有 Agent 技能

    arXiv
    2607.25560
    发表
    层
    应用层
    场景
    AI Agent
    攻击者
    黑盒
    测试
    GLM-5.2、GPT-5.4-mini、GPT-5.5 等 4 个

    摘要提出了通过良性查询和对照轨迹推断黑盒专有技能的 SigLeak 框架，揭示了智能体执行可见性带来的行为侧信道泄露风险。

    深度解读完整解读
  5. 评测与基准arXiv 2608.20554

    aiXamine：跨维度评测 LLM 安全、安全（security）与隐私权衡

    提出 aiXamine 黑盒基准，统一评测 LLM 安全、稳健与隐私权衡

    arXiv
    2608.20554
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Phi-4、openai/gpt-5-mini、openai/gpt-4o 等 15 个
    摘要aiXamine 用九服务黑盒协议比较百余个模型，作者称单轴信任度进展可能削弱其他轴。

    aiXamine 是一套黑盒评测协议，用来在同一条件下比较 LLM 的 safety、security 与 privacy，而不是再产出一个能力分。

    深度解读完整解读
  7. 攻击arXiv 2609.09865

    CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

    提出 CGMIA，用成员推理检测代码生成基准的数据泄漏

    arXiv
    2609.09865
    发表
    层
    模型层
    场景
    编程 Agent
    攻击者
    灰盒
    测试
    Phi-2 (2.7B)、Qwen2.5-Coder (3B)、CodeGemma (2B) 等 5 个
    摘要CGMIA 融合相似度、通过率、困惑度与 CodeBERT，在模拟泄漏上优于八个 MIA 基线。

    CGMIA 用成员推断检测代码生成基准是否泄入 LLM 训练集，使评测不依赖对训练语料的直接访问。

    深度解读完整解读
已经到底了