攻击arXiv 2608.041928月5日
研究者提出 SkillClone，仅凭正常提问即可克隆 LLM Agent 隐藏技能功能
提出 SKILLCLONE，仅凭良性任务交互重构 Agent 隐藏技能功能
arXiv
2608.04192
发表
8月5日
层
应用层
场景
AI Agent
攻击者
黑盒
测试
DeepSeek-Flash、DeepSeek-Pro、DeepSeek-V4-Flash Preview 等 6 个
- 攻击提取与窃取
- 技术自动化搜索
- 组件MCP 与技能
摘要论文揭示了仅靠良性任务交互即可重构闭源智能体技能隐藏功能的风险，表明功能保密需要限制累积信息泄露。
论文从功能保密视角系统研究了大语言模型智能体技能的行为重构威胁。
深度解读完整解读
攻击arXiv 2610.0419510月3日
MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露
评估多租户智能体共享向量记忆的跨用户泄露与主动桥接
arXiv
2610.04195
发表
10月3日
层
应用层
场景
AI Agent
测试
all-MiniLM-L6-v2、Gemini 2.5 Flash、Claude Sonnet 4.5 等 5 个
- 攻击提取与窃取
- 技术诱导选用
- 组件记忆
深度解读完整解读
防御arXiv 2610.0241810月1日
Whiteout：用混淆样本阻止 LLM 泄露个人敏感信息
提出 Whiteout，用伪装样本微调覆盖个人敏感信息关联
arXiv
2610.02418
发表
10月1日
层
训练与数据层
场景
模型与 API
攻击者
黑盒、白盒
测试
Phi-3-mini、DeepSeek R1 Distill、Phi-4 等 7 个
- 防御模型加固
- 攻击提取与窃取
深度解读完整解读
攻击arXiv 2608.098678月11日
研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链
利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链
arXiv
2608.09867
发表
8月11日
层
提示层
场景
模型与 API
攻击者
黑盒
测试
DeepSeek-V4-Flash、Claude Opus 4.8、Claude Sonnet 4.6 等 15 个
- 攻击提取与窃取
- 技术推理链操控
- 组件推理链
摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。
深度解读完整解读
评测与基准arXiv 2608.205548月21日
aiXamine：跨维度评测 LLM 安全、安全（security）与隐私权衡
提出 aiXamine 黑盒基准，统一评测 LLM 安全、稳健与隐私权衡
arXiv
2608.20554
发表
8月21日
层
模型层
场景
模型与 API
测试
deepseek/deepseek-r1-0528、Phi-4、openai/gpt-5-mini 等 15 个
- 攻击越狱
- 风险拒答失当
摘要aiXamine 用九服务黑盒协议比较百余个模型，作者称单轴信任度进展可能削弱其他轴。
aiXamine 是一套黑盒评测协议，用来在同一条件下比较 LLM 的 safety、security 与 privacy，而不是再产出一个能力分。
深度解读完整解读
防御arXiv 2609.162299月15日
ARIA：用稀疏自编码器实现测试时机器遗忘
提出 ARIA，在冻结权重上用 SAE 做推理时遗忘门控
arXiv
2609.16229
发表
9月15日
层
模型层
场景
模型与 API
攻击者
白盒
测试
DeepSeek-R1-Distill-Qwen-1.5B、Gemma-3-1B-it
- 防御推理时干预
- 攻击提取与窃取
- 组件推理链
深度解读完整解读
攻击arXiv 2609.098659月9日
CGMIA：用成员推理攻击检测代码生成基准的数据泄漏
提出 CGMIA，用成员推理检测代码生成基准的数据泄漏
arXiv
2609.09865
发表
9月9日
层
模型层
场景
编程 Agent
攻击者
灰盒
测试
DeepSeek-Coder (1.3B)、Phi-2 (2.7B)、Qwen2.5-Coder (3B) 等 5 个
- 攻击提取与窃取
摘要CGMIA 融合相似度、通过率、困惑度与 CodeBERT，在模拟泄漏上优于八个 MIA 基线。
CGMIA 用成员推断检测代码生成基准是否泄入 LLM 训练集，使评测不依赖对训练语料的直接访问。
深度解读完整解读
评测与基准arXiv 2609.300949月25日
PrivDrift：审计活跃 LLM 对话中话题漂移下的用户秘密泄露
提出 PrivDrift 基准，审计话题漂移后的用户秘密复述
arXiv
2609.30094
发表
9月25日
层
提示层
场景
模型与 API
测试
DeepSeek-R1、GPT-OSS-120B、Qwen3-VL-235B
- 攻击提取与窃取
- 技术角色扮演与说服
深度解读完整解读
攻击arXiv 2609.369419月29日
研究者提出针对黑盒 LLM 的实用密钥提取框架
提出用扰动蒸馏本地代理并离线过滤来提取黑盒模型凭据
arXiv
2609.36941
发表
9月29日
层
模型层
场景
模型与 API
攻击者
黑盒
测试
DeepSeek-Coder-7B、LLaMA-3-8B、Qwen2.5-Coder-7B 等 8 个
- 攻击提取与窃取
摘要论文提出扰动蒸馏与离线过滤两阶段框架，实现了 output-only 访问下延迟降低的黑盒大模型 API key 提取。
深度解读完整解读

已经到底了