摘要作者称功耗单独只能弱约束隐藏算力。
这篇工作定量估计片外功耗能为算力核验排除多少未声明运算。
- 攻击arXiv 2610.06848
TranScope：利用 CPU 性能计数器对 Transformer 做成员推断攻击
提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员
- arXiv
- 2610.06848
- 发表
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- BERT (4.4M-340M)、ViT (22M-307M)、Pythia (70M-2.8B) 等 5 个
摘要TRANSCOPE 揭示了分词器在嵌入表引发的硬件访问局部性差异，证实微架构计数器可突破恒定时间与置信度遮蔽防御。
- 攻击arXiv 2610.05894
研究者提出闭环偏见注入攻击
提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见
- arXiv
- 2610.05894
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 攻击者
- 灰盒
- 被测模型
- LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct
摘要通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。
- 防御arXiv 2610.05640
研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL
提出 multi-CaMeL，在智能体调用边界隔离可信指令与非可信数据
- arXiv
- 2610.05640
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- Claude Fable 5、GPT-5.5、GPT-4.1 等 6 个
摘要论文针对多智能体中单体防御不组合的边界清洗问题，提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。
- 分析与理论arXiv 2610.02504
HXAI：分布式能源系统中的分层隐私保护可解释 AI 框架
提出 HXAI 分层隐私解释框架，本地保留细解释并只发布加噪摘要
- arXiv
- 2610.02504
- 发表
- 场景
- 模型与 API
- 被测模型
- gradient-boosted tree regression models
- 攻击提取与窃取
摘要HXAI 把无噪声局部 SHAP 留在家庭内，只聚合差分隐私摘要。
HXAI 是面向分布式能源系统的分层隐私保护解释框架，服务规划、监测与诊断，而不是实时控制。
- 防御arXiv 2610.02349
MIRROR：面向多智能体通信的法定人数完整性防御
提出 MIRROR，用多路径摘要多数表决保障多智能体通信完整性
- arXiv
- 2610.02349
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- Gemma-4-31B-it、Gemini 2.5 Pro
摘要MIRROR 靠多数路径。
MIRROR 是 LLM 多智能体通信层上的多路径法定人数完整性原语，只处理不透明字节，不解释消息内容。要处理的是 Agent-in-the-Middle：中介合法终结 TLS 后可改在途消息，而语义校验有推理开销和误拦，签名又要求私钥管理。做法是生成结束后复制同一规范化载荷。
- 防御arXiv 2609.38239
推理层安全：防御对抗性推理与基础设施滥用
用 SCM 合成会话并训练检测器识别推理层滥用
- arXiv
- 2609.38239
- 发表
- 场景
- 模型与 API
- 被测模型
- gradient-boosted detector (GBDT/XGBoost)
- 分析与理论arXiv 2609.29757
OllamaDrama：用蜜罐测量暴露 LLM 基础设施遭受的攻击
部署蜜罐测量针对暴露 LLM 基础设施的攻击
- arXiv
- 2609.29757
- 发表
- 场景
- 模型与 API
- 攻击arXiv 2609.06749
PMA 攻击：针对隐私保护 LLM 中嵌入到嵌入混淆的语义流形对齐方法
提出 PMA，用流形对齐从 E2EO 混淆向量恢复明文
- arXiv
- 2609.06749
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- BERT-base、RoBERTa-base、T5-base 等 6 个
- 攻击arXiv 2608.09867
研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链
利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链
- arXiv
- 2608.09867
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 13 个
摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。
- 攻击arXiv 2608.00718
研究揭示多智能体 LLM 流水线的结构性漏洞
提出多智能体流水线的边界攻击，使对抗内容作为可信输入跨层传播
- arXiv
- 2608.00718
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- GPT-5-mini、Claude Sonnet 4.5、Kimi K2.5
- 攻击提示注入
摘要缺边界校验使对抗内容跨智能体传播，作者称这是架构属性而非模型能力。
作者把多智能体 LLM 流水线的对抗问题定义为缺少边界校验，并用生产轨迹和受控实验检查脆弱性来自架构还是骨干模型。中间输出未经验证就传给下游。作者认为，一旦某级接受对抗内容，后续智能体会把它当作可信输入。
- 攻击arXiv 2606.11817
研究：语法约束解码可越狱 LLM 生成恶意代码，并提出 CodeShield 防御
提出 CodeSpear 越狱，借语法约束解码生成恶意代码，并给出 CodeShield 防御
- arXiv
- 2606.11817
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- Qwen2.5-Coder-7B、Qwen2.5-Coder-32B、Qwen2.5-7B 等 10 个
摘要论文发现语法约束解码会破坏自然语言安全对齐，提出 CodeSpear 越狱攻击与基于蜜罐代码对齐的 CodeShield 防御。
- 攻击arXiv 2605.30040
研究揭示 LLM 按 token 计费可被服务商系统性虚报
构造可通过计费审计的 token 虚报，使服务商系统性超收
- arXiv
- 2605.30040
- 发表
- 场景
- 模型与 API
- 被测模型
- PALACE domain-adapted auditor
摘要不诚实提供方可在三种 token 审计上虚报并通过检查，作者认为需改用提供方不控制的证据。
不透明 LLM 的按 token 计费里，现有审计核验的是提供方可控的证据，不诚实提供方可以虚报并通过检查。。
- 攻击arXiv 2605.08313
研究者提出 SeedHijack 攻击，劫持 LLM 采样随机数种子
提出 SeedHijack，劫持采样 PRNG 以强制选定 token
- arXiv
- 2605.08313
- 发表
- 场景
- 模型与 API
- 被测模型
- GPT-2 (124M)、Qwen2-1.5B-Instruct、DeepSeek-R1-1.5B 等 5 个
摘要采样层 PRNG 被替换以强制选 token。
SeedHijack 把 LLM 采样用的 PRNG 输出换成攻击者选定的数，从而指定下一个 token。权重、输入和 logits 都不改。防御是用硬件 QRNG 替换该随机源。
- 攻击arXiv 2601.04261
针对大语言模型后门指纹的抑制攻击
提出 TFA 与 SVA，抑制 ensemble 后门指纹验证
- arXiv
- 2601.04261
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- LLaMA2-7B、LLaMA3.1-8B-It、Qwen2.5-7B 等 11 个
摘要两种 ensemble 攻击 TFA/SVA 抑制后门指纹。
TFA 与 SVA 是针对后门式 LLM 指纹的 ensemble 抑制攻击，不改模型参数。所有者用 SFT 写入秘密对，只通过 API 验证版权。攻击者未授权取得模型，不知道触发和指纹，却要把每个模型的验证变成失败，同时让 ensemble 至少不差于性能最高的单模型。
已经到底了