摘要作者称功耗单独只能弱约束隐藏算力。
这篇工作定量估计片外功耗能为算力核验排除多少未声明运算。
- 防御arXiv 2609.38239
推理层安全：防御对抗性推理与基础设施滥用
用 SCM 合成会话并训练检测器识别推理层滥用
- arXiv
- 2609.38239
- 发表
- 场景
- 模型与 API
- 被测模型
- gradient-boosted detector (GBDT/XGBoost)
- 防御arXiv 2606.11817
研究：语法约束解码可越狱 LLM 生成恶意代码，并提出 CodeShield 防御
提出 CodeSpear 越狱，借语法约束解码生成恶意代码，并给出 CodeShield 防御
- arXiv
- 2606.11817
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- Qwen2.5-Coder-7B、Qwen2.5-Coder-32B、Qwen2.5-7B 等 10 个
摘要论文发现语法约束解码会破坏自然语言安全对齐，提出 CodeSpear 越狱攻击与基于蜜罐代码对齐的 CodeShield 防御。
- 防御arXiv 2605.08313
研究者提出 SeedHijack 攻击，劫持 LLM 采样随机数种子
提出 SeedHijack，劫持采样 PRNG 以强制选定 token
- arXiv
- 2605.08313
- 发表
- 场景
- 模型与 API
- 被测模型
- GPT-2 (124M)、Qwen2-1.5B-Instruct、DeepSeek-R1-1.5B 等 5 个
摘要采样层 PRNG 被替换以强制选 token。
SeedHijack 把 LLM 采样用的 PRNG 输出换成攻击者选定的数，从而指定下一个 token。权重、输入和 logits 都不改。防御是用硬件 QRNG 替换该随机源。
已经到底了