攻击arXiv:2610.05894 · 10月5日
研究者提出闭环偏见注入攻击
提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见
模型与 API攻击者灰盒测试LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct模型层
- 模型篡改
- 梯度与表征优化
摘要通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。
完整解读
攻击arXiv:2610.01062 · 10月2日
Kernelized Activation Steering：将激活引导推广到再生核希尔伯特空间的新框架
提出核化激活引导 KAS，在推理时自适应转向激活以诱导越狱
模型与 API测试Qwen2.5-7B-Instruct、Gemma-2-9B-IT、Llama-3.1-8B-Instruct 等 6 个模型层
- 模型篡改
- 梯度与表征优化
摘要KAS 用核梯度做局部自适应转向，并在线性核下恢复 DiM。
Kernelized Activation Steering（KAS） 把推理时的激活转向写成核空间中的优化，使更新随当前激活相对源、目标参考集的位置而变化。
完整解读
攻击arXiv:2608.29458 · 8月30日
Reference-Grafting 在提取沙袋行为隐藏能力上追平微调
提出参考嫁接，在推理时用激活干预诱导出沙袋隐藏的能力
模型与 API攻击者白盒测试Qwen2.5-1.5B、Qwen2.5-3B、Qwen2.5-14B 等 15 个模型层
摘要提出参考嫁接在推理阶段以低成本匹配微调诱导效果，揭示隐瞒表征重叠与阈值门控机制。
完整解读

已经到底了

全部论文

攻击类型

攻击技术

模型自身风险

影响

系统形态

攻击者权限

攻击面/入口

层

被测模型厂商

研究者提出闭环偏见注入攻击

Kernelized Activation Steering：将激活引导推广到再生核希尔伯特空间的新框架

Reference-Grafting 在提取沙袋行为隐藏能力上追平微调