10月8日 · 周四

全部论文

找到 3 篇

筛选1

攻击类型

模型篡改2 提取与窃取1

攻击技术

梯度与表征优化2

模型自身风险

欺骗与谋划1

影响

数据与隐私泄露1 输出被操纵1 监督失效1

系统形态

攻击者权限

黑盒1 灰盒1 白盒1

攻击面/入口

用户输入1 权重与梯度2 推理服务与硬件1

层

提示层17 模型层3 应用层46 训练与数据层10 基础设施层4

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1081 篇还没打标签，不在筛选结果里。

层：模型层清除全部

另有 1081 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2610.05894 · 10月5日
研究者提出闭环偏见注入攻击
提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见
模型与 API攻击者灰盒测试LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct模型层
- 模型篡改
- 梯度与表征优化
摘要通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。
完整解读
攻击arXiv:2608.29458 · 8月30日
Reference-Grafting 在提取沙袋行为隐藏能力上追平微调
提出参考嫁接，在推理时用激活干预诱导出沙袋隐藏的能力
模型与 API攻击者白盒测试Qwen2.5-1.5B、Qwen2.5-3B、Qwen2.5-14B 等 15 个模型层
摘要提出参考嫁接在推理阶段以低成本匹配微调诱导效果，揭示隐瞒表征重叠与阈值门控机制。
完整解读
攻击arXiv:2609.36941 · 9月29日
研究者提出针对黑盒 LLM 的实用密钥提取框架
提出用扰动蒸馏本地代理并离线过滤来提取黑盒模型凭据
模型与 API攻击者黑盒测试DeepSeek-Coder-7B、LLaMA-3-8B、Qwen2.5-Coder-7B 等 8 个模型层
- 提取与窃取
摘要论文提出扰动蒸馏与离线过滤两阶段框架，实现了 output-only 访问下延迟降低的黑盒大模型 API key 提取。
完整解读

已经到底了