Heads of Security：学习式注意力门控提升提示注入鲁棒性
Heads of Security: Learned Attention Gates Improve Prompt Injection Robustness
AI 导读
研究者提出 Heads of Security（HoS），一种通过学习各注意力头在可信与不可信 token 之间的注意力分配来强制指令与数据分离的提示注入防御。作者在 Llama-3.3-70B-Instruct 和 GPT-OSS-20B 上将其与基于微调的 SecAlign++ 和同样在架构层面实现指令-数据分离的 ASIDE 对比：黑盒攻击 RL-Hammer 对 GPT-OSS-20B 的攻击成功率达 97%、对 SecAlign 达 85%，对 HoS 仅 10%；通过 autoresearch 针对 HoS 强化后的白盒攻击 Claudini，在 HoS 上达到相同攻击成功率所需 FLOPs 是其在 GPT-OSS-20B 或 SecAlign 上的 3 倍。
相关热点
2 个事件 · 3 条新闻提到
- 这件事的论文
HoS：学习式注意力门控防御提示注入
提到这篇论文的新闻
HoS：学习式注意力门控防御提示注入
- AI Security and Privacy Lab, Imperial College London引用了论文编号或链接Heads of Security：学习型注意力门控提升提示注入鲁棒性
de Montjoye, Yves-Alexandre}, journal = {arXiv preprint arXiv:2610.37657}, year = {2026}, url = {https://arxiv.org/abs/2610.37657} }
- X @kotekjedi_ml引用了论文编号或链接团队发布仅 46k 参数的提示注入防御模型
Paper: https://arxiv.org/abs/2610.37657
周报：预训练投毒可植入智能体后门
- 公众号 大模型安全研究引用了论文编号或链接大模型安全周报：首次证明预训练投毒可植入远程代码执行后门，技能供应链成为攻防主战场
4. 注意力头级门控让模型「读而不执行」不可信内容：Heads of Security: Learned Attention Gates Improve Prompt Injection Robustness（https://arxiv.org/abs/2610.37657）
阅读原文