事件历史事件
TRACER：针对间接提示注入的通道感知对抗训练防御
先了解这件事
AI 综述
2026年10月14日发布的arXiv论文提出TRACER，一种按通道感知的对抗训练方法，用于防御间接提示注入。作者指出防御鲁棒性与攻击所处通道相关：同一攻击作为后续消息时成功率为18%，放入检索上下文时升至53%。在GSM8K上使用Qwen2.5-3B-Instruct，TRACER将RAG场景下的攻击成功率从65.5%降至6.1%，同时保持78-82%的干净准确率；RAG与工具联合训练在3B规模下平均攻击成功率为13.9%。
AI 根据报道生成 · 29 天前更新
走势与进展
每小时关注度
现在 27，24 小时 0%·峰值 27（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 27
相关研究
这件事的论文
- TRACER：针对间接提示注入的轨迹正则化训练
arXiv · 2026-10-13 · 深度解读
后续时间线
10月14日
- arXiv：越狱、提示注入、投毒与防御TRACER：针对间接提示注入的轨迹正则化训练
论文提出 TRACER，一种按通道感知的对抗训练方法，用于防御间接提示注入。作者指出防御鲁棒性与攻击所处的通道相关，同一攻击作为后续消息时成功率为 18%，放进检索上下文时升至 53%。在 GSM8K 上使用 Qwen2.5-3B-Instruct，TRACER 将 RAG 场景下的攻击成功率从 65.5% 降到 6.1%，同时保持 78-82% 的干净准确率。RAG 与工具联合训练在 3B 规模下平均攻击成功率为 13.9%，7B 规模单轮训练达到 9.4%。作者据此认为，稳健的防御需要在各部署通道上分别训练和评估。