事件历史事件
EDIC：外部数据逐指令合规防御框架
先了解这件事
AI 综述
2026年10月16日发布的论文提出EDIC框架，将外部数据中混杂的合法指令与对抗性提示注入按指令逐条归因，用分解奖励分别鼓励有益合规、惩罚有害合规。该方法把问题形式化为外部数据指令分类，对每条嵌入指令做识别、分类、行动；训练流水线注入成对的有益与有害指令并做反事实过滤，生成式评判器先经SFT初始化，再用GRPO精调。在两个主干模型和五个基准上，EDIC相比最强先前防御同时提升安全与有用性，在Qwen3-4B上有害拒答最高提升7.7%。
AI 根据报道生成 · 25 天前更新
走势与进展
每小时关注度
现在 27，24 小时 0%·峰值 27（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 27
相关研究
这件事的论文
- 识别、分类、行动：LLM 对外部数据的逐指令受控合规
arXiv · 2026-10-16 · 深度解读
后续时间线
10月16日
- arXiv：对抗攻击、后门与投毒识别、分类、行动：LLM 对外部数据的逐指令受控合规
论文提出 EDIC，把外部数据中混杂的合法指令与对抗性提示注入按指令逐条归因，用分解奖励分别鼓励有益合规、惩罚有害合规。该方法将问题形式化为外部数据指令分类，即对每条嵌入指令做识别、分类、行动；训练流水线注入成对的有益与有害指令并做反事实过滤，生成式评判器先经 SFT 初始化，再用 GRPO 精调。在两个主干模型和五个基准上，EDIC 相比最强的先前防御同时提升了安全与有用性，在 Qwen3-4B 上有害拒答最高提升 7.7%，Arena-Hard-Auto 有用性提升 12.5%。代码已在 GitHub 开源。