大模型自我反思微调 SRFT，让 Agent 学会抵御未知的提示注入

约翰斯·霍普金斯大学等机构团队于 2026 年 10 月 3 日发布论文，提出 SRFT（自我反思微调）安全训练方法：先让待训练模型在含注入内容的工具返回中采样自己的候选动作，再由专家模型对比正确动作、分析错误原因与潜在后果，将反思文本与正确动作一起用于监督微调。在 AgentDojo 上，Llama-3.1-8B 的攻击成功率从 7.59% 降至 1.26%，Qwen3-8B 从 16.97% 降至 1.05%；面对 RL-Hammer 自适应攻击，经 20 轮攻击训练后 Llama-3.1-8B 的 SR-Agent 攻击成功率为 17.5%，低于原始模型的 98.5% 和 Meta-SecAlign 的 69.5%。消融实验显示，在 Qwen3-8B 上去掉错误动作分析后，攻击成功率从 17.0% 升至 65.0%。