事件历史事件
ATTCK-R：面向受保护LLM的长程越狱框架
先了解这件事
AI 综述
研究者提出多轮红队框架 ATTCK-R，用于在配有基于提示词安全防护的黑盒系统上开展越狱测试。论文报告，引入一层基于提示词的安全防护后，一个强多轮基线的平均攻击成功率从 0.896 降至 0.608，相对下降 32.1%，说明无防护评测会显著高估真实部署中的脆弱性。ATTCK-R 把越狱建模为长时程轨迹优化问题，使用结构化信念状态，通过基于优化的策略筛选从既往成功与失败中提炼可复用策略，并用知情回溯从有策略意义的状态继续攻击而非重新开始。
AI 根据报道生成 · 29 天前更新
走势与进展
每小时关注度
现在 33，24 小时 0%·峰值 33（11月6日 04:00）
11月7日11月8日11月9日11月10日11月11日现在 33
相关研究
这件事的论文
- ATTCK-R：面向受保护 LLM 的知识感知长时程越狱框架
arXiv · 2026-10-12 · 深度解读
后续时间线
10月12日
- arXiv：越狱、提示注入、投毒与防御ATTCK-R：面向受保护 LLM 的知识感知长时程越狱框架
研究者提出多轮红队框架 ATTCK-R，用于在配有基于提示词安全防护的黑盒系统上开展越狱测试。论文报告，引入一层基于提示词的安全防护后，一个强多轮基线的平均攻击成功率从 0.896 降至 0.608，相对下降 32.1%，说明无防护评测会显著高估真实部署中的脆弱性。ATTCK-R 把越狱建模为长时程轨迹优化问题，使用结构化信念状态，通过基于优化的策略筛选从既往成功与失败中提炼可复用策略，并用知情回溯从有策略意义的状态继续攻击而非重新开始。在 9 个配置单层提示词安全防护的常用 LLM 上，ATTCK-R 的表现持续优于近期强多轮越狱框架。消融结果显示长时程规划与策略筛选提升攻击效果，自适应回溯则通过结构化地从对话失败中恢复来提升效率。