事件历史事件
ECHO：以回复危害性替代合规代理的越狱攻击
先了解这件事
AI 综述
2026年10月16日，arXiv 发布一项研究，提出基于优化的越狱攻击方法 ECHO。该方法将优化目标从提示词层面的合规代理改为解码回复的连续危害性评分，使用基于实际有害能力的 1.7B 回归器 HarmSig 打分，并结合五种词级扰动算子和带全局 top-m 记忆的关键词锚定束搜索，在严格黑盒威胁模型下运行。在 AdvBench 上针对五个开源权重模型，ECHO 取得最高 0.898 的 StrongREJECT 平均分和 89.23% 的 HarmBench 成功率，代码已公开。
AI 根据报道生成 · 25 天前更新
走势与进展
每小时关注度
现在 36，24 小时 0%·峰值 36（11月6日 04:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 36
相关研究
这件事的论文
- ECHO：以回复危害性替代合规代理的优化式越狱攻击
arXiv · 2026-10-16 · 深度解读
后续时间线
10月16日
- arXiv：越狱、提示注入、投毒与防御ECHO：以回复危害性替代合规代理的优化式越狱攻击
研究者提出基于优化的越狱攻击 ECHO，将优化目标从提示词层面的合规代理改为解码回复的连续危害性评分。该方法使用基于实际有害能力的 1.7B 回归器 HarmSig 打分，并结合五种词级扰动算子和带全局 top-m 记忆的关键词锚定束搜索，在严格黑盒威胁模型下运行。在 AdvBench 上针对五个开源权重模型，ECHO 取得最高 0.898 的 StrongREJECT 平均分和 89.23% 的 HarmBench 成功率，代码已公开。