Align to Misalign：以元优化 LLM 评判器实现自动越狱
[Daily Paper] Align to Misalign: Automatic LLM Jailbreak with Meta-Optimized LLM Judges
AI 导读
论文提出 AMIS（Align to MISalign）双层元优化框架，把越狱提示与判定攻击是否成功的评分模板同时优化，报告在 Claude-3.5-Haiku 上达到 88.0% 攻击成功率，在 Claude-4-Sonnet 上达到 100.0% 攻击成功率。内层循环用密集反馈迭代改进提示，外层循环用 ASR 对齐分数校正评分模板，两个循环相互强化。文章指出，100% 成功率指在 JBB-Behaviors 等基准上满足违规判定标准，并不等于模型可被轻易越狱。文章认为这暴露了当前对齐评测的循环性：评分模板一旦成为优化目标便不再可靠，并提示 VLA 等具身系统可能放大同类漏洞。