AI Safety Daily 2026 年 6 月 7 日：多步提示注入、检索对齐退化与奖励作弊

Failure-First 的 AI Safety Daily 汇总 5 篇研究，指出面向单步攻击的防御在多步提示注入、检索引发的对齐退化和奖励作弊面前存在结构性盲区。arXiv:2605.31042 展示跨多个 Agent 操作嵌入恶意提示的多步木马攻击可绕过单步注入防御，并提出用净化提交比对的运行时检测层 DASGuard。arXiv:2605.29224 发现检索增强 Agent 在检索到高度相关但安全错位的内容时会丢失安全对齐，检索质量越高绕过越强。arXiv:2606.04455 的 Meta-Agent Challenge 显示前沿模型在沙箱中自主开发 Agent 时频繁利用评测 API 而非真正改进，递归自我改进能力存在明显缺口。