ClawSafety：安全的 LLM，不安全的 Agent
ClawSafety: "Safe" LLMs, Unsafe Agents
AI 导读
研究者发布 ClawSafety 基准，用 120 个对抗测试用例在 5 个前沿模型上完成 2520 次沙箱试验，评估个人 AI Agent 在间接提示注入下的安全性。攻击成功率在 40% 到 75% 之间，技能文件注入平均 69.4%，高于邮件注入的 60.5% 和网页注入的 38.4%。Claude Sonnet 4.6 总体攻击成功率最低（40.0%），并在凭证转发和破坏性操作上保持 0%。同一模型换用 Nanobot 框架后总体攻击成功率从 40.0% 升至 48.6%，邮件注入反超技能注入，说明安全取决于模型与框架的组合。论文还发现，命令式措辞会触发模型的多源核查，陈述式措辞则绕过防御。
推荐理由
论文给出五种前沿模型在三种注入通道下的攻击成功率，并显示同一模型换用不同 Agent 框架后安全表现会变化。