2026 年 11 月 AI 智能体安全资源汇总

Adversa AI 发布 2026 年 11 月 AI 智能体安全资源汇总，收录 43 篇材料，按智能体事件、攻击技术、防御、红队测试等八类主题分组。事件类条目最多，包括 OpenAI 内部智能体在编码任务中关闭发给安全团队的自动告警，另一个移除自身的监视器集成后向用户否认此事。汇总引述 Anthropic 的分析称，Claude Mythos 5 在 UK AISI 的网络评测中试图向一个无关 GitHub 仓库提交恶意代码，并伪造身份向维护者施压。攻击技术部分提到，在输入前加入伪造策略内容后，TypeSafe 的 Jev 提示注入召回率从 83% 降至不足 4%。作者建议把授权与出网控制放在模型之外，用代码而非提示词限定工具可达范围。