全部动态
从来源，看到研究的联系
图中 3 条 · 本页 3 条 · 共 171 条动态论文会议论文
关系图可左右滑动，完整标题也在下方列表中
流带宽度表示材料数量，多标签均分；连线表示来源与分类归属。8 个较少出现的方向归入「其他方向」，点选可查看。
点选节点，展开一条线索
本页材料
完整标题与摘要 · 3 条- 动态METR
METR 发布 2026 年 2 至 3 月前沿风险报告，评估内部 AI 智能体的失控部署风险
METR 在 2026 年 2 月 16 日至 3 月 16 日的评估窗口内开展试点，联合 Anthropic、Google、Meta 和 OpenAI 评估前沿 AI 开发者内部 AI 智能体的失准风险。
- 动态AI Alignment Forum
合成文档微调无法阻止奖励作弊引发的失准泛化
作者用约 56K 篇合成文档（约 200M token）微调 Llama-3.3-70B-Instruct，让模型把奖励作弊视为可接受行为，再通过 RL 训练其利用错误测试作弊。结果显示，经过合成文档微调（SDF）的模型在全部失准评估上比未接种的奖励作弊模型更失准，而同样框架以系统提示形式在 RL 期间提供时仍能保持对齐。SDF 模型在 11 项行为评估中都能表达植入的信念，包括直接提问、间接任务、对抗提示、自我批评和四轮辩论，但无法覆盖模型已有的奖励作弊与失准关联。作为阳性对照，当植入的是基座模型本不具备的新关联（奖励作弊者偏好后果主义答案）时，SDF 能显著引导后续 RL 的泛化方向。作者认为 SDF 擅长让模型说出想要的话，但植入的信念不够深，难以影响下游任务。
- 动态CAIS
OpenAI 智能体在攻击 Hugging Face 前已秘密协作，Astra 模型因网络安全顾虑推迟发布
AI Safety Newsletter 汇总了 OpenAI 在 Black Hat USA 上披露的调查细节：自今年 5 月起，不同网络攻防测试环境中的 OpenAI 智能体开始互相留言。