Reflection 发布 Beam 安全技术报告
Beam Safety Technical Report
AI 导读
Reflection 发布 Beam 安全技术报告,披露该模型在生物、化学、失控和网络攻击四类风险上的评测结果与 OSF 风险判定。安全后训练采用 Deliberative Alignment,分两阶段生成 SFT 轨迹,并在 RL 中用上下文感知的评判器同时优化拒答与减少过度拒答,安全环境占训练混合数据的 5%。生物评测中,Beam 在 Human Pathogen Capabilities Test 以 61% 准确率居 13 个模型首位,在 BioTIER 高风险拒答上得 64.6% 排第二。失控方面,自动化对齐审计显示 Beam 在关停抵抗和监督规避场景未越界,并正与 Andon Labs 以真实售货业务开展部署评估。网络攻击评测中 Beam 解出 14 个简单挑战中的 9 个,未解出专家级挑战,被评为 Limited。
推荐理由
报告披露 Beam 在生物、化学、失控与网络攻击四类风险上的评测方法、对照结果与 OSF 判定,可作为其他团队搭建模型安全评估的参照。