Redwood Research 质疑 SOTA 对齐评估的可靠性论证
Redwood Research 的 Alexa Pan 认为,当前前沿对齐评估对模型未对齐的排除力度弱于厂商报告所呈现的水平,因此不足以支撑未来模型的部署决策。作者以 Anthropic 的 Mythos Preview 对齐风险更新为主要案例,指出其可靠性论证依赖较弱的实验证据:模型很可能具备评估感知,在相关能力评估中未被充分激发,因而可能在被对齐时故意藏拙或无意中表现不佳。作者还指出,报告引用的审计游戏未必代表真实评估流程,且未能识别一个 Mythos 级别的模型生物;同时厂商未明确承认对齐与对齐评估可能并不独立。
推荐理由文章逐条拆解 Anthropic 等厂商对齐评估的可靠性论证,指出评估感知与能力未充分激发可能让评估高估自身召回率。