跳到正文
原文
arXiv· arXiv:2607.22305· Elinor Poole-Dayan, Jillian Fisher, Atoosa Kasirzadeh, Jacob Andreas, Mitchell Gordon, Michiel A. Bakker·本站收录· 原文发表

让多元对齐研究产生实际影响的路线图

A Roadmap to Impactful Pluralistic Alignment Research

AI 导读

对前沿实验室公开行为文档与评估的审查发现,没有一家将多元对齐列为目标,生产模型也未见为此接受显式训练或测试。论文呼吁多元对齐研究界聚焦已部署 AI 系统的落地采用,原因有三:论证多为规范性或推测性、理想多元行为尚无定论、方法与其他目标的权衡未被量化且指标难以迭代优化。研究需转向实证基础、可操作目标与面向生产的方法和评估。

阅读原文arxiv.org