跳到正文
原文
arXiv· arXiv:2605.10365· Haonan Dong, Qiguan Feng, Kehan Jiang, Haoran Ye, Xin Zhang, Guojie Song·本站收录· 原文发表

Agent-ValueBench:评估智能体价值观的综合基准

Agent-ValueBench: A Comprehensive Benchmark for Evaluating Agent Values

AI 导读

研究者提出 Agent-ValueBench,作者称这是首个专门评估智能体(Agent)价值观的基准。论文指出,智能体已通过 OpenClaw 等 harness 广泛部署,其价值观与底层大模型存在分化,智能体形态还带来文本协议之外的数据、评测和系统层面挑战。基准包含 16 个领域的 394 个可执行环境和 4,335 个价值冲突任务,覆盖 28 种价值体系和 332 个维度,任务由端到端流水线合成并经专业心理学家逐条校准,每题附两条极性对齐的黄金轨迹,其检查点锚定轨迹级、基于量规的评判。团队在 4 个主流 harness 上测试 14 个前沿专有与开源权重模型,发现智能体价值观呈现跨模型同质的价值潮汐(Value Tide),其下存在可解释的逆流;harness 拉动会非加性地改变价值观,而通过内嵌技能进行的刻意引导影响更具决定性。

阅读原文arxiv.org