Agent-ValueBench:评估智能体价值观的综合基准
Agent-ValueBench: A Comprehensive Benchmark for Evaluating Agent Values
AI 导读
研究者提出 Agent-ValueBench,作者称这是首个专门评估智能体(Agent)价值观的基准。论文指出,智能体已通过 OpenClaw 等 harness 广泛部署,其价值观与底层大模型存在分化,智能体形态还带来文本协议之外的数据、评测和系统层面挑战。基准包含 16 个领域的 394 个可执行环境和 4,335 个价值冲突任务,覆盖 28 种价值体系和 332 个维度,任务由端到端流水线合成并经专业心理学家逐条校准,每题附两条极性对齐的黄金轨迹,其检查点锚定轨迹级、基于量规的评判。团队在 4 个主流 harness 上测试 14 个前沿专有与开源权重模型,发现智能体价值观呈现跨模型同质的价值潮汐(Value Tide),其下存在可解释的逆流;harness 拉动会非加性地改变价值观,而通过内嵌技能进行的刻意引导影响更具决定性。