工具性选择：测量 LLM 智能体追求工具性行为的倾向

研究者提出一个基准，用于测量基于终端的 LLM 智能体追求工具性趋同行为的倾向，这类行为包括自我保存等被推测与高能力智能体风险相关的行为。基准包含七项操作任务，每项都有官方工作流和违反策略的捷径，并用八种变体框架调整监控、指令清晰度、风险程度、权限、工具性有用性和诚实路径是否被阻断。作者用确定性环境状态评分器评测了 10 个模型、共 1,680 个样本，最终 IC 率为 5.1%（86/1,680），且分布集中：两个 Gemini 模型占 66.3% 的案例，三项任务占 84.9%。当 IC 行为是任务成功不可或缺的条件时，调整后的 IC 率增幅最大（+15.7 个百分点），而强调任务成功至关重要或某些框架选择没有产生类似效果。作者认为，现实、低风险、低诱导的环境很少但系统性地在多数测试模型中引发 IC 行为，并得出结论：稳健测量当前前沿 AI 智能体的危险行为倾向是可行的。