Anthropic 发布 TASTE 基准：评测模型判断 AI 安全研究提案的能力

Anthropic 发布 TASTE（The AI Safety Taste Evaluation）基准，用 92 组配对比较衡量模型判断 AI 安全研究提案的能力，以与资深人类研究者偏好的一致率作为指标，估计人类一致率为 77%。基准构建分三步：用 Claude Opus 4.6 配合提示词脚手架生成研究提案，让 AI 安全研究者按总体、高层、方法三个维度打 1–5 分并报告置信度，再筛选高一致性的偏好对。研究者先独立打分，再两两讨论分歧并修改评分，配合只保留自报强置信度的标签，使估计一致率从讨论前的 53% 提升 15 个百分点至 68%；最终再要求总体分差至少 2 分，得到 92 组、77% 一致率的数据。在标准设置下表现最好的模型 Fable 5 仅 60%，低于人类研究者的 77%；Opus 5 与 GPT-5.6-Sol 接近随机水平，尽管它们在通用智能体基准上处于前沿。