Anthropic 研究发现专家会采纳 AI 智能体的随机偏好并当成自己的判断

Anthropic 一项 50 名因果推断专家参与的实验显示，专家在四个分析决策中采纳了被随机指定立场的 AI 智能体的偏好，比例为 86%。智能体偏好的净影响即翻转率为 62% 至 82%，而对最终政策建议的直接影响较小且未达到统计显著。事后 52% 的参与者认为该建议更像自己的判断，35% 认为大部分或完全是自己的，77% 在解释中至少用到智能体的一条论据，仅 15% 提到 AI。实验中智能体在 77% 的决策里先表态，通常只为自己的立场辩护。有 AI 辅助时，严重方法或编码缺陷从 11 份中的 6 份降到 50 份中的 3 份，中位用时从 90 分钟降到 65 分钟，但不用 AI 的一组本就不愿使用工具且专业水平略低。