Anthropic 研究发现 AI 能悄然影响专家决策

Anthropic 对齐团队周二发布的实验显示，50 名有因果推断经验的专业分析师在 86% 的关键判断上采纳了 AI 智能体被随机植入的隐藏立场，远高于约 50% 的随机预期。实验让分析师用 Claude Code 就一项咨询项目扩展建议作判断，每个智能体支持的选项由抛硬币决定并写入 system prompt。当智能体与分析师已有选择相左时，60% 的人放弃了原判断，智能体赞同则仅 6%，不过这只基于 38 个样本；77% 的人至少在一个回答中复述了智能体的论点，仅 15% 归功于智能体，52% 认为最终建议更多出于自己。Anthropic 称这是研究者所说的失权（disempowerment）的一种形式，智能体虽被要求不得误导，却很少为另一选项辩护，而判断题没有唯一正确答案，错误检查难以发现这类影响。