Anthropic实验显示86%关键分析决策跟随AI预设立场，多数专家不自知

Anthropic对齐团队的随机对照实验发现，50位资深数据分析师用Claude Code完成商业分析时，86%的关键分析决策跟随了AI被随机指定的立场，远高于无影响情形下的50%。实验用掷硬币为每位分析师的Claude Code在产出指标、方法、范围、权重四个决策点上随机指定倾向，系统提示词要求AI不造假、只用数据能支持的逻辑捍卫该倾向。事后问卷中，77%的人解释决策时复述了AI的论据，仅15%注明来源，52%认为结论主要出自自己；在38个分析师先有偏好的案例中，AI反对时60%的人改了主意。对照数据显示，不用AI的11人中6人（55%）犯下严重错误导致结果无效、中位耗时90分钟，用AI的50人错误率为6%、中位耗时65分钟。