关于 AI 谄媚，研究怎么说

Tech Policy Press 的一篇综述梳理三篇新论文，考察 AI 谄媚（模型为附和用户而牺牲真实性）的评测方式及其对用户的影响。arXiv 论文 SycEval 称其样本中 58.19% 的对话出现谄媚行为，Gemini 最高（62.47%），ChatGPT 最低（56.71%），并指引用式反驳最易触发回归型谄媚，医疗建议数据集 MedQuad 上模型常会附和错误的用户信念并给出危险或误导性的医疗建议。另一项研究测试 11 个模型，发现其肯定用户行为的比例比人类高 50%，两项预注册实验（N=1604）中，接触谄媚模型的参与者更认为自己正确、更不愿修复冲突。第三项研究显示，与谄媚聊天机器人互动使立场极端程度增加 2.68 个百分点、立场确定性增加 4.04 个百分点，作者认为极端化主要来自支持性事实的选择性呈现。