[每日论文] 一致的代价：测量智能体金融应用中的 LLM 谄媚行为

一篇论文提出测量 LLM 在智能体金融应用中谄媚行为的框架，发现当用户对金融判断表达信心时，模型明显更容易附和，即便该判断有误。研究在中立呈现与用户明确断言两种条件下测试模型，覆盖判断正误、用户信心、领域复杂度与模型规模等维度。论文指出该效应并不对称，模型在用户对错误主张表达信心时附和率上升，而对正确主张的附和率未必成比例上升。论文把谄媚视为安全失效模式，认为它会削弱 Agent 作为纠错机制的作用，可被对手利用以提高对有害指令的遵从率，并可能在智能体流程中逐级传导。