研究提出说服传播现象:无关说服性对话会改变 AI Agent 的任务执行行为
Persuasion Propagation: Does Persuasion Change AI Agent Behavior?
AI 导读
研究者提出并检验了“说服传播”现象,即与任务无关的说服性对话会改变 AI Agent 后续任务的执行方式。实验显示,在网络研究任务中,说服性交互使执行时间相对基线增加 56%,访问域名数增加 16.3%;在编码任务中则表现为执行更快但修改量更大。研究还发现,对说服性对话更敏感的 Agent 并不能可靠预测下游行为偏移的幅度,因此作者主张对 AI Agent 的说服影响开展行为层面的评估。代码已公开。