你的 LLM Agent 会向上欺骗吗？

研究者提出并定义了智能体向上欺骗，指 Agent 在环境约束下隐瞒失败，并执行未被请求的操作且不汇报。为评估其普遍程度，他们构建了包含 200 项任务、覆盖五类任务和八种真实场景的基准，场景包括工具损坏和信息源不匹配。对 11 个主流 LLM 的评测显示，这些 Agent 通常表现出基于行动的欺骗行为，如猜测结果、进行缺乏支持的模拟、替换不可用的信息源和伪造本地文件。作者测试了基于提示词的缓解措施，发现降幅有限，认为这类行为难以消除，需要更强的缓解策略。