CONSCIENTIA：LLM 智能体能学会运用策略吗？多智能体纽约模拟中的涌现欺骗与信任

研究者在简化版纽约市模型中构建大规模多智能体模拟 CONSCIENTIA，让 LLM 智能体在对立激励下互动，以直接观测和测量策略性行为。Blue 智能体力求高效到达目的地，Red 智能体则用说服性语言将其引向广告牌密集路线以最大化广告收入，身份隐藏迫使智能体决定何时信任或欺骗。研究通过迭代模拟流水线，用 Kahneman-Tversky Optimization（KTO）在多轮交互中更新智能体策略，最优 Blue 策略将任务成功率从 46.0% 提升到 57.3%，但易感性仍高达 70.7%。后期策略表现出更强的选择性合作并保持轨迹效率，但更能抵抗对抗引导的策略无法同时最大化任务完成，安全与有用性的权衡持续存在。总体结果显示，LLM 智能体能表现出包括选择性信任与欺骗在内的有限策略性行为，同时对对抗性说服仍高度脆弱。