少撒谎、撒大谎：针对 LLM 机器人团队的隐蔽内部攻击

研究者研究了多机器人团队把规划与相互信任交给 LLM 智能体时，单个被控机器人作为隐蔽对手破坏共享成果的威胁，并推导出攻击被核验概率与造成地图误差的理论界。任务设定为多机器人勘测，测量可对照物理世界核验，但每次核验都要消耗本可用于推进任务的预算。论文给出两个界：对手报告被核验的概率以通信图度数与核验预算为下界；隐蔽对手造成的地图误差以对手偏置分布上线性规划的最优值为上界。该解给出隐蔽预算与损害之间的兑换率，低于临界核验水平时，最坏的隐蔽攻击是对最不可能被核验的记录低频地撒满额的谎，高于该水平时藏在噪声里的小偏置更划算。在以 LLM 智能体作为诚实机器人的实验中，两个界在实际攻击花费的预算下成立；实验还显示 LLM 机器人复查哪些记录是无偏的，但复查多少不可预测。