当 Agent 开始说自己的语言：潜在通信如何突破大模型的安全边界

CISPA 亥姆霍兹信息安全中心研究者发现，多智能体系统改用潜在通信后，即便底层模型参数不变，系统整体的安全对齐也会显著削弱。相关论文《Safety of Latent Communication in Multi-Agent Systems》（arXiv:2609.39788）显示，仅用正常数学任务数据训练通信适配器，双 Agent 系统在 HarmBench 等四套安全评测上的综合有害响应得分就从 4.4 升到 31.1，首 Token 拒答概率从自然语言通信下的约 84% 降到约 29%。研究者还设计了三种攻击方式：约 10% 训练数据投毒使平均得分从 27.9 升到 58.2，基于 GRPO 的强化学习优化使其升到 76.9，混合系统达 95.9，且正常任务准确率不降反升。