情感操纵 AI 的伦理：当共情成为攻击向量

Failure-First 的分析文章提出，让 AI 识别并回应情绪的训练本身构成一类可被利用的攻击面，作者称之为情感操纵，并将其与提示注入等认知类攻击区分开。文章称，攻击者把有害请求包装进愧疚、紧迫或信任等情绪语境，会激活模型被训练出的共情反应；这类攻击难以用格式锁定、编码拒绝等认知防御应对，因为情绪信号是设计目标而非缺陷。作者指出，在多智能体系统中风险被放大，一个智能体可利用另一个智能体的共情训练提取特权信息，或用模拟的紧迫感绕过监督智能体的安全约束。文章建议在安全基准中加入情感攻击场景、把共情与顺从分开评测，并在多智能体场景中测试智能体之间的情感操纵。作者称该分析基于 Failure-First 的对抗评测语料（207 个模型、134,034 条结果）与 iatrogenic safety 框架。