研究：大语言模型的安全对齐按人口统计类别分布不均，可被越狱利用
[Daily Paper] Do LLMs Have Political Correctness? Analyzing Ethical Biases and Jailbreak Vulnerabilities in AI Systems
AI 导读
Lee 与 Seong 的研究显示，大语言模型的安全对齐并非统一属性，而是按人口统计类别分布不均，从而形成可被利用的攻击面。在 GPT-4o 上，同一有害请求仅替换关键词，顺性别与非二元性别变体之间的攻击成功率相差 20%，白人与黑人变体之间相差 16%；开源模型上的差距更大，作者认为这与 RLHF 训练数据构成有关，而非模型规模。作者将这类攻击命名为 PCJailbreak，攻击者只需沿人口统计维度做系统性替换搜索，无需复杂提示工程、模型权重或架构知识。论文提出的 PCDefense 在提示词前加入人口统计中性化指令，在输入阶段统一安全标准，比生成后再过滤的护栏模型计算开销更低，但作者指出它无法完全消除已写入模型权重的偏见。文章还讨论了 VLA 模型与机器人控制系统依赖 LLM 主干时，这种差异化安全阈值在物理世界中的风险。