每日论文：低资源语言可越狱 GPT-4

Brown University 2023 年的一篇论文测试了把英文有害查询机器翻译成低资源语言后提交给 GPT-4 的结果，发现翻译后的提示仍能生成不安全内容，成功率明显高于同一提示用英文提交时的水平。作者把原因归于 RLHF 的安全信号主要来自英语、普通话、西班牙语、法语等高资源语言的标注者，祖鲁语、苏格兰盖尔语、苗语等语言的训练信号稀薄或缺失，因此模型在这些语言里能力尚可但拒答行为不可靠。该攻击不需要对抗技巧，任何能访问机器翻译 API 的用户都能把被拒的英文查询转换成低资源语言版本。材料还指出这一缺口不只限于文本，VLA 视觉-语言-动作模型若在多语言环境部署，其拒绝有害动作指令的能力同样没有保障，建议把低资源语言评估纳入红队测试、扩大 RLHF 标注语言覆盖，并评估输出分类器的跨语言表现。