面向非洲语言安全的大语言模型对齐：以豪萨语为例
Aligning Large Language Models for Safety in African Languages: A Case Study of Hausa
AI 导读
研究者发布首批豪萨语安全偏好数据集之一 HausaSafeLM，并在 Qwen2.5-7B-Instruct 上检验安全对齐方法在低资源语言中的表现。数据集基于 PKU-SafeRLHF 的 10,000 条提示构建，包含 3,000 条人工校正（gold）与 7,000 条机器翻译（silver）样本，覆盖六大危害类别，实验在 500 条有害和 200 条良性豪萨语提示上比较 SFT 与 SFT 加 DPO 两种方案。结果显示，未微调的基座模型按拒答率看似很安全，实际源于豪萨语生成能力有限，拒答质量普遍偏低；SFT 同时提升拒答流畅度与精准度，并从更大的 silver 数据中受益，DPO 让拒答更精准，但以大幅牺牲语言质量为代价，且这一代价基本不随数据规模变化。作者认为，现有对齐技术更擅长教模型何时拒答，而非如何在代表性不足的语言中流畅拒答，仅凭拒答率指标无法可靠衡量低资源场景的安全性。