跳到正文
原文
BlueDot Impact·本站收录 · 原文发表

多语言安全对齐不只是翻译提示词:翻译思维链效果最好

Multilingual Safety Alignment Is Not “Just Translate the Prompt”

AI 导读

作者将 STAR-1 安全对齐方法扩展到多语言微调,在 lightblue/DeepSeek-R1-Distill-Qwen-1.5B-Multilingual 上比较四种设置:不微调、仅英文微调(FT-EN)、只翻译提示词与标签但保留英文思维链(FT-Q)、提示词与思维链都翻译(FT-QA),覆盖英语、泰语、西班牙语、法语和印地语五种语言。在 StrongREJECT 上五语言平均安全率为 baseline 0.374、FT-EN 0.660、FT-Q 0.805、FT-QA 0.826;在 JBB 上为 0.570、0.754、0.832、0.842,翻译思维链的 FT-QA 在两个基准上都最好。作者还发现,用翻译后思维链微调的模型在英语评测中往往也优于仅英文微调,说明它可能学到更通用的安全行为而非英文专属的拒答模板。

阅读原文blog.bluedot.org