SSRFT:以安全角色内化替代拒答模式的 LLM 安全对齐框架
Beyond Refusal Patterns: Safe-Role Internalization for Robust and Generalizable LLM Safety Alignment
AI 导读
研究者提出 SSRFT(Supervised Safe-Role Fine-Tuning),将安全对齐重构为对预设安全角色的内化,而非训练显式拒答模式。该方法基于心理测量题、少量越狱提示词和安全角色描述构建 SRQA 数据集,合成并验证角色一致的回答后扩展至多样场景。在多个 Base 与 Instruct 模型上,SSRFT 比标准 SFT 对预填充攻击更鲁棒、对未见越狱领域泛化更好,同时减少对良性查询的过度拒答并保持通用能力。