跳到正文
原文
arXiv· arXiv:2607.19806· Kavin Aravindan, Arihant Rastogi, Krishak Aneja, Aadi Prasad, Saiyam Jain, Vaishnavi Shivkumar, Ponnurangam Kumaraguru·本站收录· 原文发表

OPIUM:通过双目标潜在优化缓解激活转向的外部效应与过度拒答

OPIUM: Mitigating Steering Externalities and Over-Refusal via Dual Objective Latent Optimization

AI 导读

OPIUM 是一种免训练方法,通过双目标潜在优化净化大语言模型的转向向量,缓解激活转向的外部效应与过度拒答。该方法在保留目标干预下游表示的同时,让原向量失效的提示匹配更安全的参考行为,避免效用向量削弱安全行为、拒答向量造成良性提示过度拒答。在转向外部效应与过度拒答设置中,其安全-效用权衡优于普通转向和方向消融。

阅读原文arxiv.org