测量并缓解多语言刑事法庭中 LLM 的过度对齐
[Daily Paper] Measuring and Mitigating Over-Alignment for LLMs in Multilingual Criminal Law Courts
AI 导读
一篇论文测量了多语言刑事法庭场景下 LLM 的过度对齐现象，并提出针对性缓解策略。研究发现，面向消费者内容的安全训练会把法律、医疗和安全研究等专业场景中必要的内容误判为有害，模型拒绝处理案件细节、证据描述和涉及犯罪内容的法律论证，在降低漏报的同时带来高误报。过度对齐在低资源语言中更严重，因为这类语言的专业语境训练数据更少，安全分类器对何为合法专业用途的先验更弱。论文提出专业语境注入和领域微调作为缓解手段，并称可在不降低消费者场景护栏的前提下缓解过度对齐。