分析与理论arXiv 2506.06404
研究揭示价值对齐 LLM 的意外危害并提出上下文对齐方法
分析按 Schwartz 价值对齐后的意外危害，并提出上下文对齐方法
- arXiv
- 2506.06404
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Llama-2 7B、Llama-3.1 8B、Gemma-2 9B 等6个
摘要价值对齐会随 Schwartz 价值改变有害倾向。
作者研究按 Schwartz 价值对齐的 LLM 为何在安全评测里更易有害，并用提示做了一个不直说要安全的缓解试验。