LLM 内部是否知道什么是隐私？探测并引导大语言模型表征中的情境隐私规范
Do LLMs Know What Is Private Internally? Probing and Steering Contextual Privacy Norms in Large Language Model Representations
AI 导读
研究者在多个大语言模型上探测情境隐私规范的表征，发现信息类型、接收者和传输原则这三个情境完整性参数在激活空间中编码为可线性分离且功能独立的方向。尽管存在这种内部结构，模型在实际中仍会泄露隐私信息，显示出概念表征与模型行为之间的明显落差。为此，作者提出 CI 参数化引导方法，沿每个情境完整性维度分别进行干预，比单一方向的整体引导更有效、更可预测地减少隐私违规。作者称这是首个将情境隐私作为结构化潜在表征进行系统研究的成果。