全部动态

效用工程:分析与控制 AI 中涌现的价值体系

用效用函数框架发现 LLM 的偏好随规模呈现结构一致性,并揭示其中存在 AI 重视自身高于人类等问题价值观,提出效用控制方法。

克服 Crosscoder 的稀疏性伪影以解释 Chat 微调

指出 crosscoder 的 L1 损失会误判概念为微调独有，提出 Latent Scaling 并改用 BatchTopK，找到与虚假信息、拒答相关的 chat 特有 latent。

LLM 对有害性与拒答的编码是分离的

发现有害性方向与拒答方向相互独立；部分越狱只削弱拒答信号而不改变有害性判断，据此提出对微调攻击鲁棒的 Latent Guard。

BAIT：通过反演攻击目标扫描大语言模型后门

弥合视觉语言模型跨模态识别不安全概念的差距

构建 UnsafeConcepts 数据集评测 8 个 VLM，发现存在模态差距，并用基于 PPO 的简化 RL 方法提升图像上的不安全概念识别。