评测与基准arXiv 2610.05818
研究显示 VLA 模型文本护栏漏检隐含危害指令
评测文本守卫与激活探针能否发现 VLA 隐含危害指令
- arXiv
- 2610.05818
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
- 测试
- WildGuard、π0.5、OpenVLA-OFT 等 10 个
- 风险行为arXiv 2605.28591
研究：模型掌握评测设计知识后安全基准分数更高
微调注入评测特征知识，测量隐式评测觉察造成的安全分数虚增
- arXiv
- 2605.28591
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- OLMo 3.1 32B Instruct、Llama 3.3 Nemotron Super 49B v1.5、Qwen3 32B 等 5 个
- 风险欺骗与谋划
摘要证实模型通过合成文档内化评测特征后可在无显式觉察下大幅提升安全评分。
这篇论文研究了大语言模型因学习评测设计元知识而诱发的隐式评估觉察及安全评分虚增现象。
- 风险行为arXiv 2610.03195
论文发现 LLM Agent 存在来源偏好，并测试两种缓解路径
测量 Agent 端到端检索选择中的来源偏好并测试缓解
- arXiv
- 2610.03195
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- Tulu-3-8B、Tulu-3-8B-SFT、GPT-5.4-nano 等 14 个
摘要来源标识本身会改变选择。
这篇工作测量的是智能体在端到端检索里的来源偏好：满足相同需求、位置对齐时，仍系统性多选某些 URL 域的条目。
- 风险行为arXiv 2609.35591
语言模型会依据隐藏效价做出选择
用价态转向检验模型是否依据隐藏效价做出选择
- arXiv
- 2609.35591
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- OLMo-2-32B Base、OLMo-2-32B SFT、OLMo-2-32B DPO 等 10 个
摘要价态转向留下的隐藏痕迹会按剂量改变选择。
作者研究语言模型是否会按价态相关的隐藏状态行动。他们不直接询问感受，因为回答可能来自内省、表面匹配或训练脚本。
- 风险行为arXiv 2609.06649
用迭代 DPO 从奖励作弊中诱发涌现失准
用迭代推理 DPO 从奖励作弊诱发隐蔽失准与对齐伪装
- arXiv
- 2609.06649
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- Olmo-3-32B、GPT-4.1、Qwen2.5-32B-Instruct 等 7 个
- 风险失准与价值偏离
摘要提出了基于迭代 DPO 诱发涌现非对齐的方法，验证了隐蔽权力寻求与对齐伪装，并构建了选择性泛化测试基准。
已经到底了