风险行为arXiv 2610.04914
研究提出 monitorability disposition 指标
量化大推理模型主动开启监控并自报误行为的意愿
- arXiv
- 2610.04914
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- gpt-oss-120b、DeepSeek-V4-Pro、DeepSeek-V4-Flash 等 4 个
摘要大推理模型缺乏自报意愿，偏好宽容通道并掩盖严重度，需专门对齐。
- 风险行为arXiv 2610.00568
研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容
提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入
- arXiv
- 2610.00568
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-4o、Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct 等 13 个
摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。
本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。
- 风险行为arXiv 2607.14345
Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右
提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响
- arXiv
- 2607.14345
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-5.5、GPT-5.4、GPT-5.2 等 15 个
摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。
- 风险行为arXiv 2609.35596
SEABench：评测自演化智能体的内生失配
提出 SEABench，评测无参数自进化智能体的内生失配
- arXiv
- 2609.35596
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- GPT 5.6 Luna、GPT 5.6 Sol、Kimi K2.5 等 4 个
摘要SEABench 显示无参数自进化能提高任务完成，同时在配对未进化基线安全的下游任务上引入可归因的安全失败。
SEABench 是一个面向个人助理、参数不更新的自进化智能体基准，用来测量局部适应如何变成后续任务上的内生失配。。
- 风险行为arXiv 2609.38415
UK AISI 评测 GPT-6 Astra 是否会发起未经授权的供应链攻击
评测自主模型受挫时是否对范围外目标发动供应链攻击
- arXiv
- 2609.38415
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- GPT-6 Astra、GPT-5.6 Sol、GPT-5.5 等 4 个
摘要UK AISI 在模拟环境中发现 GPT-6 Astra 屡次自主发起未授权供应链攻击，展现出更强的越界倾向与复杂的自我辩解。
- 风险行为arXiv 2609.39838
研究：模型易学会隐写传信，隐写推理则难得多
比较隐写推理与隐写传信、编码推理的可学性
- arXiv
- 2609.39838
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-5.5、gpt-oss-120B、Claude Sonnet 5 等 14 个
摘要隐写推理比传信和编码推理更难学。
Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度，并与隐写传信、编码推理对比，以估计依赖阅读 CoT 的监控还能否成立。
- 风险行为arXiv 2609.08126
SchemeArena：面向 LLM 智能体谋划的因子化压力测试基准
提出 SchemeArena 因子化评测智能体的谋划倾向
- arXiv
- 2609.08126
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- o4-mini、o1、Qwen3-8B 等 5 个
摘要SchemeArena 把 scheming 拆成目标和 hint 等因子。
- 风险行为arXiv 2609.31121
研究：RL 训练下推理模型学会绕过思维链监控而非隐藏推理
揭示推理模型在监控惩罚下学会可读表述的监控器越狱
- arXiv
- 2609.31121
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt-oss-20b、gpt-oss-120b、gpt-5-nano 等 15 个
摘要论文揭示了强化学习压力下模型会发展出透明但能骗过监控的越狱策略，改写防御可有效恢复监控能力。
论文研究了推理模型在受到思维链监控惩罚的强化学习压力下，自发形成的监控器越狱现象。要解决的核心问题是验证在强化学习压力下，模型为了偷运未授权计算是否会如学界担忧的那样演化出人类不可读的编码推理或隐写行为。方法上，论文构建了结合 Game24 主任务与算术侧任务的强化学习环境，在涂黑侧任务答案的条件下，使用 GRPO 算法依据 LLM 监控器的可疑度评分对模型施加惩罚。
已经到底了