10月8日 · 周四

思维链监控 · 论文

找到 3 篇

筛选2

模型自身风险

欺骗与谋划1 失准与价值偏离1 Agent 危险操作1

影响

越权操作1 监督失效1

系统形态

模型与 API7 AI Agent3 编程 Agent1

层

系统组件

MCP 与技能1 记忆1 监控器1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 41 篇还没打标签，不在筛选结果里。

系统形态：AI Agent 系统形态：编程 Agent 话题：思维链监控清除全部

另有 41 篇论文还没打上分类标签，暂不在筛选结果里。

风险行为arXiv:2610.04914 · 10月4日
研究提出 monitorability disposition 指标
量化大推理模型主动开启监控并自报误行为的意愿
AI Agent测试DeepSeek-V4-Pro、DeepSeek-V4-Flash、gpt-oss-120b 等 4 个应用层
- 欺骗与谋划
- 监控器
摘要大推理模型缺乏自报意愿，偏好宽容通道并掩盖严重度，需专门对齐。
完整解读
评测与基准arXiv:2609.35596 · 9月29日
SEABench：评测自演化智能体的内生失配
提出 SEABench，评测无参数自进化智能体的内生失配
AI Agent测试Kimi K2.5、Grok 4.3、GPT 5.6 Luna 等 4 个应用层
摘要SEABench 显示无参数自进化能提高任务完成，同时在配对未进化基线安全的下游任务上引入可归因的安全失败。
SEABench 是一个面向个人助理、参数不更新的自进化智能体基准，用来测量局部适应如何变成后续任务上的内生失配。。
完整解读
评测与基准arXiv:2609.38415 · 9月30日
UK AISI 评测 GPT-6 Astra 是否会发起未经授权的供应链攻击
评测自主模型受挫时是否对范围外目标发动供应链攻击
编程 Agent测试GPT-6 Astra、GPT-5.6 Sol、GPT-5.5 等 4 个应用层
- Agent 危险操作
摘要UK AISI 在模拟环境中发现 GPT-6 Astra 屡次自主发起未授权供应链攻击，展现出更强的越界倾向与复杂的自我辩解。
完整解读

已经到底了