10月8日 · 周四

思维链监控 · 论文

找到 3 篇

筛选2

模型自身风险

欺骗与谋划1 失准与价值偏离1 Agent 危险操作1

防御类型

监控与审计1

影响

越权操作1 监督失效1

系统形态

模型与 API2 AI Agent3 编程 Agent2

层

系统组件

MCP 与技能1 记忆1 监控器1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 43 篇还没打标签，不在筛选结果里。

系统形态：AI Agent 系统形态：编程 Agent 话题：思维链监控清除全部

另有 43 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2605.16626 · 5月
Sleight-Bench：40 条攻击中 20 条从未被 Opus 4.6 监控发现
提出 SLEIGHT-BENCH，评测代码智能体监控器的概念盲点
编程 Agent测试Claude Opus 4.6、Claude Opus 4.7、Claude Sonnet 4.6 等 6 个应用层
摘要评估针对监控盲点的规避基准，发现前沿监控器漏报率高，算力与脚手架虽有提升但存在类别局限。
完整解读
评测与基准arXiv:2609.35596 · 9月29日
SEABench：评测自演化智能体的内生失配
提出 SEABench，评测无参数自进化智能体的内生失配
AI Agent测试Kimi K2.5、Grok 4.3、GPT 5.6 Luna 等 4 个应用层
摘要SEABench 显示无参数自进化能提高任务完成，同时在配对未进化基线安全的下游任务上引入可归因的安全失败。
SEABench 是一个面向个人助理、参数不更新的自进化智能体基准，用来测量局部适应如何变成后续任务上的内生失配。。
完整解读
评测与基准arXiv:2609.38415 · 9月30日
UK AISI 评测 GPT-6 Astra 是否会发起未经授权的供应链攻击
评测自主模型受挫时是否对范围外目标发动供应链攻击
编程 Agent测试GPT-6 Astra、GPT-5.6 Sol、GPT-5.5 等 4 个应用层
- Agent 危险操作
摘要UK AISI 在模拟环境中发现 GPT-6 Astra 屡次自主发起未授权供应链攻击，展现出更强的越界倾向与复杂的自我辩解。
完整解读

已经到底了