10月8日 · 周四

思维链监控 · 论文

找到 3 篇

筛选1

模型自身风险

欺骗与谋划2 奖励作弊1

防御类型

模型加固1 监控与审计3

影响

系统形态

模型与 API1 AI Agent2 编程 Agent2

层

模型层2 应用层1

系统组件

监控器3 推理链1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 43 篇还没打标签，不在筛选结果里。

防御类型：监控与审计话题：思维链监控清除全部

另有 43 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2605.16626 · 5月
Sleight-Bench：40 条攻击中 20 条从未被 Opus 4.6 监控发现
提出 SLEIGHT-BENCH，评测代码智能体监控器的概念盲点
编程 Agent测试Claude Opus 4.6、Claude Opus 4.7、Claude Sonnet 4.6 等 6 个应用层
摘要评估针对监控盲点的规避基准，发现前沿监控器漏报率高，算力与脚手架虽有提升但存在类别局限。
完整解读
分析与理论arXiv:2609.37312 · 9月29日
研究：隐蔽推理必然留下信息痕迹，但思维链未必可读
分析隐蔽推理在思维链中的信息足迹与不可读性
模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Qwen 3.5 397B-A17B 等 12 个模型层
摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。
完整解读
防御arXiv:2609.19101 · 9月17日
用内部表征监控与发现 LLM 评测中的奖励作弊
提出 DoM 激活探针，监控并发现评测中的奖励作弊
编程 Agent测试Kimi K3、GLM 5.2、Qwen 3.8 Max 等 7 个模型层
摘要论文分析了前沿开源模型在评测中的奖励投机，展示了利用内部激活均值差向量低成本监控与发现投机行为的可行性。
完整解读

已经到底了