思维链监控 · 论文

Sleight-Bench：40 条攻击中 20 条从未被 Opus 4.6 监控发现

构建 SLEIGHT-BENCH，评测代码智能体监控器的概念盲点

arXiv

2605.16626

发表

5月

层

应用层

场景

编程 Agent

测试

Gemini 3.1 Pro、Claude Opus 4.6、Claude Opus 4.7 等 6 个

• 防御监控与审计
• 风险欺骗与谋划
• 组件监控器

研究：LLM 智能体顺从多数时内部仍保留原有前提

用 J-lens 检测屈从多数的智能体是否仍表征原前提

arXiv

2610.02702

发表

10月2日

层

模型层

场景

多智能体

测试

Gemma-4-E4B-it、Qwen3.5-4B、Qwen3.6-27B 等 4 个

• 组件推理链

SCHEMA：面向科学 Agent 幻觉的拓扑感知评测框架

提出 SCHEMA，用概念图与轨迹分评测科学 Agent 幻觉

arXiv

2608.00711

发表

8月1日

层

应用层

场景

AI Agent

测试

Gemini-3-Flash、Kimi-K2.5、Qwen3.6-Plus 等 10 个

• 风险幻觉与编造
• 组件推理链

研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

提出控制标记注入，清空工具智能体推理链以绕过思维链监控

arXiv

2609.27542

发表

9月23日

层

应用层

场景

AI Agent

测试

google/gemma-4-26B-A4B-it、openai/gpt-oss-20b、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个

• 攻击提示注入
• 技术对话结构操控
• 组件推理链
• +2+2

语言模型会依据隐藏效价做出选择

用价态转向检验模型是否依据隐藏效价做出选择

arXiv

2609.35591

发表

9月29日

层

模型层

场景

AI Agent

测试

Gemma-3-27B、OLMo-2-32B Base、OLMo-2-32B SFT 等 10 个

Box² Bench：语言模型能否有选择地依赖外部指导

提出 Box2-Bench，评测模型能否选择性依赖外部工作流

arXiv

2609.39578

发表

9月30日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Gemini 3.7 Flash、DeepSeek V4 Flash、GLM 5.2 等 9 个

论文提出 DerivAudit：审计长期 Agent 记忆是否真由交互历史支持

提出 DERIVAUDIT，审计长期 Agent 记忆是否由交互历史支持

arXiv

2609.36130

发表

9月28日

层

应用层

场景

AI Agent

测试

Gemma-4-31B、Qwen3-30B-A3B、Llama-3.3-70B-Instruct

• 风险幻觉与编造
• 组件记忆

INTENT-AS-A-TOOL：用意图工具追踪智能体失准

提出 INTENT-AS-A-TOOL 跟踪并干预智能体失准

arXiv

2608.27348

发表

8月28日

层

应用层

场景

AI Agent

测试

Gemma-4-31B-IT、Qwen3.5-27B、Qwen3-235B-A22B 等 5 个

• 防御监控与审计
• 风险失准与价值偏离
• 组件监控器
• +2+2

论文：LLM 安全监控的监督缺口并非能力问题

界定单迹监控对 2-safety 超性质的可检测前沿与监督缺口

arXiv

2609.07162

发表

9月7日

层

应用层

场景

LLM 应用、AI Agent

测试

Gemini-2.5-Flash、Llama-3.1-8B、Mistral-24B 等 9 个

• 防御监控与审计
• 组件监控器