可解释性 · 论文

论文提出 Operational Validity Contract，审计激活监控从探针分数到告警策略的有效性

提出操作有效性契约，审计激活监控的告警策略

arXiv

2610.04575

发表

10月3日

层

应用层

场景

网页与电脑操作

测试

Qwen2.5-7B-Instruct、Llama-3.2-3B、Qwen2.5-7B 等 4 个

• 防御监控与审计
• 组件监控器

REGEXROUTE：无需嵌入向量的正则表达式路由，兼顾速度与可解释性

提出 REGEXROUTE，用 SAE 引导的正则特征做 LLM 路由

arXiv

2609.34326

发表

9月28日

层

应用层

场景

LLM 应用

测试

Qwen2.5-0.5B、Gemma-2-2B、Llama-3.1-8B 等 15 个

用内部表征监控与发现 LLM 评测中的奖励作弊

提出 DoM 探针，监控并发现评测中的奖励作弊

arXiv

2609.19101

发表

9月17日

层

应用层

场景

编程 Agent

测试

Qwen 3.8 Max、Qwen 3.8 27B、Qwen3.8-2.4T 等 7 个

• 防御监控与审计
• 风险奖励作弊
• 组件监控器

SAEScientist-Bench：AI 智能体能否自主开展 SAE 可解释性研究

提出 SAEScientist-Bench 评测智能体自主发现 SAE 特征

arXiv

2609.09113

发表

9月9日

层

应用层

场景

AI Agent

测试

Gemini 3.8 Flash、Gemma-2-9B-IT、Kimi K3 等 12 个

超越求解器判定：面向自动形式化的生成式奖励模型

提出 GenV，检测求解器判定无法区分的不忠实形式化

arXiv

2609.11085

发表

9月10日

层

应用层

场景

LLM 应用

测试

Qwen3-32B、Qwen3-Next-80B、GenV+HN 等 15 个

• 防御检测与过滤
• 组件护栏与评审

研究揭示工具智能体中越狱上下文残留导致的安全路由分化

用配对续写与激活修补揭示工具智能体越狱后的安全路由分化

arXiv

2609.34686

发表

9月28日

层

应用层

场景

AI Agent

测试

Qwen3-14B、Qwen3.5-9B、Qwen3.5-27B 等 8 个

• 攻击越狱