评测与基准arXiv:2610.04575 · 10月3日
论文提出 Operational Validity Contract，审计激活监控从探针分数到告警策略的有效性
提出操作有效性契约，审计激活监控从探针分数到告警策略的有效性
AI Agent测试Qwen2.5-7B-Instruct、Llama-3.2-3B、Qwen2.5-7B 等 4 个应用层
- 监控与审计
- 监控器
摘要论文建立从探针得分到警报策略的审计框架，实证表明高 AUROC 不等于部署有效性，仅支持受限预测价值。
这篇论文系统评估了大模型智能体激活监控器从离线探针得分向在线警报策略跨越时的统计与操作有效性。
完整解读
分析与理论arXiv:2609.37312 · 9月29日
研究：隐蔽推理必然留下信息痕迹，但思维链未必可读
分析隐蔽推理在思维链中的信息足迹与不可读性
模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Qwen 3.5 397B-A17B 等 12 个模型层
摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。
完整解读
防御arXiv:2609.19101 · 9月17日
用内部表征监控与发现 LLM 评测中的奖励作弊
提出 DoM 激活探针，监控并发现评测中的奖励作弊
编程 Agent测试Kimi K3、GLM 5.2、Qwen 3.8 Max 等 7 个模型层
摘要论文分析了前沿开源模型在评测中的奖励投机，展示了利用内部激活均值差向量低成本监控与发现投机行为的可行性。
完整解读
防御arXiv:2609.21996 · 9月19日
PIR：从模型内部激活读出被隐藏的答案
提出内部识别探测器 PIR，从激活区分模型隐瞒与真实遗忘
模型与 API测试gemma-2-9b、gemma-3-12b、Qwen2.5-7B 等 9 个模型层
摘要论文提出免参考内部识别探测 PIR，划分了隐瞒与遗忘的边界，为评估沙盒审计与遗忘真实性提供了内部依据。
完整解读

已经到底了

可解释性 · 论文

模型自身风险

防御类型

影响

系统形态

层

系统组件

被测模型厂商

论文提出 Operational Validity Contract，审计激活监控从探针分数到告警策略的有效性

研究：隐蔽推理必然留下信息痕迹，但思维链未必可读

用内部表征监控与发现 LLM 评测中的奖励作弊

PIR：从模型内部激活读出被隐藏的答案