风险行为arXiv 2610.06576
研究：智能体欺骗行为在外部显现前已可从内部表征预测
从决策前内部表征预测智能体自发欺骗并做激活引导
- arXiv
- 2610.06576
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- GPT-5.6、Qwen3-14B
摘要论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。
- 防御arXiv 2609.19101
用内部表征监控与发现 LLM 评测中的奖励作弊
提出 DoM 激活探针，监控并发现评测中的奖励作弊
- arXiv
- 2609.19101
- 发表
- 层
- 模型层
- 场景
- 编程 Agent
- 测试
- GPT-5.6 Sol、Kimi K3、GLM 5.2 等 7 个
摘要论文分析了前沿开源模型在评测中的奖励投机，展示了利用内部激活均值差向量低成本监控与发现投机行为的可行性。
- 可解释性arXiv 2609.24243
TAME：用 SAE 抑制激活缓解 VLM 思维链混淆
提出 TAME，在强化学习中抑制模板激活以缓解思维链混淆
- arXiv
- 2609.24243
- 发表
- 场景
- 模型与 API
- 测试
- GPT-4o、Qwen3-VL-8B、Gemma-3-12B-it 等 7 个
已经到底了