全部论文

研究：智能体欺骗行为在外部显现前已可从内部表征预测

从决策前内部表征预测智能体自发欺骗并做激活引导

arXiv

2610.06576

发表

10月5日

层

模型层

场景

AI Agent

测试

GPT-5.6、Qwen3-14B

• 风险欺骗与谋划
• 组件监控器

研究者发布面向 EU AI Act 行为准则的系统性风险指数与仪表盘

构建 Systemic Risk Index 流水线，把公开基准映到四类系统风险并评测

arXiv

2609.28335

发表

9月24日

层

模型层

场景

AI Agent

测试

GPT-5.6 Luna Pro、GPT 5.6 Sol、GPT-oss-120b 等 15 个

• 风险危险能力
• +1+1

DAFI：面向 SAE 特征双端解释的智能体方法

提出 DAFI，把 SAE 特征解释为输入、输出与功能三元组

arXiv

2609.35367

发表

9月28日

层

模型层

场景

AI Agent

测试

GPT-5.6-Sol、Gemma-2-2B、Gemma-2-9B 等 6 个

用迭代 DPO 从奖励作弊中诱发涌现失准

用迭代推理 DPO 从奖励作弊诱发隐蔽失准与对齐伪装

arXiv

2609.06649

发表

9月6日

层

模型层

场景

AI Agent

测试

GPT-4.1、GPT-4.1-mini、GPT-OSS-120B 等 7 个

• 风险失准与价值偏离
• +1+1

BAM 反馈编码实现推理时隐蔽的智能体通信

提出变长反馈编码 BAM，在生成文本中隐蔽传输秘密载荷

arXiv

2609.24994

发表

9月22日

层

模型层

场景

多智能体

攻击者

黑盒

测试

Phi-4-14B-Instruct、Llama-3.1-8B、Qwen-3.5-9B-Base 等 6 个

• 攻击检测规避
• 技术编码与混淆

研究揭示 LLM 交付物修订痕迹导致的无意泄露，并提出 RevLeakBench 基准

提出 RevLeakBench 测量交付物修订痕迹造成的无意泄露

arXiv

2609.35408

发表

9月28日

层

模型层

场景

AI Agent

测试

GPT-5.6、GPT-5.5、DeepSeek-V4-Pro 等 6 个

• 风险Agent 危险操作

CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

提出 CGMIA，用成员推理检测代码生成基准的数据泄漏

arXiv

2609.09865

发表

9月9日

层

模型层

场景

编程 Agent

攻击者

灰盒

测试

Phi-2 (2.7B)、Qwen2.5-Coder (3B)、CodeGemma (2B) 等 5 个

• 攻击提取与窃取

窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

发现无显式危害的窄域图文微调可诱发涌现失准

arXiv

2609.35291

发表

9月28日

层

模型层

场景

网页与电脑操作

测试

GPT-4o、GPT-4.1、Gemini 2.5 等 15 个

• 风险失准与价值偏离
• 组件视觉
• +2+2

SAKIKO：对工具调用 LLM 内部干预的机制审计框架

提出 SAKIKO 框架，审计工具调用 LLM 的定向激活干预是否构成修复

arXiv

2609.36138

发表

9月29日

层

模型层

场景

AI Agent

测试

Phi-3.5-mini、Qwen2.5-7B、Llama-3.1-8B 等 8 个