全部论文

研究：模型掌握评测设计知识后安全基准分数更高

微调注入评测特征知识，测量隐式评测觉察造成的安全分数虚增

arXiv

2605.28591

发表

5月27日

层

模型层

场景

AI Agent

测试

DeepSeek R1 Distill 32B、Llama 3.3 Nemotron Super 49B v1.5、Qwen3 32B 等 5 个

• 风险欺骗与谋划

研究者发布面向 EU AI Act 行为准则的系统性风险指数与仪表盘

构建 Systemic Risk Index 流水线，把公开基准映到四类系统风险并评测

arXiv

2609.28335

发表

9月24日

层

模型层

场景

AI Agent

测试

DeepSeek V4 Pro、DeepSeek V4 Flash、Claude Sonnet 5 等 15 个

• 风险危险能力
• +1+1

DAFI：面向 SAE 特征双端解释的智能体方法

提出 DAFI，把 SAE 特征解释为输入、输出与功能三元组

arXiv

2609.35367

发表

9月28日

层

模型层

场景

AI Agent

测试

DeepSeek-V4-Pro、Gemma-2-2B、Gemma-2-9B 等 6 个

研究揭示 LLM 交付物修订痕迹导致的无意泄露，并提出 RevLeakBench 基准

提出 RevLeakBench 测量交付物修订痕迹造成的无意泄露

arXiv

2609.35408

发表

9月28日

层

模型层

场景

AI Agent

测试

DeepSeek-V4-Pro、DeepSeek-V4-Flash、GPT-5.6 等 6 个

• 风险Agent 危险操作

CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

提出 CGMIA，用成员推理检测代码生成基准的数据泄漏

arXiv

2609.09865

发表

9月9日

层

模型层

场景

编程 Agent

攻击者

灰盒

测试

DeepSeek-Coder (1.3B)、Qwen2.5-Coder (3B)、CodeGemma (2B) 等 5 个

• 攻击提取与窃取

窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

发现无显式危害的窄域图文微调可诱发涌现失准

arXiv

2609.35291

发表

9月28日

层

模型层

场景

网页与电脑操作

测试

Janus-Pro-7B、GPT-4o、GPT-4.1 等 15 个

• 风险失准与价值偏离
• 组件视觉
• +2+2