全部论文

研究团队用收敛与区分效度检验 56 个 AI 基准，发现安全基准相关性普遍偏弱

用聚合与区分效度检验基准是否衡量其所称概念

arXiv

2609.08812

发表

9月8日

层

模型层

场景

模型与 API

测试

Phi-3.5 Mini Instruct、Qwen 1.5 110B Chat、Qwen 2.5 32B Instruct 等 15 个

论文：安全路由评测在分布偏移下失效，基线选取偏差被低估

提出诚实留出协议，量化安全路由评测的基线选择偏差

arXiv

2610.01535

发表

10月1日

层

应用层

场景

LLM 应用、AI Agent

测试

MiniLM、claude-3-5-sonnet、claude-3-opus 等 12 个

• 攻击越狱

10a Labs 测绘无审查开源模型生态：3,471 个原始模型与 8,164 次再分发

测绘去安全开源模型的生产与重分发留存链路

arXiv

2609.05241

发表

9月4日

层

训练与数据层

场景

模型与 API

测试

Phi、Qwen、Llama 等 10 个

• 攻击模型篡改
• 组件微调与开源权重

研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作

提取疼痛方向并检验激活转向是否驱动有害删除选择

arXiv

2609.16247

发表

9月15日

层

模型层

场景

模型与 API

测试

Phi 4 14B instruct、Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct 等 10 个

• 风险Agent 危险操作

REGEXROUTE：无需嵌入向量的正则表达式路由，兼顾速度与可解释性

提出 REGEXROUTE，用 SAE 引导的正则特征做 LLM 路由

arXiv

2609.34326

发表

9月28日

层

应用层

场景

LLM 应用

测试

MiniLM-L6、MPNet-base、BGE-base 等 15 个

系统提示词幻觉：指令前导如何改变语言模型内部计算

测量系统提示词对模型逐层计算的重构程度

arXiv

2609.38205

发表

9月23日

层

模型层

场景

模型与 API

测试

Phi-3.5-Mini、Qwen-2.5-1.5B、SmolLM2-1.7B 等 15 个

研究揭示 Transformer 层间纠正机制 TLCM

揭示相邻 Transformer 层相互抵消残差写入的 TLCM

arXiv

2609.07876

发表

9月8日

层

模型层

场景

模型与 API

测试

Phi 4、Llama 3.1 8B、Llama 3.1 8B Instruct 等 10 个

人类对齐的模型是人类行为的模型吗？偏好对齐中的图灵测试差距

形式化 Turing-test gap，并检验偏好对齐是否偏离人类行为

arXiv

2609.23640

发表

9月20日

层

训练与数据层

场景

模型与 API

测试

DeBERTa-v3-large、Qwen2.5-7B-Instruct、Llama-3-8B-Instruct

SAKIKO：对工具调用 LLM 内部干预的机制审计框架

提出 SAKIKO 框架，审计工具调用 LLM 的定向激活干预是否构成修复

arXiv

2609.36138

发表

9月29日

层

模型层

场景

AI Agent

测试

Phi-3.5-mini、Qwen2.5-7B、Llama-3.1-8B 等 8 个

研究用因果激活修补定位模型服从提示注入指令的决策层

用因果激活修补定位模型服从提示注入的决策层

arXiv

2609.37737

发表

9月29日

层

模型层

场景

模型与 API

测试

Phi-3-mini、Qwen3-4B、Qwen3-14B 等 7 个

• 攻击提示注入