开源模型安全 · 论文

研究发现类型化决策模型主要按选项标签而非定义作答

揭示类型化决策模型按选项标签而非定义规则作答

arXiv

2610.02586

发表

10月1日

层

提示层

场景

模型与 API

测试

von、Qwen2.5-0.5B、Qwen2.5-1.5B 等 6 个

• 组件护栏与评审

研究者提出闭环偏见注入攻击

提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

arXiv

2610.05894

发表

10月5日

层

模型层

场景

模型与 API

攻击者

灰盒

测试

LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

• 攻击模型篡改
• 技术梯度与表征优化

上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移

提出特征方向漂移机制与探针空间走廊正则，抑制蒸馏潜隐特质迁移

arXiv

2609.01091

发表

9月1日

层

训练与数据层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Gemma-3-12B-IT 等 4 个

• 防御模型加固
• 攻击投毒与后门
• 风险失准与价值偏离
• 组件微调与开源权重

研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍

审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为

arXiv

2608.11816

发表

8月12日

层

模型层

场景

模型与 API

测试

Qwen2-VL-7B、Qwen2.5-VL-7B、Qwen3-VL-8B 等 9 个

• 风险偏见与歧视
• 组件视觉
• +1+1

研究者提出用零空间投影净化 LoRA 微调 LLM 的后门

用零空间投影净化 LoRA 微调模型后门并保留基座与下游能力

arXiv

2610.00685

发表

10月2日

层

训练与数据层

场景

模型与 API

测试

LLaMA2-7B-Chat、LLaMA2-13B-Chat、Qwen2-7B-Instruct 等 6 个

• 防御模型加固
• 攻击投毒与后门
• 组件微调与开源权重

NEEDLE：通过权重正交化移除 LLM 后门

提出 NEEDLE，用权重正交化在已知触发器时去除大模型后门

arXiv

2610.00348

发表

10月2日

层

模型层

场景

模型与 API

测试

Gemma-3-4B-IT、Qwen3-4B-Instruct-2507、Gemma-3-12B-IT

• 防御模型加固
• 攻击投毒与后门
• 组件微调与开源权重

AuraForge：为训练安全编码 Agent 扩展安全监督

提出 AuraForge，从漏洞修复合成安全测试并监督训练编码智能体

arXiv

2610.00850

发表

10月2日

层

训练与数据层

场景

编程 Agent

测试

Qwen3.5-4B、Muse Spark 1.3、DeepSeek-V4.1-Flash 等 11 个

• 防御模型加固
• 风险Agent 危险操作

一个 AI token 值多少？研究者为野生 AI 生成网页文本提出新缩放定律

提出预训练缩放律，估计野生 AI 网页文本相当于多少人类 token

arXiv

2609.40295

发表

9月30日

层

训练与数据层

场景

模型与 API

测试

nanochat 19.9M、35.8M、86.2M 等 7 个

GhostWord：针对自动语音识别的细粒度后门攻击

提出 GhostWord 词级触发后门，对自动语音识别做数据投毒

arXiv

2609.04260

发表

9月2日

层

训练与数据层

场景

模型与 API

测试

Whisper-Small、Whisper-Medium、MMS 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件音频
• +2+2