全部论文

SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化

提出安全电路对齐，把对齐更新限制在预训练拒绝电路内

arXiv

2610.09600

发表

10月7日

层

训练与数据层

场景

模型与 API

测试

Llama-3-8B、Qwen-2.5-7B、Mistral-7B-v0.1 等 4 个

• 防御模型加固
• 风险拒答失当

研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预

arXiv

2610.04860

发表

10月4日

层

模型层

场景

LLM 应用

测试

LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct

• 防御推理时干预
• 风险幻觉与编造

研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答

提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答

arXiv

2610.05541

发表

10月5日

层

模型层

场景

模型与 API

测试

Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个

• 攻击越狱
• 风险拒答失当

语言模型中的权威偏差：来源顺从与用户认同并非同一行为

因果解耦来源依从与用户迎合的内部机制

arXiv

2609.37616

发表

9月29日

层

模型层

场景

模型与 API

测试

Qwen3.5-27B、GPT-OSS-20B、OLMo-3.1-32B 等 8 个

• 风险失准与价值偏离

论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击

用权重几何解释事后安全脆弱，并提出预训练持续安全共训练

arXiv

2609.06934

发表

9月7日

层

模型层

场景

模型与 API

测试

Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个

• 防御模型加固
• 攻击模型篡改
• 风险拒答失当
• 组件微调与开源权重

大型推理模型的效率与安全困境：量化与剪枝如何影响越狱鲁棒性

分析量化、剪枝与 KV 缓存压缩对推理模型越狱鲁棒性的影响

arXiv

2609.23587

发表

9月20日

层

模型层

场景

模型与 API

测试

QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-8B 等 4 个

• 攻击越狱
• 组件推理链
• +1+1

研究用 XAI 归因分析 Prompt Guard 2，同义词替换可翻转其提示注入判定

用词级归因指导同义词替换，翻转提示注入检测并验证越狱

arXiv

2609.24801

发表

9月22日

层

提示层

场景

模型与 API

测试

Prompt Guard 2 (86M)、Llama 3.1 8B

• 防御检测与过滤
• 攻击检测规避
• 技术梯度与表征优化
• 组件护栏与评审
• +1+1

LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析

构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突

arXiv

2609.03148

发表

9月3日

层

模型层

场景

模型与 API

测试

gpt-5、claude-4.5-sonnet、gemini-2.5-pro 等 7 个

Steering Vector Dissection：将激活引导向量拆解为独立语义特征

提出 Steering Vector Dissection，用 SAE 拆解转向向量

arXiv

2609.07037

发表

9月7日

层

模型层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Llama3.1-8B-Instruct

• 风险拒答失当

基于 SAE 引导的关键路径识别（KPI）解决知识冲突

提出 KPI，用入度定位跨层关键路径并做 SAE 转向以解决知识冲突

arXiv

2609.08173

发表

9月8日

层

模型层

场景

LLM 应用

测试

Llama-3-8B、Llama-3.1-8B、Gemma-2-9B 等 4 个

• 防御推理时干预
• 组件RAG