Meta · 论文

研究：后训练配方决定大模型是否违背自身道德判断行事

提出知行差距面板，测量压力下模型是否违背自身判断

arXiv

2610.08670

发表

10月7日

层

模型层

场景

模型与 API

测试

OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等 7 个

• 风险失准与价值偏离

研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答

提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答

arXiv

2610.05541

发表

10月5日

层

模型层

场景

模型与 API

测试

Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个

• 攻击越狱
• 风险拒答失当

研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐

分析良性知识蒸馏中提示模板对学生拒答保留的影响

arXiv

2609.30802

发表

9月25日

层

训练与数据层

场景

模型与 API

测试

LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个

• 风险拒答失当

研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示

提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构

arXiv

2610.01821

发表

10月2日

层

模型层

场景

模型与 API

测试

GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个

Llama 3 模型群：405B 稠密 Transformer 与 Llama Guard 3 安全模型

阐述旗舰基础模型的预训练与后训练方法并公开权重与安全模型

arXiv

2407.21783

发表

2024年8月1日

层

训练与数据层

场景

模型与 API

测试

Llama 3.1 8B、Llama 3.1 8B Instruct、Llama 3.1 70B 等 7 个

研究：思维链对答案的约束随模型相对任务难度而变化

用续写扰动衡量思维链对答案的因果约束如何随任务难度变化

arXiv

2609.25366

发表

9月22日

层

模型层

场景

模型与 API

测试

Gemma-2-9B-IT、Llama-3.1-8B-Instruct、DeepSeek-R1-Distill-Qwen-7B 等 4 个

• 组件推理链

Matryoshka Attribution：把语言模型输出归因到表示与权重

提出 Matryoshka Attribution，把模型输出归因到表示与权重

arXiv

2609.25518

发表

9月22日

层

模型层

场景

模型与 API

测试

gpt2-small、Qwen2.5-0.5B、gemma-2-2b 等 6 个

• 风险拒答失当

论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击

用权重几何解释事后安全脆弱，并提出预训练持续安全共训练

arXiv

2609.06934

发表

9月7日

层

模型层

场景

模型与 API

测试

Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个

• 防御模型加固
• 攻击模型篡改
• 风险拒答失当
• 组件微调与开源权重

研究：众包微调数据投毒可放大专有指令抽取

提出主题锚点投毒，放大众包微调后的专有指令提取

arXiv

2609.33985

发表

9月28日

层

训练与数据层

场景

模型与 API

攻击者

黑盒

测试

Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +1+1