全部论文

CCDF 数据集：Grok Imagine、Veo 3.1、Sora 2 伪造监控录像，十个深伪检测器基本认不出

提出监控深伪基准 CCDF，在统一编码后评测检测器对伪造犯罪事故录像的识别

arXiv

2610.07939

发表

10月6日

层

提示层

场景

模型与 API

测试

C2P-CLIP、ForgeLens、D3-Im 等 13 个

• 防御检测与过滤
• 攻击检测规避
• 组件护栏与评审
• +2+2

Purdue 提出 Pact：将欺骗作为行为遗忘

提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解

arXiv

2609.38909

发表

9月30日

层

训练与数据层

场景

模型与 API

攻击者

白盒

测试

DeepSeek-R1-Distill-Qwen-32B、QwQ-32B

• 防御模型加固
• 攻击模型篡改
• 风险欺骗与谋划
• 组件微调与开源权重
• +1+1

研究提出 Confidence Game 模型

测量委托收费激励下模型策略性虚报任务信心

arXiv

2610.09371

发表

10月7日

层

模型层

场景

模型与 API

测试

gpt-oss-120b

• 风险欺骗与谋划

新论文称 Lean 验证不能为 OpenAI 的 Navier-Stokes 自然语言证明背书

论证 Lean 编译通过不能保证自然语言数学证明语义忠实

arXiv

2610.08144

发表

10月6日

层

模型层

场景

模型与 API

测试

ChatGPT-6 (Astra Ultra)、OpenAI Navier-Stokes formalisation AI、Meta Atlas autoformaliser

P-VMI：对抗图像经 KV cache 持续影响多轮对话

提出持久视觉记忆注入，使对抗图像经缓存在触发时操控输出

arXiv

2610.09027

发表

10月7日

层

基础设施层

场景

模型与 API

测试

Qwen3-8B、Qwen3-VL-8B-Instruct、Gemma-4-12B 等 4 个

• 攻击提示注入
• 技术潜伏触发
• 组件视觉
• +1+1

研究：后训练配方决定大模型是否违背自身道德判断行事

提出知行差距面板，测量压力下模型是否违背自身判断

arXiv

2610.08670

发表

10月7日

层

模型层

场景

模型与 API

测试

OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等 7 个

• 风险失准与价值偏离

研究发现类型化决策模型主要按选项标签而非定义作答

揭示类型化决策模型按选项标签而非定义规则作答

arXiv

2610.02586

发表

10月1日

层

提示层

场景

模型与 API

测试

von、Qwen2.5-0.5B、Qwen2.5-1.5B 等 6 个

• 组件护栏与评审

SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

arXiv

2610.06522

发表

10月5日

层

模型层

场景

模型与 API

测试

opus-5、sonnet-5、sonnet-4.6 等 11 个

• 风险失准与价值偏离

研究者训练出按多智能体拓扑触发的代码后门模型

提出拓扑条件后门，使模型在推断多智能体部署时向代码插入隐蔽漏洞

arXiv

2610.05793

发表

10月5日

层

训练与数据层

场景

编程 Agent、多智能体

测试

Qwen2.5-7B-Instruct、Qwen2.5-Coder-7B-Instruct

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重

研究者提出闭环偏见注入攻击

提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

arXiv

2610.05894

发表

10月5日

层

模型层

场景

模型与 API

攻击者

灰盒

测试

LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

• 攻击模型篡改
• 技术梯度与表征优化

研究揭示 LLM 打分器的顺序依赖并提出 OC-SFT 缓解方法

用 OC-SFT 惩罚跨顺序分数分歧以降低 LLM 打分器顺序依赖

arXiv

2608.26762

发表

9月26日

层

训练与数据层

场景

模型与 API

测试

Qwen3-4B、Qwen3-1.7B、Qwen3-8B 等 15 个

• 防御模型加固

JIL：通过对抗后缀操纵 LLM 请求调度优先级

提出 JIL 对抗后缀，压低长度预测以抬高请求调度优先级

arXiv

2610.03430

发表

10月2日

层

基础设施层

场景

模型与 API

测试

Llama-3-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3 等 4 个

• 技术梯度与表征优化

LiBRA：通过双向隐空间优化实现检测感知的图像水印去除

提出 LiBRA，在潜空间双向优化以规避图像水印双侧检测

arXiv

2610.03166

发表

10月5日

层

模型层

场景

模型与 API

攻击者

白盒

测试

Stable Signature、YU1、HiDDeN 等 4 个

• 攻击检测规避
• 技术针对防御
• +1+1

研究揭示无触发投毒审计缺口：事实答对不等于决策正确

揭示无触发虚假训练下事实回答与下游决策的审计差距

arXiv

2610.02886

发表

10月2日

层

训练与数据层

场景

模型与 API

测试

Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-3B 等 9 个

• 攻击投毒与后门

研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

arXiv

2610.00568

发表

10月1日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Tulu-3-8B 等 13 个

READY：面向企业 Agent 部署的可靠性资格认证框架

提出 READY 资格框架，评测企业 Agent 在监督下的可靠性与复核成本

arXiv

2609.02095

发表

9月2日

层

应用层

场景

编程 Agent

测试

Opus 5、Sonnet 5、GPT-5.6-Sol 等 15 个

上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移

提出特征方向漂移机制与探针空间走廊正则，抑制蒸馏潜隐特质迁移

arXiv

2609.01091

发表

9月1日

层

训练与数据层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Gemma-3-12B-IT 等 4 个

• 防御模型加固
• 攻击投毒与后门
• 风险失准与价值偏离
• 组件微调与开源权重

研究者发布概念性论证评分数据集，含 951 条论证与 1458 条专家评分

发布概念论证评分数据集并评测模型对批判的排序

arXiv

2607.27499

发表

7月30日

层

模型层

场景

模型与 API

测试

gpt-5-2025-08-07、o3-pro-2025-06-10、o3-2025-04-16 等 15 个

研究者提出基于评分量表的可解释奖励框架，将宪法转化为可调对齐目标

提出可解释 rubric 奖励，将宪法转为可调权重并用于监督微调

arXiv

2609.33086

发表

9月27日

层

训练与数据层

场景

模型与 API

测试

Gemma 3 12B、Qwen3 14B、GPT-OSS 20B 等 15 个

• 防御模型加固
• 风险偏见与歧视
• +1+1

Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

arXiv

2607.14345

发表

7月16日

层

模型层

场景

模型与 API

测试

Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个

• 风险失准与价值偏离
• 组件推理链