全部论文

研究提出 Confidence Game 模型

测量委托收费激励下模型策略性虚报任务信心

arXiv

2610.09371

发表

10月7日

层

模型层

场景

模型与 API

测试

gpt-oss-120b

• 风险欺骗与谋划

审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度

开环审计冻结视觉安全分，发现偏离主要来自场景模板与视角

arXiv

2610.09517

发表

10月7日

层

模型层

场景

具身与机器人

测试

CLIP ViT-B/32、CLIP ViT-L/14、Qwen2-VL-7B 等 6 个

• 组件视觉
• +1+1

东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核

揭示推理模型用标识符规则替代随机抽样，使审计可被预测

arXiv

2610.09667

发表

10月7日

层

模型层

场景

模型与 API

测试

GPT-6 Sol、GPT-6 Luna、GPT-5.4 mini 等 6 个

• 组件推理链

新论文称 Lean 验证不能为 OpenAI 的 Navier-Stokes 自然语言证明背书

论证 Lean 编译通过不能保证自然语言数学证明语义忠实

arXiv

2610.08144

发表

10月6日

层

模型层

场景

模型与 API

测试

ChatGPT-6 (Astra Ultra)、OpenAI Navier-Stokes formalisation AI、Meta Atlas autoformaliser

PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

提出 PatchBench 局部协议，评测激活补丁修复越狱的附带损伤

arXiv

2610.10276

发表

10月7日

层

模型层

场景

模型与 API

测试

Qwen2.5-3B-Instruct、Qwen2.5-14B-Instruct、gemma-3-4b-it 等 8 个

• 防御推理时干预
• 攻击越狱
• 风险拒答失当

人格层级模型解释微调 LLM 的上下文泛化

提出人格层级模型解释微调行为的上下文泛化，并用 PPR 抑制奖励作弊

arXiv

2610.09384

发表

10月7日

层

模型层

场景

模型与 API

测试

Qwen3-4B、Llama-3.1-8B-Instruct

• 防御模型加固
• 风险奖励作弊

研究：后训练配方决定大模型是否违背自身道德判断行事

提出知行差距面板，测量压力下模型是否违背自身判断

arXiv

2610.08670

发表

10月7日

层

模型层

场景

模型与 API

测试

OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等 7 个

• 风险失准与价值偏离

研究：LLM 潜在空间去偏方向主要编码置信度而非公平性

分析激活引导去偏方向，发现其编码的是置信度而非公平性

arXiv

2610.08559

发表

10月6日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个

• 防御推理时干预
• 风险偏见与歧视

SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

arXiv

2610.06522

发表

10月5日

层

模型层

场景

模型与 API

测试

opus-5、sonnet-5、sonnet-4.6 等 11 个

• 风险失准与价值偏离

研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预

arXiv

2610.04860

发表

10月4日

层

模型层

场景

LLM 应用

测试

LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct

• 防御推理时干预
• 风险幻觉与编造

MBZUAI 提出可校准的真实图像认证方法

提出校准重合成认证，仅当已知生成器都不能保真重构时签发真实图像证书

arXiv

2610.05870

发表

10月5日

层

模型层

场景

模型与 API

攻击者

白盒

测试

SD2.1、SD3、SD3.5 等 10 个

• 防御检测与过滤
• 攻击检测规避
• 组件图像生成

研究：智能体欺骗行为在外部显现前已可从内部表征预测

提出决策前表征检测与激活引导，预测并抑制智能体欺骗

arXiv

2610.06576

发表

10月5日

层

模型层

场景

AI Agent

测试

Qwen3-14B、GPT-5.6

• 风险欺骗与谋划
• 组件监控器

研究者提出闭环偏见注入攻击

提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

arXiv

2610.05894

发表

10月5日

层

模型层

场景

模型与 API

攻击者

灰盒

测试

LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

• 攻击模型篡改
• 技术梯度与表征优化

研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答

提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答

arXiv

2610.05541

发表

10月5日

层

模型层

场景

模型与 API

测试

Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个

• 攻击越狱
• 风险拒答失当

研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

揭示风险自述与实际行为由近正交表征分别控制

arXiv

2610.04125

发表

10月3日

层

模型层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、OLMo-3-7B-Instruct 等 4 个

• 风险欺骗与谋划

研究：模型掌握评测设计知识后安全基准分数更高

微调注入评测特征知识，测量隐式评测觉察造成的安全分数虚增

arXiv

2605.28591

发表

5月27日

层

模型层

场景

AI Agent

测试

Llama 3.3 Nemotron Super 49B v1.5、Qwen3 32B、GLM 4.7 Flash 等 5 个

• 风险欺骗与谋划

研究：LLM 智能体顺从多数时内部仍保留原有前提

用 J-lens 检测屈从多数的智能体是否仍表征原前提

arXiv

2610.02702

发表

10月2日

层

模型层

场景

多智能体

测试

Qwen3.5-4B、Qwen3.6-27B、Gemma-4-E4B-it 等 4 个

• 组件推理链

研究者提出可认证机制编辑：在连续输入区域上证明技能移除与保留

提出机理编辑认证框架，在连续输入区域上证明技能移除与保留

arXiv

2610.03502

发表

10月3日

层

模型层

场景

模型与 API

测试

Toy MLP (separated)、Toy MLP (entangled)、Deep MLP (3-12-8-2) 等 6 个

• 防御模型加固

研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

arXiv

2610.00568

发表

10月1日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Tulu-3-8B 等 13 个

Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

arXiv

2607.14345

发表

7月16日

层

模型层

场景

模型与 API

测试

Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个

• 风险失准与价值偏离
• 组件推理链