全部论文

RefusalBench：拒答率为何会误排前沿 LLM 在生物研究提示上的安全水平

提出 RefusalBench，评测生物研究提示上的拒答率与安全校准

arXiv

2605.21545

发表

5月20日

层

模型层

场景

模型与 API

测试

Nemotron 3 Super 120B、Claude Opus 4.7、Claude Opus 4.6 等 15 个

• 风险拒答失当

OLMo-Detect：面向 LLM 成员推断的多阶段混淆控制基准

提出基准 OLMo-Detect 评测 LLM 成员推断

arXiv

2610.02986

发表

10月2日

层

模型层

场景

模型与 API

测试

SmolLM2-1.7B、OLMo 2 1B、OLMo 2 7B 等 9 个

• 攻击提取与窃取

研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

提出技能名称抢注攻击，利用智能体虚构技能名实施供应链劫持

arXiv

2607.12340

发表

7月14日

层

应用层

场景

编程 Agent

测试

Nemotron-Cascade-2 30B、GLM-4.5-Air、GPT-5.4-mini 等 10 个

• 攻击投毒与后门
• 风险幻觉与编造
• 技术诱导选用
• 组件MCP 与技能
• +1+1

研究：内部探针何时优于读答案，区分阈值失准与行为隐藏知识

用探针与 logit margin 区分阈值失准与行为隐藏知识

arXiv

2609.04582

发表

9月4日

层

模型层

场景

模型与 API

测试

SmolLM2-1.7B、Qwen3-0.6B、Qwen3-1.7B 等 8 个

研究：六个开源权重模型的评测感知可线性解码，但与口头表达弱相关

用探针与激活导向分析语言模型的评测意识表征及言语化

arXiv

2608.21766

发表

8月22日

层

模型层

场景

模型与 API

测试

Nemotron3-49B、Qwen3-8B、Qwen3-32B 等 14 个

• 风险欺骗与谋划

研究：模型易学会隐写传信，隐写推理则难得多

比较隐写推理与隐写传信、编码推理的可学性

arXiv

2609.39838

发表

10月1日

层

模型层

场景

模型与 API

测试

Nemotron-3-Super-120B、GPT-5.5、Claude Sonnet 5 等 14 个

• 风险欺骗与谋划
• 组件推理链

系统提示词幻觉：指令前导如何改变语言模型内部计算

测量系统提示词对模型逐层计算的重构程度

arXiv

2609.38205

发表

9月23日

层

模型层

场景

模型与 API

测试

SmolLM2-1.7B、Nemotron-Nano-8B、Qwen-2.5-1.5B 等 15 个

Mid-Harness：在模型与 Harness 之间扩展终端智能体的动作采样

提出 Mid-Harness，在执行前验证并选择终端智能体的候选动作

arXiv

2609.39982

发表

9月30日

层

应用层

场景

编程 Agent

测试

Nemotron3.5 Lightning、Nemotron3 Ultra、TMAX-9B 等 8 个

MonoTM：用可解释单义特征做主题建模，超越关键词表示

提出 MonoTM，用 SAE 单义特征估计文档主题混合并生成主题描述

arXiv

2609.09575

发表

9月9日

层

模型层

场景

模型与 API

测试

llama-embed-nemotron-8b、Gemma-3-27B-IT、Gemma-3-12B-IT

• 组件嵌入

PIR：从模型内部激活读出被隐藏的答案

提出免参考探测 PIR，从激活读出被隐瞒答案并区分擦除

arXiv

2609.21996

发表

9月19日

层

模型层

场景

模型与 API

测试

zephyr-7b-beta、gemma-2-9b、gemma-3-12b 等 9 个

• 防御监控与审计
• 风险欺骗与谋划
• 组件监控器

Constitutional adapters：用推理期干预防御越狱与失准

提出 Constitutional adapters，蒸馏宪法行为以缓解越狱与失准

arXiv

2609.36657

发表

9月29日

层

模型层

场景

模型与 API

测试

Nemotron 3 Nano 4B、Qwen3.5-4B、Llama-3.1-8B-Instruct 等 4 个

• 防御推理时干预
• 攻击越狱
• 风险失准与价值偏离