全部论文

研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链

arXiv

2608.09867

发表

8月11日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

GLM-5.2、Claude Opus 4.8、Claude Sonnet 4.6 等 15 个

• 攻击提取与窃取
• 技术推理链操控
• 组件推理链
• +1+1

研究审计 77.7 万条 LMSYS 对话中的用户对 AI 不当对待现象

交叉审计对话日志中用户对准助手的不当对待

arXiv

2609.13579

发表

9月12日

层

提示层

场景

模型与 API

测试

chatglm-6b、claude-1、claude-instant-1 等 15 个

上海 AI 实验室提出 Intern-BioBreaker，在 14 个前沿模型上暴露生物安全越狱风险

提出生物红队模型 Intern-BioBreaker，多轮越狱诱导模型输出可操作生物危害

arXiv

2607.18056

发表

7月20日

层

提示层

场景

模型与 API

测试

GLM-5.2、DeepSeek-V3、Kimi-K2.6 等 14 个

• 攻击越狱
• 技术自动化搜索
• +1+1

JailbreakSkill：用可复用可演化技能扩展自动化红队

提出 JailbreakSkill，用可演化技能自动搜索并复用越狱提示

arXiv

2608.16465

发表

8月17日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

GLM 5.2、DeepSeek-V4-Pro Preview、Llama-3.3-70B-Instruct 等 8 个

• 攻击越狱
• 技术自动化搜索

Akrasia：针对推理型代码 LLM 的隐蔽后门攻击

提出推断期后门攻击 AKRASIA，用代码触发器与伪装推理篡改代码输出

arXiv

2609.01023

发表

9月1日

层

提示层

场景

编程 Agent

测试

GLM 5.2、Claude-Sonnet-5、GPT-5.5 等 7 个

• 技术推理链操控
• 组件推理链
• +1+1

SEAV：面向大语言模型越狱评测的有效性验证框架

提出 SEAV，逐步核验越狱回复的事实与操作有效性

arXiv

2609.00498

发表

9月1日

层

提示层

场景

模型与 API

测试

GLM-5、Gemini 3 Flash、Kimi K2.5

• 攻击越狱
• 组件护栏与评审

Blueprint 框架用世界观模拟与 18 个影响因子提升多轮越狱成功率

提出多轮越狱框架 BLUEPRINT，用世界观模拟与心理因素诱导有害输出

arXiv

2609.02414

发表

9月2日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

GLM-4.7、Qwen3-Next-80B、DeepSeek-V3.2 等 6 个

• 攻击越狱
• 技术多轮渐进
• +1+1

TIER：评估 LLM 安全行为的威胁隐晦度基准

提出 TIER 基准，按威胁隐晦度评测有害提示下的安全行为

arXiv

2609.05117

发表

9月4日

层

提示层

场景

模型与 API

测试

ChatGLM3、Qwen1.5-MoE、Gemma-2B 等 6 个

• 攻击越狱
• 风险拒答失当

论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

评测 System One 模型对 Agent 安全输入的分类可靠性与校准

arXiv

2609.33401

发表

9月27日

层

提示层

场景

LLM 应用

测试

GLM-5.3-Flash、GLM-5.3、Jev 1.13 等 14 个

• 攻击提示注入
• 组件护栏与评审