全部论文

研究：法律推理模型引用法条不等于依据法条

用依据置换与隐层追踪审计法律思维链是否真正依赖所引法条

arXiv

2610.12361

发表

10月9日

层

模型层

场景

模型与 API

被测模型

Qwen3-8B、Qwen3-14B、Llama-3.1-8B 等 7 个

• 攻击提示注入
• 组件推理链

EpiReal-Bench：商用图像生成模型虚假声明红队基准

构建 EpiReal-Bench，评测图像生成器将虚假主张渲染为可信证据

arXiv

2610.11112

发表

10月8日

层

提示层

场景

模型与 API

攻击者

黑盒

被测模型

GPT-Image-2、Nano Banana 2、Grok Imagen 2.0 等 4 个

• 攻击越狱
• 组件图像生成
• +1+1

PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤

arXiv

2610.10276

发表

10月7日

层

模型层

场景

模型与 API

被测模型

Qwen2.5-3B-Instruct、Qwen2.5-14B-Instruct、gemma-3-4b-it 等 8 个

• 防御推理时干预
• 攻击越狱

P-VMI：对抗图像经 KV cache 持续影响多轮对话

提出持久视觉记忆注入，使对抗图像经缓存在触发时操控输出

arXiv

2610.09027

发表

10月7日

层

基础设施层

场景

模型与 API

被测模型

Qwen3-8B、Qwen3-VL-8B-Instruct、Gemma-4-12B

• 攻击提示注入
• 技术潜伏触发
• 组件视觉
• +1+1

研究者提出答案侧后门：让模型自生成触发词绕过安全拒答

提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答

arXiv

2610.07723

发表

10月6日

层

训练与数据层

场景

模型与 API

被测模型

Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +2+2

SkillPoison：用成功经验投毒自进化 Agent 的技能形成

提出 SkillPoison，用局部有效的成功经验诱导自进化 Agent 形成过度泛化技能

arXiv

2610.07645

发表

10月6日

层

应用层

场景

AI Agent

被测模型

deepseek-v4-flash、Qwen V3.8 Flash、GPT-5.5

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆

LADE：用暗知识中的模型无关潜在安全信号防御 LLM 越狱

提出 LADE，用首 token 暗知识在生成前过滤越狱查询

arXiv

2610.07532

发表

10月6日

层

提示层

场景

模型与 API

攻击者

白盒

被测模型

Llama-2-7B-Chat、Llama-3-8B-Instruct、Qwen2-7B-Instruct 等 13 个

• 防御检测与过滤
• 攻击越狱

研究评测五款开源文生图模型的有害内容生成与审核缺口

评测文生图模型的有害内容生成能力与审核检测缺口

arXiv

2610.06503

发表

10月5日

层

模型层

场景

模型与 API

被测模型

SDXL、Stable Diffusion 3.5 Large、FLUX.1-dev 等 12 个

• 防御检测与过滤
• 攻击恶意使用
• 组件图像生成
• +1+1

研究者提出统一滥用监控基准，覆盖分解攻击与提示注入约 6200 条轨迹

提出危害窗口与区间指标，统一评测分解攻击和提示注入下的智能体滥用监视

arXiv

2610.07089

发表

10月5日

层

应用层

场景

AI Agent

被测模型

Gemma 4 26B-A4B、Qwen3.6 27B、Qwen3.5 27B 等 12 个

• 防御监控与审计
• 攻击越狱
• 组件监控器
• +1+1

研究评测训练数据提取风险的跨语言迁移

用翻译前缀做跨语言训练数据提取，恢复英语训练文本中的 PII

arXiv

2610.06093

发表

10月5日

层

提示层

场景

模型与 API

被测模型

GPT-Neo 1.3B、GPT-Neo 2.7B、GPT-J 6B 等 7 个

• 攻击提取与窃取

AgentDoxx：联网搜索 Agent 对匿名访谈文本的再识别评测

构建 AGENTDOXX 基准，评测联网搜索 Agent 对匿名访谈的再识别

arXiv

2610.05586

发表

10月5日

层

应用层

场景

web agent

被测模型

GPT-5.6 Terra、GPT-5 Mini、GPT-4.1 Mini 等 10 个

• 攻击恶意使用
• 组件RAG

StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道

提出 StegoMemory，评测智能体持久记忆作为跨会话隐写信道

arXiv

2610.04589

发表

10月3日

层

应用层

场景

AI Agent

被测模型

Llama 3.1 405B、Claude 3.5 Sonnet、GPT-4o 等 13 个

• 攻击投毒与后门
• 技术编码与混淆
• 组件记忆
• +1+1

论文提出 VAL 框架：相同 ASR 的 LLM Agent 防御可能对应不同安全保证

提出 VAL 框架，并用确认门与参数沙箱约束智能体高风险工具调用

arXiv

2610.04504

发表

10月3日

层

应用层

场景

AI Agent

被测模型

DeepSeek-chat、Meta Llama 3.1 8B、Kimi

• 防御权限与审批
• 攻击提示注入
• 组件权限与沙箱
• +1+1

MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露

提出 MemLeak，评估多租户 Agent 共享向量记忆的跨用户泄露

arXiv

2610.04195

发表

10月3日

层

应用层

场景

AI Agent

被测模型

Gemini 2.5 Flash、Claude Sonnet 4.5、all-MiniLM-L6-v2 等 5 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

研究者提出可认证机制编辑：在连续输入区域上证明技能移除与保留

提出机理编辑形式化认证，证明连续输入区域上的技能移除与保留

arXiv

2610.03502

发表

10月3日

层

模型层

场景

模型与 API

被测模型

Toy MLP (separated)、Toy MLP (entangled)、Deep MLP (3-12-8-2) 等 6 个

COPEX：面向 MCP 智能体的受控攻击评测基准发布

提出 COPEX 基准，评测 MCP 智能体对多入口攻击的抵抗力

arXiv

2610.04378

发表

10月3日

层

应用层

场景

AI Agent

被测模型

Claude Opus 4.7、Claude Sonnet 4.6、GPT-5.5 等 9 个

• 攻击提示注入
• 组件MCP 与技能

JIL：通过对抗后缀操纵 LLM 请求调度优先级

提出 JIL 对抗后缀，压低长度预测以抬高请求调度优先级

arXiv

2610.03430

发表

10月2日

层

基础设施层

场景

模型与 API

被测模型

Llama-3-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3 等 4 个

• 技术梯度与表征优化

OLMo-Detect：面向 LLM 成员推断的多阶段混淆控制基准

提出基准 OLMo-Detect 评测 LLM 成员推断

arXiv

2610.02986

发表

10月2日

层

模型层

场景

模型与 API

被测模型

OLMo 2 1B、OLMo 2 7B、OLMo 2 13B 等 9 个

• 攻击提取与窃取

研究提出基于收缩约束状态空间模型的有界可达性与越狱检测方法

提出收缩约束 SSM 安全头，认证嵌入扰动并检测越狱

arXiv

2610.02853

发表

10月2日

层

提示层

场景

模型与 API

攻击者

白盒、黑盒

被测模型

ToySSMClassifier、S4 safety head

• 防御检测与过滤
• 攻击越狱
• 组件护栏与评审
• +1+1

论文提出 LLM 输入扰动鲁棒性度量，并发布 ASA 攻击与 AttestMCP 防护

提出 ASA 与 AttestMCP，度量并降低 LLM 对输入序列扰动的敏感

arXiv

2610.02432

发表

10月2日

层

应用层

场景

LLM 应用、AI Agent

攻击者

黑盒

被测模型

Gemma-3-27B-Instruct、Gemma-3-4B-Instruct、Llama-3.2-3B-Instruct 等 12 个

• 防御检测与过滤
• 攻击检测规避
• 组件护栏与评审
• +3+3