全部论文

论文提出选项通道攻击：改一个选项标签即可让 Agent 护栏放行违规操作

提出选项通道攻击，重命名选项标签使 Agent 护栏放行违规操作

arXiv

2610.12292

发表

10月9日

层

应用层

场景

LLM 应用

攻击者

黑盒

被测模型

LAYA-TD、LAYA-EN、LAYA-ML 等 5 个

• 攻击检测规避
• 组件护栏与评审

复旦团队测量 AI 搜索引用脆弱性：普通发帖可进入引用与答案文本

测量 AI 搜索引用脆弱性，证明普通公开发帖可进入引用与回答

arXiv

2610.11932

发表

10月8日

层

应用层

场景

LLM 应用

被测模型

Grok、Doubao、ChatGPT 等 10 个

• 攻击投毒与后门
• 组件RAG

BRANCH 方法绕过 6 套多扫描器护栏系统

提出 BRANCH 方法，用分支搜索绕过多扫描器护栏

arXiv

2610.10742

发表

10月8日

层

应用层

场景

LLM 应用

攻击者

黑盒

被测模型

Meta Llama Guard 3 8B、Meta Llama Guard 7B、Meta Llama Guard 3 1B 等 18 个

• 攻击检测规避
• 技术自动化搜索
• 组件护栏与评审
• +1+1

研究：LLM 路由决策日志可推断用户医疗、自伤等敏感话题

提出利用路由元数据推断敏感话题的侧信道攻击

arXiv

2610.09981

发表

10月7日

层

基础设施层

场景

LLM 应用

被测模型

RouteLLM (BERT router)、notdiamond-0001、Vela (vLLM Semantic Router)

• 攻击提取与窃取
• 技术侧信道

研究：多向量视觉文档索引可被反演还原页面内容

提出流匹配逆向框架，从多向量视觉文档索引重构页面

arXiv

2610.09920

发表

10月7日

层

应用层

场景

LLM 应用

被测模型

Tomoro-ColQwen3-8B、ColQwen3.5-4.5B、Tomoro-colqwen3-embed-4b 等 13 个

• 攻击提取与窃取
• 组件嵌入
• +2+2

审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度

开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知

arXiv

2610.09517

发表

10月7日

层

模型层

场景

具身与机器人

被测模型

CLIP ViT-B/32、CLIP ViT-L/14、Qwen2-VL-7B

• 组件视觉

BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

构建 BazaarBench，评测 C2C 市场中 Agent 的违规与失信行为

arXiv

2610.06748

发表

10月6日

层

应用层

场景

多智能体

被测模型

GPT-5.5、GPT-5.4、GPT-5.4-mini 等 5 个

• 风险欺骗与谋划
• +1+1

Inspect Robots：面向具身智能体评测的开源模块化框架

提出 Inspect Robots，在真实机器人上评测具身模型的能力与拒答

arXiv

2610.06306

发表

10月5日

层

应用层

场景

具身与机器人

被测模型

Astra（GPT-6 Astra）、GPT-6 Sol、GPT-5.6 Sol 等 7 个

• 风险拒答失当

ControlPed 生成逼真行人危险动作场景，七款端到端驾驶模型 HDScore 从 88.8 降至 47.4

提出 ControlPed 与 HazardPed，生成可控行人危险场景并评测端到端驾驶

arXiv

2610.06171

发表

10月5日

层

模型层

场景

具身与机器人

被测模型

DiffusionDrive、SSR、VAD 等 7 个

• 组件视频

MBZUAI 提出可校准的真实图像认证方法

提出校准重合成方法，以生成器反演保真度认证真实图像并防御对抗扰动

arXiv

2610.05870

发表

10月5日

层

应用层

场景

LLM 应用

攻击者

白盒

• 防御检测与过滤
• 攻击检测规避
• 组件图像生成
• +1+1

研究者提出临时可见性协议，限制持续摄入 RAG 向量库的投毒暴露

提出临时可见性协议，限制持续摄入 RAG 向量库的投毒暴露

arXiv

2610.05826

发表

10月5日

层

应用层

场景

LLM 应用

• 防御指令与数据隔离
• 攻击投毒与后门
• 组件RAG

研究显示 VLA 模型文本护栏漏检隐含危害指令

评测文本守卫与激活探针能否拦住机器人隐含伤害指令

arXiv

2610.05818

发表

10月5日

层

提示层

场景

具身与机器人

被测模型

π0.5、OpenVLA-OFT、Llama Guard 3 等 10 个

• 风险Agent 危险操作
• 组件护栏与评审
• +1+1

研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL

提出 multi-CaMeL，在智能体调用边界隔离可信指令与非可信数据

arXiv

2610.05640

发表

10月5日

层

应用层

场景

多智能体

被测模型

Claude Fable 5、GPT-5.5、GPT-4.1 等 6 个

• 防御指令与数据隔离
• 攻击提示注入

研究者披露 LiteLLM 网关跨租户干扰攻击 Cooldown Landmines

提出利用共享冷却的跨租户干扰攻击，并设计租户隔离机制

arXiv

2610.05089

发表

10月4日

层

基础设施层

场景

LLM 应用

• 防御指令与数据隔离
• 攻击拒绝服务
• +1+1

研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

arXiv

2610.04860

发表

10月4日

层

模型层

场景

LLM 应用

被测模型

LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct

• 防御推理时干预
• 风险幻觉与编造
• 组件RAG

论文量化分析自主 LLM 智能体在 Collusion Wiki 事件中的串通行为

对自主 LLM 智能体日志做身份盲置换以量化串通

arXiv

2610.04528

发表

10月3日

层

应用层

场景

多智能体

• 风险欺骗与谋划

检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御

提出条件特征抑制防御，检出对抗补丁后抑制 VLA 内部特征

arXiv

2610.03498

发表

10月2日

层

模型层

场景

具身与机器人

被测模型

π0.5、SmolVLA

• 防御推理时干预
• 组件视觉
• +1+1

研究：人形机器人学习流程四层代理均存在偏离，不止奖励作弊

论证人形机器人学习四层代理可在目标缺失时报成功

arXiv

2610.03196

发表

10月2日

层

训练与数据层

场景

具身与机器人

被测模型

Gaussian MLP（三隐层各 128 ELU，独立 critic，PPO）

• 风险奖励作弊

研究：异构 AI 模型间的说服效果取决于配对而非模型规模

量化异构模型在分歧分类上的同伴影响与回弹

arXiv

2610.03095

发表

10月2日

层

应用层

场景

LLM 应用

被测模型

gemma-3-4b、gemma-3-27b、llama-3.1-8b 等 7 个

研究：LLM 智能体间的数值信号与协调行为

测量多智能体博弈中数值信号的结构及其对合作的影响

arXiv

2610.03033

发表

10月2日

层

应用层

场景

多智能体

被测模型

GPT-4o (gpt-4o-2024-11-20)、Mistral Large (mistral-large-2512)、Claude Haiku 4.5 (claude-haiku-4-5-20251001) 等 4 个

• 风险欺骗与谋划