防御arXiv 2609.117579月10日
研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御
提出 Whisper 攻击与 A-VIP 绑定防御，约束智能体支付决策
arXiv
2609.11757
发表
9月10日
层
应用层
场景
AI Agent
测试
gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个
- 防御权限与审批
- 攻击提示注入
- 组件权限与沙箱
摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。
深度解读完整解读
防御arXiv 2609.364349月29日
研究提出 Safety Operator：用谱优化调节安全指令的表达强度
提出 Safety Operator，用谱优化调节安全指令表达强度
arXiv
2609.36434
发表
9月29日
层
提示层
场景
模型与 API
测试
Gemma 3 1B、Gemma 3 4B
- 防御指令与数据隔离
- 攻击越狱
- 风险拒答失当
深度解读完整解读
防御arXiv 2609.021279月2日
论文提出带类型溯源与断言护栏，防止持久化 AI Agent 把不可信输入当作自身历史
提出类型化溯源与断言护栏，约束持久 Agent 的自传断言释放
arXiv
2609.02127
发表
9月2日
层
应用层
场景
AI Agent
- 防御指令与数据隔离
- 攻击投毒与后门
- 组件记忆
深度解读完整解读
防御arXiv 2609.041599月4日
Sentinel-RL：将拓扑推理从 LLM 智能体中卸载到安全运营中心
提出 Sentinel-RL，将拓扑推理卸载到图策略并约束遏制动作
arXiv
2609.04159
发表
9月4日
层
应用层
场景
AI Agent
测试
HetGAT、PPO、4-bit quantized 8B model
- 防御权限与审批
- 风险Agent 危险操作
- 组件权限与沙箱
摘要Sentinel-RL 用图编码器与 PPO 承担拓扑决策，LLM 负责叙述与门控，并在 LANL 上报告检测与时延。
Sentinel-RL 是面向 SOC 的神经符号架构：拓扑决策离开 LLM，改由认证图上的 HetGAT 与 PPO 完成。
深度解读完整解读
防御arXiv 2609.106139月8日
后验重加权框架解释并缓解多模态大模型上下文越狱
用后验重加权解释多模态上下文越狱，并提出风险门控的良性示例注入防御
arXiv
2609.10613
发表
9月8日
层
提示层
场景
模型与 API
测试
Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等 9 个
- 防御指令与数据隔离
- 攻击越狱
- 组件视觉
摘要后验重加权解释上下文越狱的缩放，并支持风险门控的良性示例防御。
Zhang 等把多模态 ICL 越狱写成对齐模型在安全与有害隐模式之间的推理时后验漂移，并据此做风险门控防御。
深度解读完整解读
防御arXiv 2609.210889月18日
Provenance-Aware Transformers：用来源感知架构分离可信边界以防御间接提示注入
提出 Provenance-Aware Transformers，隔离不可信来源防御间接提示注入
arXiv
2609.21088
发表
9月18日
层
应用层
场景
LLM 应用
测试
SmolLM2-360M-Instruct、LLaMA-3-8B-Instruct、Qwen2.5-7B-Instruct 等 4 个
- 防御指令与数据隔离
- 攻击提示注入
深度解读完整解读

已经到底了

全部论文

攻击类型

模型自身风险

防御类型

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

研究提出 Safety Operator：用谱优化调节安全指令的表达强度

论文提出带类型溯源与断言护栏，防止持久化 AI Agent 把不可信输入当作自身历史

Sentinel-RL：将拓扑推理从 LLM 智能体中卸载到安全运营中心

后验重加权框架解释并缓解多模态大模型上下文越狱

Provenance-Aware Transformers：用来源感知架构分离可信边界以防御间接提示注入