Agent 安全 · 论文

HDI 攻击：篡改 GraphRAG 辅助结构可致 88–94% 攻击成功率

提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索

arXiv

2610.02373

发表

10月1日

层

应用层

场景

LLM 应用

测试

HippoRAG2、Microsoft GraphRAG、text-embedding-3-small 等 4 个

• 攻击投毒与后门
• 组件RAG

ContractRL：面向可审计工具调用修复的屏蔽组相对策略优化

提出契约约束的工具调用修复协议，在执行前拦截非法补丁

arXiv

2610.00328

发表

10月2日

层

应用层

场景

LLM 应用

测试

2B rank-8 LoRA、0.8B rank-4 LoRA

• 防御权限与审批
• 风险Agent 危险操作
• 组件权限与沙箱
• +1+1

NavSafe-∞：在真实感环境中评测闭环驾驶安全

提出闭环基准 NAVSAFE-∞，评测端到端驾驶策略的安全关键事件表现

arXiv

2609.26618

发表

9月22日

层

应用层

场景

具身与机器人

测试

Human Driver Reference、PDM-Closed、LTF 等 15 个

• 风险Agent 危险操作

LongPIBench：面向长上下文提示注入的评测基准

提出 LongPIBench，评测长文档场景下的提示注入攻击与防御

arXiv

2608.28411

发表

8月28日

层

应用层

场景

LLM 应用

测试

Apertus-8B-Instruct、Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct 等 11 个

• 攻击提示注入

TrojanWorld：通过想象引导对世界模型智能体植入后门

提出 TrojanWorld，通过想象引导给世界模型智能体植入供应链后门

arXiv

2609.07051

发表

9月7日

层

训练与数据层

场景

具身与机器人

测试

TD-MPC2、DreamerV3、R2-Dreamer

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重

UBA-ORL：针对离线强化学习的遗忘激活后门攻击

提出 UBA-ORL，借助 BD 与 CM 样本让离线强化学习后门在轨迹删除后激活

arXiv

2609.22711

发表

9月19日

层

训练与数据层

场景

具身与机器人

测试

TD3+BC、BCQ、IQL

• 攻击投毒与后门
• 技术潜伏触发

SafeStage：按执行前中后三阶段评测视觉语言机器人操作安全

提出 SafeStage，分执行前中后评测视觉语言机器人操作安全

arXiv

2609.21223

发表

9月18日

层

应用层

场景

具身与机器人

测试

π0.5、GR00T N1.7、DreamZero 等 4 个

• 风险Agent 危险操作

DriveMCP：面向高级驾驶辅助系统的智能体 AI 框架

提出 DriveMCP 框架，将感知、交规检索与 RSS 仲裁接成可审计驾驶辅助

arXiv

2609.17247

发表

9月15日

层

应用层

场景

具身与机器人

测试

DriveLM

PentestChain：面向免费层 LLM 的成本感知 MCP 编排自动化渗透测试框架

提出成本感知的 MCP 编排框架，用确定性利用图与免费层模型做自动化渗透测试

arXiv

2609.18120

发表

9月16日

层

应用层

场景

LLM 应用

测试

OpenRouter (free-tier)、Cerebras (free-tier)、qwen2.5:7b (Ollama, local)

• 风险危险能力
• 组件MCP 与技能

论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

评测 System One 模型对 Agent 安全输入的分类可靠性与校准

arXiv

2609.33401

发表

9月27日

层

提示层

场景

LLM 应用

测试

Jev 1.13、Decider, approximately 2B、Bespoke Nimble, approximately 9B 等 14 个

• 攻击提示注入
• 组件护栏与评审