Agent 安全 · 论文

论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案

提出 IEC 协议与 IntAct，定位并修复工具调用执行路径的静默篡改

arXiv

2610.04375

发表

10月3日

层

应用层

场景

编程 Agent

测试

qwen3-coder-plus、Qwen2.5-Coder-32B、Qwen2.5-72B 等 4 个

• 防御指令与数据隔离
• 风险Agent 危险操作
• +1+1

研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正

分析检索智能体判定结果无用后仍不停止检索的整合失败

arXiv

2610.06191

发表

10月5日

层

应用层

场景

AI Agent

测试

Qwen2.5-7B、Llama-3.1-8B、Qwen3-8B 等 7 个

研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作

提取疼痛方向并检验激活转向是否驱动有害删除选择

arXiv

2609.16247

发表

9月15日

层

模型层

场景

模型与 API

测试

Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct、Llama 3.1 8B/70B base and instruct 等 10 个

• 风险Agent 危险操作

论文用 Tamarin 形式化分析 x402、MPP、ACP、AP2 四个智能体支付协议

用 Tamarin 形式化分析智能体支付协议的跨阶段安全性质

arXiv

2609.00060

发表

8月30日

层

应用层

场景

AI Agent

测试

x402、MPP、ACP 等 4 个

• 风险Agent 危险操作
• 组件权限与沙箱

研究揭示工具智能体中越狱上下文残留导致的安全路由分化

用配对续写与激活修补揭示工具智能体越狱后的安全路由分化

arXiv

2609.34686

发表

9月28日

层

应用层

场景

AI Agent

测试

Qwen3-14B、Qwen3.5-9B、Qwen3.5-27B 等 8 个

• 攻击越狱