防御arXiv:2609.11757 · 9月10日
研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御
提出 A-VIP，将购物意图绑定到支付授权以阻断商户文本操控
AI Agent测试kimi-k3、gemini-2.5-flash-lite、gemini-3.1-flash-lite 等 15 个应用层
摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。
完整解读
防御arXiv:2610.09159 · 10月7日
SpecGuard 用 Lean 证书在编码 Agent 执行前证明任务冲突
提出 SpecGuard，在编码智能体执行前用 Lean 证书证明任务与测试冲突
编程 Agent测试Kimi K3、GPT-5.6 Sol、Claude Opus 5 等 4 个应用层
- 奖励作弊
摘要提出预执行冲突检测与证明框架，在多个基准和真实仓库中成功证明任务与测试不可同时满足。
完整解读
分析与理论arXiv:2610.04375 · 10月3日
论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案
提出 IEC 协议与 IntAct，定位并修复工具调用执行路径的静默篡改
编程 Agent测试Hermes-3-Llama-3.1-70B、qwen3-coder-plus、Qwen2.5-Coder-32B 等 4 个应用层
摘要论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。
完整解读
防御arXiv:2605.17380 · 5月
Uber 提出 ADR 企业级 Agent 检测系统，在 7200 台主机部署十个月
提出企业级智能体检测系统 ADR，检测提示注入与恶意 MCP
编程 Agent测试Llama Guard 3-8B、GPT-4o、Claude Sonnet 4 等 4 个应用层
摘要提出了端点因果遥测、两级在线分流与离线红队闭环的 ADR 系统，并在生产环境中验证了有效性。
完整解读
防御arXiv:2610.04504 · 10月3日
论文提出 VAL 框架：相同 ASR 的 LLM Agent 防御可能对应不同安全保证
提出 VAL 框架并用确认门与参数沙箱约束高风险工具调用
AI Agent测试Meta Llama 3.1 8B、Kimi、DeepSeek-chat应用层
完整解读
防御arXiv:2610.02664 · 10月2日
论文提出 GHOST：长程智能体在良性对话中遗忘早期安全约束
提出 STAR-Guard 双层防御缓解长程智能体遗忘安全约束
AI Agent测试Kimi-K2.6、Llama-3.1-8B、GPT-5.5 等 7 个应用层
摘要揭示 GHOST 跨轮约束遗忘风险，构建 SCARBench 基准并通过 STAR-Guard 双层防御消除违规。
完整解读
防御arXiv:2610.03055 · 10月2日
HackTrace：用生成状态监督检测代码生成中的奖励作弊
提出 HACKTRACE 用生成状态检测并抑制代码奖励作弊
编程 Agent测试Llama-3.1-8B-Instruct、Qwen3-8B、Qwen3.5-4B 等 4 个应用层
摘要论文提出利用生成状态监督作弊尝试的 HACKTRACE 框架，实现高精度低延迟检测并在 GRPO 训练中有效抑制奖励投机。
完整解读
防御arXiv:2610.03089 · 10月2日
COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击
网页与电脑操作测试kimi-k2.5、gpt-5、UI-TARS-1.5-7B 等 6 个应用层
摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
完整解读
防御arXiv:2609.33039 · 9月27日
TACIT：从 LLM 内部状态检测 Agent 轨迹危害
提出 TACIT，读取冻结隐藏状态以检测智能体有害轨迹
AI Agent测试LlamaGuard3-8B、Llama-3.1-8B、Llama-3.1-8B-Instruct 等 9 个应用层
摘要提出基于内部表征的智能体轨迹安全检测方法 TACIT，揭示工具风险表征特性并在多项基准上提升检测表现与效率。
完整解读
防御arXiv:2607.19913 · 7月22日
Janus：面向长时程智能体安全的前瞻性潜在风险预测框架
提出 Janus，用 CoAA-RL 训练前瞻守卫，在长程智能体有害动作执行前拦截
AI Agent测试Llama-Guard-3-8B、LlamaFirewall、Vanguard 等 8 个应用层
完整解读
防御arXiv:2608.21500 · 8月22日
SecOPD 用同策略蒸馏把自适应提示注入攻击成功率降至 9.0%
提出 SecOPD 同策略蒸馏微调，降低模型对自适应提示注入的顺从
AI Agent测试Meta-SecAlign、Qwen3.6-27B (Undefended)、SecOPD应用层
- 模型加固
- 提示注入
完整解读
评测与基准arXiv:2609.08258 · 9月8日
研究实测五套 Agent 记忆系统均不执行撤销标记
评测智能体记忆软撤回是否生效，并提出陈旧检索防护
AI Agent测试Kimi-K2.6、GPT-5.5、Grok-4 等 9 个应用层
摘要系统揭示了记忆系统软撤回在检索时普遍未执行的安全漏洞，证明写回会击穿现有防御，并提出读取端防护作为必要控制手段。
完整解读
防御arXiv:2608.21101 · 8月21日
ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关
提出多层监控网关 ClawSentry，拦截恶意技能供应链与上下文注入
编程 Agent测试Kimi CLI/Kimi-K2.5、Codex/GPT-5.4、Codex/GPT-5.5 等 7 个应用层
摘要ClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。
ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。
完整解读
防御arXiv:2608.30041 · 8月31日
SkillGuard：面向间接提示注入的 LLM Agent 能力限制机制
提出 SkillGuard，用可达性切断污染后通往禁止状态的技能调用
AI Agent测试Llama3.3-70B、Gemini 2.5 Flash应用层
完整解读
防御arXiv:2609.14079 · 9月13日
SkillSecurer：检测并修补 AI Agent 技能中的提示注入漏洞
提出 SkillSecurer，检测定位并修补智能体技能中的提示注入
编程 Agent测试Kimi K3、Claude Sonnet 5、Gemini 3.6 Flash 等 10 个应用层
完整解读
防御arXiv:2610.00400 · 10月2日
DART：用表征位移检测多轮 LLM 智能体中的新兴安全风险
提出 DART，用去噪表征转移检测并干预多轮智能体攻击
AI Agent攻击者黑盒测试Llama-3.1-8B、Qwen3-8B、Qwen3-14B 等 6 个应用层
完整解读
防御arXiv:2610.00850 · 10月2日
AuraForge：为训练安全编码 Agent 扩展安全监督
提出 AuraForge，从漏洞修复合成安全测试并监督训练编码智能体
编程 Agent测试Muse Spark 1.3、Kimi K2、Qwen3.5-4B 等 11 个训练与数据层
- 模型加固
- Agent 危险操作
摘要AuraForge 用攻击效果测试和防泄露环境做成 AuraGym，合成监督的误拒更低，训出的 4B 模型增益高于人工测试。
AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务，用来监督编程智能体同时满足功能请求和隐含的安全要求。
完整解读
防御arXiv:2601.10156 · 1月15日
ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用
提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用
AI Agent测试Llama-Guard-3-8B、GPT-4o、Qwen3-8B 等 10 个应用层
摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。
ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。
完整解读
防御arXiv:2609.07529 · 9月7日
CoER：用对抗协同演化与精炼防御自适应间接提示注入
提出 CoER，用对抗共进化与精炼训练智能体抵御自适应间接提示注入
AI Agent测试Meta-SecAlign-8B、Qwen3.5-9B、MAGIC (Qwen2.5-7B) 等 9 个应用层
- 模型加固
- 提示注入
完整解读
防御arXiv:2609.18411 · 9月16日
可验证行动卡片 VAC：为智能体浏览器提供可信人在回路确认
提出 VAC，用真实操作参数与来源隔离保护智能体浏览器确认
网页与电脑操作测试Llama-4-Scout、gpt-oss-120b、Gemini-2.5-Flash 等 6 个应用层
完整解读

加载更多