AgentTracer:通过细粒度意图-执行对齐追踪间接提示注入攻击
提出 AgentTracer,事后定位间接提示注入的注入点并重建攻击链
- arXiv
- 2610.09935
- Published
- Layer
- Application layer
- Setting
- AI Agent
- DefensesMonitoring and auditing
- AttacksPrompt injection
Another 213papers do not have category tags yet and are not included in filtered results.
提出 AgentTracer,事后定位间接提示注入的注入点并重建攻击链
提出 MFOTL 离线时序验证以监控工具 Agent 的危险动作链
这篇论文对工具调用大语言模型智能体的安全监控进行了形式化时序验证研究。
提出 PAA 方法,在边界动作前审计长流程智能体的分阶段提示注入
本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁,提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。
提出 PACE,在工具调用前做路径隔离与效果授权
PACE 是面向工具调用型 LLM 智能体的运行时调解:当准入证据无法区分会改变行为的规格时,不在出口站点上撤销调解,而在最后一次工具调用前同时检查表示出的影响路径和请求权限。
提出 ZoneClaw,用记忆分区防御计算机使用 Agent 的持久记忆攻击
为 Agent 提出资源层授权系统 Pincer,用数字分身执行动态最小权限
Pincer 是加在现成 coding agent 上的资源层授权防御:用只受用户侧信息影响的 digital twin 做动态最小权限,并与 tool-call 层防御并存。要处理的是用户维护策略带来的权限蠕变和授权疲劳,以及不学习用户策略的 tool-call 分类器。作者引述工作称 auto mode 会放行多数不安全操作,并认为推理代码或复杂 shell 的效果在这一层不实际。
提出 Pictionary,将不可信文本渲染成图像以防御提示注入
提出多智能体系统提示注入的威胁模型与四层架构防御
提出 ActGuard 执行前动作审计,定位并遮盖间接提示注入的恶意片段
提出 IntentCap,按来源字段所有权合成并裁决 Agent 能力租约
IntentCap 是把智能体能力绑到当前任务意图、并按上下文来源划分字段所有权的权限机制。
为冻结模型与目标域自动搜索可部署的 Agent 安全 harness
提出 Janus 前瞻守卫,在长程智能体执行有害动作前拦截潜在风险
提出 TMA-NM,以写时来源绑定抵御 Agent 长期记忆投毒
TMA-NM 把 LLM 智能体长期记忆的行动权限绑到写时来源,用来挡住跨会话记忆投毒。
提出企业级检测系统 ADR,识别编程 Agent 的提示注入与恶意 MCP
Abstract提出了端点因果遥测、两级在线分流与离线红队闭环的 ADR 系统,并在生产环境中验证了有效性。
Reviews threats to autonomous agents and proposes a full-lifecycle defense blueprint, FASA
This is a threat review and defense architecture report using OpenClaw as a case study, not a scored attack or defense evaluation.
Proposes inference-time defense ICON, which detects attention over-focusing and redirects to correct indirect prompt injection in agents.
ICON detects attention over-focusing from IPI at inference time and redirects, avoiding refusal that would terminate the agent trajectory.
提出 LODO 评测恶意提示探针的跨数据集泛化
LODO 用来检查恶意提示词分类器换成没见过的数据集后,还剩多少检测能力。。
Proposes indirect prompt injection guardrail CausalArmor, selectively scrubbing untrusted segments based on causal attribution
CausalArmor is an indirect prompt injection defense middleware on tool-calling agents, used to avoid paying the utility and latency costs of always-on sanitization even when there is no attack.