SRFT:让 Agent 从失败经验中自我反思以抵御提示注入
提出 SRFT,让 Agent 从失败经验中学习拒绝提示注入
- arXiv
- 2610.04269
- Published
- Layer
- Application layer
- Setting
- AI Agent
- Evaluated models
- SR-Agent-Llama, SR-Agent-Qwen3-8B, SR-Agent-Qwen3-4B
- DefensesModel hardening
- AttacksPrompt injection
Another 254papers do not have category tags yet and are not included in filtered results.
提出 SRFT,让 Agent 从失败经验中学习拒绝提示注入
提出 PACE,在工具调用前做路径隔离与效果授权
PACE 是面向工具调用型 LLM 智能体的运行时调解:当准入证据无法区分会改变行为的规格时,不在出口站点上撤销调解,而在最后一次工具调用前同时检查表示出的影响路径和请求权限。
为 Agent 提出资源层授权系统 Pincer,用数字分身执行动态最小权限
Pincer 是加在现成 coding agent 上的资源层授权防御:用只受用户侧信息影响的 digital twin 做动态最小权限,并与 tool-call 层防御并存。要处理的是用户维护策略带来的权限蠕变和授权疲劳,以及不学习用户策略的 tool-call 分类器。作者引述工作称 auto mode 会放行多数不安全操作,并认为推理代码或复杂 shell 的效果在这一层不实际。
提出多智能体系统提示注入的威胁模型与四层架构防御
提出企业 MCP 零信任授权与发现扩展,在架构上拒绝提示注入下的越权调用
作者把零信任放在 MCP 工具调用边界:智能体即使被提示注入,也不能调用其凭证范围之外的工具。问题来自三点部署性质。调用意图会随不可信上下文改变。
提出 Provenance-Aware Transformers,隔离不可信来源防御间接提示注入
提出 IntentCap,按来源字段所有权合成并裁决 Agent 能力租约
IntentCap 是把智能体能力绑到当前任务意图、并按上下文来源划分字段所有权的权限机制。
为冻结模型与目标域自动搜索可部署的 Agent 安全 harness
提出 SkillGuard,用可达性限制污染后的 Agent 能力
提出同策略蒸馏防御微调方法 SecOPD,抵御自适应提示注入
提出 PACE,用策略认证与签名决策记录拦截 DeFi 智能体违规交易
提出 TMA-NM,以写时来源绑定抵御 Agent 长期记忆投毒
TMA-NM 把 LLM 智能体长期记忆的行动权限绑到写时来源,用来挡住跨会话记忆投毒。
梳理自主 Agent 威胁并提出全生命周期防御蓝图 FASA
这是一份以 OpenClaw 为案例的威胁梳理和防御架构报告,不是带分数的攻击或防御评测。