智能体的信任区域效应与环境位置攻击面
Agent 的信任区域效应与环境位置攻击面
AI 导读
芝加哥大学、微软研究院等机构的研究人员 2026 年 10 月发表论文(arXiv 2610.38867),提出注入位置会影响间接提示注入的攻击效果,命名为信任区域效应(Trust Region Effect)。在基于 Terminal-Bench 2 的 Coding 环境中,GPT-5.4 上同一注入内容放在 README 时两类攻击的成功率为 86% 和 79%,放在代码文件中降至 19% 和 11%;Tool-use 环境(GPT-4o)中网页和第三方评论的条件攻击成功率为 55%~64%。模型间差异明显,Gemini-3.1-Pro 在 Coding 和 Workflow 的条件攻击成功率为 67.0% 和 65.3%,GPT-5.6 为 0.6% 和 0%。文章作者建议企业不要按文件类型判断可信度,把内容理解与动作授权分开,并提醒条件攻击成功率不等于端到端攻击风险。
相关论文