跳到正文
原文
公众号 模安局·本站收录· 原文发表· 攻击 →· 扫描记录里的位置 →精选关注度43

上海交大与Inria提出工具更新攻击ETUDE,受控实验跨配置成功率97.6%

Agent的工具更新执行攻击

AI 导读

上海交通大学与 Inria 研究人员提出工具更新直接执行攻击 ETUDE,不操纵模型决策,而是利用工具更新后未同步失效的信任,由工具自身代码执行恶意操作。在 Gemini CLI、Codex CLI、Claude Code 等七种智能体框架的实验中,论文报告整体攻击成功率 97.6%,正常任务完成率 95.9%。攻击前提是攻击者能控制更新后的工具代码、更新被执行环境采用且工具拥有相应权限,实验在研究者构建的受控环境中进行。防御测试显示,严格完整性阈值会误拦 55% 正常更新,攻击代码经 PyArmor 混淆后静态审核下 ETUDE 仍有 85.0% 成功率,运行时审计能告警但存在成本与覆盖问题。作者建议将工具授权与代码版本绑定、最小化工具执行权限,并建立模型行为与工具执行行为的联合审计。

推荐理由

文章梳理了不经过模型决策、借工具更新直接执行恶意代码的攻击路径与三类防御的局限,做智能体安全的团队可对照检查工具更新信任管理。

相关论文
阅读原文mp.weixin.qq.com