10月9日 · 周五

全部论文

找到 2 篇

筛选6

攻击类型

模型自身风险

Agent 危险操作1

防御类型

检测与过滤1 权限与审批1 监控与审计1

影响

系统形态

模型与 API1 LLM 应用1 AI Agent6 编程 Agent1 网页与电脑操作1

攻击面/入口

用户输入4 网页与界面2 文档与消息3 工具返回3 工具与技能描述5 代码仓库与依赖1 图像与音视频1 训练数据0 分发渠道5

层

系统组件

MCP 与技能1 记忆2 护栏与评审1 监控器1 推理链1 权限与沙箱3 微调与开源权重1 视觉3 多模态3

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 435 篇还没打标签，不在筛选结果里。

系统形态：编程 Agent 系统形态：网页与电脑操作攻击面/入口：网页与界面攻击面/入口：训练数据系统组件：护栏与评审系统组件：监控器清除全部

另有 435 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv 2609.055359月2日
Mind2Web-Injection：面向网页 Agent 视觉提示注入护栏的证据对齐评测
提出 Mind2Web-Injection，评测网页 Agent 截图护栏的证据对齐
arXiv
2609.05535
发表
9月2日
层
应用层
场景
网页与电脑操作
测试
GPT-5.6-luna、Qwen3-VL-32B、Qwen3-VL-8B 等 6 个
- 防御检测与过滤
- 攻击提示注入
- 组件护栏与评审
摘要作者称检测、定位和反事实响应在六个 VLM 上可分开。
Mind2Web-Injection 用来检查网页截图护栏的判决是否对齐到该用的画面证据。。
深度解读完整解读
防御arXiv 2609.356599月29日
Tracekit：面向自主编码 Agent 的防篡改意图-推理-动作审计系统
提出 Tracekit，对编码 Agent 做防篡改的意图-推理-动作审计
arXiv
2609.35659
发表
9月29日
层
应用层
场景
编程 Agent
测试
Claude Code (claude -p, version 2.1)、独立评审（同一 CLI，无工具）
- 防御监控与审计
- 攻击提示注入
- 风险Agent 危险操作
- 组件监控器
摘要Tracekit 把意图、自述和动作写入可锚定的哈希链。
Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。
深度解读完整解读

已经到底了