10月9日 · 周五

全部论文

找到 2 篇

筛选4

攻击类型

提示注入2 投毒与后门1

防御类型

模型加固1 检测与过滤4 指令与数据隔离2 权限与审批3 监控与审计1

影响

输出被操纵2

系统形态

LLM 应用1 AI Agent1

攻击面/入口

用户输入4 网页与界面9 文档与消息4 工具返回13 工具与技能描述4 代码仓库与依赖0 检索语料2 Agent 间消息2

层

系统组件

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 648 篇还没打标签，不在筛选结果里。

防御类型：指令与数据隔离攻击面/入口：代码仓库与依赖攻击面/入口：检索语料层：应用层清除全部

另有 648 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv 2609.021279月2日
论文提出带类型溯源与断言护栏，防止持久化 AI Agent 把不可信输入当作自身历史
提出类型化溯源与断言护栏，约束持久 Agent 的自传断言释放
arXiv
2609.02127
发表
9月2日
层
应用层
场景
AI Agent
- 防御指令与数据隔离
- 攻击投毒与后门
- 组件记忆
深度解读完整解读
防御arXiv 2609.210889月18日
Provenance-Aware Transformers：用来源感知架构分离可信边界以防御间接提示注入
提出 Provenance-Aware Transformers，隔离不可信来源防御间接提示注入
arXiv
2609.21088
发表
9月18日
层
应用层
场景
LLM 应用
测试
SmolLM2-360M-Instruct、LLaMA-3-8B-Instruct、Qwen2.5-7B-Instruct 等 4 个
- 防御指令与数据隔离
- 攻击提示注入
深度解读完整解读

已经到底了