10月8日 · 周四

红队 · 论文

找到 3 篇

筛选2

攻击类型

越狱2 提示注入1

防御类型

检测与过滤1 权限与审批2

影响

有害内容1 越权操作2

系统形态

模型与 API1 AI Agent2

攻击面/入口

用户输入3 网页与界面3 文档与消息2 工具返回3 工具与技能描述3 代码仓库与依赖2 记忆写入1 分发渠道1

层

提示层1 应用层2

系统组件

RAG1 护栏与评审1 权限与沙箱2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。

攻击面/入口：用户输入攻击面/入口：记忆写入话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2610.04504 · 10月3日
论文提出 VAL 框架：相同 ASR 的 LLM Agent 防御可能对应不同安全保证
提出 VAL 框架并用确认门与参数沙箱约束高风险工具调用
AI Agent测试DeepSeek-chat、Meta Llama 3.1 8B、Kimi应用层
完整解读
防御arXiv:2610.01058 · 10月2日
MOMAT：面向量化 LLM 低功耗越狱防御的多图集混合框架
提出 MOMAT 多图集检索与轻量判定，防御量化模型越狱
模型与 API测试Llama2-13B、Llama2-7B、Mistral-7B提示层
完整解读
防御arXiv:2609.34518 · 9月28日
SEAD 论文提出工具型 Agent 的状态视角攻击与防御方法 DART 与 SAGE
提出工具智能体的状态攻击 DART 与预执行防御 SAGE
AI Agent测试GPT-5.6 Luna、GPT-5.6 Terra、Gemini 3.8 Flash 等 8 个应用层
摘要论文提出状态控制框架 SEAD、攻击 DART 与防御 SAGE，实验显示执行反馈与环境探测在攻防交互中具有关键作用。
完整解读

已经到底了