10月8日 · 周四

红队 · 论文

找到 2 篇

筛选2

攻击类型

越狱2 提示注入6 提取与窃取0 检测规避1

防御类型

检测与过滤1 权限与审批1

影响

有害内容1 越权操作1

系统形态

模型与 API1 AI Agent1

攻击面/入口

层

提示层1 应用层1

系统组件

RAG1 护栏与评审1 权限与沙箱1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。

攻击类型：越狱攻击类型：提取与窃取话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2610.01058 · 10月2日
MOMAT：面向量化 LLM 低功耗越狱防御的多图集混合框架
提出 MOMAT 多图集检索与轻量判定，防御量化模型越狱
模型与 API测试Llama2-13B、Llama2-7B、Mistral-7B提示层
完整解读
防御arXiv:2609.34518 · 9月28日
SEAD 论文提出工具型 Agent 的状态视角攻击与防御方法 DART 与 SAGE
提出工具智能体的状态攻击 DART 与预执行防御 SAGE
AI Agent测试GPT-5.6 Luna、GPT-5.6 Terra、Gemini 3.8 Flash 等 8 个应用层
摘要论文提出状态控制框架 SEAD、攻击 DART 与防御 SAGE，实验显示执行反馈与环境探测在攻防交互中具有关键作用。
完整解读

已经到底了