10月8日 · 周四

红队 · 论文

找到 2 篇

筛选2

攻击类型

越狱1 提示注入2

攻击技术

梯度与表征优化0 自动化搜索2 多轮渐进1 编码与混淆2 角色扮演与说服1 跨模态载荷2 针对防御1 潜伏触发1 诱导选用2

影响

越权操作1 数据与隐私泄露1

系统形态

AI Agent2 编程 Agent1

攻击者权限

攻击面/入口

用户输入1 工具返回1 工具与技能描述1 代码仓库与依赖1

层

系统组件

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 97 篇还没打标签，不在筛选结果里。

攻击技术：梯度与表征优化攻击技术：自动化搜索话题：红队清除全部

另有 97 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv 2608.006778月1日
OpenART 提出环境演化红队框架
提出 OpenART 竞技场，用 EMHA 演化持久环境以评测智能体安全
arXiv
2608.00677
发表
8月1日
层
应用层
场景
编程 Agent
测试
GPT-5.5、Claude-Opus-4.8、GLM-5.2 等 5 个
- 攻击提示注入
- 技术自动化搜索
深度解读完整解读
评测与基准arXiv 2608.304418月31日
ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹
arXiv
2608.30441
发表
8月31日
层
应用层
场景
AI Agent
攻击者
黑盒
测试
DeepSeek、GPT-4o、Claude 4.8 Opus 等 7 个
- 攻击提示注入
- 技术自动化搜索
- 组件MCP 与技能
深度解读完整解读

已经到底了