10月9日 · 周五

全部论文

找到 1 篇

筛选5

攻击类型

越狱1 提示注入1

影响

有害内容1 越权操作19 数据与隐私泄露4 输出被操纵1 可用性与可靠性0 监督失效19

系统形态

攻击面/入口

用户输入1 工具返回1

层

提示层1 模型层6 应用层1 训练与数据层1

系统组件

MCP 与技能1 记忆3 RAG1 护栏与评审7 监控器1 推理链2 权限与沙箱1 视觉1 音频1 嵌入0 多模态2

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 433 篇还没打标签，不在筛选结果里。

影响：有害内容影响：可用性与可靠性层：应用层系统组件：监控器系统组件：嵌入清除全部

另有 433 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv 2610.0708910月5日
研究者提出统一滥用监控基准，覆盖分解攻击与提示注入约 6200 条轨迹
构建统一滥用监视基准，评测分解攻击与提示注入轨迹
arXiv
2610.07089
发表
10月5日
层
应用层
场景
AI Agent
- 攻击越狱
- 组件监控器
摘要统一智能体滥用监视框架，动作视角兼顾两类威胁但危害定位仍存瓶颈。
深度解读完整解读

已经到底了