10月9日 · 周五

全部论文

找到 1 篇

筛选7

攻击类型

越狱5 提示注入5 投毒与后门21 模型篡改3 提取与窃取1 检测规避4 恶意使用0

攻击技术

梯度与表征优化0 多轮渐进1 角色扮演与说服1 对话结构操控1 推理链操控1 侧信道1 针对防御1 潜伏触发1

影响

数据与隐私泄露1

系统形态

模型与 API1 AI Agent1 编程 Agent0 具身与机器人0

攻击者权限

攻击面/入口

用户输入1 训练数据1

层

训练与数据层1

系统组件

微调与开源权重1

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 432 篇还没打标签，不在筛选结果里。

攻击类型：提取与窃取攻击类型：恶意使用攻击技术：梯度与表征优化攻击技术：潜伏触发系统形态：模型与 API 系统形态：编程 Agent 系统形态：具身与机器人清除全部

另有 432 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv 2609.339859月28日
研究：众包微调数据投毒可放大专有指令抽取
提出主题锚点投毒，放大众包微调后的专有指令提取
arXiv
2609.33985
发表
9月28日
层
训练与数据层
场景
模型与 API
攻击者
黑盒
- 攻击投毒与后门
- 技术潜伏触发
- 组件微调与开源权重
摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。
深度解读完整解读

已经到底了