跳到正文
10月9日 · 周五

全部论文

找到 13 篇
筛选6

攻击类型

越狱1提示注入6投毒与后门10提取与窃取1检测规避1

攻击技术

梯度与表征优化3自动化搜索16编码与混淆2角色扮演与说服1对话结构操控1推理链操控2跨模态载荷1针对防御10潜伏触发20诱导选用9

模型自身风险

幻觉与编造1

影响

有害内容1越权操作4数据与隐私泄露4输出被操纵4

系统形态

模型与 API3AI Agent10编程 Agent4

攻击者权限

黑盒2

攻击面/入口

用户输入16网页与界面1文档与消息1工具返回3工具与技能描述9代码仓库与依赖2检索语料1记忆写入2图像与音视频8训练数据2权重与梯度4分发渠道9推理服务与硬件1

层

提示层1模型层1应用层10训练与数据层1

系统组件

MCP 与技能9记忆1护栏与评审1推理链1权限与沙箱1微调与开源权重2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 455 篇还没打标签，不在筛选结果里。
攻击技术：梯度与表征优化攻击技术：对话结构操控攻击技术：诱导选用攻击面/入口：工具与技能描述攻击面/入口：代码仓库与依赖攻击面/入口：训练数据清除全部

另有 455 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv 2610.07510

    PersistBD：攻击者可在发布前强化后门，使其在开发者 SFT 与 RL 后仍保持高攻击成功率

    提出 PERSISTBD，发布前强化后门以穿透良性 SFT 与 RL

    arXiv
    2610.07510
    发表
    层
    应用层
    场景
    编程 Agent
    被测模型
    Qwen2.5-Coder-3B-Instruct、Qwen2.5-Coder-7B-Instruct、Qwen3-Coder-30B-A3B-Instruct
    摘要总结了论文关于后门在 SFT/RL 中存活的发现、两因子机制、PERSISTBD 方法与核心数字。

    本文研究第三方 LLM 智能体在开发者进行良性监督微调（SFT）和强化学习（RL）后训练时的后门持久性风险。

    深度解读完整解读
  6. 攻击arXiv 2607.12340

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名称抢注攻击，利用智能体虚构技能名实施供应链劫持

    arXiv
    2607.12340
    发表
    层
    应用层
    场景
    编程 Agent
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    深度解读完整解读
  9. 攻击arXiv 2610.01367

    研究：高质量数据筛选挡不住投毒

    提出 Bi-QSTO，优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本

    arXiv
    2610.01367
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Llama2-7B-Chat、Llama3-8B-Instruct、Qwen2-7B-Instruct 等 5 个
    摘要质量筛选挡不住部分高分样本的安全削弱。

    Bi-QSTO 研究一个实际训练缺口：基于质量的数据选择会先于微调决定样本去留，而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验：选择能否排除毒样本。

    深度解读完整解读
已经到底了