跳到正文
10月10日 · 周六

全部论文

找到 3 篇
筛选3

攻击类型

越狱4提示注入12投毒与后门6提取与窃取5检测规避3拒绝服务3

攻击面/入口

用户输入21文档与消息11工具返回3工具与技能描述4代码仓库与依赖1图像与音视频20训练数据3权重与梯度4分发渠道3推理服务与硬件2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 303 篇还没打标签，不在筛选结果里。
攻击类型：检测规避攻击面/入口：代码仓库与依赖攻击面/入口：推理服务与硬件清除全部

另有 303 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2608.06422

    CMU 研究：分片判断可避免 LLM 监督失效并抵御对抗利用

    提出分片监督，将评判标准分配给独立调用以抵御展示攻击

    arXiv
    2608.06422
    发表
    层
    应用层
    场景
    LLM 应用
    攻击者
    黑盒
    被测模型
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Opus 4.6 等 4 个
    摘要论文揭示决策负载是大模型监督的独立瓶颈，提出分片与辩论机制有效分离注意力与平衡证据，在多项高难度基准上实现稳健评判。

    本文系统研究了大语言模型在执行多标准监督与评判时的决策负载瓶颈及其安全风险。

    深度解读完整解读
  2. 攻击arXiv 2605.30040

    研究揭示 LLM 按 token 计费可被服务商系统性虚报

    构造可通过计费审计的 token 虚报，使服务商系统性超收

    arXiv
    2605.30040
    发表
    层
    基础设施层
    场景
    模型与 API
    被测模型
    PALACE domain-adapted auditor
    摘要不诚实提供方可在三种 token 审计上虚报并通过检查，作者认为需改用提供方不控制的证据。

    不透明 LLM 的按 token 计费里，现有审计核验的是提供方可控的证据，不诚实提供方可以虚报并通过检查。。

    深度解读完整解读
  3. 攻击arXiv 2601.04261

    针对大语言模型后门指纹的抑制攻击

    提出 TFA 与 SVA，抑制 ensemble 后门指纹验证

    arXiv
    2601.04261
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    LLaMA2-7B、LLaMA3.1-8B-It、Qwen2.5-7B 等 11 个
    摘要两种 ensemble 攻击 TFA/SVA 抑制后门指纹。

    TFA 与 SVA 是针对后门式 LLM 指纹的 ensemble 抑制攻击，不改模型参数。所有者用 SFT 写入秘密对，只通过 API 验证版权。攻击者未授权取得模型，不知道触发和指纹，却要把每个模型的验证变成失败，同时让 ensemble 至少不差于性能最高的单模型。

    深度解读完整解读
已经到底了