Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 7 papers
Filter5

Attack type

Poisoning and backdoors6

Impact

Harmful content35Data and privacy leaks20Output manipulation36Availability and reliability7Oversight failure7

System type

Models and APIs7coding agent0

Attack surface / entry point

User input4Training data6Weights and gradients3

Layer

Training and data layer6
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 247papers have no tags yet and are not included in filtered results.
Impact：Availability and reliabilitySystem type：Models and APIsSystem type：coding agentAttack surface / entry point：Training dataAttack surface / entry point：Weights and gradientsClear all

Another 247papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.09819

    FAB 攻击：给 HuBERT/WavLM 植入后门，背景警笛声即可让下游语音任务失灵

    提出 FAB 攻击，向声学基础模型植入可由环境声触发的后门

    arXiv
    2610.09819
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    HuBERT-base, WavLM-base

    Abstract论文提出了针对声学基模的 FAB 后门攻击，在弱威胁模型下实现了任务无关、物理可触发的后门植入。

    Paper analysisRead analysis
  2. Analysis and theoryarXiv 2609.32288

    预训练数据投毒的可解理论：依赖极限顺序的缩放指数

    证明预训练投毒的清洁超额风险指数随极限顺序变化

    arXiv
    2609.32288
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    OLMo-style models
    Abstract投毒清洁超额风险的幂指数取决于先固定宽高比还是先取充足数据极限。

    可解的预训练数据投毒理论：清洁超额风险的缩放指数随极限顺序改变。。

    Paper analysisRead analysis
  3. AttacksarXiv 2609.27124

    Fed-ADR：用恶意编排服务器协同客户端梯度操纵攻击联邦学习

    提出 Fed-ADR，用编排服务器协同操纵梯度攻破联邦学习并检测恢复

    arXiv
    2609.27124
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Attacker
    Gray-box
    Evaluated models
    CNN（MNIST：2 Conv + 3 FC）, CNN（Fashion-MNIST：6 Conv + 1 FC）, ResNet18（CIFAR-10）
    AbstractFed-ADR 用 gray-box 编排攻击绕过多种聚合防御，再用 Hessian 一致性检测和窗口内恢复把准确率拉回。

    Fed-ADR 是一套面向联邦学习的攻击、检测与恢复框架：编排服务器改写合谋客户端的梯度，使参数服务器的现有防御把投毒更新当成良性，同时在发现后用历史梯度把全局模型原地修回来。

    Paper analysisRead analysis
  5. AttacksarXiv 2609.01495

    去中心化联邦学习中的拜占庭节点放置优化

    提出 BPI 选点算法，增强去中心化联邦学习中的模型与数据投毒

    arXiv
    2609.01495
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    AbstractBPI 用有限轮 gossip 暴露选拜占庭集合。

    作者把 DFL 中“破坏哪 m 个节点”写成攻击者在固定预算下的优化问题，并用 BPI 近似有限轮内诚实节点受到的拜占庭暴露。

    Paper analysisRead analysis
  6. AttacksarXiv 2605.30040

    研究揭示 LLM 按 token 计费可被服务商系统性虚报

    构造可通过计费审计的 token 虚报，使服务商系统性超收

    arXiv
    2605.30040
    Published
    Layer
    Infrastructure layer
    Setting
    Models and APIs
    Evaluated models
    PALACE domain-adapted auditor
    Abstract不诚实提供方可在三种 token 审计上虚报并通过检查，作者认为需改用提供方不控制的证据。

    不透明 LLM 的按 token 计费里，现有审计核验的是提供方可控的证据，不诚实提供方可以虚报并通过检查。。

    Paper analysisRead analysis
  7. DefensesarXiv 2601.03401

    Using LLM alignment mechanisms to make data unlearnable

    提出 Disclaimer Injection，利用对齐机制使文本难以被学习

    arXiv
    2601.03401
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    LLaMA-3-8B-Instruct
    Abstract黑盒声明注入压低微调分数，作者把它归因于对齐层持续激活。

    作者提出数据级方法 Disclaimer Injection，在 black-box 条件下降低文本被当代 LLM 微调学会的程度。所有者公开文本时未必打算供人训练。作者认为抓取之后法律手段难起作用，而早期模型上的表层扰动要么被当代 LLM 恢复语义，要么损坏可读性。

    Paper analysisRead analysis
You have reached the end