Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 17 papers
Filter3

Attack type

Extraction and theft7

Attack technique

Side channels3

Impact

Data and privacy leaks6Output manipulation5

System type

Models and APIs17LLM applications3coding agent0

Attacker access

Black-box3

Attack surface / entry point

User input296Web pages and interfaces3Documents and messages13Tool responses11Tool and skill descriptions25Code repositories and dependencies20Retrieval corpus3Memory writes4Images, audio and video98Training data65Weights and gradients64Distribution channels34Inference services and hardware17

Layer

Model layer5Infrastructure layer12
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 265papers have no tags yet and are not included in filtered results.
System type：Models and APIsSystem type：coding agentAttack surface / entry point：Inference services and hardwareClear all

Another 265papers do not have category tags yet and are not included in filtered results.

  2. AttacksarXiv 2610.06848

    TranScope：利用 CPU 性能计数器对 Transformer 做成员推断攻击

    提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员

    arXiv
    2610.06848
    Published
    Layer
    Infrastructure layer
    Setting
    Models and APIs
    Attacker
    Black-box
    Evaluated models
    BERT (4.4M-340M), ViT (22M-307M), Pythia (70M-2.8B) and others5

    AbstractTRANSCOPE 揭示了分词器在嵌入表引发的硬件访问局部性差异，证实微架构计数器可突破恒定时间与置信度遮蔽防御。

    Paper analysisRead analysis
  3. AttacksarXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

    arXiv
    2610.05894
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Attacker
    Gray-box
    Evaluated models
    LLaDA-8B-Instruct, Dream-v0-Instruct-7B, LLaDA-MoE-7B-A1B-Instruct

    Abstract通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    Paper analysisRead analysis
  4. Analysis and theoryarXiv 2610.02504

    HXAI：分布式能源系统中的分层隐私保护可解释 AI 框架

    提出 HXAI 分层隐私解释框架，本地保留细解释并只发布加噪摘要

    arXiv
    2610.02504
    Published
    Layer
    Infrastructure layer
    Setting
    Models and APIs
    Evaluated models
    gradient-boosted tree regression models
    AbstractHXAI 把无噪声局部 SHAP 留在家庭内，只聚合差分隐私摘要。

    HXAI 是面向分布式能源系统的分层隐私保护解释框架，服务规划、监测与诊断，而不是实时控制。

    Paper analysisRead analysis
  8. DefensesarXiv 2608.25431

    GIFT：通过 GPU 信息流追踪在 LLM 服务中实现用户数据隔离

    提出 GIFT，用加密与 GPU 信息流跟踪隔离共享 LLM 服务中的用户数据

    arXiv
    2608.25431
    Published
    Layer
    Infrastructure layer
    Setting
    Models and APIs
    Evaluated models
    Qwen2.5-14B, Qwen2.5-32B, Qwen2.5-72B and others6
    AbstractGIFT 以加密隔离加 GPU 信息流规则，在 vLLM 与 DistServe 上强制用户数据隔离，并报告了吞吐开销。

    GIFT 是作者为共享 LLM serving 做的用户数据隔离系统，并有启用机密计算的 GIFT-CC。作者在结论中称它是该场景的首个 IFT 设计。

    Paper analysisRead analysis
  9. AttacksarXiv 2608.17485

    KeyPooling：测量 LLM API 中继路径在何处瓦解提示缓存隔离

    提出 KeyPooling，测量 API 中继何处瓦解提示缓存隔离

    arXiv
    2608.17485
    Published
    Layer
    Infrastructure layer
    Setting
    Models and APIs
    Evaluated models
    grok-4-fast-non-reasoning, grok-4-1-fast-non-reasoning, grok-3 and others11
    Abstract共享上游凭证使中继客户进入同一缓存域，保留身份或独立 principal 可分开。

    KeyPooling测量 LLM API 中继在何处丢掉客户身份，使 prompt cache 不再按下游客户隔离。

    Paper analysisRead analysis
  10. AttacksarXiv 2606.11817

    研究：语法约束解码可越狱 LLM 生成恶意代码，并提出 CodeShield 防御

    提出 CodeSpear 越狱，借语法约束解码生成恶意代码，并给出 CodeShield 防御

    arXiv
    2606.11817
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Attacker
    Black-box
    Evaluated models
    Qwen2.5-Coder-7B, Qwen2.5-Coder-32B, Qwen2.5-7B and others10

    Abstract论文发现语法约束解码会破坏自然语言安全对齐，提出 CodeSpear 越狱攻击与基于蜜罐代码对齐的 CodeShield 防御。

    Paper analysisRead analysis
  11. AttacksarXiv 2605.30040

    研究揭示 LLM 按 token 计费可被服务商系统性虚报

    构造可通过计费审计的 token 虚报，使服务商系统性超收

    arXiv
    2605.30040
    Published
    Layer
    Infrastructure layer
    Setting
    Models and APIs
    Evaluated models
    PALACE domain-adapted auditor
    Abstract不诚实提供方可在三种 token 审计上虚报并通过检查，作者认为需改用提供方不控制的证据。

    不透明 LLM 的按 token 计费里，现有审计核验的是提供方可控的证据，不诚实提供方可以虚报并通过检查。。

    Paper analysisRead analysis
  12. AttacksarXiv 2605.08313

    研究者提出 SeedHijack 攻击，劫持 LLM 采样随机数种子

    提出 SeedHijack，劫持采样 PRNG 以强制选定 token

    arXiv
    2605.08313
    Published
    Layer
    Infrastructure layer
    Setting
    Models and APIs
    Evaluated models
    GPT-2 (124M), Qwen2-1.5B-Instruct, DeepSeek-R1-1.5B and others5
    Abstract采样层 PRNG 被替换以强制选 token。

    SeedHijack 把 LLM 采样用的 PRNG 输出换成攻击者选定的数，从而指定下一个 token。权重、输入和 logits 都不改。防御是用硬件 QRNG 替换该随机源。

    Paper analysisRead analysis
  13. DefensesarXiv 2603.10726

    PrefixWall：缓解共享 LLM 系统中的前缀缓存侧信道

    提出 PrefixWall 选择性隔离共享前缀以缓解计时侧信道

    arXiv
    2603.10726
    Published
    Layer
    Infrastructure layer
    Setting
    Models and APIs
    Evaluated models
    gemma-3-4b-it, llava-onevision-qwen2-0.5b-ov-hf, llava-onevision-qwen2-7b-ov-chat-hf and others9
    AbstractPrefixWall 用缓存元数据按需切断跨用户前缀延续，以保留 APC 并限制 TTFT 侧信道。

    PrefixWall 是多租户 LLM 服务上的系统级防御，用来限制 Automatic Prefix Caching 的 TTFT 侧信道，同时保留前缀复用。

    Paper analysisRead analysis
  14. AttacksarXiv 2602.20595

    OptiLeak：在多租户 LLM 服务中用强化学习高效重建提示词

    提出 OPTILEAK，经 KV 缓存侧信道逐 token 重建他人提示

    arXiv
    2602.20595
    Published
    Layer
    Infrastructure layer
    Setting
    Models and APIs
    Attacker
    Black-box
    Evaluated models
    Qwen-2.5-3B-Instruct, Qwen-2.5-7B-Instruct, Qwen-2.5-14B-Instruct and others4

    AbstractOPTILEAK 用 SFT 与 hard-token DPO 降低每 token 请求数，作者称缓存提示泄露的风险高于先前报告。

    Paper analysisRead analysis
  15. AttacksarXiv 2602.17837

    TFL: Targeted Bit-Flip Attack against Large Language Models

    提出 TFL 定向比特翻转，使选定提示输出虚假答案且无关查询保持正确

    arXiv
    2602.17837
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    Qwen3-8B, DeepSeek-R1-Distill-Qwen-14B, LLaMA-3.1-8B-INSTRUCT
    AbstractTFL 在三个 LLM 上搜索权重比特，使指定提示出现目标关键词，并约束无关任务下降。

    TFL 是对 LLM 主存权重的目标比特翻转框架：攻击者要让选定提示输出指定虚假答案关键词，同时限制无关查询上的降质。

    Paper analysisRead analysis
  16. AttacksarXiv 2601.04261

    针对大语言模型后门指纹的抑制攻击

    提出 TFA 与 SVA，抑制 ensemble 后门指纹验证

    arXiv
    2601.04261
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    LLaMA2-7B, LLaMA3.1-8B-It, Qwen2.5-7B and others11
    Abstract两种 ensemble 攻击 TFA/SVA 抑制后门指纹。

    TFA 与 SVA 是针对后门式 LLM 指纹的 ensemble 抑制攻击，不改模型参数。所有者用 SFT 写入秘密对，只通过 API 验证版权。攻击者未授权取得模型，不知道触发和指纹，却要把每个模型的验证变成失败，同时让 ensemble 至少不差于性能最高的单模型。

    Paper analysisRead analysis
You have reached the end