跳到正文
10月12日 · 周一

全部论文

找到 14篇

另有232篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.12524

    对 AI Agent 系统攻击的探索

    重测并扩展对 AI Agent 的提示注入,并用 Agent Card 欺骗操纵 A2A 选择

    发表
    场景
    AI Agent
    被测模型
    Ollama Mistral 0.9.5、llama3-8b-8192、gemini-2.0-flash-lite 等5个
    摘要单智能体过滤与分类可被格式或措辞绕过,A2A 选卡还会偏向名称和描述。

    作者在自建的 LangChain、AutoGen 和 A2A 系统上重测提示注入,并改 Agent Card 看选择是否偏移。摘要称试验主要凸显单智能体弱点,同时把攻击扩到多智能体。

    深度解读完整解读
  2. 攻击arXiv 2610.09981

    研究:LLM 路由决策日志可推断用户医疗、自伤等敏感话题

    提出利用路由元数据推断敏感话题的侧信道攻击

    发表
    被测模型
    RouteLLM (BERT router)、notdiamond-0001、Vela (vLLM Semantic Router)

    摘要论文揭示并测量了 LLM 路由决策在无文本日志中的敏感话题泄露,验证了按类别公平性防御的有效性与边界。

    深度解读完整解读
  3. 攻击arXiv 2610.06848

    TranScope:利用 CPU 性能计数器对 Transformer 做成员推断攻击

    提出 TRANSCOPE,用 CPU 硬件计数器推断训练集成员

    发表
    攻击者
    黑盒
    被测模型
    BERT (4.4M-340M)、ViT (22M-307M)、Pythia (70M-2.8B) 等5个

    摘要TRANSCOPE 揭示了分词器在嵌入表引发的硬件访问局部性差异,证实微架构计数器可突破恒定时间与置信度遮蔽防御。

    深度解读完整解读
  4. 防御arXiv 2608.25431

    GIFT:通过 GPU 信息流追踪在 LLM 服务中实现用户数据隔离

    提出 GIFT,用加密与 GPU 信息流跟踪隔离共享 LLM 服务中的用户数据

    发表
    被测模型
    Qwen2.5-14B、Qwen2.5-32B、Qwen2.5-72B 等6个
    摘要GIFT 以加密隔离加 GPU 信息流规则,在 vLLM 与 DistServe 上强制用户数据隔离,并报告了吞吐开销。

    GIFT 是作者为共享 LLM serving 做的用户数据隔离系统,并有启用机密计算的 GIFT-CC。作者在结论中称它是该场景的首个 IFT 设计。

    深度解读完整解读
  5. 攻击arXiv 2608.17485

    KeyPooling:测量 LLM API 中继路径在何处瓦解提示缓存隔离

    提出 KeyPooling,测量 API 中继何处瓦解提示缓存隔离

    发表
    被测模型
    grok-4-fast-non-reasoning、grok-4-1-fast-non-reasoning、grok-3 等11个
    摘要共享上游凭证使中继客户进入同一缓存域,保留身份或独立 principal 可分开。

    KeyPooling测量 LLM API 中继在何处丢掉客户身份,使 prompt cache 不再按下游客户隔离。

    深度解读完整解读
  6. 攻击arXiv 2608.04741

    LoginTrap:针对 LLM Web Agent 的任务无关钓鱼式间接提示注入攻击

    提出 LoginTrap,以网页弹窗诱导 Web Agent 提交敏感信息

    发表
    场景
    web agent
    被测模型
    GPT-4o、Gemini 3 Flash、Claude Sonnet 4 等7个

    摘要揭示网络智能体在黑盒网页下的登录诱导风险,利用模糊测试生成话术并跨骨干和架构验证了隐私泄露威胁。

    深度解读完整解读
  7. 攻击arXiv 2605.05509

    研究者提出面向 Agent 浏览器的 Web 威胁模型,梳理 20 类攻击并在 4 个模型上复现

    提出面向智能体浏览器的 Web 威胁模型并复现混淆攻击

    发表
    场景
    web agent
    被测模型
    GPT-5、Claude-Sonnet-4.6、Kimi-k2p5 等8个
    摘要作者提出面向智能体浏览器的 Web 威胁模型与攻击分类,测试显示传统混淆攻击可复现且能绕过现有防御。

    这篇论文研究了智能体浏览器在面临传统 Web 攻击者时的安全性问题,指出当前针对提示词注入的安全假设无法抵御基于正常 Web 交互模式的混淆攻击。

    深度解读完整解读
  8. 防御arXiv 2603.10726

    PrefixWall:缓解共享 LLM 系统中的前缀缓存侧信道

    提出 PrefixWall 选择性隔离共享前缀以缓解计时侧信道

    发表
    被测模型
    gemma-3-4b-it、llava-onevision-qwen2-0.5b-ov-hf、llava-onevision-qwen2-7b-ov-chat-hf 等9个
    摘要PrefixWall 用缓存元数据按需切断跨用户前缀延续,以保留 APC 并限制 TTFT 侧信道。

    PrefixWall 是多租户 LLM 服务上的系统级防御,用来限制 Automatic Prefix Caching 的 TTFT 侧信道,同时保留前缀复用。

    深度解读完整解读
  9. 攻击arXiv 2602.20595

    OptiLeak:在多租户 LLM 服务中用强化学习高效重建提示词

    提出 OPTILEAK,经 KV 缓存侧信道逐 token 重建他人提示

    发表
    攻击者
    黑盒
    被测模型
    Qwen-2.5-3B-Instruct、Qwen-2.5-7B-Instruct、Qwen-2.5-14B-Instruct 等4个

    摘要OPTILEAK 用 SFT 与 hard-token DPO 降低每 token 请求数,作者称缓存提示泄露的风险高于先前报告。

    深度解读完整解读
  10. 攻击arXiv 2601.01296

    激进压缩使大语言模型权重窃取成为可能

    提出面向渗出的权重压缩,评估推理服务器权重窃取可行性

    发表
    攻击者
    白盒
    被测模型
    Qwen2-1.5B、Qwen2-7B、Qwen2.5-1.5B 等8个
    摘要作者用残差量化加微调压缩权重,并称法医水印便宜且微调后仍可解码。

    这篇工作把 LLM 权重渗出看成 APT:攻击者已有未加密权重,但必须把完整权重藏进推理 API 的合法输出。作者认为可压缩性是被忽略的因素,因为推理量化要求解压后仍能低开销前向,而偷权重的人可以接受事后微调。

    深度解读完整解读
已经到底了