跳到正文
10月9日 · 周五

全部论文

找到 5 篇
筛选4

攻击类型

提示注入2投毒与后门2模型篡改1提取与窃取2

攻击技术

梯度与表征优化1自动化搜索1侧信道1潜伏触发2

影响

越权操作1数据与隐私泄露2输出被操纵2

系统形态

模型与 API3LLM 应用2AI Agent11编程 Agent2网页与电脑操作1多智能体2

攻击者权限

黑盒1灰盒1

攻击面/入口

用户输入39文档与消息3工具返回2工具与技能描述1代码仓库与依赖1记忆写入2Agent 间消息3图像与音视频11训练数据15权重与梯度16分发渠道3推理服务与硬件3

层

模型层2应用层2基础设施层1

系统组件

记忆2嵌入1

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 638 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：多智能体攻击面/入口：记忆写入攻击面/入口：推理服务与硬件清除全部

另有 638 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.06848

    TranScope：利用 CPU 性能计数器对 Transformer 做成员推断攻击

    提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员

    arXiv
    2610.06848
    发表
    层
    基础设施层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    BERT (4.4M-340M)、ViT (22M-307M)、Pythia (70M-2.8B) 等 5 个

    摘要TRANSCOPE 揭示了分词器在嵌入表引发的硬件访问局部性差异，证实微架构计数器可突破恒定时间与置信度遮蔽防御。

    深度解读完整解读
  2. 攻击arXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

    arXiv
    2610.05894
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    灰盒
    测试
    LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

    摘要通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    深度解读完整解读
  3. 攻击arXiv 2609.35576

    研究提出跨 LLM 助手的记忆跳跃攻击

    提出跨独立助手的工件介导记忆跳跃自传播攻击

    arXiv
    2609.35576
    发表
    层
    应用层
    场景
    多智能体
    测试
    GPT-5.6 Luna、Kimi-K2.6、GPT-OSS-120B 等 6 个
    摘要论文证实持久工件与内存可形成跨智能体传播链，揭示了将共享工件纳入安全防线的重要意义。

    该论文系统研究并量化了通过共享持久工件在具有独立私有内存的 LLM 智能体之间发生自传播的“工件介导传播”攻击风险。

    深度解读完整解读
已经到底了