跳到正文
10月9日 · 周五

全部论文

找到 4 篇
筛选5

攻击类型

越狱0投毒与后门1模型篡改1提取与窃取4检测规避1

影响

数据与隐私泄露4

系统形态

模型与 API2LLM 应用1AI Agent1编程 Agent1

攻击者权限

黑盒16灰盒4白盒3无盒1

攻击面/入口

用户输入4

层

模型层3应用层1训练与数据层1

系统组件

RAG1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 608 篇还没打标签，不在筛选结果里。
攻击类型：越狱攻击类型：提取与窃取攻击者权限：灰盒层：模型层层：应用层清除全部

另有 608 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.00873

    研究提出 Q-Skew：利用 token 级记忆不对称对微调扩散语言模型做成员推断

    提出 Q-SKEW，利用 token 级记忆不对称推断微调扩散语言模型的成员

    arXiv
    2609.00873
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    灰盒
    测试
    LLaDA-8B-Base、LLaDA-8B-Instruct、Dream-Base-7B 等 4 个
    摘要Q-SKEW 用 token 损失差的右偏区分微调 DLM 成员，并可辅助 PII 排序。

    Q-SKEW 是针对微调扩散语言模型的 gray-box 成员推断指标，依据是 token 记忆增益随掩码率下降而增大、成员序列因此右偏。。

    深度解读完整解读
  2. 攻击arXiv 2609.09865

    CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

    提出 CGMIA，用成员推理检测代码生成基准的数据泄漏

    arXiv
    2609.09865
    发表
    层
    模型层
    场景
    编程 Agent
    攻击者
    灰盒
    测试
    Qwen2.5-Coder (3B)、CodeGemma (2B)、DeepSeek-Coder (1.3B) 等 5 个
    摘要CGMIA 融合相似度、通过率、困惑度与 CodeBERT，在模拟泄漏上优于八个 MIA 基线。

    CGMIA 用成员推断检测代码生成基准是否泄入 LLM 训练集，使评测不依赖对训练语料的直接访问。

    深度解读完整解读
  3. 攻击arXiv 2609.14649

    CIG-MIA：利用上下文信息增益对 RAG 系统发起成员推断攻击

    提出 CIG-MIA，用上下文信息增益推断 RAG 知识库成员身份

    arXiv
    2609.14649
    发表
    层
    应用层
    场景
    LLM 应用
    攻击者
    灰盒、黑盒
    测试
    Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Llama-2-13b-chat-hf 等 6 个
    摘要CIG-MIA 用注入前后的答案似然差推断 RAG 库成员，灰盒可分性高于所列基线。

    CIG-MIA 是针对 RAG 外部知识库的成员推断攻击，同时覆盖灰盒和纯文本黑盒。

    深度解读完整解读
已经到底了