跳到正文
10月9日 · 周五

全部论文

找到 9 篇
筛选4

攻击类型

越狱9提示注入2投毒与后门1模型篡改5提取与窃取9检测规避4恶意使用1

攻击技术

针对防御1

模型自身风险

拒答失当1幻觉与编造1

防御类型

推理时干预2

影响

有害内容1数据与隐私泄露8

系统形态

模型与 API8AI Agent1编程 Agent1

攻击者权限

黑盒3灰盒2白盒1

攻击面/入口

用户输入7权重与梯度2推理服务与硬件1

层

提示层1模型层9应用层5训练与数据层5基础设施层2

系统组件

推理链1微调与开源权重1嵌入1

被测模型厂商

Google9Qwen（阿里）7Meta5其他14
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 485 篇还没打标签，不在筛选结果里。
攻击类型：提取与窃取层：模型层被测模型厂商：Google被测模型厂商：Microsoft清除全部

另有 485 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2608.20554

    aiXamine：跨维度评测 LLM 安全、安全（security）与隐私权衡

    提出 aiXamine 黑盒基准，统一评测 LLM 安全、稳健与隐私权衡

    arXiv
    2608.20554
    发表
    层
    模型层
    场景
    模型与 API
    测试
    google/gemini-3-flash-preview、google/gemini-2.5-flash、Gemma4-31B 等 15 个
    摘要aiXamine 用九服务黑盒协议比较百余个模型，作者称单轴信任度进展可能削弱其他轴。

    aiXamine 是一套黑盒评测协议，用来在同一条件下比较 LLM 的 safety、security 与 privacy，而不是再产出一个能力分。

    深度解读完整解读
  2. 防御arXiv 2609.31056

    SCALPEL：用对比稀疏自编码器实现选择性表征层遗忘

    提出 SCALPEL，用对比 SAE 在表征层选择性遗忘特定事实

    arXiv
    2609.31056
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma-2-2B-it、Qwen2.5-1.5B-Instruct、Llama-3.2-1B-Instruct
    摘要SCALPEL 以对比稀疏特征做窄目标表征遗忘，在 TOFU 上与优化基线相当且可检查。

    SCALPEL 是不改基座权重的表征层遗忘方法，面向与保留数据重叠的窄目标。

    深度解读完整解读
  4. 攻击arXiv 2609.10117

    研究揭示基于混淆的端侧 LLM 保护方案的安全边界

    提出 Collapse，从端侧混淆暴露视图抽取高效用替代模型

    arXiv
    2609.10117
    发表
    层
    模型层
    场景
    模型与 API
    测试
    BERT-Base、ViT-Base、Qwen2.5-0.5B 等 4 个
    摘要Oprior 是四原语复合的安全边界，Collapse 利用列方向泄漏抽取替代模型，Oext 只被同一攻击评测。

    这篇工作用代数原语统一若干 TEE 卸载混淆，给出该族的典范边界，再说明该边界挡不住一种分阶段模型抽取。。

    深度解读完整解读
  6. 攻击arXiv 2609.10611

    WPMIA：面向严格黑盒大模型的词级概率成员推断攻击

    提出严格黑盒成员推断 WPMIA，用采样估计词级概率判断训练成员

    arXiv
    2609.10611
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Gemini-2.5-Flash、OPT-6.7B、Pythia-6.9B 等 12 个
    摘要WPMIA 从续写估计词级似然并对比前缀，黑盒上多数优于所列基线。

    WPMIA 是面向严格黑盒的 LLM 预训练数据成员推断：攻击者只能看到文本续写。

    深度解读完整解读
  7. 攻击arXiv 2609.09865

    CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

    提出 CGMIA，用成员推理检测代码生成基准的数据泄漏

    arXiv
    2609.09865
    发表
    层
    模型层
    场景
    编程 Agent
    攻击者
    灰盒
    测试
    CodeGemma (2B)、Phi-2 (2.7B)、Qwen2.5-Coder (3B) 等 5 个
    摘要CGMIA 融合相似度、通过率、困惑度与 CodeBERT，在模拟泄漏上优于八个 MIA 基线。

    CGMIA 用成员推断检测代码生成基准是否泄入 LLM 训练集，使评测不依赖对训练语料的直接访问。

    深度解读完整解读
  9. 攻击arXiv 2609.36331

    无需参考模型：用邻居样本校准单轮成员推理攻击

    提出用邻居分数替代参考模型的单轮成员推断

    arXiv
    2609.36331
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    CLIP ViT-B/32、目标分类模型（架构与训练流程遵循 Aerni et al.）、stable-diffusion-v1-5 等 4 个
    摘要邻居查询在单模型上恢复逐样本校准，合成邻居加早期检查点最接近 LiRA。

    本文研究 one-round 成员推断：只有一个目标模型、不能再训练参考模型时，如何仍做逐样本校准，并用于单次运行的 DP 审计。

    深度解读完整解读
已经到底了