跳到正文
10月9日 · 周五

全部论文

找到 4 篇
筛选6

攻击类型

提取与窃取3检测规避1

影响

数据与隐私泄露3

系统形态

模型与 API4coding agent0

层

模型层3

系统组件

MCP 与技能3护栏与评审9推理链6微调与开源权重4视觉5音频2图像生成7嵌入2多模态14
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 527 篇还没打标签，不在筛选结果里。
攻击类型：提取与窃取攻击类型：检测规避系统形态：模型与 API系统形态：coding agent系统组件：音频系统组件：嵌入清除全部

另有 527 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv 2609.01723

    研究者提出针对微调 TTS 模型的黑盒成员推断攻击

    提出针对微调 TTS 的黑盒成员推断攻击

    arXiv
    2609.01723
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    CosyVoice2、F5-TTS、XTTS-v2
    摘要黑盒 TTS 成员推断以 recitation 加分层语音表示为分数，说话人级强于记录级，DP-SGD 可压到随机附近。

    作者给出一个针对微调文本转语音模型的黑盒成员推断框架，分别审计说话人是否进入微调集，以及某一条文本–音频记录是否进入微调集。微调 TTS 以合成文本和参考语音双条件生成，既有生成模型 MIA 的单条件查询和图像/文本上的逐点比较不能直接套用。作者用 scorable extent 与 memorization elicitation 比较五种查询，认为只有 recitation（用目标转写和干净目标语音要求模型复现）同时满足两条，并把它作为主查询。

    深度解读完整解读
  4. 防御arXiv 2607.14737

    GeoDetect：面向视觉语言预训练模型的几何对抗检测方法

    提出 GeoDetect 以几何分数检测视觉语言预训练模型的对抗样本

    arXiv
    2607.14737
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    CLIPViT (ViT-B/16)、CLIPCNN (ResNet-50)、ALBEF 等 4 个
    摘要GeoDetect 用几何分数检测 VLP 对抗样本。

    GeoDetect 是面向视觉-语言预训练模型的对抗样本检测方法，用嵌入几何而不是任务 logits 区分干净样本与对抗样本。

    深度解读完整解读
已经到底了