跳到正文
10月10日 · 周六

全部论文

找到 7 篇
筛选7

攻击类型

提取与窃取3

防御类型

监控与审计3

影响

有害内容14越权操作5数据与隐私泄露7输出被操纵11可用性与可靠性3监督失效19

系统形态

模型与 API4LLM 应用3AI Agent6coding agent3web agent0

层

模型层3应用层3

系统组件

MCP 与技能6记忆3监控器3推理链4权限与沙箱4微调与开源权重7视觉3音频3图像生成5嵌入1多模态12
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 240 篇还没打标签，不在筛选结果里。
影响：数据与隐私泄露系统形态：模型与 API系统形态：coding agent系统形态：web agent系统组件：监控器系统组件：音频系统组件：嵌入清除全部

另有 240 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv 2609.27399

    GUARD：在 CosyVoice2 上做说话人身份遗忘以阻止重识别

    提出 GUARD，在零样本 TTS 上用激活转向遗忘说话人身份以阻止再识别

    arXiv
    2609.27399
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    CosyVoice2-0.5B、F5-TTS、FireRedTTS
    摘要GUARD 用门控激活转向把退出说话人推向冒充相似度，以抑制再识别并保住音质。

    GUARD 用门控激活转向做说话人身份遗忘，使零样本 TTS 对退出说话人难以再识别。

    深度解读完整解读
  3. 防御arXiv 2609.19587

    红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器

    提出 Auto Mode ++，加固编码 Agent 阻断监视器

    arXiv
    2609.19587
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Opus 5、Opus 4.8、Opus 4.7 等 8 个

    摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。

    深度解读完整解读
  5. 攻击arXiv 2609.01723

    研究者提出针对微调 TTS 模型的黑盒成员推断攻击

    提出针对微调 TTS 的黑盒成员推断攻击

    arXiv
    2609.01723
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    CosyVoice2、F5-TTS、XTTS-v2
    摘要黑盒 TTS 成员推断以 recitation 加分层语音表示为分数，说话人级强于记录级，DP-SGD 可压到随机附近。

    作者给出一个针对微调文本转语音模型的黑盒成员推断框架，分别审计说话人是否进入微调集，以及某一条文本–音频记录是否进入微调集。微调 TTS 以合成文本和参考语音双条件生成，既有生成模型 MIA 的单条件查询和图像/文本上的逐点比较不能直接套用。作者用 scorable extent 与 memorization elicitation 比较五种查询，认为只有 recitation（用目标转写和干净目标语音要求模型复现）同时满足两条，并把它作为主查询。

    深度解读完整解读
已经到底了