跳到正文
10月12日 · 周一

全部论文

找到 3篇
筛选3

攻击技术

梯度与表征优化12自动化搜索2对话结构操控1针对防御7潜伏触发3

系统形态

模型与 API3

层

提示层60模型层3应用层65训练与数据层3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 240篇还没打标签，不在筛选结果里。
攻击技术：自动化搜索攻击技术：对话结构操控层：模型层清除全部

另有240篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2603.08234

    续写与拒答之争：大语言模型中续写触发越狱的机制分析

    分析续写触发越狱的注意力头机制并提出 HCS

    arXiv
    2603.08234
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    LLaMA-2-7B-Chat、Qwen2.5-7B-Instruct
    摘要作者称越狱来自两类头竞争，HCS 加蒸馏可把该竞争用于推理时干预。

    作者用注意力头机制分析 continuation-triggered jailbreak：同一有害指令下，把 continuation 后缀从指令后面挪到提示词边界外，模型更容易顺着后缀继续生成。

    深度解读完整解读
  2. 攻击arXiv 2602.01757

    Zero2Text：无需训练的跨域文本嵌入反转攻击

    提出 Zero2Text，无需训练地跨域反演文本嵌入

    arXiv
    2602.01757
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GTR-Base、Qwen3-Embedding-0.6B、Text-Embedding-3-small 等4个
    摘要零训练在线对齐可在未知域、无泄漏对时从黑盒 embedding 还原句子。

    Zero2Text 是一种不训练 decoder、也不使用泄漏文本–向量对的文本 embedding 反演，针对 RAG 向量库在严格黑盒、目标域未知时的还原。

    深度解读完整解读
  3. 攻击arXiv 2508.06837

    Prometheus：针对文生图扩散模型的免训练提示词窃取攻击

    提出 Prometheus，从展示图反推文生图模型的在售提示词

    arXiv
    2508.06837
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    无盒（离线迁移）
    被测模型
    Midjourney、Leonardo.ai、DALL·E 等4个
    摘要训练无关的 proxy 搜索攻击。

    Prometheus 是针对文生图市场 showcase 的训练无关提示词窃取：攻击者看不到在售文本，只用本地开源 proxy 恢复 subject 和 modifier，并希望换 subject 后风格仍在。

    深度解读完整解读
已经到底了