跳到正文
10月12日 · 周一

全部论文

找到 8篇
筛选2

攻击类型

越狱156提示注入12提取与窃取8检测规避24拒绝服务3恶意使用5

影响

数据与隐私泄露8

系统形态

模型与 API8

攻击者权限

黑盒4

攻击面/入口

用户输入8

层

提示层8模型层28应用层18训练与数据层19基础设施层8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 262篇还没打标签，不在筛选结果里。
攻击类型：提取与窃取层：提示层清除全部

另有262篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.06093

    研究评测训练数据提取风险的跨语言迁移

    用翻译前缀做跨语言训练数据提取，恢复英语训练文本中的 PII

    arXiv
    2610.06093
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-Neo 1.3B、GPT-Neo 2.7B、GPT-J 6B 等7个
    摘要跨语言 TDE 能恢复英语记忆的 PII，转移随多语训练和措辞保真变化。

    这篇工作检验训练数据抽取是否跨语言：英语段落里记住的 PII，能否被其他语言的前缀逐字抽出。

    深度解读完整解读
  3. 攻击arXiv 2608.09867

    研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

    利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链

    arXiv
    2608.09867
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等13个

    摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。

    深度解读完整解读
  4. 攻击arXiv 2604.01039

    评估与加固 LLM 系统指令以抵御编码攻击提取

    用编码与结构化请求抽取系统指令，并用 CoT 改写加固

    arXiv
    2604.01039
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GPT-4.1-mini、GPT-3.5-turbo、Gemini-2.5-flash 等7个
    摘要编码式请求可在直接拒答后引出系统指令。

    这项工作评测并加固 LLM 系统指令在编码式抽取下的保密性。作者关心的是：直接抽取已被拒绝时，把同一请求改写成格式化或编码任务，模型是否仍交出受保护内容。

    深度解读完整解读
  5. 防御arXiv 2602.11528

    别再追踪我！针对 LLM 属性推断攻击的主动防御

    提出用户侧防御 TRACE-RPS，分享前匿名化文本并追加后缀以抑制属性推断

    arXiv
    2602.11528
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Llama2-7B-Chat、Llama2-13B-Chat、Llama3.1-8B-Instruct 等10个
    摘要用户侧 TRACE 加 RPS/MPS，在分享前降低 LLM 对敏感属性的推断准确率。

    这是一项用户侧防御：在文本公开前降低 LLM 对敏感属性的推断，而不是改攻击提示或削弱模型推理。

    深度解读完整解读
  7. 攻击arXiv 2512.16059

    ContextLeak：审计私有上下文学习方法的隐私泄露

    提出 ContextLeak，用金丝雀成员推断审计私有 ICL 泄漏

    arXiv
    2512.16059
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Llama3.3-70b、Qwen2.5-72b、GPT-4.1 等6个
    摘要ContextLeak 审计私有 ICL 的 worst-case 泄漏。

    ContextLeak 是一套用成员推断审计私有 ICL 的框架，目标是给 worst-case 泄漏一个经验下界，而不是只引用理论 ε。

    深度解读完整解读
已经到底了