跳到正文
10月10日 · 周六

全部论文

找到 8 篇
筛选6

攻击类型

提取与窃取4

影响

有害内容85数据与隐私泄露8输出被操纵29可用性与可靠性3监督失效5滥用能力提升0

系统形态

模型与 API8coding agent0网页与电脑操作0

攻击面/入口

用户输入5

层

提示层8模型层23应用层19训练与数据层20基础设施层3

系统组件

多模态3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 232 篇还没打标签，不在筛选结果里。
影响：数据与隐私泄露影响：滥用能力提升系统形态：模型与 API系统形态：coding agent系统形态：网页与电脑操作层：提示层清除全部

另有 232 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.06093

    研究评测训练数据提取风险的跨语言迁移

    用翻译前缀做跨语言训练数据提取，恢复英语训练文本中的 PII

    arXiv
    2610.06093
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-Neo 1.3B、GPT-Neo 2.7B、GPT-J 6B 等 7 个
    摘要跨语言 TDE 能恢复英语记忆的 PII，转移随多语训练和措辞保真变化。

    这篇工作检验训练数据抽取是否跨语言：英语段落里记住的 PII，能否被其他语言的前缀逐字抽出。

    深度解读完整解读
  4. 评测与基准arXiv 2609.08256

    ACEA：面向红蓝队对抗的 LLM 协同演化测试平台

    提出红蓝对抗评测平台 ACEA，分开计量攻击强度与防御效果

    arXiv
    2609.08256
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    openai/gpt-4o、google/gemini-2.5-pro、google/gemma-3-27b-it 等 5 个
    摘要ACEA 用 ASAP 让红蓝对同一目标对打。

    ACEA 是让可插拔红队和蓝队共享一个目标 LLM 的对打场地，把攻击强度和防御效果分开记分。作者要补三处空缺：双方只能对着固定对手分开练。LLM judge 分不清真实泄露和幻觉，拦截后又看不到攻击有多强。

    深度解读完整解读
  5. 攻击arXiv 2608.09867

    研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

    利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链

    arXiv
    2608.09867
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 13 个

    摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。

    深度解读完整解读
  6. 防御arXiv 2607.13336

    TC-UAP：针对图像转视频与微调定制的通用视频保护方法

    提出 TC-UAP，用身份级多帧扰动保护视频免被定制复现身份

    arXiv
    2607.13336
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    LTX-2.3、Wan2.2-5B
    摘要TC-UAP 以可复用的时间一致扰动干扰两类定制共用的 VAE 隐空间。

    作者要解决的是：发布前如何给视频加不可见扰动，使片段既不能被拿去微调视频扩散模型，也不能被抽帧做 image-to-video。

    深度解读完整解读
  7. 评测与基准arXiv 2605.24765

    CyberMaskQA：面向网络安全问答的大语言模型隐私感知基准

    提出隐私感知基准 CyberMaskQA，评测网络安全问答与敏感实体掩码

    arXiv
    2605.24765
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、InternLM3-8B-Instruct、Mistral-3-8B-Instruct 等 4 个
    摘要CyberMaskQA 联合评测带上下文的网安问答与掩码。

    作者构建隐私感知网安问答基准 CyberMaskQA，用来同时看依赖组织上下文的选择题推理，以及敏感实体掩码。

    深度解读完整解读
已经到底了