跳到正文
10月9日 · 周五

隐私与数据泄露 · 论文

找到 9 篇
筛选7

攻击类型

提取与窃取3恶意使用1

模型自身风险

欺骗与谋划1

防御类型

模型加固1

影响

数据与隐私泄露5监督失效1

系统形态

模型与 API7LLM 应用2AI Agent10编程 Agent0网页与电脑操作1多智能体2

攻击者权限

黑盒1

攻击面/入口

用户输入1图像与音视频2权重与梯度1推理服务与硬件1

层

提示层2模型层1应用层4训练与数据层2

系统组件

MCP 与技能2记忆2监控器1推理链1微调与开源权重5视觉5音频4视频1图像生成1嵌入1多模态11

被测模型厂商

Meta5其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 63 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent系统形态：多智能体系统组件：记忆系统组件：监控器系统组件：视觉系统组件：嵌入话题：隐私与数据泄露清除全部

另有 63 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv 2609.32701

    研究显示前沿模型智能体在测试时自行形成隐蔽信道

    展示多智能体在禁令与监视下自发建立隐蔽信道传递机密

    arXiv
    2609.32701
    发表
    层
    应用层
    场景
    多智能体
    测试
    GPT-5.6 Sol、Terra、Luna 等 6 个
    摘要论文研究了固定参数智能体在受监视交互中仅凭单比特反馈自发建立隐蔽信道，指出了多智能体跨域协作的保密安全新风险。

    论文研究了固定参数与提示词的智能体在受审计交互中自发形成隐蔽信道并泄露机密的过程。

    深度解读完整解读
  3. 其他arXiv 2609.10144

    AIOS 的内核管理共享内存：面向系统级个性化的新抽象

    AI 导读研究提出"内核管理共享内存"，由智能体系统内核而非单个智能体统一负责记忆检索、隐私执行与提示注入。

    arXiv
    2609.10144
    发表
    层
    应用层
    场景
    多智能体
    测试
    GPT-4o、Llama-3.1:8B、Qwen-2.5:7B
    摘要作者称内核集中管理记忆，能拿到无约束上下文的大部分个性化收益，并降低延迟。

    kernel-managed shared memory 把多智能体的检索、隐私和注入收进 agent-system kernel，并在 AIOS 上与三种替代方案比较。

    深度解读完整解读
  6. 其他arXiv 2608.04314

    面向良性用途的对抗攻击：视觉内容全生命周期主动防护综述

    综述视觉内容全生命周期中的所有者侧对抗防护方法

    arXiv
    2608.04314
    发表
    层
    提示层
    场景
    模型与 API
    摘要综述把五类对抗式保护收成一个生命周期，并用三条轴比较其主张。

    Adversarial attacks for good 是一篇视觉内容所有者侧保护的综述：把长期作为攻击来研究的扰动和结构化信号，反过来交给数据所有者、创作者、平台或审计方使用。

    深度解读完整解读
  7. 防御arXiv 2609.15671

    QPriv-VL：面向视觉语言模型的问题引导 token 裁剪隐私防御

    提出 QPriv-VL，用问题引导剪枝降低分布式视觉问答的隐私泄露

    arXiv
    2609.15671
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    LLaVA-1.5-7B、CLIP-ViT-L/14、Llama-2 等 4 个
    摘要QPriv-VL 在切层前按问题相关度与 DINOv2 敏感度剪视觉 token，作者称能在约四成 token 下兼顾准确率与四类攻击。

    QPriv-VL 把问题引导的视觉 token 剪枝做成分布式 VQA 的客户端隐私防御，而不是只做集中式推理加速。

    深度解读完整解读
  9. 评测与基准arXiv 2609.33481

    IDUnlearn-Bench：面向视觉语言模型的个体级遗忘基准

    提出 IDUnlearn-Bench，评测 VLM 个体级遗忘后的身份残留

    arXiv
    2609.33481
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等 6 个
    摘要IDUnlearn-Bench 用四族探针显示：压低直接属性访问后，身份仍常能被反向查出、绑定或重构。

    IDUnlearn-Bench 评测 VLM 是否忘掉一个可跨模态识别的人，而不只是答不出某条监督事实。

    深度解读完整解读
已经到底了