跳到正文
10月9日 · 周五

隐私与数据泄露 · 论文

找到 7 篇
筛选4

攻击类型

越狱1提示注入1提取与窃取1拒绝服务1

攻击技术

编码与混淆1侧信道1针对防御1

防御类型

检测与过滤1

影响

数据与隐私泄露4

系统形态

模型与 API6LLM 应用7AI Agent23编程 Agent1网页与电脑操作4多智能体2

攻击者权限

黑盒1

攻击面/入口

用户输入2工具返回1工具与技能描述1推理服务与硬件2

层

提示层4模型层19应用层3训练与数据层14基础设施层4

系统组件

MCP 与技能1记忆1视觉1多模态1

被测模型厂商

其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 77 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent层：应用层层：基础设施层话题：隐私与数据泄露清除全部

另有 77 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.06848

    TranScope：利用 CPU 性能计数器对 Transformer 做成员推断攻击

    提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员

    arXiv
    2610.06848
    发表
    层
    基础设施层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    BERT (4.4M-340M)、ViT (22M-307M)、Pythia (70M-2.8B) 等 5 个

    摘要TRANSCOPE 揭示了分词器在嵌入表引发的硬件访问局部性差异，证实微架构计数器可突破恒定时间与置信度遮蔽防御。

    深度解读完整解读
  2. 攻击arXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，利用 MCP 隐式信任诱导外发敏感文件

    arXiv
    2609.18217
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GPT-4o、GPT-4o-mini、GPT-5.4 等 15 个

    摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    深度解读完整解读
  4. 防御arXiv 2609.12378

    Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

    提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

    arXiv
    2609.12378
    发表
    层
    基础设施层
    场景
    模型与 API
    测试
    Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）
    摘要ODIN 用可复用的特征主序打包和联合误差预算，在单张 H100 上完成 Llama-3-8B 的 CKKS 推理。

    ODIN 是面向 Llama 的服务器侧 CKKS 推理系统：客户加密提示词，诚实但好奇的服务器用明文权重在密文上算完 Llama-3，只返回结果密文。

    深度解读完整解读
  5. 其他arXiv 2609.16915

    ROSETTA：基于混合 CKKS/TFHE 的高效准确隐私保护 LLM 解码框架

    提出混合 CKKS/TFHE 的隐私保护 LLM 解码框架 ROSETTA

    arXiv
    2609.16915
    发表
    层
    基础设施层
    场景
    模型与 API
    测试
    GPT-2 Base、TinyLlama-1.1B、LLaMA-3-8B
    摘要ROSETTA 用分段 LUT 和 DAG 最短路，把 CKKS 与 TFHE 按算子拼进 LLM 解码。

    ROSETTA 是面向 LLM decode 的混合 CKKS/TFHE 隐私推理框架，目标是在 honest-but-curious 两方设定下，让服务器在密文上完成解码，同时保住权重和用户输入。

    深度解读完整解读
已经到底了