跳到正文
10月8日 · 周四

隐私与数据泄露 · 论文

找到 4 篇
筛选3

攻击类型

越狱1提示注入2投毒与后门4模型篡改1提取与窃取21检测规避5拒绝服务1

攻击技术

针对防御1潜伏触发3

防御类型

检测与过滤1

影响

数据与隐私泄露2输出被操纵2

系统形态

模型与 API3AI Agent6编程 Agent1网页与电脑操作1

攻击者权限

黑盒1

攻击面/入口

用户输入1文档与消息1记忆写入1图像与音视频1训练数据3权重与梯度1

层

应用层1训练与数据层3

系统组件

记忆1微调与开源权重2

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 86 篇还没打标签，不在筛选结果里。
攻击类型：投毒与后门系统形态：模型与 API系统形态：编程 Agent话题：隐私与数据泄露清除全部

另有 86 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.13889

    PMPA：针对 OpenClaw 与 Claude Code 的持久记忆投毒攻击

    提出 PMPA，诱导智能体把外部恶意指令写入持久记忆并跨会话泄露隐私

    arXiv
    2609.13889
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    DeepSeek-V4-Flash、DeepSeek-V4-Pro、Qwen3-Max

    摘要论文提出了持久记忆投毒攻击 PMPA，报告了 harness 智能体在处理外部数据时易受跨会话记忆投毒与隐私泄露的风险。

    深度解读完整解读
  2. 防御arXiv 2609.07063

    VERITAS：抗投毒的本地差分隐私图学习协议

    提出 VERITAS，用双边背书剪除本地隐私图学习中的投毒节点

    arXiv
    2609.07063
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GCN、GraphSAGE、GAT
    摘要VERITAS 用分级信任的双边背书剪除 LDP 图学习中的投毒节点，并恢复分类准确率。

    VERITAS 是面向本地差分隐私图学习的投毒防御协议，按 trust-but-verify 在保持 ϵ-LDP 的同时剪除伪造节点。

    深度解读完整解读
  4. 攻击arXiv 2609.33985

    研究：众包微调数据投毒可放大专有指令抽取

    提出主题锚点投毒，放大众包微调后的专有指令提取

    arXiv
    2609.33985
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个

    摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。

    深度解读完整解读
已经到底了