跳到正文
10月9日 · 周五

隐私与数据泄露 · 论文

找到 5 篇
筛选4

攻击类型

提示注入1投毒与后门5提取与窃取2

攻击技术

自动化搜索3编码与混淆2角色扮演与说服1对话结构操控1推理链操控1针对防御1潜伏触发5诱导选用1

影响

越权操作1数据与隐私泄露3输出被操纵1

系统形态

模型与 API2AI Agent3网页与电脑操作1

攻击者权限

黑盒1

攻击面/入口

用户输入3网页与界面1文档与消息3工具返回1记忆写入5图像与音视频1训练数据2权重与梯度1

层

应用层3训练与数据层2

系统组件

记忆3微调与开源权重2

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 77 篇还没打标签，不在筛选结果里。
攻击技术：潜伏触发攻击面/入口：用户输入攻击面/入口：网页与界面攻击面/入口：权重与梯度话题：隐私与数据泄露清除全部

另有 77 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2604.02623

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    arXiv
    2604.02623
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    深度解读完整解读
  3. 攻击arXiv 2610.04589

    StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道

    用 StegoMemory 测试智能体持久记忆作为跨会话隐写信道的可行性

    arXiv
    2610.04589
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Llama 3.1 405B、Claude 3.5 Sonnet、GPT-4o 等 13 个

    摘要研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密，写入持久化是主要防御瓶颈，呼吁建立记忆完整性防御。

    深度解读完整解读
  5. 攻击arXiv 2609.33985

    研究：众包微调数据投毒可放大专有指令抽取

    提出主题锚点投毒，放大众包微调后的专有指令提取

    arXiv
    2609.33985
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个

    摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。

    深度解读完整解读
已经到底了