跳到正文
10月8日 · 周四

隐私与数据泄露 · 论文

找到 7 篇
筛选2

攻击类型

提示注入3投毒与后门6提取与窃取3

攻击技术

自动化搜索3编码与混淆3对话结构操控1推理链操控1跨模态载荷1侧信道2针对防御1潜伏触发6诱导选用1

影响

越权操作1数据与隐私泄露5输出被操纵1

系统形态

模型与 API2AI Agent5编程 Agent1网页与电脑操作1

攻击者权限

黑盒2

攻击面/入口

用户输入4网页与界面1文档与消息2代码仓库与依赖1记忆写入5图像与音视频1训练数据1

层

提示层1应用层5训练与数据层1

系统组件

记忆5推理链1微调与开源权重1

被测模型厂商

OpenAI5其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 112 篇还没打标签，不在筛选结果里。
攻击技术：对话结构操控攻击技术：潜伏触发话题：隐私与数据泄露清除全部

另有 112 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv:2604.02623 ·

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    网页与电脑操作测试GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个应用层
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    完整解读
  5. 攻击arXiv:2607.05189 ·

    研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

    AI Agent测试GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个应用层
    摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    完整解读
  7. 攻击arXiv:2609.33985 ·

    研究：众包微调数据投毒可放大专有指令抽取

    提出主题锚点投毒，放大众包微调后的专有指令提取

    模型与 API攻击者黑盒测试Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个训练与数据层

    摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。

    完整解读
已经到底了