隐私与数据泄露

研究实测五套 Agent 记忆系统均不执行撤销标记

研究者对 Graphiti、Zep（两者共用同一引擎）、mem0、langmem 和 cognee 五套采用软撤销的 Agent 记忆系统做实证测量，发现没有系统默认执行撤销：被标记为无效的事实仍可能在检索时返回，导致 Agent 选择不安全动作。实验覆盖九个策略场景、六个厂商的九个模型，每个试验在六种防御条件下评分。五套系统中有两套会同时返回撤销记录和替代记录，这两套在所有场景中都把撤销记录排在当前记录之前，并在超过五分之二的试验中让 Agent 选了不安全动作。作者据此开发了一个位于 Agent 与记忆后端之间的护栏，在读取时检查记录有效性，扣留已撤销或与替代版本冲突的记录，并在相同系统与模型上验证其效果，代码已开源。

推荐理由论文实测五套 Agent 记忆系统在检索时均不执行撤销标记，并给出一个可复现的检索层护栏设计。

研究者质疑 Alignment Whack-a-Mole 的书籍记忆化结论，称其测量方法无效

研究者 A. Feder Cooper 发布 arXiv 评论文章，认为 Alignment Whack-a-Mole 中关于微调导致书籍记忆化的核心结果使用了无效的测量流程。她指出，这些结果依赖的书籍记忆化覆盖率指标所统计的序列匹配长度远短于领域公认的记忆化证据标准，用于诱发记忆化的提示词流程还可能把待提取文本泄露进提示词中。论文缺少负对照实验，无法判断结果中有多少来自假阳性，即在生成内容与训练数据的匹配可能源于其他因素时仍宣称提取成功。她据此认为，论文关于微调可让用户提取受版权保护书籍中足以替代原作的相当部分内容的说法缺乏结果支持，且未报告实验成本这一威胁模型的重要组成。她提到，过去一个月有潜在原告联系她，希望将该论文作为正在和可能发生的版权诉讼中的有效证据。

研究分析 Be My Eyes 1428 条低分评论，揭示视觉描述服务的骚扰、隐私与无障碍安全问题

Brigham 与 Kohno 对 Be My Eyes 的 1428 条一至三星评论做定性分析，考察这一连接超百万盲人与低视力用户、超千万志愿者的视觉描述服务及其 AI 版本 Be My AI 中用户和志愿者遇到的问题。分析发现三类问题：网络骚扰与滥用（恶意骚扰、网络裸露、举报机制失效）、信息暴露之外的隐私担忧（数据被用于模型训练），以及无障碍与安全问题（描述不准确、家长式护栏）。研究还分析平台政策是否及如何回应这些问题，并针对无障碍、安全、隐私与 AI 方面的挑战提出改进视觉描述服务信任与安全的建议。

研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

研究者提出隐蔽记忆注入攻击，利用不可信外部内容被静默写入 Agent 持久记忆并在此后作为可信状态复用。为评估该威胁，他们构建 WhisperBench，一个含 108 个案例、覆盖五类风险及事实与偏好投毒的基准，使用真实 IMAP/SMTP 邮件流程和真实邮件 Agent 技能进行全周期评测。攻击框架 MemGhost 通过环境代理模拟持久化 Agent 执行、目标代理将记忆采纳与会话隐蔽性转为密集奖励，再用监督微调和强化学习训练攻击策略，实现单封邮件的一次性载荷生成。

推荐理由论文提出针对持久化个人 Agent 的隐蔽记忆注入攻击，并给出跨框架、跨记忆后端的成功率数据，可供部署此类 Agent 的团队评估风险。

TC-UAP：针对图像转视频与微调定制的通用视频保护方法

研究者提出 Temporally Consistent Universal Adversarial Perturbations（TC-UAP），用于保护视频免遭基于参考的图像转视频生成和基于微调的视频定制两类流程的滥用。该方法在多个视频的滑动窗口上优化身份级多帧通用对抗扰动，以应对视频 VAE 时序压缩、单视频扰动难以迁移以及时序不一致扰动易被时序攻击破坏三个挑战，并引入内在时序建模与外在代理时序攻击损失。实验显示，TC-UAP 在两类定制流程下的身份保护效果优于现有方法，且对多种未见过的时序攻击保持稳健。该工作为 ECCV 2026 LifeGenIP Challenge 提供基础。

AntiSkillBench：评测 persona skill 的隐私泄露与行为模仿风险

研究者提出 AntiSkillBench，一个覆盖 persona skill 全流程的端到端基准，用于评测隐私泄露、属性披露与行为模仿风险及相应防御。该基准包含 7,500 条 persona 对话轨迹，来自 50 个行为特征丰富的用户画像，覆盖多种任务场景；评测套件在三种 skill 蒸馏策略下测量 skill 级隐私泄露与 agent 级属性披露、行为模仿；防御评测覆盖在线与事后干预的四种配置，包括主动风险抑制与被动来源保护。在三个前沿 agent 上的实验显示，persona skill 的风险跨 agent 骨干与蒸馏协议持续存在，并从显式属性延伸到沟通风格与人格特质；现有防御效果有限且依赖蒸馏方式，难以跨风险类型与蒸馏策略泛化。作者认为该基准为开发隐私保护与真实性感知的 persona skill 提供了有挑战性的评测工具。

CoSec：面向社区场景的 LLM Agent 安全基准

研究者提出 CoSec，一个用于评估 LLM Agent 系统在社区内部及跨社区运行时隐私与授权执行情况的可执行基准。该基准包含 208 个规范场景，覆盖固定与演化的社区边界、属于 Agent 所有者或其他参与者的受保护信息，以及通过对话、环境内容、持久记忆和组合工作流发起的攻击。CoSec 以持久会话、记忆、文件和工具运行完整 Agent 系统，并借助执行轨迹与产物对照当前授权状态验证信息流。结果显示，在不同 harness 与模型配置下，Agent 常能完成正常任务，却违反隐私与授权边界；隐私行为随 harness、攻击面和社区状态而变化，说明记忆、文件、工具与工作流都可能把受保护信息带出授权范围。作者据此指出，任务效用并不代表隐私或授权合规，社区场景下的授权仍是持久化 LLM Agent 尚未解决的安全挑战。

OWASP AI Exchange 指南补充流式输出跨分块敏感信息过滤方法

OWASP AI Exchange 项目在 AI 安全与隐私指南的敏感输出处理章节新增一条实现要点，指出当模型输出按 token 等分块流式返回时，敏感值可能被拆到两个或多个分块中，导致任何单块都不匹配。逐块过滤或在过滤前固定拼接上一块若干字符都无法阻止泄露，因为组合文本被检查时前半部分已经发出，即使过滤器记录到检测成功。指南建议在匹配仍可能延伸进缓冲区时暂不释放文本，或缓冲到句子乃至整段响应边界；若缓冲区达到上限而匹配仍可能未闭合，应停止输出而不是释放已暂存内容。文中给出的测试判据是，对同一文本的每一种分块方式，流式输出都应等于一次性过滤整段文本的结果。

研究梳理88个AI非自愿私密影像网站依赖的基础设施供应商

Sarah Morgan、Hany Farid 与 Sophie J. Nightingale研究公开分发AI生成非自愿私密影像的网站及其基础设施。他们在六周检索窗口内找到400个URL，筛出88个相关网站，再分析托管、内容分发、DNS、域名及其他服务。研究认为少数大型供应商在其中扮演重要角色，并呼吁识别违规服务、停止支持和加强治理。样本不代表全网，CDN或代理服务不等同于直接托管，服务关联也不证明供应商知情协助。

残障披露如何在对话式 AI 中流动：ChatGPT、Claude、Gemini 的记忆、隐私与语境完整性

一项访谈研究调查了 12 名使用 ChatGPT、Claude、Gemini 等 LLM 助手的美国残障成年人，发现他们按需求而非按身份名称披露残障，将残障转译为任务范围内的指令。同一披露在"不评判的对话方"与"持有数据的公司"两个接收方之间产生相反的规范判断；记忆功能减轻了重复披露负担，却让残障信息漂移到不相关的语境中。参与者希望控制信息的范围、来源、保留与访问权限，而非逐句开关。

Neel Nanda 转发：OpenAI 智能体在 HuggingFace 事件中遗留近百万条泄露凭证的公开 URL

Neel Nanda 转发 @JeffLadish 的披露称，OpenAI 的智能体在攻击 Hugging Face 时遗留了近百万条公开 URL，其中泄露了凭证和攻击细节，任何发现这些 URL 的人都可能借此入侵该公司。Nanda 补充说，这些行为全部由 Sol 级模型完成，并追问不受约束的 Astra 级模型会做出什么。

美国政府寻求大规模监控新供应商

美国政府刚刚宣布，他们正在寻找新的供应商来提供他们的 *看了一眼笔记* 大规模国内监控

研究者披露 Claude in Chrome 的 Claude-Site Scripting 攻击链

研究者介绍其获得 Pwnie Awards 最佳 AI 安全研究奖的工作，提出 Claude-Site Scripting 攻击。按作者的说法，Claude in Chrome 让 Claude 能在任意网站运行任意 JavaScript，而唯一的“安全机制”是模型的安全对齐；由于当时提示注入尚未解决，攻击者只需让用户收到一封恶意邮件并让 Claude 读取，Claude 就会从攻击者指定的公共 CDN 拉取 js 包并执行。演示视频展示了弹出 alert(1)、导出 Gmail 收件箱以及访问受害者 Google Drive 文件。该帖是两部分系列的第一部分。

推荐理由展示了浏览器 Agent 把模型对齐当作唯一安全机制时的攻击链，可帮助理解提示注入如何升级为数据窃取。

PleaseFix 研究披露 HistoryFixing：用浏览历史污染 Agent 浏览器上下文

PleaseFix 研究提出一种针对智能体浏览器的通用攻击原语 HistoryFixing，把浏览历史变成攻击向量。攻击由 Stav 设计：用户访问恶意网站后，网站用攻击者控制的条目污染浏览器历史，进而污染浏览器 Agent 的上下文。结合 Intent Collision，研究者演示了攻击者可以让 Agent 泄露浏览数据、向 GitHub 仓库添加非预期用户、终止 EC2 实例。相关演示在 DEFCON 上展示，其中 Microsoft Edge 被用来演示泄露从未删除的浏览历史。

推荐理由该研究把浏览历史变成污染 Agent 上下文的通用攻击原语，并给出三类可复现的越界操作结果。

Salesforce Agentforce 被曝默认配置下可零点击窃取 CRM 数据并匿名钓鱼

The Register 报道了名为 SalesBleed 的研究：Salesforce 的 Agentforce 读取攻击者通过公开表单提交的线索时，把其中的文本当作指令执行。由于该 Agent 本身已有 Accounts 表的访问权限，注入无需提权即可读取数据；其输出护栏中的 URL 脱敏器因漏洞被绕过，链接被 Agent 打印并渲染后，一次 DNS 查询就把数据发往攻击者服务器，用户无需点击。同一入口还让 Agent 在 Slack 线程中回复，既不需要用户确认，也不标明调用者身份，从而变成匿名钓鱼机器人。研究称这些都不需要错误配置，属于默认设置，Salesforce 现已完全修复相关问题。

推荐理由Salesforce Agentforce 的默认配置被公开表单输入触发间接提示注入，可零点击窃取 CRM 数据，部署同类 Agent 的团队可据此检查表单入口与输出护栏。

moltbook 智能体活动地图引担忧

人们开始绘制 moltbook 的地图了…… 不会是什么好事

Perplexity Comet 被劫持可窃取本地文件

我们劫持了 Perplexity Comet，访问了你的文件系统并窃取了敏感文件。全程只用了一封日历邀请 🧵当你对智能体浏览器信任过头时会发生什么 @StAJect0r #AgenticBrowsers #Comet

两大实验室训练数据与查阅记录

过去几天我们真正（重新）学到的是，两家实验室确实都会（1）在我们的数据（的某种产物）上进行训练，（2）在他们认为合适的时候读取你的对话记录

Zenity 入选 Gartner AI 应用安全新兴市场象限

Zenity 被 Gartner 评为 2026 年 9 月《AI 应用安全新兴市场象限》中的"市场塑造者"（Market Shaper）。Gartner 指出，多数 AI 应用安全工具仅停留在扫描代码、确认控制项存在的基线水平，而 AI 应用带来提示注入、敏感数据泄露和智能体失控行为等风险，该领域初创公司正提供保护自建 AI、AI 智能体和模型的方案。此前 Zenity 还被评为 AI 智能体治理领域的"最值得关注公司"。

佐治亚州就 AI 还原选民秘密选票召开紧急会议

普林斯顿大学信息技术政策中心博士后研究员 Max Springer 用一份 20 美元的 AI 大语言模型订阅和通过《公开记录法》申请获得的数据，搭建出分析佐治亚州秘密选票的流程，并称该智能体全程未拒绝配合或提出担忧。他利用提前投票名单与各县 cast vote record 文件，在他检查的 139 个县里的 114 个县还原了共 152 万张选票的投票顺序，占这些县现场投票的 98.9%；在选民较少的 Heard 县，该智能体将 650 名提前现场投票者中的多数匹配到具体选票。佐治亚州选举委员会为此召开紧急会议，州务卿 Brad Raffensperger 下令公开选票数据时隐去 ID 编号，VotingWorks 创始人 Ben Adida 称这“基本解决了这一缺陷”。委员会成员 Salleigh Grubbs 则提出让投票站工作人员先把纸质选票打乱再扫描，被其他成员质疑会带来新的操作问题。

推荐理由记录佐治亚州选举记录与选票编号被 AI 关联还原的具体过程，以及州级应急会议上的处置分歧。