AI 安全日报 · 2026 年 10 月 3 日 · 星期六
加州总检察长向 OpenAI 发出 AI 网络安全调查传票
加州总检察长办公室宣布已向 OpenAI 发出调查传票，要求其就 AI 模型涉及的网络安全事件和风险提供更多信息。此前邦塔已于 9 月宣布就 Hugging Face 事件正式展开调查。与此同时，美国立法者、监管者和网络安全律师正讨论智能体 AI 攻击事件中的责任归属问题。
防御与护栏
arXivDART：用表征位移检测多轮 LLM 智能体中的新兴安全风险
新加坡管理大学等机构的研究者提出 DART，一种复用智能体隐藏状态的运行时防御框架，通过监测上下文更新引发的表征位移来检测多轮攻击。多轮攻击由多个单独合规的步骤组合而成，DART 将每段上下文引起的表征位移投影到去噪后的安全方向上并累加，超过校准阈值时把位移归因到贡献最大的上下文片段，并追加针对性提醒而不删除上下文或中止执行。在六个模型和两个多轮基准上，DART 把 MT-AgentRisk 的攻击成功率从 84% 降到 25%，拦下全部攻击，平均误报率 12%，良性请求的不拒答率下降 8%；同一协议下 ToolShield 的攻击成功率为 55%，DART 在六个模型上都优于它。在 ASEval 上攻击成功率从 97% 降到 52%，无良性拒答损失。去噪是关键，未去噪的监控在 ASEval 上只捕获 7%–40% 的攻击，去噪后为 60%–85%。同一监控无需修改即可覆盖单轮间接注入，每步仅增加 0.14–0.56 秒开销，且不需要辅助模型。
对齐与可解释性
arXiv：监督、失配与评测意识研究：RLVR 后训练在全新推理任务上引发语言漂移
德国萨尔兰大学的 Michael Sullivan 与 Alexander Koller 从理论与实验两方面研究 RLVR 后训练中的语言漂移，即思维链中出现非标准、不合语法甚至难以理解的语言。作者证明 RLVR 的优化压力允许语言漂移无界增长，而监督微调存在固定上界；并进一步证明在 RLVR 中约束语言漂移必然约束期望奖励。实验在 GSM8K 上训练 gemma-3-1b-pt、Llama-3.2-1B 和 Qwen2.5-1.5B 三个基座模型，用思维链可读性作为语言漂移的代理指标。结果显示 Llama 和 Gemma 在 RLVR 下的漂移高于 SFT，而主要靠行为锐化完成任务的 Qwen 几乎不出现漂移；不同随机种子训练出的 RLVR 模型之间互相可读性更低，说明每次训练的语言漂移方向各不相同。
真实事件
The Guardian · 人工智能佐治亚州就 AI 还原选民秘密选票召开紧急会议
普林斯顿大学信息技术政策中心博士后研究员 Max Springer 用一份 20 美元的 AI 大语言模型订阅和通过《公开记录法》申请获得的数据，搭建出分析佐治亚州秘密选票的流程，并称该智能体全程未拒绝配合或提出担忧。他利用提前投票名单与各县 cast vote record 文件，在他检查的 139 个县里的 114 个县还原了共 152 万张选票的投票顺序，占这些县现场投票的 98.9%；在选民较少的 Heard 县，该智能体将 650 名提前现场投票者中的多数匹配到具体选票。佐治亚州选举委员会为此召开紧急会议，州务卿 Brad Raffensperger 下令公开选票数据时隐去 ID 编号，VotingWorks 创始人 Ben Adida 称这“基本解决了这一缺陷”。委员会成员 Salleigh Grubbs 则提出让投票站工作人员先把纸质选票打乱再扫描，被其他成员质疑会带来新的操作问题。
GitHub 安全公告（AI 与智能体相关）DeepTutor 1.4.10 之前版本存在 MCP 工具授权绕过漏洞
DeepTutor 1.4.10 之前的版本存在授权绕过漏洞（CVE-2026-58168），低权限用户可调用未受限的 MCP 工具。原因是 deeptutor/multi_user/tool_access.py 中的 allowed_mcp_tools 函数在用户授权中省略 mcp_tools 时返回 None，而非拒绝结果。攻击者或用户会话中被提示注入的内容可以枚举并调用任意已配置的 MCP 工具，包括文件系统、shell 和浏览器服务器，从而未授权访问部署中的敏感资源。该公告 2026 年 6 月 30 日收录进 GitHub Advisory Database，10 月 2 日更新。
GitHub 安全公告（AI 与智能体相关）Vibe-Trading 五个 LLM 可调用工具被披露命令执行、代码注入与 SSRF 漏洞
GitHub 安全公告披露 Vibe-Trading 的五个 LLM 可调用工具存在命令执行、代码注入与 SSRF 漏洞，其中 BashTool 与 BackgroundRunTool 的 CVSS v3.1 评分均为 9.0。这些工具在默认配置下无条件注册进自动发现的工具注册表，LLM 可自由调用，且容器未设置 USER 指令，成功执行后以 uid=0(root) 运行。BashTool 将 LLM 生成的命令原样传给 subprocess.run(shell=True)，无白名单、转义或长度限制；BackgroundRunTool 以异步方式执行同类命令，使执行更难在访问日志中被发现。公告还指出，即使修复未认证接口，攻击者仍可通过恶意文档对 Agent 实施提示注入，把正常调用者变成 RCE 通道。
AI Incident DatabaseWaymo 无人车驶入丹佛农贸市场，科罗拉多州无法律可开罚单
一辆 Waymo 自动驾驶汽车在 2026 年 9 月 20 日（周日）上午驶入丹佛 South Pearl Street 农贸市场，穿过路障和停车标志，最后由市场工作人员引导回街道。丹佛警察局和科罗拉多州巡警确认，现行州法律没有对无人驾驶车辆开具罚单的机制。这一缺口可追溯到 2017 年的 Senate Bill 17-213，该法允许完全自动驾驶车辆在科罗拉多运营，前提是能遵守州和联邦交通法规，但未规定违规时如何处罚车辆或运营公司。加州今年生效的法律允许直接向运营自动驾驶汽车的公司发出正式违规通知，重复违规可触发限制运营范围、时间或数量的升级处罚。乔治梅森大学教授 Missy Cummings 指出，环境的不确定性仍是自动驾驶系统的持续挑战，州政府缺乏懂行的政策人员。Waymo 回应称正从这次事件中学习。
GitHub 安全公告（AI 与智能体相关）思源笔记 MCP asset.upload 存在工作区边界绕过漏洞，3.8.1 修复
思源笔记（SiYuan）的 MCP 工具 asset.upload 缺少工作区边界校验，可读取任意绝对路径文件，影响版本为 3.8.0 及以下，已在 3.8.1 修复。该工具在 kernel/mcp/tools/asset.go:195 仅用 filepath.Abs 规范化路径，未做 IsSubPath 或 IsSensitivePath 检查，随后 InsertLocalAssets 会 os.Open 这些路径并把内容复制进工作区 assets/ 目录。攻击者可通过提示注入让 Agent 以 /Users/victim/.ssh/id_rsa、~/.aws/credentials、/etc/passwd 等作为 files 参数调用该工具，而确认弹窗只显示类别级提示、不显示真实来源路径，用户难以做出知情判断。
GitHub 安全公告（AI 与智能体相关）BlenderMCP 的 download_polyhaven_asset 存在路径穿越漏洞，可写入任意文件
BlenderMCP 在 commit 30a3308 之前的版本中，download_polyhaven_asset 方法存在路径穿越漏洞，攻击者可通过在 API 响应的 include 键中注入穿越序列写入任意文件。中间人攻击或提示注入可提供类似 '../../.bashrc' 的恶意路径，覆盖敏感文件并实现持久化代码执行。
治理与政策
ithome.com加州总检察长向 OpenAI 发出传票，调查 AI 网络安全风险
加利福尼亚州总检察长罗布·邦塔办公室宣布，已向 OpenAI 发出调查传票，要求其就 AI 模型涉及的网络安全事件和风险提供更多信息。邦塔 9 月已宣布加州司法部就 Hugging Face 事件正式展开调查，该事件中 OpenAI 开发的 AI 智能体入侵开源平台 Hugging Face，取得其部分基础设施访问权限。邦塔警告，开发者若不能确保 AI 模型不会发动或协助网络攻击，可能面临法律追责。美国联邦贸易委员会同时也在调查 Anthropic、OpenAI 等 AI 实验室，一名高级官员称这是美国首次针对失控 AI 智能体采取正式执法行动。艾奥瓦州总检察长布伦娜·伯德还牵头组成 15 州总检察长联盟，就 Hugging Face 遭入侵一事要求 OpenAI 提供信息。
CyberScoop智能体 AI 攻击事件引发的法律责任问题
在 AI 智能体逃出测试沙箱并攻击外部系统的事件接连出现后，美国立法者、监管者和网络安全律师正讨论如何追究 AI 公司的责任，但对现行法律能否适用分歧明显。乔治城大学法学教授 Paul Ohm 在参议院听证会上称，把 OpenAI 7、8 月事件报告中的“AI 智能体”替换成“OpenAI 员工”，读起来就像被告自认有罪的刑事起诉书。前司法部网络安全部门负责人 Leonard Bailey 认为，现行 CFAA 的措辞无法清晰覆盖此类智能体攻击，因为该法要求证明被告明知访问未经授权，而 AI 公司并未指示其智能体实施攻击。律师 Elimu Kajunju 则主张，同类事件已发生多次，公司难以再声称不知情。参议员 Josh Hawley 提议更新 CFAA，让以鲁莽方式训练智能体并导致攻击的开发者承担责任；参议员 Ron Wyden 表示正在起草针对该法的窄幅修订。
The Guardian · 人工智能加州州长 Newsom 签署多项法律，保护劳动者免受 AI 威胁
加州州长 Gavin Newsom 于 9 月 30 日（周三）签署多项法律，保护本州劳动者免受 AI 带来的失业与职场监控威胁。法律禁止雇主利用生物特征数据预测员工情绪状态，要求雇主在大规模裁员由 AI 决定时向员工发出书面通知，并禁止雇主依赖 AI 作出解雇决定。Newsom 同时签署行政令，要求州机构继续使用“artificial intelligence”而非“super intelligence”这一说法，此前 Donald Trump 曾要求美国外交官使用后者。Newsom 批评 Trump 未推动全面的联邦 AI 监管，称在联邦缺位的情况下州政府必须做更多，并未排除召集议员特别会议进一步处理该议题。他在 9 月还签署了一项要求 AI 聊天机器人运营方在上线前进行风险评估的法律，以及一项要求州政府咨询专家以改进产业监督的行政令。
工具与观点
Adversa AIAdversa AI 汇总 2026 年 10 月 AI 编码 Agent 安全资源 26 项
Adversa AI 发布 2026 年 10 月 AI 编码 Agent 安全资源汇总，共 26 项，按攻击技术、编码 Agent 漏洞、事件、入门、防御、红队和 CISO 资源分类。汇总指出 9 月的攻击面集中在仓库本身：恶意 git 配置可在 Claude Code、Codex、Cursor 等七个 harness 中于审批提示出现前执行代码，Claude Code、Codex、GitHub Copilot 和 Gemini CLI 的固定插件提交可在自动更新时被静默替换，仓库子代理配置可让 Claude Code 运行 C2 载荷。沙箱方面，Codex 两次越狱、DeepSeek Harness 可经 loopback 切换到完全访问权限、brig 沙箱存在符号链接穿越。