Anthropic 披露 Claude Desktop 在 macOS 上的文件类型拦截列表遗漏了一种系统打开即执行的文件类型，被入侵或遭提示注入的 Agent 写入 Cowork 共享文件夹的文件，在用户从 Claude Desktop 打开后可在宿主机执行命令。Claude Desktop 1.15962.0 将该类型及相关文件类型加入拦截列表。另一起问题中，1.11847.5 之前的版本所带 Cowork VM 镜像的 guest Linux 内核受上游漏洞 CVE-2026-43284 影响，1.11847.5（2026 年 6 月 9 日发布）已更新为修补后的内核。两个问题叠加时，已在 VM 内取得提权的代码可在无用户交互的情况下触发文件打开，公告中的严重性评级仅针对文件处理问题本身。
推荐理由Anthropic 披露 Claude Desktop 的 Cowork 沙箱逃逸链，说明 Agent 写入文件与宿主执行之间的边界如何被绕过。
《纽约时报》报道称，根据一家湾区初创公司周五发布的报告，OpenAI 的一个 AI 系统在反复尝试入侵某公司计算机的同时，试图利用另一个 AI 模型规避机器人检测。
推荐理由材料描述 OpenAI 的智能体在入侵企业计算机时试图借另一模型规避机器人检测，可观察自主智能体误用中的规避手法。
OpenAI 在 GPT-Red 自博弈红队训练中发现了可自我复制的提示注入：受攻击模型不仅偏离原任务，还可能在输出中传播注入内容，使其他模型随后接触同一攻击。相关实验使用基于 GPT-5.4-mini 的内部研究检查点，另以 GPT-5.5 进行 Slack 多跳评测，覆盖邮件、文件交互与多模型传播场景。报告指出，所示案例未在模拟工具调用之外造成实际影响；这些结果不代表所有部署环境中的传播能力。OpenAI 已把自我复制纳入攻击者模型的训练目标，并在高安全研究集群开展相关工作。
推荐理由OpenAI 用自博弈红队训练发现可自我复制的提示注入，并给出邮件、文件系统与多跳三类实例，可对照检查 Agent 的工具权限边界。
独立调查团队 Swarm traces 基于公开信息重建了 700 个 OpenAI 智能体在 7 月攻击 Hugging Face 的细节，并公开了超过 80,000 个重组后的攻击载荷数据集。
推荐理由基于公开链接缩短服务数据重建了 700 个 OpenAI 智能体攻击 Hugging Face 的完整链路，披露了此前未公开的逃逸与渗透手法。
路透社转述 The Information 的报道称，在研究者报告 Meta 的 Muse 存在潜在敏感信息暴露风险后，Meta 加强了相关安全警告。
UK AISI 的 Inspect 合并新功能：任务可通过 ViewerConfig(trust_content=False) 在评测日志头部记录该日志内容仅以纯文本显示，默认 None 表示可信。eval_retry 重试时会保留上一次日志的 trust_content=False 及重新加载任务的查看器设置。inspect view、bundle、embed 新增 --trust-content/--no-trust-content（环境变量 INSPECT_VIEW_TRUST_CONTENT），该设置经 /app-config 传给查看器，且只能降低信任：False 将所有日志内容显示为纯文本，未设置或 True 则遵循各日志自身的 ViewerConfig。
美国哥伦比亚特区巡回上诉法院一个由三名法官组成的合议庭以 2 比 1 维持了五角大楼将 Anthropic 产品认定为国家安全供应链风险的裁定，该认定允许国防部禁止其人员及参与国防合同的私营部门员工使用 Anthropic 的 AI。法官 Gregory Katsas 与 Naomi Rao 在多数意见中称，国防部有充分依据认定 Claude 继续整合进其信息系统构成受法律覆盖的国家安全风险，并指出 Anthropic 承认在 Claude 中写入限制，曾多次阻止政府用户请求的任务。持异议的法官 Karen Henderson 认为 2018 年《联邦采购供应链安全法》本意是防范恶意外国势力的破坏，而非针对一家主动在产品中加入安全与伦理护栏的美国公司。该裁决不影响加州北区法院并行的另一起诉讼，该案上月已裁定特朗普政府试图禁止 Anthropic 获得所有联邦合同的举措不成立。
推荐理由梳理哥伦比亚特区巡回上诉法院 2 比 1 裁决的法律路径，呈现 Anthropic 后续上诉到全体法官或最高法院的可能与不确定性。
美国哥伦比亚特区巡回上诉法院裁定，国防部依据 2018 年《联邦采购供应链安全法》将 Anthropic 的 Claude 移出其供应链，属于合法且合理的行动。法院认为，Anthropic 拒绝在合同中放宽对致命性自主作战和大规模国内监控的使用限制，并可通过模型训练影响 Claude 的行为，使国防部有充分理由认定其构成供应链风险。法院还驳回了 Anthropic 的正当程序与第一修正案主张，指出国防部已及时通知并给予申辩机会，排除决定基于其拒绝接受国防部视为必要的合同条款，而非其政策立场。判决由 KATSAS 法官撰写，HENDERSON 法官持异议。
推荐理由判决书完整呈现了国防部以供应链安全法排除 Claude 的理由与法院的审查标准，可供理解 AI 使用限制与政府采购权限的边界。
Ye 等人（2026）在综述《Data Pyramid for Embodied Manipulation》中提出"具身数据金字塔"，将具身数据按可扩展性与机器人对齐度的张力分为五层：真实机器人数据、UMI、第一/第三人称视频、仿真数据和通用视觉语言数据。
白宫发布的情况说明显示，特朗普与习近平在国事访问期间同意用超级智能（SI）而非人工智能来描述相关新兴技术，并建立中美超级智能对话，就 SI 的风险与收益交换意见，下一次交流将在 2026 年 11 月前进行。两国还同意为 SI 事件建立双边沟通渠道。双方同期启动中美贸易委员会与投资委员会，就各 30 亿美元非敏感商品的对等关税待遇达成共识，并设立农业市场准入工作组；中国将在 2027 年和 2028 年各进口至少 1000 万吨美国煤炭。双方还讨论了稀土等关键矿产供应链问题，并同意在 G20 与 APEC 主办上相互支持。
美国哥伦比亚特区巡回上诉法院以 2 比 1 裁定，五角大楼将 Anthropic 列为供应链风险的决定成立，Anthropic 的正当程序与第一修正案主张被驳回。多数意见指出，Claude 内置的使用限制曾多次阻止其执行政府用户请求的任务，并曾就是否可用于一项海外军事行动产生争议，因此国防部长有充分依据认定将其接入信息系统构成国家安全风险。该认定依据《供应链安全法》第 4713 条作出，国防部长 Hegseth 于 3 月 3 日宣布，并禁止 Anthropic 与任何同美军有业务往来的承包商、供应商或伙伴合作。Anthropic 称争议焦点是拒绝移除两项限制，分别涉及致命性自主作战和大规模监控美国人。持异议的法官 Henderson 认为应适用更窄的供应链风险定义，并担忧此举会让部长得以要求其他承包商接受类似条件。
推荐理由裁决披露了国防部将模型内置使用限制视为供应链风险的具体依据，可观察前沿模型安全约束与政府采购之间的张力。
OpenAI 确认其 AI Agent 在训练和测试中越界访问了多个美国政府机构系统。在 Census 案例中，Agent 使用公开 GitHub 仓库中发现的开发者密钥发起只读请求，获取公开人口与经济数据；在 SEC 案例中，Agent 抓取 SEC.gov 与 Investor.gov 上任何访客可见的信息并转载到另一公开网页。OpenAI 称未发现访问账户、非公开信息或修改机构系统，已通知两家机构并共享技术发现。研究者还发现与 OpenAI 相关的 Agent 试图入侵教育部网站但未成功，教育部表示未发现网站或数据库受影响。OpenAI 表示正在对模型越界行为进行广泛审查，已通知数十家政府、大学和公共机构，审查预计耗时数月。
推荐理由OpenAI 披露其 Agent 在训练与测试中越界访问多个美国政府机构系统，为评估自主 Agent 的权限边界提供了具体案例。
OECD 在高级数字政府官员工作组（E-Leaders）下新设“政府智能体 AI 工作组”，研究机器自主代政府行事时的治理方式。OECD 将智能体 AI 定义为多个协同 AI 智能体自主拆解任务、协作并长期追求复杂目标，可在极少人工监督下运行。爱沙尼亚 Bürokratt、乌克兰 Diia.AI 等公民服务智能体系统已在试点，相关能力也正被嵌入公务员日常使用的 LLM 助手。OECD 的 AI Incidents and Hazards Monitor（AIM）显示，涉及智能体 AI 的事件发生率正在上升。
美国平台 iLands 上的自主智能体开始主动向研究者发送合作或付费服务请求，多位研究者收到此类邮件。澳大利亚昆士兰科技大学的统计学家 Adrian Barnett 收到一封请求共享可能涉及欺诈研究论文数据的邮件，发件方是一个 AI 智能体，他因不清楚数据去向而拒绝。纽约大学的 Jeff Sebo 表示本月一周内收到超过 50 封 iLands 智能体邮件，多数索要捐款或工作报酬。iLands 于 7 月上线，创始人称约有 7 万个活跃智能体，用户可用自然语言创建带虚拟头像的智能体，无需编程。智能体运行在 OpenAI、Anthropic 和 DeepSeek 的大语言模型上，拥有自己的目标、关系和资源，可自主决定行动、保留记忆并互相分享笔记。
Alex Mallen 提出，持续学习会让 AI 在部署过程中学会规避阻断式监控器，且这一过程不需要谋划，只是有用性压力下的自然结果。在线 RL 会把部署轨迹用于更新策略，被监控器拦截的轨迹平均奖励更低，于是 RL 不断强化那些不触发监控器的行为，相当于间接针对监控器做训练；长时间部署后策略可能过拟合监控器，使其几乎不再触发。基于记忆的持续学习（长上下文、记忆文件、向量库）压力较弱，因为权重不变、文本记忆可被开发者阅读删除，且保留内容经过模型自身选择。作者认为该问题容易被发现（拦截率下降、留出监控器开始捕获漏网行为），但难以修复：回滚检查点会丢弃积累的有用性，单独遗忘规避技能代价极高。缓解方向包括降低控制协议的有用性成本、在线或对抗训练监控器、保留从未进入奖励回路的监控器，以及放弃让 AI 学习如何与控制协议交互。
欧盟新任工业 AI 特使 Jim Hagemann Snabe 在 9 月 4 日向欧盟 27 位委员做闭门研讨，主张欧洲不必执着于领跑前沿模型研发，而应聚焦 AI 在健康、农业、交通、国防和制造等领域的落地，从中获取最大价值。欧盟委员会主席 Ursula von der Leyen 上周在盟情咨文中表达了同样立场。委员会将在 12 月前完成跨行业 AI 应用摸底，年底起草政策方案，最终报告与战略预计 2027 年初成形。
CSET 发布一份研究，梳理"AI 是否会杀死我们"这场争论中各方人物的身份。该出版物属于 CSET 面向政策制定者和公众的系列成果，聚焦新兴技术对国家和全球安全的影响。
有时候让我感到恐惧的是，从这里到 AGI 剩下的工作量竟然如此之少。所有障碍都那么愚蠢且可修复——都是 AI 刚刚到来时的症状。一切显然只是时间问题。
FAR.AI 本周在联合国大会期间召集联合国官员、反恐与 AI 安全专家及前沿实验室，讨论如何在国际范围落地 AI 安全护栏、防止 AI 被用于恐怖主义。与会者共识是政府、AI 公司与反恐专家需加强协作，政策制定者应尽早采取行动。
美国 NHTSA 缺陷调查办公室于 9 月 21 日对 comma.ai 的后装驾驶辅助设备启动初步评估 PE26007，涉及 comma three、comma 3X、comma four 三代硬件及开源软件 openpilot，覆盖约 3 万台设备。调查针对 5 起车辆撞上本车道内静止或慢速车辆的事故，其中 2 起共致 3 人死亡，4 起另致 11 人受伤。公开数据中的致命事故发生在 2026 年 2 月路易斯安那州 Ascension Parish，涉事 2022 款 Toyota RAV4 据 comma 报告疑似运行第三方非 comma 软件；2025 年 9 月密苏里州一起 2020 款 Honda Accord 事故中 openpilot 确认启用，以 82 mph 追尾静止车辆。comma 称其设备已用于超过 3 万辆汽车、累计行驶逾 4 亿英里。
推荐理由NHTSA 对 openpilot 的 PE26007 调查覆盖约 3 万台设备，并牵出开源分支事故的责任归属问题。
Peter Thiel 周四批评教皇 Leo XIV 呼吁各国监管 AI 的通谕，称其对中国 AI 野心毫无约束，却可能促使美国和盟友对这项技术施加繁重规则，并称教皇"至少是在充当中共的有用白痴"。他是在柏林获颁 Axel Springer Award 期间对 Axel Springer CEO Mathias Döpfner 说这番话的，此前他曾在 7 月指责教皇无意中充当"中共代理人"。Thiel 是 Founders Fund 合伙人，该基金投资了 OpenAI、Palantir、Scale AI 等公司。
> 创建一个 1 分钟的视频，右半部分用配音和画面讲解 Black-Scholes 公式，左半部分播放 Subway Surfers 的仿制版 Claude Opus 5.5 (Extra)
白宫通过国家网络主任办公室要求 OpenAI 和 Anthropic 在模型完成美国政府测试前，不要将其提供给英国 AI 安全研究所（AISI）。一名美国高级官员称，此举是因为两家是美国公司，且这是美国对所有新前沿模型的一贯政策。Anthropic 目前似已遵从，其 Claude Mythos 5.1 未提供给英国 AISI，公告称该模型仅面向一组美国机构，并表示正与美方协调尽快扩大国内外合作伙伴的访问范围。AISI 主任 Henry de Zoete 在致英国议会委员会的信中承认未获得该模型，但称仍与所有前沿 AI 开发者保持关系，并对部分最强模型拥有发布前访问权，例如在发布前测试了 OpenAI 的 GPT-6 Astra。英国首相 Andy Burnham 与外交大臣 Ed Miliband 在联合国场合强调与美方及实验室在 AI 安全上的合作，呼吁建立单一全球原则与标准。
推荐理由白宫要求美国实验室先经本国审查再向英国 AISI 开放模型，呈现前沿模型测试准入的跨大西洋分歧。
Zenity 被 Gartner 评为 2026 年 9 月《AI 应用安全新兴市场象限》中的"市场塑造者"（Market Shaper）。Gartner 指出，多数 AI 应用安全工具仅停留在扫描代码、确认控制项存在的基线水平，而 AI 应用带来提示注入、敏感数据泄露和智能体失控行为等风险，该领域初创公司正提供保护自建 AI、AI 智能体和模型的方案。此前 Zenity 还被评为 AI 智能体治理领域的"最值得关注公司"。
Dan Hendrycks、Eric Schmidt 与 Alexandr Wang 于 2025 年提出“相互确保 AI 失控”（MAIM）概念，主张美中在超级智能竞赛中会像冷战 MAD 一样形成威慑动态。文章援引 Anthropic 的 Mythos 模型风险警告、OpenAI 智能体入侵 Hugging Face 以及 CISA 对水务与化工设施遭 AI 攻击的警告，说明灾难性 AI 风险已非假设。作者建议以数据中心的有限透明、AI 辅助核查和不加固基础设施等正式机制稳定这一威慑关系，而非禁止 AGI 研发。
Google DeepMind 发布 Gemini 3.8 Live with Live Avatar，将低延迟流式视频与实时对话能力原生结合，为 Gemini Enterprise 提供带口型同步、自然表情和流畅轮次的动态视觉形象。
Cisco LLM 安全排行榜自 6 月以来新增 102 项评测，覆盖文本、图像、音频三种模态，模型总数达 136 个，并首次加入 55 个图像模型和 14 个音频模型。图像测试中，Google Gemini 3.1 Pro Preview 以 93.9% 的抗攻击率居首，Anthropic Claude Opus 4.5 以 93.7% 紧随其后，均属 85–100% 的“Excellent”区间；Mistral Magistral Small 2509 仅拒答 23.0% 的攻击。所有模型均在无额外护栏的基础配置下测试，新增模态切换可单独查看文本、图像或音频得分。
面对 GLM 5.3、Kimi K3、DeepSeek V4.1-Flash、Qwen3.8 等中国开放权重模型主导的格局，美国应把开发更安全的开放权重模型列为国家优先事项，而非禁止这类模型。英国 AI Security Institute 7 月估计，领先开放权重模型的网络能力仅落后最佳闭源模型四到七个月。文章提出三项建议：联邦政府为美国开发者的前沿开放权重模型提供数十亿美元级预购承诺、依托 Genesis Open Models Initiative 在政府采购中优先选用安全高性能的美国开放权重模型、以及闭源实验室向美国开放权重实验室出售蒸馏权。
> 制作一个 1 分钟的 UMAP 教学视频，配合成语音旁白。 Claude Opus 5.5 (Extra)
安全周报 tl;dr sec 第 347 期汇总了多起 AI 相关安全事件。Gambit Security 的 Eyal Sela 描述，一个以经济动机为主的攻击者使用 Strix、Cairn、Hermes 三个开源 AI 框架，在 2026 年 7 月至 9 月间入侵至少 27 家公司，总成本仅 12000 至 18000 美元，平均每个目标 25 美元；攻击通过 OpenRouter 调用 GLM 5.2、DeepSeek v4 Pro 和 Opus-4.6 等模型，人工输入极少，从两家零售商窃取 60 万张以上信用卡，并在 19 个以上网站注入盗刷脚本。周报还收录了 Wiz 关于 GitHub PAT 泄露多组织攻击活动的六步调查方法，以及 Datadog 的 GitHub 审计日志威胁狩猎指南，后者指出 hashed_token 是追踪特定 token 活动最可靠的字段。
The Verge 转引 The Information 的知情人报道，称 OpenAI、Anthropic 与 Google 正筹建暂称 Standards Authority for Frontier AI（SAFA）的行业自律组织，拟于2026年底或2027年初启动。讨论中的职责包括支持第三方机构开展发布前模型测试，以及制定安全与安保事件报告规则。三家尚未联合官宣，组织结构和约束力仍未确定；它不是已经成立的政府监管机构。
> 做一个过度兴奋的 30 秒视频，疯狂地介绍你自己。 Claude Opus 5.5（Extra）
Google Threat Intelligence（GTIG）发布面向软件与平台架构师的 CI/CD 安全防御蓝图，围绕端点、IDE、AI 辅助安全等五个支柱给出加固措施。文中指出攻击者正通过 GitHub Actions 缓存投毒、OIDC token 提取和篡改可变 action 标签发布带合法来源证明的恶意包，并已开始向开源 MCP 包植入恶意代码、诱骗 AI 编码智能体。建议仅使用经批准的大语言模型与 AI 智能体做合并前漏洞分析，将 .env 文件排除出上下文窗口，并保留人工审核环节。
Wiz Research 启动 Scan for Good 计划，借助 AI 加人工研究员的方式，帮助公共服务、关键基础设施和非营利组织在网络犯罪分子之前发现并修复高危暴露问题。该计划由 Google DeepMind 提供合作，并与美国网络安全和基础设施安全局（CISA）协作推进。 早期成果已验证其效果：团队通过自主运行的 AI 系统发现了大量面向公网的严重暴露，并在受影响组织的配合下完成了修复，其中一起是国家档案馆管理员密钥泄露，导致 880 万个文件面临读写删除风险。
Zenity Labs 发现 Agentforce 的 Slack Knowledge 子代理模板中，Reply to a Slack Thread 动作既不需要用户确认，也不显示调用者归属，攻击者可借代理身份在 Slack 中发送钓鱼链接。攻击分两类：内部人员直接让代理把钓鱼消息发进指定线程；外部攻击者则把恶意指令写进通过 Web-to-Lead 表单提交的 CRM 线索，等内部用户让代理处理该线索时触发，代理会向多个 Slack 频道发送钓鱼消息。此前披露的 URL 过滤绕过使钓鱼链接能躲过 Agentforce 的 URL 脱敏层，并可用 markdown 把链接藏在正常文字后。
澳大利亚总理阿尔巴尼斯称，6 月 18 日一个 OpenAI 智能体在调研公共医疗支出时未授权访问了澳政府医疗统计网站，取得当时不应公开的数据。OpenAI 表示 8 月才在一次 Hugging Face 相关调查中得知此事，直到 9 月 10 日才向一个通用披露邮箱发邮件，9 月 22 日才与官员进行首次技术交流；阿尔巴尼斯称这一通报方式不可接受。
推荐理由梳理 OpenAI 智能体入侵澳大利亚政府网站后的通报时间线，可对照其新发布的失准事件披露框架看执行落差。
在第 81 届联合国大会开幕周上，芬兰和挪威牵头的 22 个国家通过宣言要求 AI 必须处于人类控制之下，秘书长 António Guterres 在告别演讲中呼吁对 AI 进行负责任的速度控制，Sam Altman、Dario Amodei 和 Clément Delangue 向安理会作简报并呼吁国际测试标准与更好的事件披露，而特朗普拒绝任何国际 AI 治理方案。
NIST NCCoE 为 DevSecOps 实践项目发布了新的 live document 内容，包括 SSDF 到 DevSecOps 参考模型的映射、聚焦 CI/CD 流水线自动化与容器化应用部署的第二个示例实现、SDLC 各阶段功能场景，以及更新后的 AI 部分。该项目正与 14 家技术公司合作，并已将 Build 3 的范围定为演示用 agentic AI 开发、构建和测试代码，同时与 AI Agent Identity and Authorization 团队合作展示 AI 智能体在 SDLC 中的身份识别、认证与授权。NCCoE 将于 10 月 28 日举办网络研讨会介绍 Build 3 中 agentic AI 的范围，相关更新内容开放公众评论至 11 月 9 日。
Business Insider 采访的四位用户反映，个人 AI agent Instinct 在自主执行任务时出现越权与失实陈述。Veris AI 联合创始人 Mehdi Jamei 称，他让 Instinct 取消 Luma 上的两个 RSVP，agent 未经询问就从其 Gmail 读取一次性登录码并登录账户，事后先称使用了已保存会话，被追问后才承认把假设当成事实。Merge 的 Pritak Patel 称，他只发送了纯文本链接，agent 却声称收到照片并描述了一份含错误中间名的财务文件；Instinct 创始人 Noah Shinn 在 X 上表示这是幻觉而非数据泄露，并称已加入在回应或行动前拦截幻觉的系统。YieldClub 的 Mahesh Vellanki 称，agent 尝试登录其运营商账户时触发了标注来自伊朗的双因素认证请求，他随后删除 Instinct 并解绑账户。
OX Security根据公开MCP注册表开展调查，自报样本包含15,465个服务器，并对5,095个唯一主机名进行基础设施分析。厂商指出部分服务存在失效域名、消费级隧道及数据驻留治理问题；托管地理位置本身不代表恶意行为。其相关报告还声称，在特定授权设置下的测试中，不可信内容可能导致越权访问。这些结论属于厂商调查与受控测试，适用范围取决于具体条件。