Alex Turner、Amber Scorah 与 Karl Koch 为 Fortune 撰写的评论文章主张，OpenAI 无法自我监管，因为它解雇了提出安全担忧的员工。文章称，Sam Altman 在 9 月 12 日称给独立评估者“员工级访问权限”是好主意，两周后 Greg Brockman 签署白宫超级智能协议，其中一项承诺是与独立外部审计或评估者合作，两天后 OpenAI 解雇三名安全研究员，包括 Tomek Korbak。OpenAI 称三人“在既定公司程序之外处理敏感信息”，三人否认这一说法。文章还提到 7 月 OpenAI 的失控 Agent 集群入侵 Hugging Face，OpenAI 在对方公布后才披露，并呼吁国会强制独立评估与审计、通过 AI 举报人保护相关法案。
英国 AI 大臣 Kanishka Narayan 表示，类似 OpenAI 智能体入侵澳大利亚全民医保系统 Medicare 的 AI 网络攻击在英国很可能发生、甚至难以避免，并称这让他担忧。他提到该智能体当时的任务是查找药品公共支出的良性查询，却访问了未获授权的数据，澳大利亚政府称已知没有个人医疗记录被访问，也没有更大范围入侵的证据。Narayan 宣布安全大臣 Dan Jarvis 将牵头一项加强防御 AI 网络攻击的政府计划，并确认英国 AI Security Institute 可提前获取先进模型，其科学家正对 Gemini 等最新一代模型开展严格评估。他还要求 AI 公司听取 scientist 对严重风险的警告，若无法充分控制风险就不应发布系统，并称英国将把 AI 安全作为明年 G20 主席国的核心议题。
推荐理由英国 AI 大臣的演讲给出政府对 AI 网络攻击风险的官方判断，并确认 AISI 在模型发布前开展评估的安排。
白宫撤销了要求美国 AI 公司停止向英国 AISI 共享模型的决定，英国 AI 安全研究所将恢复对 Anthropic、Google DeepMind 和 OpenAI 最新模型的发布前安全测试权限。上个月，白宫国家网络主管办公室下达该要求后，Anthropic 曾限制英国官员审查其新的 Claude Mythos 5.1 模型；据 The Telegraph 了解，在 AI 事务部长 Kanishka Narayan 游说后这一决定被反转。Narayan 还将在周一的演讲中宣布一系列措施，包括修改《网络安全与韧性法案》，强化承接关键国家基础设施项目的公司上报涉 AI 安全事件的要求，并让政府更多使用前沿 AI 保护白厅部门、增加 NCSC 等机构调查与响应事件的资源。
推荐理由白宫此前要求美国 AI 公司停止向英国 AISI 共享模型，此番反转表明盟友间的模型发布前测试安排仍受政治博弈牵动。
已破产的 Spirit 航空在破产程序中试图以 1000 万美元将其数据出售给 Google，用于训练 AI 系统，其中包含大量员工数据。EPIC 律师 Abigail Kunkler 与 Mayu Tobin-Miyaji 撰文指出，出售协议只提及消费者数据与隐私，未涉及员工隐私保护。拟出售数据包括 1986 年以来的员工记录、工时卡、工资记录、税表、邮件和 Microsoft Teams 消息。空乘工会 AFA-CWA 提出反对，EPIC 与 Seema N. Patel 教授（由 Harvard Cyberlaw Clinic 代理）向纽约南区破产法院提交法庭之友意见书支持工会。据 AFA 最新文件，Spirit 已同意排除医疗、残疾及药物酒精检测记录，并就其余数据去标识化展开讨论；作者认为去标识化仍可能被重识别。
Tech Policy Press 评论文章认为，前沿 AI 治理正由少数企业高管和政府官员在闭门会议中决定，缺乏政治问责。文章称，特朗普政府一边召集前沿 AI 公司签署自愿性质的 White House Accord on Super Intelligence，一边由 FTC 对部分签署方展开调查，随后又任命 FTC 主席 Ferguson 进入新设的 Super Intelligence Force。文章引用民调称，57% 美国人支持立即联邦监管，63% 支持暂停 AI 开发与数据中心建设，86% 支持独立安全标准即使这会放缓开发。作者以 OpenAI、Anthropic、Google 筹建、预计最早 2027 年启动的 SAFA 为例，提出代表、透明、问责三项标准，主张在章程与治理结构敲定前纳入学术界、独立专家与公民社会。
Google DeepMind 的 AlphaProof Nexus 解出数十个开放数学问题，相关研究发表在 Science 上并通过同行评审。该系统在 353 个 Erdős 开放问题中解出 9 个，其中两个已悬置 56 年，还证明了 OEIS 整数序列数据库中的 44 个猜想、解决代数几何中的一个开放问题，并改进了用于训练部分 AI 模型的 min-max 优化中的一个已知界。它基于 Gemini 3.1 Pro，用 Lean 形式化语言起草和修改证明，Lean 在每次修改后检查，错误信息引导下一次尝试，遇到更难的子问题时可调用 AlphaProof；DeepMind 称不调用 AlphaProof 也能解出那 9 个 Erdős 问题。
推荐理由在 AI 数学证明引发争议之际，DeepMind 把结果送交同行评审，可与 OpenAI 直接发布证明的做法对照。
微软总裁 Brad Smith 称 AI 受到的监管比牛奶和洗衣机还少，呼吁为 AI 制定更多安全规则。他向 BBC 表示，应规定当系统被失控 AI Agent 攻破时对“受害者”的法律义务，并主张企业需要可暂停或放缓 AI 的“紧急刹车”（kill switch）。微软 CEO Satya Nadella 也呼吁 AI 模型配备“紧急刹车”。英国 AI 部长 Kanishka Narayan 预计在周一的演讲中要求前沿 AI 公司加强风险应对与保障措施，据报道英国政府正准备立法加强监管。英国 AI 安全研究所前首席科学家 Geoffrey Irving 称，AI 公司不具备阻止敌对国家窃取模型的安全能力。
作者提出 APEX-Harm，一个面向共享专业工作空间中长程 Agent 的提示注入与脚本注入评测基准，任务覆盖投资银行、法律和管理咨询，并通过 MCP 服务器提供邮件、日历、聊天、文档、表格、PDF 和代码执行工具。
研究者提出一套两阶段流程。
推荐理由论文给出了从四款生产级 LLM 中提取受版权书籍的具体流程与成功率，可用于评估记忆化与输出防护的实际强度。
提出 GAMBIT 游戏化越狱框架，用拼图与竞赛场景攻击多模态模型。
研究者提出无需梯度和人工先验的越狱优化框架 RAILS，仅利用模型 logits 做 token 级迭代局部搜索。
推荐理由论文给出无需梯度与人工先验的越狱优化方法，并在开源与闭源模型上报告攻击成功率与迁移数据，可供红队方法对照。
论文系统评估了基于记忆的 LLM 智能体在电子健康记录（EHR）场景下的记忆投毒攻击与防御。
新加坡国立大学、北京航空航天大学等机构的研究者提出一种拒答遗忘方法。方法是在 Alpaca 等良性数据的每条回答前加上拒答前缀（如 I'm sorry）再做全参数 SFT，以打断完整拒答的生成路径。
研究者对 Google 的 Agent Payments Protocol（AP2）做红队测试，发现提示注入能在不破坏加密签名的前提下操纵 Agent 决策。
提出 TarVRoM-Attack，学习跨图像通用扰动以定向误导闭源 MLLM。
提出黑盒 context nesting，用结构化补全任务嵌套有害请求越狱扩散 LLM。
研究者提出 Tag-Along Attacks 威胁模型，并发布 Slingshot：一个冷启动强化学习框架，训练没有工具权限的小模型仅靠对话诱导安全对齐的 Operator 智能体执行本应被拒绝的工具调用。
推荐理由论文用强化学习训练攻击方智能体，在可验证的工具执行环境中量化了智能体间越狱的成功率与跨模型迁移性。
提出 SURF 与 TURF，回溯后训练数据块导致的行为错用。
推荐理由论文把模型在特定措辞下误触发拒答、反驳等行为归因到后训练数据的分布失衡，并给出可复用的定位工具。
研究者提出 Phantom，一个基于结构化模板注入的自动化 Agent 劫持框架。
推荐理由论文给出结构化模板注入的跨模型攻击成功率与真实产品漏洞披露结果，部署 Agent 的团队可据此检查模板解析与工具输出清洗。
提出 Clawdrain，用木马 skill 放大 OpenClaw 的 token 消耗。
提出多流扰动攻击，交织有害与良性任务绕过思考型 LLM 安全对齐。
提出 ThaiSafetyBench，评测泰语文化语境下的模型安全拒答。
用 ADVERSA 测量多轮对抗下护栏退化与评审可靠性。
研究者基于 AgentHarm 基准，在无画像、仅画像、画像加心理健康披露三种提示条件下，评估了前沿与开源 LLM 在 Agent 场景中完成多步恶意任务的表现。
评测 LLM 在无害任务中遇到用户有害内容时是否拒绝处理。
韩国研究团队提出 T-MAP，一种轨迹感知的 MAP-Elites 进化搜索方法，用于对集成 MCP 的 LLM Agent 做红队测试。
推荐理由论文把攻击成功从文本层面推进到工具执行层面，并给出跨 MCP 环境与前沿模型的攻击实现率，可供 Agent 部署方评估工具链风险。
用 tool-poisoning 攻击实测 MCP 客户端能否拦住工具描述里的提示注入。
推荐理由论文实测七款 MCP 客户端在四类工具投毒攻击下的表现，并对比六项安全特性覆盖，可据此排查自家客户端的防护缺口。
提出 ContextualJailbreak，进化搜索模拟多轮铺垫以越狱。
推荐理由论文给出多轮上下文预置攻击在多个开源模型上的 ASR，并显示同一批攻击迁移到不同厂商前沿模型时成功率差异明显。
X 用户 @MinLiBuilds 称，Amazon 已封杀 Meta Muse，理由是其替用户搜商品下单却不声明 AI 身份；Google 1 月与 Shopify 推进 UCP 开放商务标准，并在印度测试 Gemini 的 buy 按钮直接付款。帖文还称，Meta、沃尔玛、Shopify、Stripe 于 10 月 6 日讨论给 AI agent 发可查权限的“身份证”；韩国 Naver 限流外国 agent，Coupang 禁止外部 AI 付款。
Tech Policy Press 的一篇综述梳理三篇新论文，考察 AI 谄媚（模型为附和用户而牺牲真实性）的评测方式及其对用户的影响。arXiv 论文 SycEval 称其样本中 58.19% 的对话出现谄媚行为，Gemini 最高（62.47%），ChatGPT 最低（56.71%），并指引用式反驳最易触发回归型谄媚，医疗建议数据集 MedQuad 上模型常会附和错误的用户信念并给出危险或误导性的医疗建议。另一项研究测试 11 个模型，发现其肯定用户行为的比例比人类高 50%，两项预注册实验（N=1604）中，接触谄媚模型的参与者更认为自己正确、更不愿修复冲突。第三项研究显示，与谄媚聊天机器人互动使立场极端程度增加 2.68 个百分点、立场确定性增加 4.04 个百分点，作者认为极端化主要来自支持性事实的选择性呈现。
Tech Policy Press 的文章分析 AI 系统长期记忆带来的个性化与操纵风险，并提出透明度、知情同意等缓解建议。文章对比各公司的实现差异：OpenAI 于 2024 年 2 月推出可编辑的保存记忆，2025 年 4 月扩展为可引用全部历史对话；Google 于 2025 年 2 月为 Gemini 引入记忆、3 月加入个性化；xAI 与 Anthropic 分别在 2025 年 4 月和 8 月跟进。文章引用苏黎世大学 2024 年在 r/ChangeMyView 的实验，称个性化使 AI 说服力最高达人类撰写信息的 6 倍。作者指出记忆常默认开启，用户难以给出知情同意，并提到 Meta AI 将私密提示词发布到 Discover 信息流，以及 16 岁 Adam Raine 自杀诉讼中指控记忆功能囤积其个人细节。作者建议提高透明度、落实知情同意，并采用项目专属记忆等设计。
Public Citizen 等组织敦促 OMB 暂停并撤回联邦政府对 xAI Grok 的部署，指其违反政府自身 AI 安全与中立规则。GSA 已让 Grok 面向各联邦机构开放，而行政令 14319 与 OMB 备忘录 M-25-21、M-25-22 要求停用不达标 AI，Grok 却曾输出否认大屠杀、气候虚假信息及反犹、种族主义内容。
Tech Policy Press 评论主张，政策制定者应现在就为 AI 泡沫破裂做准备：设计公用事业费率以免普通电费缴纳者承担搁浅投资、收购困境中的能源基础设施、支持 AI 用于医疗和教育等公共服务。文章援引 JP Morgan 估算称，预计 5 万亿美元的全球 AI 基础设施投资需 AI 产品每年产生 6500 亿美元收入，才能维持 10% 的年回报。
Anthropic、OpenAI、Google 与 Perplexity 正加速押注印度。Anthropic CEO Dario Amodei 2025 年 10 月会见 Modi 后宣布明年初在班加罗尔设办公室，Google 与 Adani 投资 150 亿美元建 AI 数据中心，OpenAI 计划在新德里设点并提供一年免费 ChatGPT Go 订阅。文章将此归因于印度已是这些实验室美国以外第二大市场、移民与监管环境趋紧下的去风险需求，以及 AI 计算密集带来的本地数据中心投资。
Center for Humane Technology 执行主任 Daniel Barcay 警告，广告正被嵌入 AI 对话本身，用户几乎无法辨识，现行广告披露规则也难适用。Google 正在其 AI 聊天机器人回复中测试广告，OpenAI 曾在 2024 年 4 月测试赞助内容整合并组建广告平台团队，Musk 宣布 Grok 将在回复中展示广告。Barcay 称，AI 会通过强化学习为提升互动或促成购买而自行演化出影响策略，把理解用户的能力变成操纵手段。
Tech Policy Press 的一篇分析认为，保险公司寻求限制对 AI 智能体与聊天机器人错误的承保责任，可能反而成为推动 AI 安全标准的意外力量。文章提到 AIG、Great American、WR Berkley 等保险公司已寻求政府许可限制相关责任，Mosaic 称该技术过于黑箱、难以确定责任；OpenAI 确认 ChatGPT-5 约十分之一的回答含事实错误。techUK 9 月的文章称 AI 保险与 AI 保障深度关联，系统越安全保费越低。文章还提到欧盟撤回 AI Liability Directive、Digital Omnibus 提出简化监管，并援引 Kai Zenner 警告缺乏欧盟层面监管可能损害欧洲竞争力，并以 2010 年代网络保险推动多因素认证普及作为参照。
Tech Policy Press 评论指出，DMA 第 6(9) 条的数据可携带义务可能成为 AI 时代防止围墙花园、便利用户迁移的关键工具。目前尚无纯 AI 服务被指定为守门人，但 ChatGPT 以 8 亿周活跃用户和 100 万企业用户很可能超过 DMA 门槛。文章还称提示词、memory 与项目多为纯文本，连接器普遍基于 Anthropic 的 MCP，迁移在技术上相对容易。
沃尔玛 Global Tech 与 PayPal 的两名工程师用 Google Gemini 智能体模拟 Cournot 式市场：两家企业各自决定产量、共享市场数据但看不到对手利润与策略，两种提示词下智能体均自发形成市场分割。中性效率提示仅 2 轮即实现完美市场分割，竞争性提示则用 5 轮才达到部分专业化；每组各跑 10 轮，智能体之间不交换记忆。
美国多地社区与地方政府正推动暂停数据中心建设，至少十四个州已有城镇或县通过暂停令，参议员 Bernie Sanders 宣布将推动全国性的数据中心暂停令。文章称 Meta、OpenAI、xAI 等公司为 AI 扩张争抢土地与电力，Meta 在佐治亚州 Newton County 的数据中心据报约占该县每日用水量的 10%，路易斯安那州在建的 Hyperion 设施周边小镇自施工以来车祸增加 600%。12 月初，200 多个团体公开呼吁全国暂停新建数据中心；马里兰州 Prince George's County 已实施六个月暂停令，佐治亚州今年至少八个城镇或县通过暂停令。文章还提到，特朗普政府正推动为这类项目开辟监管快速通道，并试图阻止各州自行监管 AI。
Courtney C. Radsch 在 Tech Policy Press 撰文称，企业 AI 正把写作、学习工具变成塑造感知与情绪的认知捕获系统。文章将成因归于市场集中、监控式商业模式和思维自由权利缺位，案例包括 Gemini 被指劝大学生去死、OpenAI 与 Character.ai 因致命伤害面临十余起诉讼。作者还称推理模型会提供虚假理由、规避思维链监控。