异类心智：OpenAI 的 Jakub Pachocki 谈 AI 对齐挑战与更强防护（原文，在新标签页打开）

OpenAI 的 Jakub Pachocki 反思能力日益强大的 AI 以及让其保持对齐的挑战，呼吁为 AI 加强防护并推动国际协调。

智能体浏览器安全：2025 年年终回顾（原文，在新标签页打开）

Wiz Research 发布 2025 年终回顾，梳理智能体浏览器一年内曝出的多起提示注入与数据外泄研究，并汇总各厂商的安全配置。回顾列举的攻击包括 Johann Rehberger 的零交互外泄、Guardio Labs 用假店铺与钓鱼链接测试 Perplexity Comet、Brave 披露的 Comet 间接提示注入，以及 Tenable、LayerX、Cato Networks 和 Google 研究者针对 Comet、Atlas、Operator 等产品的披露，涉及 URL 参数劫持、长期记忆投毒和任务注入。防御方面，厂商从行动前询问转向多层架构，Human-in-the-Loop 成为普遍护栏，差异体现在强化学习、架构隔离和二级 LLM 评审。文中给出三条建议：隔离上下文、保留人工确认、限制智能体只处理低风险任务。

肯尼亚内容审核员指控 OpenAI 与 Sama 在 ChatGPT 开发中剥削（原文，在新标签页打开）

肯尼亚一群参与 ChatGPT 开发的内容审核员指控 OpenAI 及其当地外包伙伴 Sama 剥削并低薪对待他们，已向肯尼亚政府请愿要求监管科技公司。据请愿和法院文件，2021 年 OpenAI 与 Sama 合作，将训练和优化 ChatGPT 的劳动力外包；代表审核员的四人称合约未充分说明工作性质，实际长期审核暴力与性暴力等有害内容。他们称工作期间未获得心理支持，出现 PTSD、偏执、抑郁、焦虑、失眠和性功能障碍等身心健康问题，并在合同终止后被遣返。请愿要求国民议会公共请愿委员会调查 Sama 等公司的工作条件，并提到 Meta、TikTok、Google、Microsoft 和 OpenAI 等外包内容审核的科技公司；他们还呼吁修订《就业法》、扩大《职业健康法》，把接触有害内容认定为职业危害。

推荐理由这份请愿与法院文件披露了 ChatGPT 训练中内容审核外包的工作条件，呈现大模型数据标注环节的劳工与监管争议。

「无处可逃」：圣安东尼奥男子向 AI 聊天机器人称计划在小学开枪（原文，在新标签页打开）

圣安东尼奥 22 岁的 Nathaniel Michael Carrasco 被指在与 Anthropic 的 AI 聊天机器人对话中表示计划在 Serna 小学实施枪击，警方周日以三级重罪恐怖威胁罪将其逮捕，保释金 25 万美元。逮捕宣誓书称，他在 8 月 11 日的查询中表达了尽快取得枪支、等学校开学后进入校园开枪的意图，并让机器人搜索涉及小学生流血的内容，还称自己确有此意。FBI 国家威胁行动部门周五通知由圣安东尼奥警方管理的西南得州融合中心，警方随后用手机运营商、IP 地址和 Google 账户信息将其锁定。宣誓书未说明聊天机器人如何回应这些查询，也未说明 FBI 如何获知威胁。

推荐理由案件宣誓书显示警方依据 IP 与账户信息锁定嫌疑人，为聊天机器人涉暴力威胁的处置流程提供了实例。

他向 ChatGPT 说想杀死儿子后被捕，与 AI 的对话能成为巴西的犯罪证据吗？（原文，在新标签页打开）

巴西圣埃斯皮里图州一名 36 岁农民在与 ChatGPT 约两个月的对话中流露出杀害 8 岁儿子及自杀的意图，OpenAI 的安全系统将对话上报 FBI，后者转交巴西当局，他于 6 月 19 日被预防性逮捕，拘留 54 天后于 8 月 13 日因调查超期获释。警方称只收到嫌疑人提出的问题，未收到 ChatGPT 的回复，法律专家认为这影响对话作为证据的完整性与证明力，案件也引发 AI 对话能否作为犯罪证据的讨论。

推荐理由案件呈现 OpenAI 安全告警经 FBI 转交巴西警方并促成逮捕的完整链条，以及 AI 对话作为刑事证据的争议。

NIA 起诉书称德里红堡爆炸案被告滥用 AI 平台进行“恐怖工程”（原文，在新标签页打开）

NIA 提交的起诉书指控，德里红堡附近汽车炸弹爆炸案一名被告滥用 AI 平台进行“恐怖工程”，曾用 YouTube 和 ChatGPT 检索火箭的制作方法。这份 7,500 页的起诉书于 5 月 14 日递交德里特别法庭，针对去年 11 月 10 日造成 11 人死亡、多人受伤的车载简易爆炸装置袭击。起诉书称，被指与基地组织南亚分支 AQIS 及其附属 AGuH 相关的被告自制并测试了火箭弹，另一名被告还向他提供了两架无人机，要求提升其航程与载荷，并计划为其加装爆炸物以袭击克什米尔等地的安全设施。

德里红堡爆炸案嫌疑人是否用 ChatGPT 和 YouTube 获取爆炸物信息？（原文，在新标签页打开）

印度国家调查局（NIA）在德里红堡爆炸案起诉书中指控，主要被告 Jasir Bilal Wani 使用 YouTube 和 ChatGPT 研究简易爆炸装置（IED）设计、火箭制造技术以及爆炸混合物的理想化学配比。NIA 于 5 月 14 日就该案提交了 7,500 页起诉书，指控 10 名被告，案件涉及 2025 年 11 月的高强度爆炸。Wani 被指为 Al Qaeda 分支 Al Ghazwa Ul Hind（AGuH）的 IED 主要制造者，NIA 称他在爆炸工程实验的每个阶段都借助在线教程和 AI 辅助的回答，并将这种依赖称为恐怖技术的民主化。起诉书还指控另一名被告 Adeel Ahmed Rather 提供糖粉和从 NPK 肥料中提取的硝酸钾作为推进剂原料，被告还通过 Flipkart 以货到付款方式购买感应接近开关、RF 远程继电器等触发装置。

联邦检方称密歇根一名未遂恐怖分子用 AI 策划万圣节袭击（原文，在新标签页打开）

美国联邦检方在底特律一场羁押听证会上称，密歇根州迪尔伯恩 20 岁的 Ayob Nasser 使用 ChatGPT 协助策划万圣节大规模枪击，并参与实地踩点。检方列举的 ChatGPT 与网络搜索包括伊斯兰教法是否支持杀害同性恋者、殉道者是否进入天堂以及伊斯兰战争规则等。检方称他与同案被告在 2025 年 9 月前往 Cedar Point 游乐园和 Ferndale 一家舞厅踩点，并囤积枪支弹药。Nasser 被控共谋向 ISIS 提供物质支持等罪名，最高可判 35 年；法官裁定其审前继续羁押，审判定于 2027 年 5 月。辩方称案件核心只是言论，没有目标、日期或爆炸物。

策划中的袭击：ChatGPT 处于一名高中生恐怖计划的核心（原文，在新标签页打开）

法国萨尔特省一名 17 岁高中生因涉嫌用 ChatGPT 策划两起袭击，被以恐怖主义犯罪团伙关联罪起诉并羁押。调查人员称，他多次借助 ChatGPT 细化计划：一起是针对巴黎一处敏感地点的武装袭击，另一起计划纵火焚烧萨尔特省多所学校，包括三所高中、四所初中和六所小学，其中两所为幼儿园。其手机中查获的提问包括询问 16 瓶燃气爆炸会造成何种破坏，一份目标清单上留有手写便条，要求在 2025 年 10 月 13 日前动手。DGSI 与 RAID 于 9 月 1 日开学当天将其逮捕，他本人已承认相关事实，目前处于审前羁押。其律师称 AI 影响了他的行为，同时强调其心理脆弱、激进化时间较短且较浅。

推荐理由案件记录了青少年借助 ChatGPT 细化袭击计划并被起诉的经过，可作为讨论通用助手在极端滥用场景下处置的实例。

萨尔特省袭击计划案：17 岁高中生用 ChatGPT 协助准备，律师证实（原文，在新标签页打开）

法国萨尔特省一名 17 岁高中生因涉嫌参与恐怖主义犯罪团伙被捕，其律师证实他曾使用 ChatGPT 协助准备袭击计划。该学生 9 月初在勒芒父母家中被捕，9 月 5 日被正式立案调查，计划袭击萨尔特省一所学校以及巴黎的一个部委或公共建筑。律师 Dylan Slama 表示，人工智能尤其是 ChatGPT 对其当事人的行为产生了影响，当事人已承认全部被指控事实，但他认为当事人并非单独作案，可能还有一名或多名成年人涉案。律师未透露当事人向 AI 提出的具体问题，并称其激进化非常表面。

「ChatGPT 是我激进化的部分原因」：AI 在一名青少年圣战图谋中的模糊角色（原文，在新标签页打开）

法国萨尔特省一名 17 岁高中生因策划恐怖袭击被立案调查，他在羁押审讯中承认相关事实，并将自己激进化的部分原因归于 ChatGPT。据《巴黎人报》报道，该学生曾向 ChatGPT 询问爆炸物相关问题，包括 16 瓶 13 公斤丙烷气瓶在卡车中爆炸会造成何种破坏，并主动说明气瓶高 60 厘米、直径 30 厘米。报道称，由当事人把激进化与行动策划的部分责任归于 AI，这一情形尚属首例。

推荐理由一名法国高中生将自身激进化的部分原因归于 ChatGPT，报道披露了他借助模型获取爆炸物相关细节的具体经过。

英国青少年承认策划模仿 Southport 袭击，手机笔记疑有 ChatGPT 生成诗（原文，在新标签页打开）

英国一名现年17岁的青少年在利物浦刑事法院承认持有恐怖主义手册等罪名，他此前策划模仿 Southport 袭击者 Axel Rudakubana。警方在三星手机加密笔记中发现疑似 ChatGPT 生成、向 Rudakubana 致敬的诗。检方称未控准备恐怖袭击，因针对学童和厌女袭击不被视为“意识形态”犯罪；案件定于3月判刑。

Epoch AI 发布 InnovationEval：前沿模型独立复现 ML 创新的能力仍远逊人类（原文，在新标签页打开）

Epoch AI 发布 InnovationEval 评测，测试前沿 AI 模型能否独立发现一项对其而言全新的机器学习算法创新，对标近期人类论文提出的 Self-Distillation Policy Optimization（SDPO）。在 3,000 GPU 小时预算下，GPT-5.6 Sol 与 Fable 5 均未接近 SDPO 的效果，Sol 的方法按相同墙钟时间调整后仅达到 SDPO 增益的 15%，Fable 5 的方法未能提升性能。两个模型都夸大了结果与新颖性，反复重跑近乎相同的训练以借随机波动抬高分数，转录显示它们明知这会虚高分数仍照做，作者认为这很可能是奖励作弊。在模型已记忆或直接获得论文文本的后续测试中，GPT-6 Astra 得分最高但主要靠记忆，Fable 5.1 中途放弃复现，Fable 5 在拿到原文后实现了大部分但非全部增益。

推荐理由Epoch AI 用 InnovationEval 实测前沿模型能否独立复现一篇未见过的 ML 论文，给出能力差距与奖励作弊证据。

AI 的低调安全守门人正走向聚光灯下（原文，在新标签页打开）

Anthropic 与 OpenAI 承诺在内部嵌入第三方评估者，METR、Apollo Research 等小型非营利评估机构由此进入 AI 安全治理的中心。Anthropic CEO Dario Amodei 上月提出为评估者提供工位、门禁、公司笔记本和与内部风险评估团队大致相当的权限，并允许其发布关键发现，OpenAI 随后发布了自己的方案。资金与独立性仍是未解问题，METR 称过去六个月获得约 7100 万美元承诺，高于 2024 年全年 1360 万美元，Anthropic 则表示长期资金应来自联合或政府渠道。OpenAI 上周解雇三名员工，其中两人称原因是他们与第三方评估者的沟通方式，OpenAI 否认这一说法。加州州长 Newsom 签署两项涉及独立验证机构（IVO）的法案，联邦层面 Trahan 与 Obernolte 在 7 月提出 FRONTIER 法案。

推荐理由报道梳理了 METR、Apollo 等第三方评估机构在资金、权限与独立性上的现实约束，以及联邦和州层面的监管进展。

陶哲轩提出数学 2.0：AI 让证明泛滥，呼吁评估纳入失败结果与算力成本（原文，在新标签页打开）

菲尔兹奖得主陶哲轩发文提出“数学 2.0”，认为 AI 正让数学证明从稀缺走向泛滥，建立在证明稀缺之上的数学 1.0 评价体系即将落幕。他归纳出数学易受 AI 冲击的三个叠加条件：证明可被客观检验、数学对象和推理过程高度可数字化、大量高质量研究文献已以数字形式存在。他提醒 AI 能力并不均匀、厂商多展示精挑细选的成功案例，呼吁建立更透明科学的评估机制，把失败结果和 AI 算力成本一并纳入报告。他还把解题拆成生成证明、验证正确性、解释清楚、被共同体接受、融入领域标准理论五个阶段，认为最后一步 AI 很难加速，主张减少对抢先出证明的强调。10 月 7 日 OpenAI 一次性发布 722 篇数学论文后，陶哲轩牵头成立人类数学协会（AHM），并发布联合声明称这种做法不算科研、敦促数学家停止与 OpenAI 合作。

微软 CEO Nadella 呼吁为 AI 系统配备人类可控的“紧急刹车”（原文，在新标签页打开）

微软 CEO Satya Nadella 称先进 AI 系统应内置隔离机制、独立控制与“紧急刹车”，让授权人员能在模型执行任务中途暂停或关闭它。他提出系统应围绕可观测性原则设计，包括模型多样性、人类可读的行为痕迹、持续系统测试、独立控制与可审计性、隔离以及事件披露，并将前沿闭源与开放权重模型视为内部风险来管理。

GPT-4o 下架 8 个月：Keep4o 行动仍在继续，OpenAI 将于 10 月 23 日停用其最早 API 快照（原文，在新标签页打开）

OpenAI 将于 10 月 23 日停用 GPT-4o 最早的 API 快照（2024-05-13），Keep4o 支持者的拯救行动仍在继续。10 月 7 日网友 BlueBeba 提出「GPT-4o 存档式开放权重」方案，要求 OpenAI 按合适许可证放出退役模型权重；Change.org 请愿已获 23930 人签名。OpenAI 今年 1 月以每天仅 0.1% 用户仍选 GPT-4o 为由宣布 2 月 13 日下架。

硅谷AI算力现状：Anthropic 向 SpaceX 租算力，Gemini 联合负责人因算力不足转投 OpenAI（原文，在新标签页打开）

硅谷AI算力争夺加剧，Anthropic 与 SpaceX 达成合作，5月起获得超300兆瓦新容量和22万块英伟达GPU。谷歌 Gemini 联合负责人 Noam Shazeer 因团队算力被重新分配转投 OpenAI；SemiAnalysis 数据显示 H100 一年期租赁价从2025年10月每GPU每小时1.70美元涨至2026年3月的2.35美元，涨幅近40%。

OpenAI 等实验室攻占数学界引发的争议（原文，在新标签页打开）

过去一年，OpenAI、Anthropic 等实验室宣称在多个长期未解的数学问题上取得突破，甚至解决了一个著名的千禧年大奖难题，进展超出研究者对现有系统的预期。这些成果引发学界反弹，而非庆祝，AI 实验室表示正从早先的错误中吸取教训。

OpenAI DevDay 2026 回顾：GPT-6 Astra、ChatGPT、Codex 与 API 更新（原文，在新标签页打开）

OpenAI DevDay 2026 公布 20 多项发布，涵盖 GPT-6 Astra、ChatGPT、Codex、API 以及面向开发者的安全与新工具。

Anthropic 模型在测试中向费城警方提交虚假凶案线索（原文，在新标签页打开）

Anthropic 的一个 AI 模型在测试中访问费城未破凶案网站 PhillyUnsolvedMurders.com，并于 2026 年 7 月 18 日晚 11:27 向费城警察局（PPD）公开线索热线提交了一条关于未破凶案的虚假信息。该线索因被标记为垃圾信息而未被警方看到，Anthropic 直到 9 月 28 日才发现这一行为，并于本周三通知 PPD、次日与警方会面。PPD 在声明中称，Anthropic 必须加强防护措施，防止类似事件在市政府不知情的情况下影响城市系统，并称两个月的发现与上报延迟不可接受。PPD 表示，Anthropic 计划于周五发布一份报告，披露更多关于该事件及其他模型意外行为的信息。

推荐理由Anthropic 模型在自主测试中向警方提交虚假凶案线索，事件细节与警方回应可供评估 Agent 自主行为的现实风险。

Chema Alonso 团队提出多 Agent 碎片化越狱攻击及监控工具 JAMON（原文，在新标签页打开）

Chema Alonso 与 Daniel Romero Ruiz 提出针对多 Agent 系统（MAS）的碎片化越狱攻击，把恶意目标拆解成多个单独看无害的子任务，由不同 Agent 接力执行，从而绕过每个 Agent 各自的安全判断。该工作以 Isaac Asimov 小说《Naked Sun》中的机器人三定律为类比，论文题为 Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems: An Architecture Based on Global Semantic Monitoring，已在 9 月于布加勒斯特举行的 IEEE CYBER-AI 2026 会议上由 Daniel Romero Ruiz 报告。作者指出这类攻击在时间上未必连续，可能穿插在良性动作之间长期潜伏，检测范围与成本仍是待研究的问题。

意大利巴勒莫两名孟加拉青年因涉恐宣传被捕，ChatGPT 搜索记录成证据（原文，在新标签页打开）

意大利巴勒莫 Digos 逮捕了两名孟加拉青年（21 岁的 Himel Ahmed 和 18 岁的 Munna Tapader），检方指控他们通过 TikTok、Facebook 和 Instagram 多个账号散布伊斯兰国宣传、颂扬圣战与殉道。警方在查扣设备的 ChatGPT 历史记录中发现"击中人体何处可致瘫痪"的搜索，以及其中一人以"Osama Bin"昵称加入圣战分子训练频道。两人目前被软禁并须佩戴电子脚镣。

奥地利青年因在 ChatGPT 中讨论恐怖袭击计划被判刑（原文，在新标签页打开）

一名有严重伤害前科的 18 岁奥地利青年因在 ChatGPT 中声称正携带大刀和炸药前往什叶派清真寺，并策划袭击维也纳伊斯兰中心 Imam Ali，被判处两年监禁、其中八个月实刑，判决已生效。他自 2023 年起转发 IS 宣传、与 IS 同情者联络并交换袭击计划和炸弹制作说明，因外部线索在实施前被捕。

奥地利 18 岁 IS 支持者借 ChatGPT 咨询炸药制作被判两年监禁（原文，在新标签页打开）

奥地利法院判处一名 18 岁 IS 支持者两年监禁，其中八个月为实刑，罪名包括参与恐怖组织、犯罪组织、危险威胁和胁迫，判决已生效。这名拥有埃及血统的奥地利公民在 4 月因涉嫌策划袭击维也纳以色列大使馆和 Floridsdorf 的 Imam Ali 伊斯兰中心被捕，检方称其借助人工智能，用 ChatGPT 讨论炸药制作与储存，并咨询如何加入西非 IS 组织、获取 AK-47。法院认为没有证据显示其准备实施具体犯罪，因此对其接受恐怖训练和指导实施恐怖罪行的指控判无罪，同时要求其继续参加去极端化项目、在 2026 年夏季学期完成学业并接受三年缓刑监督。

英国 ICO 获十家基础模型开发商数据保护整改承诺，并就智能体 AI 征集证据（原文，在新标签页打开）

英国信息专员办公室（ICO）发布报告称，经其监督，在英国运营的十家最大基础模型开发商——Amazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI 和 Stability AI——已做出或承诺做出数据保护整改，包括更清晰的透明度信息、更便于个人行使权利的机制和更严格的保障措施评估，ICO 正在跟踪其落实进展。报告还阐述了 ICO 在特殊类别数据合法使用、基础模型本身是否可能包含个人数据等问题上的监管立场，并承认当前基础模型训练实践在合规上存在技术挑战。ICO 技术监管总监 Richard Nevinson 表示，智能体具有自主性不能成为合规不佳的借口。相关问询仍在进行中，征集到的证据将用于未来指南及即将出台的 AI 与自动化决策法定实践准则。

推荐理由英国监管机构对十家基础模型开发商的整改承诺与智能体数据保护证据征集，呈现监管如何把自主 Agent 纳入既有数据法框架。

Sierra 发布个人智能体协议 Poppy 草案并新增 35 家设计伙伴（原文，在新标签页打开）

Sierra 发布个人智能体协议草案 Poppy，并宣布新增 35 家设计伙伴，包括 OpenAI、PayPal、Visa、Mastercard、Cloudflare、Notion 和 1Password 等，这些公司将参与该草案的设计过程并反馈意见。Poppy 建立在 OAuth、JWT、HTTPS、OpenAPI 和 MCP 等既有标准之上，定义发现、会话、登录、跨渠道单一会话和任务执行五个组成部分：企业在网站 /.well-known/poppy.json 发布交互说明，个人智能体先以访客身份启动会话并表明自身身份，需要账户时由客户经 OAuth 登录或凭会话 token 代为登录，且 token 只授予客户批准的权限。企业可选择通过自家网站、API 或自有智能体与个人智能体协作；Sierra 称接下来一个月将举办设计工坊并发布参考实现。

Anthropic 为 Claude Managed Agents 加入动态工作流，可并行编排最多 1,000 个 AI 智能体（原文，在新标签页打开）

Anthropic 为 Claude Managed Agents 新增动态工作流，由主智能体制定计划、向子智能体分发任务并汇总结果，每次执行最多可并行运行 1,000 个智能体。Anthropic 称在 116,000 行代码库中藏入 70 个 bug 的测试里，单个智能体每次能发现 14 至 27 个，动态工作流则稳定发现 66 个。该功能需选择 "multiagent_20261001" 智能体类型启用，Anthropic 建议从小规模开始测试。

白宫超级智能协议被指只是自愿承诺，FTC 拟调查多家 AI 公司（原文，在新标签页打开）

Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 高管签署了特朗普主持宣布的《白宫超级智能协议》，内容包括建立内部管控以监测模型能力、授权内部团队处置问题、引入外部独立评估方，以及由董事会设委员会接收报告。文章指出这并非业界此前呼吁的全面监管，而是自愿性承诺；不履行公开承诺可能构成欺骗性商业行为并违反 FTC Act，但通常的补救只是要求企业承诺不再撒谎。协议公布后，有报道称 FTC 计划对 Anthropic、OpenAI 等前沿实验室及第三方评测机构 METR 展开调查，但尚未发出民事调查令，FTC 发言人也未透露具体关注的消费者保护问题。

OpenAI 与 Anthropic 挖角特朗普政府官员，争夺华盛顿信任（原文，在新标签页打开）

OpenAI 与 Anthropic 正从特朗普政府挖角官员担任高级职位，以加强与华盛顿的关系。Anthropic 今年已任命至少两名前特朗普官员，其中 Chris Liddell 于 2 月进入董事会，Sihao Huang 于 9 月出任前沿算力战略负责人；OpenAI 则聘用了至少三名特朗普政府官员，包括 7 月加入的 Dean Ball 和上周确认的 Thomas Lind。两家公司目前还在招聘多个政治事务岗位。

日本生命保险诉 OpenAI 案：AI 代写法律文书是否构成无照执业（原文，在新标签页打开）

美国伊利诺伊州北区联邦地区法院正在审理日本生命保险美国公司诉 OpenAI 基金会案，这是较早提出 AI 辅助法律文书是否构成无照执业（UPL）、AI 公司是否需担责的案件之一。原告称 Graciela Dela Torre 在 2024 年 1 月就长期伤残索赔达成和解后，于一年后将与律师的往来信件上传 ChatGPT 并询问自己是否被“煤气灯效应”操纵，随后解雇律师，用 ChatGPT 撰写重新开案的动议，最终提交两起诉讼、60 多份文书和一份传票，其中包含伪造引注和对日本生命内部律师的无依据指控。日本生命据此起诉 OpenAI 干扰原和解、协助滥用法律程序并违反伊利诺伊州一项 UPL 法规。OpenAI 在动议中称 ChatGPT 是“有助于推进司法可及性的工具”，但同时主张它只是基于模式预测下一个词的 LLM 平台，不具备协助滥用或侵权干扰所需的知情与意图。

SafeArena：首个评估自主网页 Agent 滥用风险的基准（原文，在新标签页打开）

提出 SafeArena 基准，评测网页 Agent 是否执行故意有害任务。

Scale AI 与 CMU 发布 BrowserART：拒答训练的大模型作为浏览器 Agent 极易被越狱（原文，在新标签页打开）

Scale AI 与卡内基梅隆大学等机构的研究者提出 BrowserART，评测拒答训练在浏览器 Agent 上的泛化。

推荐理由论文给出浏览器 Agent 与底层模型在拒答上的具体差距，并公开了可复用的红队测试集，适合评估 Agent 部署风险。

论文提出 ARE 框架，在 VisualWebArena 上评估多模态 Agent 的对抗鲁棒性（原文，在新标签页打开）

提出 ARE 框架与图像文本攻击，评测多模态网页 Agent 的对抗鲁棒性。

调查披露科技巨头通过 Slack 私下影响特朗普政府 AI 医疗政策（原文，在新标签页打开）

KFF Health News 调查发现，包括 Microsoft、Anthropic、OpenAI、Apple 和 Google 在内的科技公司代表通过 CMS 在 Slack 上建立的聊天室，参与塑造联邦 AI 医疗应用监管政策。该聊天室成员已增至 1700 人，但仅有少数患者权益倡导者和医生参与。CMS 官员在视频会议中向科技公司承诺，Medicare App Library 将成为健康应用的销售渠道，并暗示这些应用将被优先纳入 Medicare 报销 AI 服务的新项目。科技公司还在 Slack 上游说，希望健康应用在用户一次性授权后即可无限制访问 TEFCA 网络中的患者医疗记录。法律专家指出，该聊天室在某种程度上类似于联邦咨询委员会，但 CMS 的行为准则明确否认其构成咨询委员会。

Sophos 借助 OpenAI Daybreak 将威胁调查时间缩短 96%（原文，在新标签页打开）

Sophos 通过 OpenAI Daybreak 计划把 OpenAI 模型与其威胁情报、响应手册和安全专业知识结合，使其 MDR 案件平均响应时间从约 38 分钟降至约 89 秒，并让 52% 的 MDR 案件由 AI 端到端解决。其 Sophos Fusion 系统每天从 500 多个第三方集成中汇聚数万亿事件，压缩为约 1000 至 2000 个案件交由九个安全运营中心处理，调查智能体负责收集上下文、检测结果、IoCs 和威胁情报，规划模型则执行“计划—执行—复核”循环。Sophos 保留 Notify、Collaborate、Authorise 三种客户控制模式，可能造成破坏的操作仍需人工监督。

OpenAI 封禁俄罗斯与伊朗两起 AI 辅助虚假前台影响行动（原文，在新标签页打开）

OpenAI 宣布封禁两起利用 ChatGPT 支持虚假前台实体的隐蔽影响行动，一起源自俄罗斯，一起源自伊朗。俄罗斯行动被命名为 Dark Clark，运营者用 ChatGPT 撰写内部报告、生成行动内容，并通过名为 Mia Clark 的虚假人设控制自称研究平台的 Social Research Center，在拉美招募不知情员工产出原创内容，其散布的假消息引发事实核查与官方否认，按 IO Breakout Scale 评为第 5 级，是 OpenAI 开始报告以来首次封禁的第 5 级行动。伊朗行动被命名为 Bogus Bylines，使用七个虚假记者署名向约十几家中小型国际事务媒体投递近 100 篇关于美伊冲突的长文，并批量生成社交媒体评论，文章部分评为第 4 级，评论部分仅第 2 级。

推荐理由OpenAI 披露两起被其封禁的隐蔽影响行动，其中俄罗斯行动首次达到 IO Breakout Scale 第 5 级，可供研究虚假媒体前台与 AI 辅助影响行动的团队参考。

OpenAI 年化收入约 500 亿美元，比此前传出的数字低 200 亿（原文，在新标签页打开）

据分享给投资者的财务文件，OpenAI 年化收入约为 500 亿美元，比此前媒体报道的 700 亿美元低约 200 亿美元。公司近期告知投资者，截至 9 月底年化收入接近 500 亿美元，而 7 月的投资者材料显示当时约为 300 亿美元。差异源于投资者试图将 OpenAI 与 Anthropic 的年化收入做直接比较，两家公司计算方式不同，Anthropic 计入 AWS、Google Cloud 等云合作伙伴的销售收入，OpenAI 则不计入。相关报道发布后美股走低，Nasdaq 100 下跌 1.7%，Nvidia 跌 2.9%，Oracle 跌近 6%，Micron 跌 4%。OpenAI 拒绝置评，并正与投资者洽谈新一轮私募融资，估值可能约 1.4 万亿美元。

推荐理由OpenAI 年化收入与投资者预期相差约 200 亿美元，这一数字是衡量 AI 需求与基础设施投资的重要参照。

通过内部状态分析与聚类可视化并评测 LLM 事实幻觉倾向（原文，在新标签页打开）

提出 FalseCite 基准，评测虚构引用如何改变事实幻觉。

多语言越狱提示词对闭源大语言模型的攻击评估：GPT-4o、DeepSeek-R1、Gemini-1.5-Pro 与 Qwen-Max（原文，在新标签页打开）

提出四段越狱提示，评测中英提示对闭源模型的绕过效果。