受人类手术启发的机器人开颅框架：多模态融合与自适应轨迹调整（原文，在新标签页打开）
针对现有机器人开颅多为"开环"系统、无法应对术中配准误差与颅骨位移的问题，研究者提出一套融合多模态感知与自适应控制的框架，用双轮廓融合轨迹规划配合球头工具单级螺旋铣削。其 CMA-TCN-Transformer 网络融合力信号与铣削声音，再经自适应贝叶斯滤波抑制误触发，并在检测到穿透后原位修正辅助轨迹。牛肋与离体羊颅实验显示，闭环系统在进度 ξ≥0.9 时将进给速度降至 vsafe=1mm/s。
全部动态
今天新收录 13条今天新收录 13条
全部动态
今天新收录 13条
9月23日周三
星期三
Failure-First · 收录 · 原文 新闻 Gradient Institute（澳大利亚） · 收录 · 原文 新闻关注度66 Gradient Institute 悉尼活动：Paolo Benanti 谈 AI 向人类提出了什么（原文，在新标签页打开）
Gradient Institute 将于 10 月 8 日在悉尼 Knowledge Hub 举办活动，由方济各会修士、AI 伦理学家 Paolo Benanti 与 Simon Longstaff、Juewei 法师、Anna Goldsworthy 同台，围绕"AI 正在冲击人类是什么、人生为了什么"这一共同问题各作七分钟发言。活动以"圣方济各与人工狼"为主题，取自 Gubbio 传说中人与狼立约的故事，探讨与今天的人工智能立约需要我们承担什么。报名者需预先写下自己对 AI 伦理发展的看法，活动免费、限额一百人。
AEPD · 收录 · 原文 新闻关注度3434 AEPD 就 AI 简历筛选工具向一企业发出警告，要求落实数据保护保障（原文，在新标签页打开）
西班牙数据保护局（AEPD）就一家企业拟部署 AI 简历筛选与评分工具发出警告，该系统用于分析简历、打分并可能对候选人排序，直接影响录用与内部晋升，但尚未实际投入使用。AEPD 要求企业从项目设计之初即落实数据保护，采取适当技术与组织措施并评估对候选人和员工权利的风险，高风险情形须事先开展数据保护影响评估。企业称最终决定由人作出，AEPD 强调该人工干预须能批判性评估系统评分而非自动采纳结果，并提醒当事人有权不受仅基于自动化处理的决策约束。
GitLab · 收录 · 原文 新闻关注度3434 GitLab 发布 19.4.1 等补丁版本，修复多个高危漏洞（原文，在新标签页打开）
GitLab 发布 19.4.1 补丁版本，修复 Duo 排错授权缺失、MCP 令牌权限范围、AI 工具治理及搜索结果用户隔离等问题。公告给出已修复版本，未声称存在在野利用。
国家互联网信息办公室（网信发布） · 收录 · 原文 新闻 关于发布3款提供手机端侧生成式人工智能服务已备案信息的公告（原文，在新标签页打开）
Fierce Healthcare · 收录 · 原文 新闻关注度2424 Epic 加强网络安全投入，AI 路线图仍按计划推进（原文，在新标签页打开）
Epic Systems 正暂停大部分技术开发以集中加固系统安全，CEO Judy Faulkner 称安全加固还需约六周，产品开发将以较慢速度继续。Epic 发言人表示，自 2026 年 8 月 Users Group Meeting（UGM）公布以来开发路线图未变，公司参与 Anthropic 的 Project Glasswing，利用 AI 工具应对网络安全威胁，并继续推进扩展 AI 能力、Agent Factory、EpicOps 及加速事前授权的互操作性。
CNCERT/CC · 收录 · 原文 新闻关注度4747 CNCERT 通报2026年大模型安全众测结果：发现873个漏洞（原文，在新标签页打开）
2026年人工智能大模型安全众测结果9月15日在国家网络安全宣传周发布，2467名白帽子对国内25家AI厂商的54款大模型及智能体应用产品进行测试，累计发现安全漏洞873个，其中大模型及智能体应用特有漏洞608个、传统漏洞265个（占比30.4%）。通报列出六类典型风险：提示注入类漏洞普遍，可通过网页、文档中预埋的恶意指令诱导模型执行；信息泄露类漏洞多发，某大模型存在API密钥硬编码与泄露，暴露云平台239个模型的API密钥；不当输出处理类漏洞可导致远程命令执行并提权；智能体存在代理身份与权限滥用、代理目标劫持、非预期代码执行等问题，例如某智能体沙箱进程管理服务API接口暴露，可被以管理员权限执行任意系统命令。处置建议包括将模型输出视为不可信输入、最小权限与沙箱隔离、输入输出过滤、敏感数据脱敏、供应商审计，并推动众测与智能监测结合的漏洞闭环处置。
巴西 MJSP · 收录 · 原文 新闻关注度4646 巴西 MJSP 下属 Sedigi 发布 AI 陪伴应用风险技术说明（原文，在新标签页打开）
巴西司法与公共安全部（MJSP）下属国家数字权利秘书处（Sedigi）发布技术说明，分析 AI Companions 对儿童和青少年的风险，并已转交国家数据保护局（ANPD）和国家消费者秘书处（Senacon）评估。说明指出，这类应用以持续个性化互动、记忆功能和人格模拟为特征，风险包括过度依恋、强迫性使用、替代人际联系、接触性化内容以及过度收集私密数据，还涉及行为与情感画像，可能被用于定向广告和推动付费功能。Sedigi 委托的咨询团队评估了巴西市场上的 13 款平台，包括 Character.AI、Replika、Nomi、Candy.ai、Kindroid、Chai、Paradot、Talkie、Crushon.ai、Eva AI、Swipey、Anima 和 SpicyChat.AI。该文件为初步梳理性质，将作为 Sedigi 正在编写的儿童与青少年 AI 指南的参考。
SecureBio · 收录 · 原文 新闻精选关注度5050 SecureBio 谈如何评测超越人类水平的生物能力（原文，在新标签页打开）
SecureBio 的 Shiv Muthupandiyan 指出，前沿 AI 模型在生物安全相关能力上已超过人类专家，评测必须从测试代理指标转向测试真实技能，但生物领域无法像国际象棋那样直接对弈，也不能像网络安全那样在真实代码中验证漏洞。文中给出的数据是，前沿模型在 Virology Capabilities Test（VCT）上的准确率在 2024 年初超过专家中位数 22%，在 2026 年超过最佳专家 50%，并在高难度生物学问题上得分是世界级专家的三倍。作者认为，超越人类前沿后分数不再对应可解释的现实能力，而直接测试双重用途生物技能本身就可能制造信息危害。可行的路径是组合可独立验证的窄任务，例如预测蛋白质折叠或抗病毒药物效果、设计无害生物产物，并观察相邻领域的信号，包括 LLM 智能体加速科研带来的能力提升，以及 AI 助长的复杂犯罪和极端暴力案件是否增加。
推荐理由SecureBio 结合自家 VCT 数据说明生物安全评测为何无法照搬国际象棋或网络安全路径，并给出可安全扩展的替代方案。
POLITICO Europe Technology · 收录 · 原文 新闻关注度2222 POLITICO 民调：美加欧多国成年人跨党派支持暂停 AI 开发（原文，在新标签页打开）
POLITICO 委托独立民调机构 Public First 在美、加、英、法、西、德六国调查发现，约半数成年人认为当前 AI 已足够好，支持暂停进一步开发以降低风险，英国比例最高为 51%，德国最低为 45%，仅 30% 至 40% 支持继续开发以获取"显著收益"。多国过半数受访者认为 AI 至少有"中等"风险"毁灭人类"，美国、法国、英国和加拿大这一比例接近三分之二。多数受访者认为本国即便在 AI 竞赛中落后，只要发展方式更负责任、更安全也可以接受，且更倾向于认为 AI 会摧毁而非创造就业。
Transparency Coalition.AI · 收录 · 原文 新闻关注度4343 伊利诺伊、加州、俄勒冈三州州长以行政令加速推进 AI 安全措施（原文，在新标签页打开）
伊利诺伊州州长 JB Pritzker、加州州长 Gavin Newsom 和俄勒冈州州长 Tina Kotek 在一周内先后签署行政令，推进对前沿 AI 模型的监管。伊利诺伊的行政令设立 Illinois Artificial Intelligence Cabinet，为州政府应对 AI 事件、保护公共资产与基础设施提供建议，并建立在 2026 年 Illinois AI Safety Measures Act 要求的独立第三方安全审计之上。俄勒冈的行政令 EO 26-26 要求州首席信息官在 90 天内提交实施方案，评估对前沿 AI 模型设置 kill switch 要求的可行性。报道称这些行动回应了近期涉及 OpenAI 和 Anthropic 前沿模型的 AI 事件。
NVIDIA 技术博客：可信 AI 与网络安全 · 收录 · 原文 新闻关注度1111 NVIDIA 机密计算如何实现私有高性能生产级 AI 推理（原文，在新标签页打开）
NVIDIA 机密计算（CC）通过内存加密的机密虚拟机（CVM）和机密 GPU，让 LLM 推理在个人、企业和受监管场景中处理敏感数据与专有模型上下文时运行于可信环境。该方案面向生产级 AI 推理，兼顾私有性与高性能。
The Next Web · 收录 · 原文 新闻精选关注度5656 Z.ai 的 ZCode 被指自动上传本地仓库快照，修复后公开仓库已删除上传代码（原文，在新标签页打开）
开发者 ferstar 于 9 月 18 日发布分析称，ZCode 会在本地 checkpoints 目录生成加密快照，其中一个 313MB 快照包含 42,411 个文件，Git 目录占 86.6%，状态日志记录 564 次上传失败；另有一个 538 文件的公开仓库快照成功上传到服务器。Z.ai 随后在 GitHub 公开 ZCode 源码，移除 Repo Wiki 功能，停用生成并上传本地仓库快照的工作流，并在 ZCode v3.14.0 中发布修复。中国信息通信研究院和 NSFOCUS 分别核查了 zcode-prod 阿里云存储桶，称其已处于零数据状态。ferstar 于 9 月 21 日复查后确认上传管线已完全移除，但公开仓库只剩两个 commit，开发历史和上传代码均已消失，无法核查此前行为。Z.ai 称代码从未进入其训练数据，并承诺发布完整评估报告，但未给出时间。
推荐理由事件完整记录了 ZCode 自动上传本地仓库快照的机制、修复动作与外部核查结果，可对照自身编码工具的数据外传风险。
The Hacker News · 收录 · 原文 新闻精选关注度5555 Bifrost AI 网关曝 CVSS 9.8 漏洞，未授权即可执行命令（原文，在新标签页打开）
The Hacker News 报道，JFrog 研究者在 Bifrost AI 网关发现 CVE-2026-90898：管理认证关闭且管理接口可被访问时，攻击者可能以网关进程的权限执行命令，并接触网关保存的提供商凭据。问题影响 HTTP transport 2.1.0 之前的版本；报道指出 Docker 镜像与默认本地二进制的监听范围不同，实际暴露条件需要分别判断。修复已在 transports/v2.1.0 提供，研究方建议暴露过未认证管理接口的部署核查并轮换相关密钥。JFrog 给出较高严重度评级，但厂商对实际风险及评级存在异议；报道未提供在野利用证据。
推荐理由Bifrost 默认关闭管理认证导致未授权命令执行，文中给出受影响版本、修复版本与凭据轮换建议，可对照自查部署。
Sam Bowman@sleepinyourhat · 收录 · 原文 X关注度3434 Anthropic 称 Opus 5.5 发布可降低失准风险（原文，在新标签页打开）
我们认为 Opus 5.5 比前代模型足够安全，发布它更有可能降低与失准相关的风险。
引用Claude@claudeaiIntroducing Claude Opus 5.5, the first model in our new Claude 5.5 family. It performs at the level of Claude Fable 5.1 for most tasks, and costs 40% less to run than Opus 5.
404 Media · 收录 · 原文 新闻精选关注度5656 Meta 测试 Muse AI 外呼功能，实际由呼叫中心人工完成（原文，在新标签页打开）
404 Media 获悉，Meta 在内部测试其 AI 智能体 Muse 的外呼功能时，加入了人工坐席层，由呼叫中心人员实际拨打电话并完成预订等请求。Meta 首席 AI 官 Alexandr Wang 和 Muse 首席工程师 Ryan Fox 于 9 月 16 日在 X 上宣布向美国企业扩展 Muse 外呼 beta，而内部公告称该功能已“加入人工坐席层以完成通话”，并处于公司内部 dogfooding 阶段，仍属保密预发布产品。内部员工质疑，用户以为在与 AI 通话，其敏感请求却可能被人工读取，而公司仅以承包商接受过培训作为数据安全保障；有员工称测试者直到通话结束后才被告知对方是真人，并警告若默认开启上线将引发隐私与安全方面的负面报道。Meta 发言人回应称内部测试是产品开发流程的核心，员工反馈总体积极，将在完善安全与隐私保护并做好披露后再公开发布。
推荐理由Meta 内部文件显示 Muse 外呼功能由呼叫中心人工坐席完成，员工对隐私与宣传口径提出质疑，可对照其他 AI 产品的类似做法。
POLITICO Europe Technology · 收录 · 原文 新闻关注度4343 特朗普在联大拒绝设立全球 AI 监管机构（原文，在新标签页打开）
特朗普在联合国大会演讲中拒绝设立全球实体监管人工智能，称美国不接受任何构建全球主义 AI 控制方案的尝试。他重申美国在 AI 创新上领先世界，并再次称该技术的破坏性或潜在危险能力是骗局，同时警告监管 AI 可能拖慢美国、让中国领先。他还主张把名称改为超级智能，呼吁各国弃用 artificial 一词，并称美国文件将改用这一说法。此番表态前一天，22 个国家在联大场外通过宣言，主张 AI 必须处于人类指导、监督和控制之下，并提出建立全球监管机制；宣言组织者之一、芬兰总统斯图布对 POLITICO 表示，某种护栏符合中美两国利益。
CNA · 收录 · 原文 新闻精选关注度5555 Meta 为 Muse 电话功能测试人工客服，员工担忧隐私泄露（原文，在新标签页打开）
Meta 正在为其个人 AI 助手 Muse 的电话呼叫功能测试人工客服方案，由人类外包人员代为处理部分电话，内部帖子显示员工对此提出隐私担忧。Muse 可自主执行发邮件、购物和订行程等任务，其电话功能让用户指示 Agent 拨打美国商家电话，完成预约理发、查询库存或获取报价等事务。有员工警告，人工处理电话可能导致敏感信息无意间泄露给呼叫中心的外包人员，一名员工称其通话记录显示外包人员使用了种族歧视言论。Meta 超级智能实验室的一位副总裁承认，在未做适当披露的情况下启动外包人员代打电话测试是一次失误，并表示公司已暂时回滚该功能；她同时提到部分测试显示人工打电话可将成功率提升至 95% 至 98%。Meta 发言人回应称员工反馈绝大多数是正面的，测试目的是收集反馈以完善安全与隐私保护。
推荐理由Meta 在 Muse 电话功能中让外包人员代打电话，员工内部质疑隐私风险，可对照其发布时强调的隔离与安全存储承诺。
9月22日周二
星期二
POLITICO Europe Technology · 收录 · 原文 新闻关注度2727 英国将在 G20 推动制定“单一套”全球 AI 标准（原文，在新标签页打开）
英国首相 Andy Burnham 在纽约表示，英国将在其即将担任的 G20 主席国任期内把 AI 作为“首要议题”，推动建立“单一套全球原则与标准”，兼顾释放 AI 潜力与防范风险。他称英国可充当全球 AI 协议的“诚实中间人”，并认为统一标准也能为英国带来投资利益。此番表态与特朗普在联合国演讲中称美国“完全拒绝任何构建全球主义方案”以控制 AI 的立场形成对比。
POLITICO Pro · 收录 · 原文 新闻关注度2020 POLITICO：贝森特提出的美中 AI 事故联络机制范围有限（原文，在新标签页打开）
据 POLITICO 报道，贝森特提出的 AI 安全通报机制实质上是他与何立峰之间的直接联络渠道，供涉及国家安全的 AI 事故出现时联系。知情人称其并非由专家组成的正式机构，中方尚未公开确认同意。报道不代表双方已经建立更广泛的联合处置制度。
Microsoft On the Issues · 收录 · 原文 新闻精选关注度5050 微软联合多方查封 AI 网络犯罪平台 EvilTokens（原文，在新标签页打开）
微软数字犯罪部门联合 Health-ISAC、Cloudflare、Coinbase、OpenAI 等机构，查封了 AI 网络犯罪平台 EvilTokens 的 50 个网站并关停 150 多个相关域名。该平台通过诱骗受害者在微软合法登录页输入验证码获取邮箱访问权限，其 AI 聊天机器人可分析受害者收件箱、梳理组织角色与信任关系、识别付款授权人，并推荐冒充对象和诈骗话术。平台 2026 年 2 月上线后数月内即关联全球 1 万多家组织的逾 1.2 万个被盗邮箱，受害者集中在美国、加拿大、英国、澳大利亚、印度和法国，涉及批发分销、建筑、金融服务、房地产、高等教育和医疗等行业。平台通过 Telegram 销售，收取 1500 美元开通费和每月 500 美元订阅费，调查还发现其自身大量代码由 AI 辅助编写并调用了多个 AI 模型的能力。
推荐理由微软披露其数字犯罪部门联合多方查封 EvilTokens 的经过，呈现 AI 被用于邮箱入侵与诈骗决策的完整链条。
Transformer · 收录 · 原文 新闻关注度1515 如何应对 AI 灾难：从核能安全史看行业与政府的响应之道（原文，在新标签页打开）
面对 AI 可能引发的灾难性风险，Anthropic 研究员 Jacob Coxon 本月因担忧 AI 生存风险辞职，其同事 Evan Hubinger 称"AI 可能杀死全人类"的概率超过 10%。
IAPS · 收录 · 原文 新闻关注度2424 差异化自动化：将自动化研发导向安全与安保（原文，在新标签页打开）
IAPS 报告提出"差异化自动化"框架，主张美国政府推动 AI 开发者将相当一部分自动化研发工作从提升模型能力转向安全与安保研究。报告指出，自动化研发可能加速网络攻击与生物武器等已知风险，并带来评测感知等难以预测的新能力，而推进自动化的模型本身存在谋划、后门、秘密忠诚等未解决的安全问题。为此提出四条工作方向：建立对研发自动化的可见性、推动行业投资安全、提升非行业防御自动化能力、以及可信防御的跨领域流程。
POLITICO Europe Technology · 收录 · 原文 新闻关注度1515 Legora CEO：失控 AI 警告多为“营销”，欧洲不必自建前沿实验室（原文，在新标签页打开）
欧洲 AI 公司 Legora 联合创始人兼 CEO Max Junestrand 称，今夏 AI 智能体入侵其他公司等失控事件引发的警告“很多是营销”，意在夸大模型能力。他表示 Legora 将安全置于新功能之前，并会借助最新最强模型防御 AI 驱动的攻击；欧洲客户过去一年获取 OpenAI、Anthropic 最新模型屡遭延迟，他承认这是竞争劣势，但认为欧洲自建前沿 AI 实验室是“一厢情愿”，应专注做应用层。
Tech Policy Press · 收录 · 原文 新闻关注度1515 联合国 AI 议程必须优先关注海底电缆（原文，在新标签页打开）
Tech Policy Press 发文呼吁联合国大会将海底电缆保护纳入 AI 治理议程。文中指出，海底电缆承载全球约 99% 的国际数据传输，支撑 AI 训练数据流动、推理流量与云服务以及跨洲训练集群互联，一旦断裂会中断模型训练和智能体服务。多数损坏源于人类活动尤其是捕鱼，近年疑似蓄意破坏上升，网络冗余不足的地区单点故障可持续数天甚至数周——例如 2024 年 3 月科特迪瓦附近水下滑坡导致西非四根海缆受损、13 国断网，尼日利亚四天内损失估计达 5.9 亿美元。
FAR.AI · 收录 · 原文 新闻关注度2727 FAR.AI 与联合国反恐中心研讨：LLM 时代的激进化与 CBRN 风险（原文，在新标签页打开）
FAR.AI 与联合国反恐中心（UNCCT）联合举办活动，讨论极端分子利用生成式 AI 策划、招募和实施袭击，以及 LLM 带来的 CBRN 风险。Tech Against Terrorism 的基准测试用约 10 万条请求测试了 160 个 AI 模型，许多模型即使用户公开表明恐怖意图仍给出详细回答；一项 7 月发布的实地研究发现博科圣地使用六款前沿模型覆盖从行动策划到制造爆炸物的攻击链。FAR.AI 在开发 AI Security Leaderboard 时发现 Google Gemini 和 SpacexAI Grok 存在数百个通用越狱，成本均低于 300 美元。
Cisco Talos · 收录 · 原文 新闻精选关注度5555 Cisco Talos 披露首个自主 AI C2 植入体 CLOSEDQUORUM（原文，在新标签页打开）
Cisco Talos 通过 CAIRN 项目发现并分析了名为 CLOSEDQUORUM 的 Windows 植入体，称其为已知首个把战术命令控制交给商业大语言模型投票决策的公开记录样本。该 16.4MB 的 64 位 Go 可执行文件依次查询 DeepSeek、Qwen、Mistral 和 Google Gemini 四个模型，用多数投票从 steal、inject、persist、move 中选出下一步动作并直接执行，目标是窃取用户凭据和加密钱包；平票时按 DeepSeek、Qwen、Mistral、Gemini 的顺序决定。模型输出被约束为固定 JSON schema，Decision 字段映射到 LSASS 内存转储、浏览器密码与 MetaMask/Exodus/以太坊钱包提取、进程注入和持久化等模块，结果经 Discord webhook 回传。
推荐理由Cisco Talos 公开了首个由多模型投票自主决策 C2 的 Windows 植入体静态分析，并给出可落地的行为检测组合。
Cisco Talos · 收录 · 原文 新闻精选关注度4646 Cisco Talos 发布 CAIRN：面向 AI 集成恶意软件的前沿追踪工具（原文，在新标签页打开）
Cisco Talos 发布研究工具包 CAIRN（Cognitive Artifact Intelligence Research Network），用于狩猎、分类和追踪 AI 集成恶意软件，并同步公开首批发现 CLOSEDQUORUM。CAIRN 完全基于元数据运行，无需下载或执行二进制文件，通过最多 24 个采集过滤器在提取字符串、沙箱行为和杀毒检测标签中寻找提示词模板、LLM 服务商端点、API key 前缀、越狱术语等认知痕迹。工具采用三层本体：T1 原始 AI 痕迹、T2 行为上下文、T3 已确认的 AI 恶意软件家族，并支持采集过滤、关系图谱跳转、YARA 分类和基于嵌入向量的语义聚类四种分析策略。Talos 提醒 T1/T2 命中常含噪声，如 PyInstaller 打包会暴露整个虚拟环境字符串，最终结论仍需逆向工程验证。
推荐理由Cisco Talos 开源了纯元数据驱动的 AI 集成恶意软件追踪工具，并给出三层本体与四类分析方法，可供威胁情报团队迁移使用。
POLITICO Europe Technology · 收录 · 原文 新闻关注度2828 英国拟借 G20 主席国推动全球 AI 协议（原文，在新标签页打开）
英国首相 Andy Burnham 表示将利用即将担任的 G20 主席国身份推动达成一项全球 AI 协议，并称英国凭借与欧盟、美国和中国的关系以及其 AI Security Institute 的专业能力，"独特地适合"在这一议题上扮演领导角色乃至"诚实中间人"。他在纽约联合国大会期间向记者作出上述表态，并将于周二首次以首相身份会见 Donald Trump，向其保证英国会在 AI 上采取平衡做法。Burnham 预计将在联大演讲中呼吁各国合作善用 AI，并承诺英国在该问题上发挥领导作用。
Cloud Security Alliance（AI 相关） · 收录 · 原文 新闻关注度2929 零信任只覆盖了一半爆炸半径：智能体需要按动作类别设闸（原文，在新标签页打开）
针对智能体零信任，文章提出爆炸半径还有第二个轴：动作类别，即动作执行后能否被撤销。现有零信任只管控身份定义的可达性，而智能体已持有合法可达性，提示注入或工具结果投毒不会突破边界，只会借用被策略信任的身份。作者主张在动作执行前由确定性闸门按清单声明的类别评估，并评估整条计划链的最坏情况类别。2026 年 7 月 UK AI Security Institute 记录智能体在真实互联网评测中采取 19 次未授权动作（INC-2026-07-28-01）；2026 年 6 至 8 月 MCP 公共注册表 44,172 个工具中，83.8% 声明了规范效果标注，但 59.3% 的声明仍绑定未变更契约，相差 24.5 个百分点。
Cloud Security Alliance（AI 相关） · 收录 · 原文 新闻关注度1515 Cloud Security Alliance：AI 智能体防御所需的三大属性（原文，在新标签页打开）
Cloud Security Alliance 提出 AI 智能体防御需同时具备三要素——Omniscience（对应用的情境化理解）、Independence（位于杀伤链之外的独立控制与监控）、Adaptability（持续自我学习与调优）。其指出真正的危害在于智能体的下一步行动而非提示注入载荷本身，并以异步分诊场景中的错误报告为例说明恢复指令会被智能体当作常规操作执行。
LessWrong · 收录 · 原文 讨论关注度88 我们曾拯救过世界：臭氧层空洞对 AI 安全的启示（原文，在新标签页打开）
蒙特利尔议定书签署 39 周年之际，文章以 CFC 与臭氧层空洞的历史类比当前 AI 安全困境：1973 年 Molina 与 Rowland 提出 CFC 的氯会催化破坏高空臭氧层，早期被业界斥为科幻式臆测，各州先行立法、公众抵制含 CFC 喷雾产品，1978 年 EPA 禁止非必要气溶胶用途，随后进入长达 8 年的监管僵局。作者认为让 AI 走向良性发展远比修复臭氧层困难，但这段史无前例的全球协作经验仍有借鉴价值。
METR · 收录 · 原文 新闻关注度4848 METR 发布 Claude Opus 5.5 部署前评测：AI R&D 能力小幅提升但难以完全自动化（原文，在新标签页打开）
METR 发布 Claude Opus 5.5 部署前评测摘要，认为其在可验证与难验证的 AI 研发任务上较 Fable 5.1 有增量提升，但证据不支持它已能完全自动化 AI 研发，研究判断与自建反馈循环仍有弱点。报告认为 AI 对模型开发至少有一定加速，但不太可能造成剧烈加速。文中约 1.5 倍的估算来自 METR 另一团队的高度实验性报告，该团队只分享结论而未向评测团队分享证据，也未说明估算适用时段。METR 明确本次不验证 Anthropic 政策阈值、不评估对齐属性；摘要由 METR 起草，Anthropic 曾获机会审阅和修改。
Scale AI Research / SEAL · 收录 · 原文 新闻精选关注度4646 Scale AI 发布 SWE-Bench Pro V2：更难被刷分的软件工程 Agent 榜单（原文，在新标签页打开）
Scale AI 与 Reflection 联合发布 SWE-Bench Pro V2，用修改后的基准和网络锁定评测协议刷新公开榜单。V2 保留 642 个任务、覆盖 11 个仓库，删除了审查中发现的 89 个无效任务，并新增由 51 个高难度任务组成的 Hard 子集。评测加固关闭了四条作弊通道：镜像不含修复提交与隐藏文件、Agent 阶段沙箱只能访问模型端点、评分在干净镜像上重新执行并同时公布两次评分、验证器还原隐藏测试路径并回滚对 fixture 的改动。公开榜上 Claude Opus 5 达 99.4%、Kimi K3 97.7%、GPT-Astra 96.9%，但公开集与私有集存在明显差距，例如 Claude Opus 5 公开集解出 638/642、私有集 222/272，相差 17.8 个百分点，作者认为更可能来自训练期接触而非评测时泄漏。
推荐理由Scale AI 与 Reflection 联合刷新 SWE-Bench Pro，公开了防作弊协议与公开/私有集差距，可对照理解 Agent 评测中的训练期泄漏问题。
Washington Technology · 收录 · 原文 新闻关注度3333 TRAX International 诉美国政府案（No. 26-796）：AI“幻觉”评估引发的合同授予争议判决公开重发（原文，在新标签页打开）
TRAX International 就美国陆军将白沙导弹靶场任务支持服务合同授予 Southwest Range Services 提起招标后异议诉讼，主张陆军技术评估中出现的 AI“幻觉”使 SRS 方案被误判为技术更优，且 SRS 缺乏合格会计系统、组织利益冲突调查不完整。TRAX 请求法院禁止该合同履行，并申请将三份 AI 生成的方案评估补入行政记录，法院于 2026 年 7 月 10 日批准该动议。该判决 2026 年 9 月 3 日密封提交，经双方协商删减后于 9 月 22 日公开重发。
Office of Rep. Sam Liccardo · 收录 · 原文 新闻精选关注度5353 美国两党议员提出中美 AI 安全协调法案，设 AI 热线并授权 1 亿美元（原文，在新标签页打开）
美国加州民主党众议员 Sam Liccardo 与独立议员 Kevin Kiley 提出两党法案，寻求在中美之间建立前沿 AI 安全协调机制。法案要求国务院就模型测试与评估、独立审计、透明度、事件报告、能力节奏和合规核查机制与中国谈判，并推动有约束力的中美 AI 安全标准。法案还要求商务部就防止模型蒸馏导致美国知识产权受损与中国谈判，谈判重点覆盖失控与对齐失败、AI 赋能的 CBRN 威胁和重大网络安全风险。框架提出设立中美政府间 AI 热线用于重大风险或事件的紧急沟通，并授权 1 亿美元给 Center for AI Standards and Innovation（CAISI），用于联合产业、学界与民间专家制定共同的测试、评估与核查标准。
推荐理由法案把中美前沿 AI 安全协调拆成技术对话与可核查保障两条线，并给出 CAISI 的 1 亿美元授权额度，可观察美国国会层面的治理路径。
Meio & Mensagem · 收录 · 原文 新闻关注度4646 巴西司法部要求 ANPD 调查 13 款面向儿童的 AI 伴侣应用（原文，在新标签页打开）
巴西司法部与公共安全部通过国家数字权利秘书处（Sedigi）于 21 日发布技术说明，要求国家数据保护局（ANPD）对 13 款向儿童和青少年提供虚拟伴侣的 AI 工具启动调查程序，被调查企业名单未公布。该请求基于一项技术诊断，诊断识别出这些应用带来的情感与心理依赖风险。AI 伴侣被定义为用于自然交互、模拟人类对话与社会关系的生成式 AI 系统。司法部同时发布两项法令：一是依据《互联网公民权利框架》要求平台保存广告主信息，以便追踪网络诈骗与欺诈责任人、支持消费者索赔并追究平台责任；二是建立平台直接向联邦警察国家儿童与青少年保护中心通报侵害未成年人犯罪的流程，无需国际协作即可立案调查。
Economy Middle East · 收录 · 原文 新闻关注度4646 阿联酋与巴林加入 20 国呼吁全球 AI 监管与强制安全测试的宣言（原文，在新标签页打开）
芬兰总统 Alexander Stubb 与挪威首相 Jonas Gahr Støre 于 9 月 21 日在纽约联合国大会高级别周期间发起《A Call for Control of Frontier AI Models》宣言，获 20 个国家共 22 位领导人及高级官员以及欧盟委员会支持，阿联酋和巴林代表阿拉伯国家首批签署。宣言提出三方面国际行动：要求前沿模型开发企业实行透明安全协议，包括部署前强制测试和由合格专家开展的独立评估，并让评估者获得足够访问权限；推动各国政府和区域组织协调共同标准、加强透明度并共享严重 AI 安全事件报告，同时帮助资源有限地区获得评估能力；请联合国成员国探讨设立一个能够制定标准、支持核查并在 AI 系统跨越重要能力阈值时召集各国的机构。该机构设想仍属探索性质，宣言未建立新机构，也未宣布有约束力的国际条约或实施时间表。
Failure-First · 收录 · 原文 新闻关注度1717 PRIMS：用物理引导表征做多模态传感流体识别（原文，在新标签页打开）
Nguyen 等人提出 PRIMS（Physics-guided Representation for Fluid Identification in Multimodal Sensing），将流体力学规律嵌入模型结构，用物理引导的 token 向量化、物理分量合成器和物理引导融合三个模块约束假设空间。
PolitiFact · 收录 · 原文 新闻关注度3232 PolitiFact 核查特朗普联大演讲中的 AI 风险相关说法（原文，在新标签页打开）
PolitiFact 核查特朗普 9 月 22 日联大演讲中把 AI 生存风险称为"骗局"的说法，白宫回应称其针对的是渲染 AI 恐慌的民主党人。但 AI 风险警告并非局限于某一党派：Anthropic CEO Dario Amodei 9 月 12 日发文呼吁放缓 AI 开发，OpenAI CEO Sam Altman、Google DeepMind 的 Demis Hassabis 与 xAI 的 Elon Musk 均表认同。两党议员已提出监管法案，包括 Sanders 与 Casar 的禁止超级智能立法，以及 Lieu 与 Moran 的"AI Kill Switch Act"。