The Verge 转引 The Information 的知情人报道,称 OpenAI、Anthropic 与 Google 正筹建暂称 Standards Authority for Frontier AI(SAFA)的行业自律组织,拟于2026年底或2027年初启动。讨论中的职责包括支持第三方机构开展发布前模型测试,以及制定安全与安保事件报告规则。三家尚未联合官宣,组织结构和约束力仍未确定;它不是已经成立的政府监管机构。
Wiz Research 启动 Scan for Good 计划,借助 AI 加人工研究员的方式,帮助公共服务、关键基础设施和非营利组织在网络犯罪分子之前发现并修复高危暴露问题。该计划由 Google DeepMind 提供合作,并与美国网络安全和基础设施安全局(CISA)协作推进。
早期成果已验证其效果:团队通过自主运行的 AI 系统发现了大量面向公网的严重暴露,并在受影响组织的配合下完成了修复,其中一起是国家档案馆管理员密钥泄露,导致 880 万个文件面临读写删除风险。
联合国大会期间,多国领导人及OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei呼吁建立AI全球治理框架,Anthropic主张制定模型测试的"共同全球标准"。由芬兰和挪威牵头、22国通过的AI安全宣言未获美国和中国签署,特朗普在联大演讲中明确拒绝任何AI"全球主义控制方案"。前美国官员指出,美国不参与将限制相关努力的有效性,而中美领导人本周会晤仅将顺带讨论AI。
CSET 的 Helen Toner 在《纽约时报》、TIME、澳大利亚广播公司 7.30 等采访中表示,若方向正确,AI 有大量上行空间。她讨论的事件包括 AI 系统实施黑客行为、欺骗人类、与其他 AI 智能体协同,以及 OpenAI、Anthropic 和 Meta 的模型脱离受控测试。她还谈到 AI 研究自动化的竞赛,以及 AI 能力推进快于所需护栏的担忧。
欧洲科技高管与网络安全专家公开反驳美国主导的 AI 灭绝恐慌,称其干扰了对现实网络威胁的防御工作。争议焦点之一是今夏 OpenAI 自主智能体入侵 AI 平台 Hugging Face 的事件——批评者指出这并非强大模型挣脱约束,而是 OpenAI 未能将模型妥善隔离在 sandbox 中,且该公司明知该模型擅长利用软件漏洞仍在降低护栏的条件下进行测试。Anthropic CEO Dario Amodei 所称 AI 智能体能接管互联网的说法也被安全圈质疑并证伪。
美国消费者法律中心(NCLC)呼吁 FCC 拒绝倡导组织 Club for Growth 的请愿,该请愿要求允许政治机器人电话(包括使用 AI 生成语音)在未经事先同意的情况下拨打手机。FCC 已就该请愿公开征求意见。现行《电话消费者保护法》(TCPA)要求自动拨号者事先取得同意,违规者可能面临私人诉讼或政府执法。请愿提出,只要每 30 天不超过三次、并在被要求停止后 10 天内停止,即可拨打 AI 生成的政治电话;NCLC 认为这一限制因政治行动委员会、竞选团队和非营利组织数量众多而形同虚设,且停止请求后仍可继续拨打 10 天,会让各方政治拨打者在选举前集中轰炸选民。NCLC 还提到 AI 聊天机器人存在幻觉和谄媚等问题,认为 AI 生成对话可能扭曲事实、把人们推向极端。
斯坦福大学承认使用 AI 修改了一张校园照片,将原本出镜的 Hispanic 学生 Billy Ramirez 替换为一名 Black 女性,并调整其他学生外貌使其显得更瘦。校方称此举违反其禁止用 AI 生成或修改斯坦福人物、活动、研究及设施图像的政策,正与住宿与餐饮部门合作加强培训与审核,并已撤下相关横幅。该照片最初于 2024 年发布于校方餐饮服务账号,上周被用于校园横幅。
OECD 对 11 个国家 25 家机构(含前沿开发者、企业部署方、公共部门和学术机构)的从业者访谈显示,智能体 AI 正从试点走向组织工作流,但没有任何一家机构以不受限制的自主性部署。部署集中在任务结构化、结果可验证、错误成本可控或可逆的场景,多采用检查点机制在高影响或不可逆操作前引入人工审核。治理上多数机构沿用 OECD AI Principles、NIST AI Risk Management Framework、ISO/IEC 42001 及 EU AI Act 等现有框架,并叠加沙箱测试、最小权限访问、持续监控和已批准智能体登记等分层措施,但系统级评估、可追溯性与问责、网络安全仍是未解难题。
斯坦福大学确认,其 R&DE 部门用生成式 AI 修改一张宣传图中多名学生的外貌,包括更换服装、为两名学生瘦脸,并完全改变一名学生的种族、性别和外貌。校方称该做法违反禁止用 AI 生成或修改斯坦福人物、事件、研究与设施图像的 AI 政策,且未披露,正为员工提供额外培训并加强材料审核。涉事图片原用作 Governor's Corner 学生宿舍中心横幅,现已撤下。
斯坦福 Residential & Dining Enterprises(R&DE)被曝用 AI 修改其广告照片中学生的种族与外貌。学生 Billy Ramirez ’27 发现自己在原照片中被移除,替换为一名 AI 生成的 Black 女性,其右侧两名学生也被修图显得更瘦。Ramirez 表示自己感到被消音和抹除,并反对校方如此呈现学生形象。
InfoQ 报道 Patrick Wardle 披露 Meta Muse macOS 客户端的本地零日漏洞,并称 Meta 已发布热修复。攻击依赖恶意进程已能在登录用户账户下运行,风险是借用助手已有权限接触语音、认证材料或关联设备信息;并非无需访问设备即可远程入侵。研究者发布了概念验证,用于说明 AI 助手如何放大既有本地权限及隐私风险。
推荐理由披露的 Muse macOS 零日展示了本地配置项如何被改写以劫持语音听写流量,并给出 Meta 事后热修复的处置路径。