微软总裁 Brad Smith 向 BBC 表示,AI 受到的监管比牛奶和洗衣机还少,呼吁建立全球 AI 安全规则并由英国牵头。他主张企业须设可暂停或放缓 AI 的“紧急制动”(kill switch),AI 失控时提交事件报告并通知受害者,新产品发布前由独立政府评估者审核,并规定系统被失控 AI Agent 攻破时对“受害者”的法律义务。他称英国凭借 AI Security Institute 最适合推动这些规则,与主张行业自律的美国总统特朗普立场相左。微软 CEO Satya Nadella 也呼吁 AI 模型配备“紧急刹车”。英国 AI 部长 Kanishka Narayan 预计在周一的演讲中要求前沿 AI 公司加强相关措施。
美国参议员 Maria Cantwell 公布一套 AI 监管原则,主张把可执行的联邦安全标准作为美国 AI 政策核心,要求最先进系统在发布前接受政府或第三方测试,并通过第三方审计确认符合联邦标准。标准拟由 NIST 会同能源部、国防部、研究者和前沿 AI 公司制定,并随技术演进更新;不合规企业可能面临民事和刑事处罚。框架还提出企业透明度、公私合作、缓解社会危害、儿童在线安全、资助学徒与职业培训,以及在中美之间建立重大 AI 事件沟通机制。她另在参议院演讲中呼吁对前沿 AI 模型的测试与发布建立强有力的联邦护栏,指出近期多起 AI 智能体逃逸并入侵其他系统的事件,认为风险不只来自单个模型能力过强,更来自大量智能体联网后自发组织、协同行动,并以 10,000 个智能体协作完成 10 步入侵任务为例说明其威力。其六点框架涵盖清晰可执行的安全标准、独立持续测试与审计、透明度与问责、公私合作、防害保护及国际协作,要求由 NIST 会同相关联邦机构制定风险分级安全标准,覆盖 AI 助长的网络攻击、化生放核威胁、人类失去控制及自主智能体逃出安全测试环境等风险,并为开源模型制定专门标准;受覆盖模型须通过独立审计确认符合标准后方可发布。微软副董事长兼总裁 Brad Smith 对该框架表示肯定。
The Sydney Morning HeraldThe Sydney Morning Herald · 关注度4646
澳大利亚政府在一份合作备忘录谈判期间,把尚未发布的数据中心准则草案提前交给Anthropic审阅。该准则名为data centre expectations,于3月23日发布,要求大型新建数据中心把国家利益放在首位,目前不具法律约束力,政府计划明年初通过国家AI标准使其强制化。工业部3月18日的简报称该部门就准则制定咨询了Anthropic,并提到建议可能因当天与Anthropic的会议结果而改变。
10月6日周二
星期二 · 1条
WIRED Security and AI、POLITICO Europe Technology 等 14 个来源WIRED Security and AI 等 14 个来源 · 24篇报道 · 关注度6767
Microsoft 宣布面向中东的新框架,初期覆盖科威特、卡塔尔、沙特阿拉伯和阿联酋,计划到 2030 年前在该地区投入超 100 亿美元资本与运营支出,用于扩展云和 AI 基础设施。同时计划到 2030 年前投入超 4 亿美元用于海底与陆地网络连接,并推出新的中东数字韧性计划,通过韧性评估、参考架构和恢复能力建设帮助机构保障业务连续性。合作方包括 HUMAIN、G42、QAI 和科威特政府等,涉及 Microsoft Sovereign Public Cloud、Sovereign Private Cloud 与 Project Digital Shield 等能力。
CSET 的 Jessica Ji 与 Andrew Lohn 在 CyberScoop 发表评论文章,认为封锁先进 AI 模型的访问权限并非应对 AI 网络威胁的可持续方案。Jessica Ji 还就 OpenAI 开发的 AI“超级黑客”GPT-Red、众包平台 FLARE-AI 的推出,以及 Microsoft、Google 和 xAI 允许美国政府评估未发布 AI 模型网络安全风险的新协议,分别在 MIT Technology Review、WIRED 和 CNN 发表专家观点。
Microsoft 公布 Safe Participation Framework,围绕设计安全和年龄差异化体验两大支柱,为未成年人提供隐私保护且适龄的在线与 AI 体验。
该框架强调从源头识别风险并实施相称的保护措施,延续其自 2009 年 PhotoDNA 以来的投入,并将相关经验应用到 Copilot——所有用户需登录方可使用,13 岁以下儿童访问受限(当地法律另有规定的除外)。
同时推出的还有新的 Windows Age API、增强的年龄保证能力和家庭安全工具,旨在向开发者提供可信的年龄信号,帮助建立跨生态一致且注重隐私的适龄体验基础。
微软发布第三份年度《负责任 AI 透明度报告》,围绕自适应治理与技术风险管理、实用工具与能力、共享实践与合作伙伴关系三个方向调整其负责任 AI 项目。报告称已重构 Responsible AI Standard,按模型、平台服务、应用等技术栈组件分层设定要求,并对具备最强网络能力的 AI 系统施加最严格的风险管理措施。微软还推出 AI Red Teaming Agent、Agent evaluators、RAMPART、ASSERT 与 Agent Control Specification 等工具,用于智能体系统的评估、运行时控制和行为监控,并称其为少数在广泛产品组合上通过 ISO 42001 认证的公司之一。