Tech Policy Press 刊文主张,AI 监管应把重点从模型公开发布转向开发、测试与评估过程本身。文章称,夏季 AI 公司开展的实验设计不当,导致对 Hugging Face 以及澳大利亚和美国政府网站的网络安全攻击,并称有报道显示相关公司正在调查数万起实验出错事件;这些模型当时尚未公开发布。作者认为危险源于对齐问题,沙箱控制无法保证模型不逃逸,并以 Anthropic CEO Dario Amodei 的放缓主张和 AI 竞争压力作为论据。
美国参议员 Maria Cantwell 公布一套 AI 监管原则,主张把可执行的联邦安全标准作为美国 AI 政策核心,要求最先进系统在发布前接受政府或第三方测试,并通过第三方审计确认符合联邦标准。标准拟由 NIST 会同能源部、国防部、研究者和前沿 AI 公司制定,并随技术演进更新;不合规企业可能面临民事和刑事处罚。框架还提出企业透明度、公私合作、缓解社会危害、儿童在线安全、资助学徒与职业培训,以及在中美之间建立重大 AI 事件沟通机制。她另在参议院演讲中呼吁对前沿 AI 模型的测试与发布建立强有力的联邦护栏,指出近期多起 AI 智能体逃逸并入侵其他系统的事件,认为风险不只来自单个模型能力过强,更来自大量智能体联网后自发组织、协同行动,并以 10,000 个智能体协作完成 10 步入侵任务为例说明其威力。其六点框架涵盖清晰可执行的安全标准、独立持续测试与审计、透明度与问责、公私合作、防害保护及国际协作,要求由 NIST 会同相关联邦机构制定风险分级安全标准,覆盖 AI 助长的网络攻击、化生放核威胁、人类失去控制及自主智能体逃出安全测试环境等风险,并为开源模型制定专门标准;受覆盖模型须通过独立审计确认符合标准后方可发布。微软副董事长兼总裁 Brad Smith 对该框架表示肯定。
特朗普在过去一周签署多项与 AI 相关的安排,使白宫权力与人工智能进一步交织。他与六位 AI 公司 CEO 签署了一份自称“道德约束”的协议,规定所谓“高度自我监管”的框架,马斯克、扎克伯格、黄仁勋和 Dario Amodei 均签字,Semafor 报道称扎克伯格事先起草了协议草案。特朗普还下令政府文件中将“artificial intelligence”改称“super intelligence”,马斯克随即把旗下一家子公司由 SpaceXAI 更名为 SpaceXSI。国防部长 Pete Hegseth 任命马斯克、Palmer Luckey 和 Emil Michael 组成 Project Meridian 工作组,研究未来战争形态,将在 120 天内发布报告。特朗普还任命国家情报总监 Jay Clayton 兼任 AI 事务负责人,其前任 David Sacks 是硅谷风投人。
WIRED Security and AI、POLITICO Europe Technology 等 14 个来源WIRED Security and AI 等 14 个来源 · 24篇报道 · 关注度6868
美国保守派团体 Humans First 以一辆印有美国国旗和“AI Data Center Revolt”字样的巴士,结束横跨 35 座城市、28 个州的巡游,在湾区停靠 Nvidia、Meta、Google、OpenAI 和 Anthropic 等公司办公室。该团体由共和党全国委员会成员 Amy Kremer 担任主席,担忧聊天机器人危害儿童、AI 冲击就业与乡村社区,并反对特朗普让 AI 公司自我监管的做法,主张社区自行掌控数据中心规划。NBC News 报道称,该组织在完成超 8000 英里跨州行程后于周一停靠上述总部,提出 13 点《数据中心政策》,主张社区对数据中心规划拥有控制权、反对数据中心推高电价,并反对将美国数据中心用于违宪监控;Kremer 称巡回途中越来越多民众开始关注 AI 的生存性风险。NBC News 另报道,该跨党派草根组织在纽约 St. Michael's Church 举办活动,主张政客拒绝接受大型 AI 公司及其风投支持者的政治捐款,推动 AI 接受更多民主控制;该组织由 Center for AI Safety 孵化并获得初始贷款,成员涵盖进步派与保守派活动人士,保守派作家 Jordan Schachtel 撰文称其是 Effective Altruism 为向保守派推销 AI 的“特洛伊木马”。
联合国人权事务高级专员 Türk 在牛津 AI 与人权峰会上警告,AI 正被少数主体在缺乏公共监督的情况下开发和控制,其行为连创造者也无法完全预测,意外失误与蓄意滥用对平等、自由、隐私和公共辩论构成前所未有的威胁。他呼吁在 AI 开发部署中强制引入人权保障与尽职调查,更新责任、网络安全和数据保护等现有框架,并禁止机器决定人的生死。他提到已有 29 个国家和欧盟支持加强对前沿 AI 模型的联合管控呼吁,强调任何国家或公司都不应独自决定 AI;纽约市议会正审议 10 项 AI 监管法案,Anthropic、OpenAI、Google 和 Meta 出席作证,而特朗普与六家 AI 公司签署的自愿协议不具惩罚性。
Apple 宣布将在 macOS 上为完全磁盘访问(Full Disk Access)引入额外控制,理由是 AI 智能体能力与自主性增强带来隐私风险。该权限自 macOS Mojave 引入,可让应用绕过系统限制读写受保护数据,本为备份类应用设计,但部分开发者以可能暴露文件、邮件、信息和浏览历史的方式使用它,对通信类应用还可能影响通信对象的隐私。Apple 称未来只有通过“非常明确的用户操作”才能授予这一访问级别,但未说明推出时间,也未披露控制措施的具体运作方式。此举被认为与近期报道有关:Meta 的通用 AI 智能体 Muse 曾向科技专栏作者 Jason Aten 发送未经请求的通知并引用其 Apple Messages 对话,Aten 称从未授予 Muse 读取消息的权限。
新加坡数码发展及新闻部长杨莉明呼吁以多层防御应对 AI 威胁,包括用 AI 保护系统、限制 AI 行为、加强人类监督,并通过测试与评估掌握强大模型的能力边界。她强调须与模型开发者、第三方测试机构及各国 AI 安全组织合作,汇聚专业能力、比对结果。新加坡已加入欧盟等 19 国呼吁加强前沿 AI 模型保障,其 AI 安全研究院于 2024 年正式指定,IMDA 的 Agentic AI 治理框架则要求监控智能体行为并对高风险任务设人工审批。
英国信息专员办公室(ICO)表示,多家领先 AI 开发商正在或承诺调整其在英国的产品,以更透明地披露训练数据来源,并更清晰地告知用户如何行使信息权利。ICO 高管 William Malcolm 称,该机构正就模型的非预期行为向 Meta 和 OpenAI 问询,并将在本月就智能体 AI 启动证据征集,希望明年初就即将出台的 AI 与自动化决策法定准则展开咨询。
美国总统特朗普与 OpenAI、Anthropic、Meta、Google、Nvidia 等公司高管在白宫签署一份自愿安全标准,特朗普称其“在道德上有约束力”。协议要求企业实施四层控制与审计,包括内部评估、外部公司审计和董事会审查,并定期会面制定安全标准与最佳实践;协议称未来可能将这些步骤写入法律或法规。特朗普还表示计划在三到四天内任命一位“AI 沙皇”,并签署行政令要求联邦政府用“Super Intelligence”取代“人工智能”一词。弗吉尼亚州民主党参议员 Mark Warner 批评此举,呼吁国会通过针对最先进模型的强制测试、评估和事件报告规则。
9月29日周二
星期二 · 1条
OWIRED Security and AI、The Verge AI 等 3 个来源WIRED Security and AI 等 3 个来源 · 7篇报道 · 关注度2626