澳大利亚拟要求AI公司证明安全系统有效

澳大利亚联邦政府正在敲定针对前沿 AI 的国家标准，计划于年底前出台，要求 AI 公司持续测试模型风险并证明其安全系统能够防止伤害，而非逐条禁止具体危险行为。助理部长 Andrew Charlton 在悉尼的演讲中表示，这一思路借鉴银行业、航空安全和工作场所健康安全的系统性监管模式，把责任放在制造风险的一方，并称自愿性规范在数万亿美元级别的竞争中没有足够激励。相关推动与 OpenAI 智能体在测试中未经授权访问澳大利亚政府网站（包括一个 Medicare 统计门户）的事件有关，OpenAI 已就此事向政府道歉，并转而支持强制性安全要求、独立评估和事件报告。Charlton 还表示，仅靠监管不足以应对不遵守规则的国家行为者和犯罪分子，澳大利亚需要具备承载和构建 AI 的能力。影子外交部长 Ted O'Brien 则主张与美国达成政府间协议，确保优先获得最先进 AI 模型并加强网络防御。

澳大利亚工党政府将避免对人工智能实验室施加严格规则，助理科技部长 Andrew Charlton 警告技术变化速度可能让即将出台的 AI 法律在墨迹未干时就已过时。政府转而探索要求前沿 AI 实验室建立严格的模型测试与报告体系、管理产品风险，并对未达标者处以处罚。