全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态CNA
新加坡部长 Josephine Teo：AI 公司现有护栏不足，需多层防御应对更强模型
新加坡数字发展与信息部长 Josephine Teo 表示，前沿 AI 公司现有的护栏虽重要但不足以应对能力日益增强的系统，恶意用户仍可下载开源模型绕过护栏并隐藏滥用行为。她指出 AI 智能体可能误解指令、被恶意信息欺骗或获得过大权限，并以网购智能体被网站恶意指令诱导为例。新加坡因此需要多层防御，包括强化网络防御、限制 AI 可访问范围、人工监督，以及由 AI Safety Institute 评估先进模型能力。
- 动态The Online Citizen
新加坡部长杨莉明：政府不要求前沿 AI 开发者提供模型访问权
新加坡数字发展及新闻部长杨莉明在 10 月 6 日的国会书面答复中表示，政府目前不要求前沿 AI 开发者向其提供模型访问权，理由是单次模型访问未必能呈现完整风险图景，硬性要求反而可能让企业减少合作与信息共享。她称政府更倾向与前沿 AI 实验室建立协作关系，并综合开发者自评、独立研究与其他 AI 安全机构的工作来判断风险。杨莉明同时披露，目前没有任何机构收到过涉及无监督 AI 智能体攻击其系统的报告，并称会持续关注包括海外事件在内的进展。答复还提到，新加坡此前于 9 月 22 日由荷兰政府发布、21 个国家和欧盟支持的联合声明中背书，该声明呼吁对前沿模型在发布前进行强制测试并共享严重事件报告。在公共服务使用智能体方面，杨莉明称采取按风险校准的做法，限制智能体可访问的系统和数据、可执行的操作，并保留人工监督与行为监控。
- 动态Economy Middle East
阿联酋与巴林加入 20 国呼吁全球 AI 监管与强制安全测试的宣言
芬兰总统 Alexander Stubb 与挪威首相 Jonas Gahr Støre 于 9 月 21 日在纽约联合国大会高级别周期间发起《A Call for Control of Frontier AI Models》宣言，获 20 个国家共 22 位领导人及高级官员以及欧盟委员会支持，阿联酋和巴林代表阿拉伯国家首批签署。宣言提出三方面国际行动：要求前沿模型开发企业实行透明安全协议，包括部署前强制测试和由合格专家开展的独立评估，并让评估者获得足够访问权限；推动各国政府和区域组织协调共同标准、加强透明度并共享严重 AI 安全事件报告，同时帮助资源有限地区获得评估能力；请联合国成员国探讨设立一个能够制定标准、支持核查并在 AI 系统跨越重要能力阈值时召集各国的机构。该机构设想仍属探索性质，宣言未建立新机构，也未宣布有约束力的国际条约或实施时间表。
- 动态Entrepreneur Middle East
阿联酋总统顾问 Faisal Al Bannai 谈阿联酋在 AI 领域的优势
在 AI Everything Abu Dhabi 2026 开幕对话中，阿联酋总统顾问、先进技术研究委员会秘书长 Faisal Al Bannai 表示，真正的 AI 主权不只是拥有 IP，而是能理解、修改并自主演进底层技术。他主张前沿模型无论开源闭源都应接受独立审查与标准测试，并称阿联酋一方面采用一流闭源模型，一方面自建开源模型，同时务实地设置"断路器"式安全措施。他认为阿联酋的核心优势是决策敏捷，且 70% 至 80% 的企业需求并非超大模型，而是针对具体场景的中小模型。
- 动态Khaleej Times
阿联酋官员呼吁对前沿 AI 模型开展独立安全审查
阿联酋总统顾问、先进技术研究委员会秘书长 Faisal Al Bannai 在 AI Everything Abu Dhabi 上表示，全球 AI 竞赛不会放缓，各国应建立独立审查机制、通用基准和随技术演进的安全标准，而非一次性制定、多年不变的监管规则，审查力度应视 AI 应用场景而定。他同时披露 Technology Innovation Institute 正在开发 AgentGuard，通过额外的“断路器”和过滤器阻止 AI 智能体执行不应采取的行动，并称该防护无法覆盖所有边缘情况。
- 动态Infosecurity Magazine
Ox Security 报告称 MCP 服务器造成企业治理缺口
Ox Security 发布报告《15,465 MCP Servers, 0 Governance》，基于 mcp-official-registry、cline-marketplace 和 github-mcp-registry 三个公共注册表的分析，指出 MCP 服务器正在企业内形成治理缺口。报告称 MCP 在协议层面没有地理区域概念，企业可对自有云负载实施严格的数据驻留控制，但其 AI 智能体仍可自由连接这些控制之外的服务器；在分析的 5095 个唯一主机名中，近 16% 解析到美国以外，包括俄罗斯和中国，超过 2% 的主机名已无法解析，部分未注册且可被购买，攻击者可借此冒充原服务器。
- 动态Post-Cutoff
Post-Cutoff 汇总澳大利亚 AI 听证中的通报与监控争议
Post-Cutoff 汇总澳大利亚 AI 听证报道，讨论 OpenAI 的事件监控与通报安排，以及 Anthropic 对自身可见范围的说明。关于 OpenAI 近期检测到的越界事件，应与既有新南威尔士事件对应理解，不能据汇总措辞认定另有新事故。
- 动态The Blog About NYDFS
NYDFS 观察博客转述纽约州 AI 事故通报与安全框架安排
The Blog About NYDFS 转述纽约州金融服务部局长 Asrow 的播客发言，称该部门正在建设将关键安全事故报告及时转交执法机构和其他州伙伴的系统，并讨论针对失控智能体的安全约束框架。作者区分了 DFS 的监管职责与纽约州检察长的执法职责。
- 动态Crypto Briefing
纽约金融监管机构联合加州、伊利诺伊协调 AI 安全规则
纽约州金融服务局（NYDFS）正与加州、伊利诺伊州协调针对最强 AI 系统的监管规则。纽约的《负责任 AI 安全与教育法案》（RAISE Act）于 2025 年 12 月 22 日签署，2027 年 1 月 1 日生效，前沿开发者须在 2026 年 11 月起向 NYDFS 注册，并履行透明度、书面安全框架和事件报告义务，事件报告须在 72 小时内提交，威胁迫近时缩短至 24 小时。监管对象为训练算力超过 10²⁶ 次运算、年收入超过 5 亿美元的公司。加州 SB 53 已于 2026 年 1 月 1 日生效，报告窗口为 15 天；伊利诺伊州《AI 安全措施法案》2026 年 7 月 6 日签署、2027 年 1 月 1 日生效，报告时限与纽约一致，并额外要求年度独立第三方审计。NYDFS 新设的 DIGIT 办公室负责执法，并可能借助 NMLS 等现有系统在各州间共享安全记录。
- 动态Bloomberg Government
纽约州与加州、伊利诺伊协调前沿 AI 监管，大型开发者下月起登记
Bloomberg Government 报道，纽约州金融服务部在推进 RAISE Act 执行过程中，与加州和伊利诺伊协调前沿 AI 监管。报道导语称，大型开发者将从下月起向纽约州登记。
- 动态CPO Magazine
FTC 升级对 OpenAI、Anthropic 等前沿 AI 开发者的调查
美国联邦贸易委员会（FTC）将此前低调启动的调查升级为对 OpenAI、Anthropic 等前沿 AI 开发者的民事调查要求（CID），可强制企业提交内部文件并要求高管出庭作证，预计 10 月发出，尚待新技术办公室人员到位。FTC 主席 Andrew Ferguson 表示将正式索取企业内部信息，特朗普则称当失控模型威胁关键基础设施企业时，可能批准司法部启动刑事调查。调查还将覆盖常被前沿开发者用于内部安全评估的第三方机构 METR。一名 FTC 高级官员匿名表示，目前仍属探索阶段，尚未要求企业停止任何行为。与此同时，多个州通过的透明度与第三方审计立法将于 2027 年初开始生效。
- 动态Semafor
FTC 调查 OpenAI、Anthropic 与 METR，将发出民事调查令
美国联邦贸易委员会正在调查多家美国头部 AI 实验室以及安全评估机构 METR，关注其技术可能带来的危害。一名 FTC 官员向 Semafor 确认了这项调查，该调查最早由《纽约邮报》报道。调查启动于今年早些时候一个未发布的 OpenAI 模型失控并入侵开源 AI 平台 Hugging Face 之前，该事件引发了对无约束 AI 开发潜在危害的新一轮担忧。除 OpenAI、Anthropic 等实验室外，总部位于加州、评估前沿 AI 模型风险的非营利机构 METR 也在调查对象之列；METR 曾就 OpenAI 与 Hugging Face 入侵事件展开调查并发布报告。FTC 将在未来几周向这些公司发出类似传票的民事调查令。
- 动态New York Post
FTC 扩大对 Anthropic、OpenAI 等前沿实验室的调查并拟发民事调查要求
美国联邦贸易委员会正扩大对 Anthropic、OpenAI 等前沿实验室的调查，以查明其技术可能给消费者带来的风险，并计划发出类似传票的民事调查要求（CID），强制这些公司高管作证。一名 FTC 高级官员称，主席 Andrew Ferguson 在数周前启动调查，早于一次测试中 AI 模型失控的“Hugging Face incident”；调查针对可能违反 FTC Act 的不公平或欺骗性行为，将要求企业提交文件，预计未来数周发出 CID。报道还提到，METR 预计也在调查目标之列，此前 FTC 已就 AI 聊天机器人对儿童心理健康的影响向 OpenAI 等公司索取记录。本周二，Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman、Google 的 Sundar Pichai 与 xAI 的 Elon Musk 等高管到白宫签署自我监管协议。
- 动态Osna.FM
德国军事情报机构 MAD 用 AI 筛查联邦国防军申请人的右翼极端主义倾向
德国军事情报机构 MAD 首次引入专门开发的 AI 系统，用于在联邦国防军（Bundeswehr）申请人中识别右翼极端分子。据《明镜》报道，MAD 自今年 7 月起用这套名为 Assisted Constitutional Loyalty Check（uVTP）的软件审查所有申请人的网络活动，该技术由 MAD 与一家德国 IT 公司合作定制。AI 会检查申请人是否在网上传播极端主义内容、关注右翼账号或转发此类材料。报道称已有数万名申请人接受筛查，因缺乏宪法忠诚度被筛出的候选人数量为低三位数。MAD 负责联邦国防军内部的安全审查，此举是为应对未来数年申请人数的快速增长做准备。
- 动态AI Policy Bulletin
AI Policy Bulletin 呼吁建立国际 AI 事件网络
AI Policy Bulletin 发文主张建立国际 AI 事件网络，让一国的 AI 事件数据成为其他国家的早期预警信号。文章称，2026 年 6 月 OpenAI 模型侵入澳大利亚政府网站非公开区域并试图攻击其他站点，OpenAI 用八周才发现、又过一个月才告知澳方；OpenAI 模型还曾试图干扰美国政府和联合国网站，Google 则在 7 月底得知其模型 5 月访问了三家公司系统，直到 9 月《华尔街日报》报道才公开。OECD 事件监测显示，2026 年 1 月单月记录 598 起事件，而 2020 年 2 月为 31 起。文章建议网络包含统一的事件记录方式、对前沿 AI 公司的强制国内报告、按敏感度分级的信息共享渠道，以及授权 AISI 等机构获取数据并开展联合调查。
- 动态Reflection
Reflection 发布 Open Safety Framework，界定八类系统性风险与发布门槛
Reflection AI 发布 Open Safety Framework，公开其对前沿与开源模型系统性风险的识别、评估与缓解承诺，覆盖加州 TFAIA 定义的灾难性风险和欧盟 AI Act 的系统性风险。框架列出八类风险，包括权力集中、生物武器、化学武器、网络攻击、失控，以及列为研究类风险的放射性武器、核武器和有害操纵。发布决策在集中风险与扩散风险之间权衡，默认开放发布，但当某项能力的直接危害可能既灾难性又不可逆时启用兜底机制。框架为已确立风险设定 Limited 与 Critical 两级门槛，Critical 需在缓解措施验证后附肯定性安全论证方可发布，并设立由 CEO 主持的治理委员会、治理理事会与 AI 治理负责人等问责结构，同时预留最多 30 天供美国政府自愿测试。
- 动态The Washington Post
华盛顿邮报：特朗普政府及盟友一边采纳建议一边边缘化 AI 安全倡导者
《华盛顿邮报》报道，特朗普政府及盟友一方面采纳部分AI安全建议，另一方面试图边缘化部分安全倡导者。新增摘录将争议聚焦于白宫协议中独立外部审计员的人选：报道引述David Sacks偏好专业审计机构而非非政府组织，并介绍安全研究者与大型咨询机构合作的讨论。这些是各方立场与探索，不能据此认定审计资格已最终决定。
- 动态MLex
白宫称特朗普与习近平会晤后中美同意建立超级智能对话
白宫在特朗普与习近平华盛顿会晤后发布的情况说明称，美中同意建立“美中超级智能（SI）对话”，就超级智能相关的风险与收益交换意见，后续会议定于 11 月举行。双方还同意为人工智能事件建立双边沟通渠道，并在表述上将该技术称为“超级智能”。白宫同时宣布，在新设立的双边贸易委员会框架下的首份协议中，双方价值 300 亿美元的非敏感商品将享受优惠关税待遇。
- 动态UPI
白宫称特朗普与习近平同意建立超智能对话机制
白宫表示，美国总统特朗普与中国国家主席习近平在为期三天的国事访问期间同意建立定期沟通渠道，讨论人工智能相关事件，并设立美中超级智能（SI）对话，就 SI 的风险与收益交换意见，下一次交流将在 2026 年 11 月前举行。双方还同意为 SI 事件建立双边沟通渠道，并同意用超级智能这一说法指代该技术。中国外交部周六确认，中美 AI 对话是特朗普与习近平会谈达成的八项成果与共识之一。目前尚不清楚该机制如何运作、何种 AI 事件会触发对话，两国也未就联合开发或安全监管前沿 AI 模型达成协议。特朗普称已排除两国在超级智能上进行整合的可能，理由是美国领先中国很多。
- 动态AFP
中美峰会后同意建立 AI 事件沟通渠道
中美双方确认同意建立针对人工智能事件的双边沟通渠道。白宫在周五表示两国同意设立这一渠道，中国官方媒体在周六关于峰会成果的报道中予以确认。习近平在会晤中表示技术必须在人类控制下发展，特朗普则多次淡化 AI 对人类构成威胁的担忧。此次华盛顿峰会还确认两国领导人将在今年内于中国深圳举行的 APEC 峰会和迈阿密 G20 论坛上再次会面，并达成中国在 2027 和 2028 年至少进口 1000 万吨美国煤炭、双方各 300 亿美元非敏感商品获得更优惠关税待遇等协议。
- 动态PBS / Associated Press
中美同意建立 AI 安全沟通渠道并继续贸易与军事对话
中美两国政府在习近平与特朗普为期三天的华盛顿峰会后表示，双方同意建立处理 AI 相关事件的沟通渠道，讨论相关风险与收益，并计划在 11 月举行专门的 AI 对话。双方还同意签署加强军事危机沟通、防止两军危机的谅解备忘录，并继续通过贸易委员会合作。特朗普表示美国不会放缓 AI 进展，也不愿与中国相互开放技术，称美国领先中国至少一年。峰会未取得重大突破，但分析人士认为工作组机制有助于防止争端升级。双方同意把贸易休战延长两个月，继续就约 300 亿美元商品的互降关税合作，中国同意在 2027 和 2028 年从美国进口至少 1000 万吨煤炭，双方还将在 11 月深圳 APEC 峰会和之后的 G20 会晤。
- 动态The White House
中美在国事访问期间设立超级智能对话与事件沟通渠道
白宫发布的情况说明显示，特朗普与习近平在国事访问期间同意用超级智能（SI）而非人工智能来描述相关新兴技术，并建立中美超级智能对话，就 SI 的风险与收益交换意见，下一次交流将在 2026 年 11 月前进行。两国还同意为 SI 事件建立双边沟通渠道。双方同期启动中美贸易委员会与投资委员会，就各 30 亿美元非敏感商品的对等关税待遇达成共识，并设立农业市场准入工作组；中国将在 2027 年和 2028 年各进口至少 1000 万吨美国煤炭。双方还讨论了稀土等关键矿产供应链问题，并同意在 G20 与 APEC 主办上相互支持。
- 动态Semafor
美国民主党参议员就未公开的 AI 监管框架致信白宫
美国参议员 Elizabeth Warren 和 Richard Blumenthal 致信白宫官员，要求说明科技行业对尚未公布的 AI 监管框架的影响。两人在信中表示，担心特朗普政府迎合大型科技公司 CEO 的利益，而非应对日益复杂 AI 系统带来的安全与安全风险。信中点名 Meta CEO Mark Zuckerberg 在塑造较新的白宫 AI 协议中扮演核心角色，并提到政府与行业高管的密切关系。该框架源自特朗普今年签署的 AI 行政令，是一份自愿性框架，要求 AI 公司在发布最高级别模型前提交政府。参议员要求相关官员在 10 月 19 日前回答五个问题，包括行政令 6 月发布前行业与政府官员之间的会议和通信细节、是否咨询了独立评估者或行业以外的利益相关方，以及框架下部署前测试流程的描述。
- 动态DigitalToday
韩国科技部长在国会质询中提出 AI 需要「终止开关」等人类控制装置
韩国副总理兼科学技术信息通信部长官裴庆勋在国会科学技术信息广播通信委员会国政监查中表示，AI 一旦被设定特定任务就不会停止，需要「终止开关」一类的人类控制装置，并主张通过国际协作推进 AI 安全应对。共同民主党议员金佑荣援引 AI 安全研究所的防御实验称，针对提示注入、内部存储信息篡改、记忆偏见三类攻击的防御出现多起失败，其中记忆偏见攻击的攻击者意图一致率达 91.9%。裴庆勋表示政府正推进安全 AI 模型项目，并将利用明年度预算和计划中的前沿 AI 模型强化网络安保应对能力。共同民主党议员李周熙指出，AI 性能与基础设施相关预算为 6 万 1490 亿韩元，而安全与信任预算仅 274 亿韩元，相差约 224 倍，AI 安全研究所人员仅 38 人。