全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Garrison Lovely
OpenAI 称与超级 PAC“Leading the Future”无关，但似乎只有其员工相信
OpenAI 发言人表示公司与 Leading the Future 及 Build American AI 没有企业关联，也未提供资金或任何其他支持，并称 Greg Brockman 夫妇与该组织的接触属个人行为。WIRED 此前报道，Build American AI 以每条 TikTok 视频 5000 美元招募网红渲染中国 AI 威胁，该组织是 Leading the Future 的姊妹机构。记者还发现这两个组织与两个立场对立的 X 账号存在关联，其中一个账号曾发布涉及暴力的言论。
- 动态The EU AI Act Newsletter
欧盟 AI Act 通讯第 109 期：水印时代来临
欧盟 AI Act 通讯第 109 期汇总了水印要求生效后的多方反应与合规进展。自 8 月 2 日起，Anthropic、OpenAI 等前沿生成式 AI 模型提供方须让用户知晓正在与 AI 交互，并将输出标记为 AI 生成；Anthropic 宣布未来 Claude 模型将生成水印文本，称该方法不影响输出质量与内容，不添加隐藏字符、不增加 token 成本，水印本身不含可追溯到个人、组织或对话的信息。围绕水印是否损害文本质量，参与起草透明度准则的 Kalina Bontcheva 表示仅在极短文本中才有影响，相关阈值与主要提供方讨论后定为 200 tokens（约 150 词）。
- 动态The EU AI Act Newsletter
欧盟 AI Act 通讯第110期：委员会首次动用执法权要求头部 AI 实验室说明安全实践
欧盟委员会首次动用 AI Act 的新执法权，就网络安全、安全与版权合规向领先 AI 开发者索取信息，技术专员 Henna Virkkunen 称部分“最先进”模型的提供方已收到请求，但未点名，Anthropic、OpenAI、Google、Meta 和 Mistral 未立即回应 Euractiv 提问。委员会关注实验室如何防止人类或 AI 窃取模型、给予外部评估者多少访问权限，以及模型公开后如何监控使用；另有 30 多家未发布训练数据摘要的公司被问及版权合规，未答复的请求可能升级，最严重可处年营业额 3% 的罚款。
- 动态The EU AI Act Newsletter
欧盟《人工智能法案》谈判亲历者 Brando Benifei 谈落地执行与下一步
欧洲议会 AI 法案联合牵头人 Brando Benifei 在该播客中复盘立法经过并讨论实施挑战。他指出当前重点是对通用目的 AI 模型的监管，质疑欧盟 AI Office 资源是否足够，并警告各成员国分散执法会削弱欧洲创新。他还强调独立研究与公民社会可在执法环节提供支撑。 补充说明： 由于提供的正文仅为节选的访谈记录，缺少完整的问答内容和具体的数据、条款及政策建议，以上摘要是基于现有文本能够确认的事实进行提炼的结果，未能涵盖更多细节。
- 动态The EU AI Act Newsletter
《EU AI Act Newsletter》#111：欧盟推进前沿节奏
冯德莱恩在欧洲议会阐述人工智能是欧洲经济和安全的基础层，并称随着前沿模型进步风险加剧——从对手即将获得的黑客能力到自我改进模型的危害，Hugging Face 事件后开发者敲响警钟、多家头部企业 CEO 呼吁放缓递归自我改进模型。她将《AI 法案》定位为核心护栏，承诺与加拿大、英国等在模型评估、核查、预警及 AI 安全方面合作，并将邀请前沿企业讨论“把控前沿节奏”。 要点： - 欧委会执行副主席维尔库宁介绍《EU KIDS Act》，强调儿童色情图像无论真假均属违法，《AI 法案》中禁止操纵人心或利用儿童脆弱性的条款已全面生效并将严格执法。
- 动态The EU AI Act Newsletter
欧盟 AI Office 如何执行《AI 法案》？对话 Lucilla Sioli
欧盟委员会 AI Office 主任 Lucilla Sioli 在播客中说明该办公室如何执行《AI 法案》，重点包括通用人工智能规则的执法、信息请求机制的实际运作，以及《行为准则》在模型合规中的作用。AI Office 目前有 150 多人，约一半负责 AI 法案实施，另一半负责研究与创新政策，并仍在招聘。双方还讨论了团队资源挑战、与其他安全机构模式的比较，以及产业界、研究者和公民社会参与欧洲 AI 治理的途径。
- 动态CSET
追踪 AI 芯片：位置验证的成本究竟如何？
CSET 对 AI 芯片出口管制中的位置验证方法进行建模，在超 1050 万个模拟场景中比较 ping-based location verification（PLV）与实地检查的成本效益，结果 PLV 在绝大多数场景下每美元检出被转运芯片的数量更高，实地检查在任何场景中都未胜出。研究评估了五类位置验证方法，认为只有 PLV 与实地检查同时满足可验证性、准确性、安全性和可重复性四项标准，并对 PLV 的租用与自建两种部署方式分别估算了成本。
- 动态Google Bug Hunters
ESCAL8 2026：新加坡站聚焦智能体黑客攻防
Google 年度旗舰安全会议 ESCAL8 2026 将于 2026 年 10 月 23—25 日在新加坡举行，主题围绕智能体时代的黑客攻防展开。
- 动态UK AISI
英国宣布 550 亿英镑研发资金，投向健康、清洁能源与 AI 等领域
英国科学、创新与技术部（DSIT）确认向英国研究机构提供 550 亿英镑长期研发资金，覆盖至 2029/2030 财年。其中 UKRI 将获得逾 380 亿英镑，ARIA 年度预算到 2029/2030 年从 2.2 亿英镑增至 4 亿英镑，Met Office 获逾 14 亿英镑。新分析称政府每投入 1 英镑研发资金可带来 8 英镑净经济收益，并平均撬动 2 英镑私人投资。
- 动态UK AISI
国际 AI 安全研究所网络更名为国际先进 AI 测量、评估与科学网络，英国担任协调员
国际 AI 安全研究所网络在圣地亚哥会议后更名为国际先进 AI 测量、评估与科学网络，英国出任网络协调员。该网络 2024 年 11 月成立，成员包括澳大利亚、加拿大、欧盟、法国、日本、肯尼亚、韩国、新加坡、英国和美国，旨在就先进 AI 能力测量与评估建立共享科学理解和国际认可方法。会议与 NeurIPS 同期举行，各方承诺加倍聚焦 AI 测量与评估科学。
- 动态UK AISI
英国政府征集安全 AI 基础设施意见：面向 AI 与网络安全业界征询
英国政府发起安全 AI 计算系统开发的信息征集，向 AI 行业、网络安全行业及更广泛的产业界与学术界收集观点，用以了解当前的安全挑战、现有能力、现实约束以及值得推进的研究与技术试点方向。该公告于 2026 年 1 月 29 日发布，旨在帮助政府在确保安全的条件下开发和部署最先进的 AI 系统。
- 动态UK AISI
OpenAI 与 Microsoft 加入英国 AISI 国际对齐项目，资助总额超 2700 万英镑
英国 AI Security Institute（AISI）宣布 OpenAI 与 Microsoft 加入其 Alignment Project，OpenAI 承诺追加 560 万英镑，加上 Microsoft 等方支持，该基金可用资金超过 2700 万英镑。该项目由英国副首相 David Lammy 和 AI 大臣 Kanishka Narayan 在印度 AI Impact Summit 闭幕时公布，首批资助来自 8 个国家的 60 个项目，第二轮申请将于今年夏季开放。
- 动态UK AISI
英国与澳大利亚签署 AI 安全协议，两国安全研究所将共享前沿 AI 信息
英国与澳大利亚同意深化 AI 安全合作，英国 AI Security Institute 与澳大利亚 AI Safety Institute 签署谅解备忘录。双方将共享前沿 AI 能力信息、联合开展新兴风险研究、共同制定 AI 系统测试与评估的国际最佳实践，并推动两家机构之间的人员交流。协议由英国 AI 大臣 Kanishka Narayan 与澳大利亚助理部长 Andrew Charlton 在堪培拉签署。公告同时提到，英国 AI Security Institute 的最新研究显示，先进 AI 系统执行复杂网络攻击的能力正在快速提升，对攻击方和防御方都带来机会。
- 动态CSA Labs Research
NIST 发布 SP 800-239 AI 数据中心安全框架草案
NIST 于 2026 年 7 月 27 日发布 SP 800-239《AI 数据中心安全分析：高性能计算驱动方法》初始公开草案，公众意见期已于 9 月 25 日结束。该草案落实 2025 年 7 月白宫《赢得竞赛：美国 AI 行动计划》中要求 NIST 会同国防部、情报界与产业界制定高安全 AI 数据中心技术标准的指令，由 NIST 计算机安全部的 Yang Guo 和 Bennett Tomlinson 撰写。
- 动态CSA Labs Research
AI 可保性缺口：为什么保险公司无法为看不见的风险定价
生成式 AI 风险因缺乏历史损失分布而落入"奈特不确定性"，保险公司无法给出任何有精算依据的费率，只能以除外条款而非承保来应对。ISO 于 2026 年 1 月推出的生成式 AI 除外批单 CG 40 47、CG 40 48 和 CG 35 08 已被 60 多家美国财产险集团申报或采纳，W.R. Berkley 更提议在董监高、职业责任及信托责任险中排除"任何实际或被指称的 AI 使用"。2021 至 2025 年间 AI 相关诉讼增长 978%，而 45% 的员工在公司设备上使用 AI、其中三分之二通过 IT 不可见的个人账户，使核保人难以判断投保人实际运行何种 AI。
- 动态Apollo Research
Apollo Research 提出嵌入式评估原则与基于主张的裁定方案
Apollo Research 发布嵌入式评估原则，主张外部评估者应获得接近员工级别的访问权限，用于评估模型谋划导致的失控风险。文章提出有效嵌入式评估需满足四项标准：降低风险、告知公众、形成良好激励、对开发者与评估者双方公平。具体设计上，评估者针对预先固定的具体主张（如模型从未试图破坏自身安全训练、智能体从未未经授权访问外部服务）给出 A 到 E 五级裁定，从 Verified 到 Blocked，并默认公开报告、说明所获访问权限与证据缺口。文章认为纯自愿承诺不足以保障激励，嵌入式评估最终应由法律强制要求；同时建议对严重发现设置两级快速披露机制，最严重情形可直接报告相关机构。
- 动态Anthropic Research
Anthropic 启动新一轮访谈研究：向公众征集对 AI 的真实期待
Anthropic 正通过 Anthropic Interviewer 发起一项公开研究，面向公众收集人们与 AI 相处的经历以及对 AI 公司的诉求，参与者可选择将完整访谈公之于众，且不仅限于 Anthropic 阅读。 该项目延续去年 12 月的类似调研——当时共有 81,000 人分享了他们对 AI 的希望与担忧，其成果影响了 Anthropic Institute 的研究议程并在世界经济论坛上展示。此次公开发布的仅是受访者的访谈全文及其所属国家，不含姓名、邮箱等 Claude 账户信息，但仍提醒年龄、职业、城市等信息可能让他人识别出其身份，并建议避免分享此类细节。
- 动态Future of Life Institute
教皇利奥十四世首部通谕《Magnifica Humanitas》聚焦 AI
梵蒂冈宣布教皇利奥十四世将于 2026 年 5 月 25 日发布首部聚焦 AI 的通谕《Magnifica Humanitas》（壮丽的人类）。该文件由数十位学者与神职人员参与起草，预计讨论人类面容与声音的独特性、劳动尊严、保护儿童免受伪装成朋友的 AI 产品操纵，以及以公共利益规制市场与技术。
- 动态Future of Life Institute
Anthropic 警告 AI 自我改进风险，考虑暂停开发
Anthropic 在博客文章中警告递归自我改进可能带来重大社会风险，并呼吁企业考虑放缓或暂停开发。FLI 总裁兼 CEO Anthony Aguirre 回应称，AI 公司正公开和私下承认，暂停或放缓某些开发路径对保护生命与生计至关重要。2023 年 3 月 FLI 曾发布类似暂停呼吁的公开信，由 Elon Musk、Yoshua Bengio 等签署，但未被采纳。
- 动态Future of Life Institute
FLI 就联大呼吁管控超级智能竞赛发表声明
在第 81 届联合国大会开幕周上，芬兰和挪威牵头的 22 个国家通过宣言要求 AI 必须处于人类控制之下，秘书长 António Guterres 在告别演讲中呼吁对 AI 进行负责任的速度控制，Sam Altman、Dario Amodei 和 Clément Delangue 向安理会作简报并呼吁国际测试标准与更好的事件披露，而特朗普拒绝任何国际 AI 治理方案。
- 动态Future of Life Institute
多国政府领导人首次呼吁就自主武器条约启动谈判
在纽约尼日利亚之家的一场论坛上，来自尼日利亚、奥地利、比利时、巴西、墨西哥、菲律宾等国政府及国际组织的高级代表首次呼吁就自主武器（俗称杀人机器人）条约启动谈判。
- 动态Future of Life Institute
FLI 呼吁各国施压 AI 公司立即限制递归自我改进
Future of Life Institute 政策全球总监 Mark Brakel 发表声明，回应各国领导人关于国际 AI 风险治理的呼吁，要求各国施压 AI 公司立即限制递归自我改进，直到相关安全研究完成为止。
- 动态Google Security
Google VRP 2025 年度回顾：15 周年，奖金超 1700 万美元
Google 漏洞奖励计划（VRP）2025 年迎来 15 周年，向全球 700 多名研究者发放超 1700 万美元奖金，创历史新高，较 2024 年增长逾 40%。
- 动态METR
METR 近 6 个月获约 7100 万美元资助，用于自主能力与递归自我改进研究
METR 在近 6 个月获得约 7100 万美元资助承诺，用于研究自主能力、追踪递归自我改进、评估监控系统、开展风险评估和调查 AI 事件。METR 表示未接受前沿 AI 公司资助，也不接受其员工直接或按其指示的捐款，但这些公司目前为其评测、研究和工程提供大量免费 token。该机构正在扩充团队并启动新项目。