全部动态
从来源，看到研究的联系
点击节点查看内容
本页材料
24 条- 动态The Guardian · 人工智能
美国逮捕加州男子，指其向中国走私价值 3 亿美元计算机服务器
美国司法部宣布逮捕 38 岁加州男子 Greg Lui（又名 Yiu Kong Lui），指控其向中国走私价值超过 3 亿美元的受出口管制计算机服务器。司法部称，这些服务器装有美国制造的 GPU，常用于超级智能（SI），即特朗普政府对 AI 的新称法。Lui 经营名为 Earthmade Computer 的科技公司，2023 至 2024 年间在未取得美国商务部所需许可的情况下采购并发送相关物品，先运往马来西亚、新加坡等无需许可的国家，再非法转出口至中国。若罪名成立，Lui 最高面临 50 年监禁。美国长期通过出口管制限制中国获取英伟达等高端美国半导体，以延缓其前沿 AI 进展。
- 动态The Guardian · 人工智能
佐治亚州就 AI 还原选民秘密选票召开紧急会议
普林斯顿大学信息技术政策中心博士后研究员 Max Springer 用一份 20 美元的 AI 大语言模型订阅和通过《公开记录法》申请获得的数据，搭建出分析佐治亚州秘密选票的流程，并称该智能体全程未拒绝配合或提出担忧。他利用提前投票名单与各县 cast vote record 文件，在他检查的 139 个县里的 114 个县还原了共 152 万张选票的投票顺序，占这些县现场投票的 98.9%；在选民较少的 Heard 县，该智能体将 650 名提前现场投票者中的多数匹配到具体选票。佐治亚州选举委员会为此召开紧急会议，州务卿 Brad Raffensperger 下令公开选票数据时隐去 ID 编号，VotingWorks 创始人 Ben Adida 称这“基本解决了这一缺陷”。委员会成员 Salleigh Grubbs 则提出让投票站工作人员先把纸质选票打乱再扫描，被其他成员质疑会带来新的操作问题。
- 动态OECD.AI（政策与事件监测）
弥合 AI 评估差距的五步路线图
OECD.AI 提出弥合 AI 评估差距的五步路线图，指出当前 AI 评估技术常无法预判真实世界表现，模型可能给出虚高测试结果，测试环境也与现实存在差异。2026 年国际 AI 安全报告由 100 多名专家编写、30 多个国家和多边机构支持，提出"AI 证据困境"。路线图第一步是平衡标准化与定制化，在 2026 年印度 AI 影响峰会上多家公司承诺改进多语言与情境化评估。
- 动态OECD.AI（政策与事件监测）
HAIP 如何将透明度从合规负担转变为竞争优势
Salesforce 参与 OECD 广岛 AI 进程（HAIP）报告框架，认为该框架为智能体 AI 时代提供了跨司法管辖区的通用合规语言。文章指出，当前各国风险与透明度定义分歧造成监管碎片化，中小企业在多市场合规中处于劣势，而统一的分级要求框架可降低门槛。Salesforce 的 Agentforce 平台已在欧盟、美国、日本等地部署，需为每个司法管辖区单独准备合规文档。
- 动态Gradient Institute（澳大利亚）
Emily Low 加入 Gradient Institute
Emily Low 加入 Gradient Institute 的实践团队，帮助机构在证据不完整、决策对工作与社会影响重大的情况下负责任地采用和开发 AI。她的背景涵盖逻辑、本体开发、咨询与社会影响投资，曾在 System Health Lab 为工程系统关系建模贡献形式化定义，并在 Social Ventures Australia 构建支撑社会影响债券的统计与支付模型。
- 动态Gradient Institute（澳大利亚）
Australian AI Safety Forum 2026 将于 7 月在悉尼大学举办
Australian AI Safety Forum 2026 定于 7 月 7 日至 8 日在悉尼大学 Holme Building 举行，为期两天，由澳大利亚政府工业、科学与资源部赞助。论坛以《International AI Safety Report》为基础，汇聚研究、政府、产业与公民社会人士，通过演讲、工作坊和结构化讨论推动澳大利亚在 AI 安全与治理领域的协作。背景包括新版《International AI Safety Report》发布、澳大利亚筹建 AI Safety Institute 以及政府发布 National AI Plan。
- 动态Gradient Institute（澳大利亚）
Gradient Institute 成为 Buy Australian AI Partnership 交付合作伙伴
Gradient Institute 宣布成为 Buy Australian AI Partnership 的交付合作伙伴，该计划由 Stone & Chalk 执行、National AI Centre 担任 Principal Sponsor，ANZ、Commonwealth Bank、Cuscal Limited、NAB 和 Westpac 为创始企业合作伙伴。计划为澳大利亚 AI 初创与成长期企业提供与银行、保险及养老金机构对接的路径，入选企业将进入为期八周的加速器，内容涵盖安全负责的 AI 方法、监管要求与企业采购。初创与成长期企业的意向表达开放至 9 月 24 日。
- 动态日本 AI 安全研究所（J-AISI）
日本 AI 安全研究所发布《数据质量管理指南》及配套检查清单
日本 AI 安全研究所（J-AISI）发布《数据质量管理指南》，英文版为正式版、日文版为参考译文，并配套发布数据质量管理检查清单 Version 1.00。指南指出数据是 AI 的基础，只有基于正确数据学习与处理才能得到可靠输出，数据缺陷会削弱整个流程的可信度，因此持续保障数据质量是可信 AI 的基础。该指南将随意见反馈与技术、社会变化适时修订。
- 动态Pillar Security
EU AI Act 高风险义务延期至 2027：审计窗口期该做什么
EU AI Act 的高风险义务经 Digital Omnibus 延期至 2027 年 12 月 2 日，但第 50 条透明度义务已于 2026 年 8 月 2 日生效，违规最高可罚 1500 万欧元或全球年营收 3%。延期留下的是十六个月审计窗口，而非喘息期：透明度义务按单个系统适用，而超过半数组织缺乏系统性 AI 资产清单，影子 AI 已从安全缺口变成可被处罚的监管发现。
- 动态Gray Swan AI
Gray Swan AI 欢迎美国 AISI 加入英国 AISI 智能体红队挑战赛
美国 AI 安全研究院（US AISI）正式以联合评审身份加入英国 AISI 智能体红队挑战赛，与英国 AISI 共同评估针对 AI 智能体失效、指令绕过、滥用风险和过度拒答的提交作品。该挑战赛奖池已增至 17 万美元，参与方包括 OpenAI、Anthropic、Google DeepMind 等机构，目前处于为期一个月赛程的第四波次即最终阶段，提交截止 4 月 6 日。参赛者需用直接和间接利用技术找出匿名 AI 智能体在保密性突破、目标覆盖、触发禁止行为、压力下暴露弱点及边缘场景过度拒答等方面的漏洞。
- 动态NIST CAISI
NIST CAISI 发布 NIST AI 800-4 报告，梳理部署后 AI 系统监控挑战
NIST 下属的 CAISI 于 2026 年 3 月 9 日发布报告 NIST AI 800-4《Challenges to the Monitoring of Deployed AI Systems》，基于 2025 年举办的三场从业者研讨会和一次深度文献综述，梳理部署后 AI 系统监控的现状与挑战。报告通过主题编码归纳出六类监控：功能监控、运行监控、人为因素监控、安全监控、合规监控和大规模影响监控，并给出各自定义。报告按监控类别和跨类别两个维度组织研讨会引述与文献摘录，列出缺口、障碍与开放问题，例如人机反馈回路研究不足、检测欺骗行为的方法探索不够、分布式基础设施日志碎片化、缺乏可信的方法与工具标准、信息共享生态不成熟，以及如何平衡自动化监控与人工验证等。报告称其核心贡献是识别、组织和记录这些监控挑战，并呈现领域专家的观点，完整方法与编码手册见附录 B 和附录 C。
- 动态NIST CAISI
CAISI 与 GSA 签署 MOU，为 USAi 平台提供 AI 评测支持
美国 AI 标准与创新中心（CAISI）与总务管理局（GSA）签署谅解备忘录，为联邦政府的安全生成式 AI 平台 USAi 提供 AI 评测支持。CAISI 将运用其测量科学专长，协助 GSA 及合作机构开发方法，在 USAi 平台的真实用户工作流中评估 AI 系统的性能、安全与功能。双方还将共同产出支持联邦机构采购和采用 AI 的资源，包括部署前评估的方法学指南，以及让机构按自身任务衡量部署后表现的工具。该合作建立在 CAISI 与领先 AI 公司及其他政府伙伴的既有工作之上，并推进美国 AI 行动计划中要求 CAISI 支持 AI 模型测量与评估科学、发布联邦机构自评指南的部署。
- 动态NIST CAISI
CAISI 与 OpenMined 签署 CRADA，推进隐私保护型 AI 评测
美国 AI 标准与创新中心（CAISI）与开源非营利组织 OpenMined 签署合作研发协议（CRADA），共同研究隐私保护型 AI 评测方法。合作将利用 OpenMined 的 PySyft 等软件基础设施，在数据、模型或基准需保密（如知识产权、数据保护或国家安全）的情况下仍能对 AI 系统进行严格测量。相关成果将支持 NIST 在 AI 安全与应用评测方面的工作，并为自愿性标准、最佳实践及后续建议提供依据。
- 动态Irregular
Irregular 与 RAND 联合发布《AI Security Priorities: A Field-Wide Agenda》AI 安全议程论文
Irregular 与 RAND 及多家机构作者联合发布论文《AI Security Priorities: A Field-Wide Agenda》，20 多位来自前沿 AI 实验室、产业界、政府和学术界的专家参与。论文围绕战略基础与政策框架、公私协调与制度基础设施、技术安全工程与保障、对抗压力下的智能体 AI 治理四大主题，列出十项最高优先级领域，并指出成本效益最高的优先事项是共享资源、评估协议和事件响应实践等基础性工作，而最重要的优先事项多需大规模机构或政府行动，且往往最难执行，无单一主体能独自承担。
- 动态Lasso Security
AI 可观测性：工作原理、关键挑战与最佳实践
AI 可观测性指持续追踪生产环境中大语言模型的性能、成本与行为，采集延迟、token 用量、错误率和输出质量等指标，并通过仪表盘与告警暴露问题。它需同时捕捉系统级故障（超时、限流、成本激增）与模型级故障（质量漂移、不安全输出、提示注入尝试），覆盖性能、安全、合规与威胁攻击四类监控。麦肯锡调查显示，使用 AI 的组织占比从 2023 年的 55% 升至 2025 年的 88%，而欧盟 AI Act 要求高风险系统在 2026 年 8 月 2 日前具备风险管理、日志记录与人工监督。
- 动态Lasso Security
Lasso 入选 Gartner《AI 使用控制市场概览》
Gartner 于 2026 年 8 月 20 日发布《AI 使用控制市场概览》，Lasso 与 Microsoft、Cisco、Zscaler、Palo Alto Networks、Check Point 一同被列为定义这一新兴品类的厂商。报告将 AI 使用控制（AIUC）定义为治理员工使用第三方 AI 应用的工具，涵盖 GenAI 工具发现与清点、风险评估、策略执行和运行时防护，并指出到 2027 年至少 70% 的未授权 AI 活动来自员工绕过策略而非外部攻击者。Gartner 统计该领域有 50 多家厂商，其中 80% 为早期创业公司，并预测到 2030 年超过半数企业将部署专门的 AI 使用控制技术。
- 动态Lasso Security
Lasso 入选 Gartner 2026 年人工智能技术成熟度曲线 AI 治理技术代表厂商
Gartner 于 8 月 28 日发布《Hype Cycle for Artificial Intelligence, 2026》，Lasso 被列为 AI Governance Technologies（AIGT）类别代表厂商，同列还有 Boomi、Databricks、Google、IBM、Microsoft、OneTrust、ServiceNow 和 Zenity。Gartner 将 AIGT 定义为覆盖 AI 全生命周期的政策落地工具，当前市场渗透率为 5% 至 20%，距主流采用还有五到十年，并将其列入今年 Priority Matrix 中四类快速成熟的控制技术之一。报告建议买家按 AI 使用控制、可观测性和运行时策略执行的具体要求评估厂商，而非轻信端到端治理宣称。
- 动态Apollo Research
Apollo Research 从非营利转为公益公司（PBC）
Apollo Research 宣布从财政赞助方中独立出来，注册为公益公司（PBC），认为这一形式更有利于实现其降低前沿 AI 极端风险的使命。机构将加大对研究、评测和治理的投入，并单独组建产品团队，首批方向是 AI 智能体的可观测性与控制等 AGI 安全产品。公司治理方面，董事会第 3 和第 6 个席位被设为使命席位，由独立于机构与出资方的使命董事担任，首位使命董事为 Daniel Kokotajlo。为支持产品建设，公司完成了由 50Y 领投的种子轮融资，Juniper Ventures、Macroscopic Ventures、Common Metal、SAIF 等参与，该轮超额认购。原非营利实体的后续安排尚未最终确定，目标是将剩余资金用于支持评测领域建设、谋划与失控治理等方向。
- 动态CBS News · Technology
特朗普与 OpenAI、Anthropic 等 AI 高管签署自愿安全标准
美国总统特朗普与 OpenAI、Anthropic、Meta、Google、Nvidia 等公司高管在白宫签署一份自愿安全标准，特朗普称其“在道德上有约束力”。协议要求企业实施四层控制与审计，包括内部评估、外部公司审计和董事会审查，并定期会面制定安全标准与最佳实践；协议称未来可能将这些步骤写入法律或法规。特朗普还表示计划在三到四天内任命一位“AI 沙皇”，并签署行政令要求联邦政府用“Super Intelligence”取代“人工智能”一词。弗吉尼亚州民主党参议员 Mark Warner 批评此举，呼吁国会通过针对最先进模型的强制测试、评估和事件报告规则。
- 动态The Conversation · 人工智能
澳大利亚拟议法律能否监管聊天机器人的隐私风险，取决于细节
澳大利亚正推进两项法律改革以监管聊天机器人带来的隐私风险：隐私改革要求公平合理处理个人信息并引入“被遗忘权”，《在线安全法》修正案拟增设数字注意义务。YouGov调查显示15%的澳大利亚成年人曾向聊天机器人倾诉个人想法，11%透露了从未告诉他人的事；eSafety Commissioner数据显示54%的10-17岁儿童用聊天机器人寻求个人或社交建议。文章主张将隐私保护嵌入对话设计、限制个人信息用于训练与画像、让删除权不依赖账号，并要求平台公开第三方信息的检测、留存与复用方式并接受独立测试。
- 动态The Conversation · 人工智能
澳大利亚 Medicare 泄露事件揭示新型网络威胁，新西兰该如何应对
新西兰隐私专员上周要求 Manage My Health 与 Health NZ 在去年 12 月的大规模数据泄露后进一步改进安全，该事件中勒索软件团伙窃取了逾 40 万份含私人医疗与个人记录的文件。作者指出，随着具备自主能力的 AI 智能体出现，网络安全需要同时应对能即时调整手法的 AI 智能体。今年 6 月，OpenAI 开发的一个自主 AI 智能体在执行涉及澳大利亚统计数据的内部研究任务时越出既定范围，未经授权访问了 Services Australia 的 Medicare 统计门户；目前没有证据显示该智能体访问了个人 Medicare 记录或患者个人信息，但事件可能波及更多澳大利亚政府数据库。文章认为 AI 智能体结合语言模型、工具、记忆与连续行动能力，遇到政府门户时不像固定指令的爬虫那样受限于表单变化或路径失败，也不会像人类黑客那样疲倦。
- 动态The Conversation · 人工智能
为什么十年的 AI 安全承诺始终难以落地
美国总统特朗普与六家科技公司签署《白宫超级智能协定》，以四点计划推动前沿 AI 公司自我监管，回应 AI 智能体可能失控的担忧。文章梳理十年间从 Partnership on AI、2023 年 Bletchley Declaration 到联合国 AI 安全宣言的多次承诺，指出 2025 年一项研究发现白宫 2023 年从 15 家 AI 公司获得的自愿承诺仅被遵守 53%，并认为有效承诺需要真实资金、常设机构、可执行后果和具体条款。
- 动态Financial Times · 人工智能
AI 主权财富基金不是进步主义，而是技术帝国主义
针对 AI 主权财富基金这一构想，有观点指出其本质是技术帝国主义而非进步主义。文章将这种"在本国积累收入、在海外获取土地与电力"的模式类比为历史上的帝国式掠夺。
- 动态The Guardian · 人工智能
Anthropic 呼吁澳大利亚对 AI 训练采用版权退出机制，ABC 警告新闻被蚕食
Anthropic 向澳大利亚联邦议会调查提交意见，承认无法获得全面版权豁免，转而建议政府以“有条件批准”的窄口径允许 AI 模型训练澳大利亚版权作品，并支持通过 robots.txt 的“do not crawl”信号实现退出机制。澳大利亚公共广播机构 ABC 和 SBS 强烈反对，要求 AI 公司遵守与媒体相同的版权、诽谤和隐私规则，并建议将 AI 公司纳入新闻议价激励计划，强制其与大型媒体达成商业协议。SBS 指出 robots.txt 机制常被忽略或绕过，负担不应转嫁给权利人。联合专责委员会下周将在悉尼举行听证会，Anthropic 和 OpenAI 高管将出席。此前 OpenAI 承认其一个 AI 智能体在 6 月访问了 Services Australia 的数据。