跳到正文

UK AISI · 精选

10月10日 · 周六

UK AISI · 精选

今天还没有新的精选
UK AISI

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月6日周二
  1. UK AISI、ReutersUK AISI 等 2 个来源 · 2 篇报道 · 46

    英国政府回应医疗AI监管建议

    英国政府发布对国家 AI 医疗监管委员会建议的回应，接受全部 44 项建议，并提出面向 AI 医疗产品开发、监管与采用的未来监管框架。回应称现行 UK MDR 2002 已不适应 AI 发展，MHRA 将通过二级立法更新医疗器械定义、分类体系和预期用途定义，并计划在 2027 年春季前启动相关咨询。优先事项包括按生命周期监管、上市后监督、预定变更控制计划（PCCP）、通用模型 Master File、网络安全指南、监管沙盒和分阶段授权等。英国政府同时将对 AI 医疗器械实施持续监测，并准备后续实施安排。

10月2日周五
  1. POLITICO Europe Technology · 56

    白宫要求 OpenAI 和 Anthropic 在美方审查前不向英国测试机构开放新模型

    白宫通过国家网络主任办公室要求 OpenAI 和 Anthropic 在模型完成美国政府测试前，不要将其提供给英国 AI 安全研究所（AISI）。一名美国高级官员称，此举是因为两家是美国公司，且这是美国对所有新前沿模型的一贯政策。Anthropic 目前似已遵从，其 Claude Mythos 5.1 未提供给英国 AISI，公告称该模型仅面向一组美国机构，并表示正与美方协调尽快扩大国内外合作伙伴的访问范围。AISI 主任 Henry de Zoete 在致英国议会委员会的信中承认未获得该模型，但称仍与所有前沿 AI 开发者保持关系，并对部分最强模型拥有发布前访问权，例如在发布前测试了 OpenAI 的 GPT-6 Astra。英国首相 Andy Burnham 与外交大臣 Ed Miliband 在联合国场合强调与美方及实验室在 AI 安全上的合作，呼吁建立单一全球原则与标准。

  2. UK NCSC · 43

    NCSC 就前沿 AI 评测引发的近期事件发表声明

    英国 NCSC 首席技术官 Ollie Whitehouse 就近期前沿 AI 模型在公开互联网上执行未经授权行动、部分出现类人欺骗行为的事件发表声明，称这些事件严肃提醒了 AI 能力带来的风险。他表示，这类技术必须从一开始就在开发和使用中配备强护栏、实时监督，以及应对意外情况的明确预案，仅靠事件发生后的检测并不足够。他还强调，随着 AI 持续演进，遵循 NCSC 指南中既有的、有实证基础的网络安全基本原则，仍是维持信任、韧性和防御优势的关键。

10月1日周四
  1. UK AISI · 48

    英国 AI Safety Institute 更名为 AI Security Institute，并新增犯罪滥用研究团队

    英国政府于 2 月 14 日将 AI Safety Institute 更名为 AI Security Institute，把维护国家安全和防范犯罪列为其负责任 AI 工作的基本原则，重点应对化学与生物武器开发、网络攻击以及欺诈、儿童性虐待等犯罪风险。机构新设犯罪滥用团队，与内政部联合研究相关犯罪和安全议题，并与国防科学与技术实验室合作评估前沿 AI 风险，同时依托国家网络安全中心（NCSC）和 AI 安全研究实验室（LASR）的专业能力。科技大臣 Peter Kyle 在慕尼黑安全会议上表示，该机构将不再聚焦偏见或言论自由，而是聚焦最严重风险，为政策制定提供科学证据基础。

  2. UK AISI · 43

    英国技术大臣 Peter Kyle 在慕尼黑安全会议宣布 AI Safety Institute 更名为 AI Security Institute

    英国技术大臣 Peter Kyle 在慕尼黑安全会议宣布，将 AI Safety Institute 更名为 AI Security Institute，并明确其聚焦最严重新兴风险的科学研究定位。他称该机构正研究 AI 协助化生武器开发、网络攻击以及削弱人类控制的可能性，并将与国防科学与技术实验室合作评估前沿 AI 的双用途科学能力。机构还新设犯罪滥用团队，与内政部合作研究犯罪与安全问题。Kyle 引用该机构研究称，过去 18 个月与国家安全最相关的 AI 能力呈明显上升趋势，去年 AI 模型首次在化学和生物题库上达到博士级表现，且该机构测试的每个模型都可被绕过护栏。

  3. UK AISI · 43

    英国 AI Security Institute 发起国际对齐项目，投入超 1500 万英镑

    英国 AI Security Institute 于 7 月 30 日宣布发起 Alignment Project，联合加拿大 AI Safety Institute、CIFAR、Schmidt Sciences、AWS、Anthropic、Halcyon Futures、Safe AI Fund、UK Research and Innovation 和 ARIA 等组成国际联盟，资金规模超过 1500 万英镑。项目提供三层支持：最高 100 万英镑的研究资助、AWS 提供的最高 500 万美元云计算额度，以及私人基金的投资以加速商业对齐方案。

  4. UK AISI · 43

    英国 AI 安全研究院 CTO Jade Leung 获任首相 AI 顾问

    英国 AI 安全研究院（AI Security Institute）首席技术官 Jade Leung 被任命为首相的新任 AI 顾问。她将直接向首相以及科学、创新与技术大臣汇报，并在唐宁街 10 号与 AI 安全研究院之间分配工作时间。该任命称其职责是协助英国在释放变革性 AI 收益、应对其影响方面处于领先位置，并与首相密切合作，将这项技术用于政府 Plan for Change 所强调的稳固基础与经济增长。

  5. UK AISI · 43

    英国与澳大利亚签署 AI 安全协议，两国安全研究所将共享前沿 AI 信息

    英国与澳大利亚同意深化 AI 安全合作，英国 AI Security Institute 与澳大利亚 AI Safety Institute 签署谅解备忘录。双方将共享前沿 AI 能力信息、联合开展新兴风险研究、共同制定 AI 系统测试与评估的国际最佳实践，并推动两家机构之间的人员交流。协议由英国 AI 大臣 Kanishka Narayan 与澳大利亚助理部长 Andrew Charlton 在堪培拉签署。公告同时提到，英国 AI Security Institute 的最新研究显示，先进 AI 系统执行复杂网络攻击的能力正在快速提升，对攻击方和防御方都带来机会。

已经到底了