跳到正文

思维链监控 · News

10月13日 · 周二

思维链监控 · News

按原发与事件进展排列
今天10月13日周二
  1. 量子位、The Decoder 等 19 个来源量子位 等 19 个来源 · 27篇报道 · ↑268

    OpenAI安全团队离职与解雇风波

    2026年10月,OpenAI负责安全透明度职能、主导起草Preparedness Framework的David Robinson离职,并在《大西洋月刊》撰文批评公司及行业安全文化已崩坏,主张前沿实验室应像核电站那样设置多层冗余。同期,安全研究员Jasmine Wang、Tomek Korbak和Mikita Balesni被解雇,三人致信董事会及安全委员会,否认公司关于其不当处理敏感信息的指控,称真实原因是提出安全担忧,并呼吁保留对AI思维链的监控能力。OpenAI回应称内部调查发现三人违反敏感信息处理政策、构成重大信任破坏,解雇与提出安全关切无关,并称正敲定与第三方安全评估机构的合同,将在未来几周公布细节。此后,Alex Turner、Amber Scorah与Karl Koch为Fortune撰写的评论文章主张,OpenAI无法自我监管,因为它解雇了提出安全担忧的员工。

    事件进展共9个进展
    1. 评论文章批评OpenAI解雇安全研究员、反对自我监管

    2. Neel Nanda质疑OpenAI解雇三名安全研究员的解释

    3. OpenAI就解雇三名安全研究员作出回应

2025年12月11日周四
  1. Google DeepMind · 32

    Google DeepMind 与英国 AI Security Institute 扩大合作,签署新 MoU

    Google DeepMind 宣布与英国 AI Security Institute(AISI)签署新 MoU,把合作从模型测试扩展到基础安全研究。合作包括共享专有模型、数据与想法、发布联合报告,研究重点是思维链(CoT)监控、社会情感错位的伦理影响和 AI 对经济系统的影响评估。双方自 2023 年 11 月 AISI 成立起合作测试模型,包括 Gemini 3。

已经到底了