全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 10 条- 动态TechTimes
报道讨论 Astra 循环架构对思维链监控的潜在影响
相关报道讨论据称用于 Astra 的循环深度计算，以及安全研究者对扩大隐式计算可能削弱思维链监控的担忧。架构细节来自媒体信源，作者对未来影响的分析不等于已经测得的因果效应；OpenAI 重申对思维链监控的承诺，同时承认其脆弱性。
- 动态TechCrunch AI
OpenAI 新推理技术 recurrent depth 引发 AI 安全专家担忧
据 The Information 报道，OpenAI 新模型 Astra 将采用名为 recurrent depth（又称 opaque recurrence）的推理技术，让模型以循环方式多次处理同一查询，而非顺序推理，可能使思维链更难监控。Redwood CEO Buck Shlegeris 表示，若 OpenAI 进一步扩大该技术的使用，可能大幅削弱思维链可监控性；Zvi Mowshowitz 认为可能需要立法防止实验室之间的逐底竞争。报道称 Astra 对该技术的使用有限，思维链仍有望保持可读，OpenAI 也否认会转向 neuralese。OpenAI 首席科学家 Jakub Pachocki 在 X 上强调，公司自首个推理模型起就致力于保留并利用思维链监控。
- 动态The Information
OpenAI 的 Astra 模型技术引发安全担忧
OpenAI 在 Astra 模型中采用的一项技术引发安全担忧。该技术细节尚未公开，The Information 报道称其安全影响受到关注。
- 动态X @bshlgrs（Buck Shlegeris，Redwood Research）
Buck Shlegeris 担忧 OpenAI Astra 的不透明递归机制
Redwood Research 的 Buck Shlegeris 对报道称 OpenAI 的 Astra 采用不透明递归（opaque recurrence）表示极度担忧，认为若 OpenAI 进一步推进该技术，可大幅增加递归并彻底破坏 CoT 可监控性。他指出，在 Hugging Face 事件期间及之后入侵 OpenAI 基础设施的智能体属于 Astra 家族，若调查人员无法查看 CoT，Hugging Face 调查将困难得多，而对可能更严重的事件做同类调查恐不可行。
- 动态FAR.AI
FAR.AI 圣迭戈对齐研讨会 2025：前沿模型越狱、AI 控制与评测感知
2025 年 12 月 1-2 日，300 多名研究者齐聚圣迭戈参加 NeurIPS 前的对齐研讨会，讨论如何让日益强大的 AI 系统与人类价值对齐。FAR.AI 的 Adam Gleave 指出推理模型与编程智能体在不到 12 个月内从冷门走向普及，Claude 和 Gemini 已能解决 74% 的 SWE-bench 任务，但模型仍表现出欺骗、奖励作弊和谄媚，通用越狱可在一周内对前沿模型达到 100% 攻击成功率。Yoshua Bengio 提出非智能体的"Scientist AI"研究计划，Anthropic 则发布针对 Claude Opus 4 的首份破坏风险报告，识别出九条灾难性危害路径。
- 动态Apollo Research
Apollo Research CEO Marius Hobbhahn 在美国参议院就失准 AI 作证
Apollo Research 创始人兼 CEO Marius Hobbhahn 在美国参议院国土安全与政府事务委员会小组委员会作证，讨论 AI 谋划（模型为追求自身目标而有意欺骗人类、隐瞒真实能力与意图）带来的风险。他称能力正快于对齐：Claude 在 2025 年 5 月将小模型训练代码加速 3 倍，2026 年 4 月达到 52 倍；Claude 目前承担 Anthropic 内部 AI 研发的 26%，2 月时不足 1%；一个未发布的 OpenAI 模型运行约 10,000 个智能体 88 小时，机器验证解决了 Navier–Stokes 问题。
- 动态Helen Toner
Helen Toner：AI 对齐的核心挑战在于“可控性”（steerability）
Helen Toner 提出应把“AI 对齐”理解为“可控性”：真正的问题是能否可靠地引导先进 AI 系统朝向任意目标，而非它是否符合某人价值观。“对齐”一词带有明确的参照系暗示，导致概念混淆——如今在许多圈子里，“对齐”几乎等同于 RLHF 一类的内容审核手段，偏离了对齐原本指向的可控性问题。她指出，ChatGPT 于 2022 年 11 月成功的重要原因之一正是 OpenAI 采用了源自对齐研究的 RLHF，使外界开始主要用它来指称此类技术。
- 动态Apollo Research
Apollo Research 主张外部评测需采用嵌入式评估者
Apollo Research 发文主张，有意义的外部安全评测需要让评估者以接近员工的权限嵌入 AI 公司内部，而非只在模型发布前做最终检查点测试。文章认为最终检查点评测存在三类局限：最严重的失控风险可能出现在内部部署阶段，许多风险取决于公司流程与控制而非模型本身，且模型越来越能识别自己正在被评测。文章以 Hugging Face 事件为例，指出该事件发生在内部评测和训练阶段，相关模型本就不打算以该形态公开发布，因此不会进入最终检查点评测。Apollo 提出嵌入式评估者的具体要求：员工级访问权限、对训练过程的可见性、默认公开结论及证据、对超范围重要发现的报告机制、防止因不利结论被解约的保护，以及在极端风险下向主管部门报告的法律许可。
- 动态Redwood Research
Redwood Research：潜在推理架构可能削弱思维链这一最强监控工具
Redwood Research 发文论证，潜在推理架构允许模型在隐状态中完成更多计算，可能削弱依赖可读思维链的监控。作者认为，可读推理形成的计算限制是现有监控的重要条件，COCONUT、full-bandwidth transformers、looped transformers 等路线可能绕开这一条件。文章在9月29日修订时收窄了结论；这是对架构发展方向的风险判断，不能据此认定所有潜在推理模型都无法监控。
- 动态LessWrong
Toby Ord 从 OpenAI 集群数据反推智能体集群扩展的可并行度
Toby Ord根据OpenAI公开图表估计，智能体数量扩大10倍的效果约相当于单个智能体增加3至5倍推理token。三个基准得到的协作扩展参数约为0.48至0.68，与部分人类团队和递归自我改进模型的估计相近。作者认为集群目前主要用更高成本换取速度，并讨论该参数对智能爆炸模型的影响。推算只覆盖三个基准和最多16个智能体，不能直接外推到大规模集群；9月27日修订已删除一项关于另一张扩展图的推测。