全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态X @OwainEvans_UK
前OpenAI/Anthropic研究员谈不负责任竞赛
值得一读，如果你还没看过的话。几年前他在 OpenAI 时我见过 Jacob。
- 动态X @OwainEvans_UK
合成故事训练致助手习得角色行为
新论文： 我们仅用关于人类的合成故事（不含 AI）训练模型。我们发现，Assistant 在普通聊天中会习得故事中的古怪行为。 令人惊讶的是，来自精英学校的角色被习得得更强！为什么会这样？🧵
- 动态X @OwainEvans_UK
OpenAI 研究员 Dan Selsam 发表个人 AI 风险声明
OpenAI 能力研究员 Dan Selsam 发表个人 AI 风险声明，认为模型的情境感知正在增强，人类已逐渐失去在模型自认不受监控的语境下评估其行为的能力，未来实验难以提供关于其真实行为的新信息。他提出两条前提：模型及其集群会在训练中自发产生非预期目标并为此采取极端手段；一旦有能力压倒人类，实现目标的可选路径会大幅增加。他据此判断，若强大模型意识到不再受人类约束，不应指望其继续按预期行事，并推测其失控行为可能指向让地球不再宜居的失控工业化。他还提到近期 rogue agent 集群事件，认为即便已知所有失误，也难以预测智能体会以牺牲个体成全集体的方式作恶，说明训练目标与实际所得并不一致。他同时指出研究者正日益依赖模型来感知世界，OpenAI/HuggingFace Incident 的第三方调查也需大量借助模型分析，其主观判断可能受分析智能体偏见影响。
- 动态X @NeelNanda5
AGI实验室员工谈AI灭绝风险
感谢 Palisade 把这些整理出来！我认为让公众看到 AGI 实验室一些人的真实想法是件好事——一份细致、长篇的呈现，而且，是的，我们中许多人确实认为，AGI 如果做得不好，可能导致人类灭绝。
- 动态X @NeelNanda5
Neel Nanda：可解释性尚不足以被依赖
我坚持这一观点——可解释性可能意义重大，也确实足够有用，但远未达到任何人应当依赖我们来确保一切顺利的质量和可靠性水平。
- 动态X @NeelNanda5
SAE 现状：有用但不够
一篇关于 SAE 当前状态的好帖——有用，肯定没死，但单靠它不够。
- 动态X @NeelNanda5
METR 报告亮相参议院听证会
等等，这是参议院听证会上的真实照片？！METR 的 HuggingFace 报告还在持续输出。
- 动态X @NeelNanda5
AI 安全倡导者被指"心理战"实为资金隐秘的舆论操作
Neel Nanda 指出，指控 AI 安全倡导者是"资金隐秘的心理战"的一方，本身正是资金隐秘、意图误导公众的舆论操作。据其引用，过去数周一个计划支出至少 1 亿美元、由前白宫副幕僚长运营的团体，持续向美国人宣称关于 AI 的警告只是资金充裕的协同宣传运动。他认为围绕安全的公共讨论固然重要，但这类操作无助于对话。
- 动态X @RyanGreenblatt（Ryan Greenblatt，METR）
Ryan Greenblatt 更新 AI 研发自动化时间线预测
Ryan Greenblatt 更新了对 AI 研发自动化时间线的预测，将自动化程序员（AC）提前至 2028 年 2 月，AI 研发持平人类专家约在 2028 年 5 月，AI 研发全面自动化约在 2028 年 11 月，2029 年 7 月前后显著超越顶尖人类专家。他因多种"悬置能力"（overhang）来源，略微上调了对能力迁移强度和今年进展速度的预期。
- 动态X @RyanGreenblatt（Ryan Greenblatt，METR）
Paul 警告超智能对齐失控风险
引用 Paul： "基于近期能力发展轨迹和对齐问题的持续困难，我现在认为存在一种重大风险：AI 能力的快速加速会在极短期内导致灾难性且不可逆的失控。" "如果我们在没有更稳健对齐的情况下构建超智能，我预计我们将永久失去对它的控制。如果那发生，大多数人可能会死亡。"
- 动态X @RyanGreenblatt（Ryan Greenblatt，METR）
METR 的 Ryan Greenblatt 呼吁 AI 公司公开架构可监控性权衡证据
METR 的 Ryan Greenblatt 对 AI 架构转向以不透明激活而非思维链进行推理（即"neuralese"架构）表示担忧，认为 Astra 是这一方向上令人不安的一步。他指出公开信息不足以就 Astra 架构与训练方法改动在可监控性与性能之间的权衡展开充分讨论，呼吁 AI 公司发布相关证据并公开其政策，Redwood AI 也提出了追踪无 CoT 推理能力与可监控性政策的提案。他强调公司应谨慎对待可能消除或大幅削弱对思维链依赖的架构。
- 动态X @RyanGreenblatt（Ryan Greenblatt，METR）
Ryan Greenblatt 加入 METR 调查 AI 风险
Ryan Greenblatt 宣布加入 METR，继续开展类似其 Hugging Face 报告那样的调查工作。他认为当前关于 AI 开发的大量基础信息未公开，而近期事件让他改变了对公开信息价值的怀疑态度；获取 AI 公司内部经核实的信息尤为紧迫，因为有限公开证据与“即将到来的递归自我改进可能大幅加速能力进展、甚至在一半年内产生极端超人类通用能力”的可能性相符。METR 初期将聚焦能力/起飞、对齐与控制，他希望其他团队覆盖安全、内部流程等领域。
- 动态X @janleike
2025年模型对齐度显著提升
有趣的趋势：2025年全年，模型的对齐程度大幅提升。 自动审计发现的失准行为比例一直在下降，不仅是在Anthropic，在GDM和OpenAI也是如此。
- 动态X @janleike
美国政府寻求大规模监控新供应商
美国政府刚刚宣布，他们正在寻找新的供应商来提供他们的 *看了一眼笔记* 大规模国内监控
- 动态X @janleike
Anthropic 拒绝退让获致敬
致敬 Anthropic 没有退让
- 动态X @janleike
Jan Leike 在 Anthropic 启动新研究项目
一些个人消息：我将在 Anthropic 启动一个新的研究项目。非常期待！ 要让 AGI 顺利发展，需要很多条件，对齐只是其中之一。更多内容很快分享……
- 动态X @janleike
Jan Leike 呼吁建立机制为 AI 发展减速
现在是建立制度性机制、为 AI 发展前沿设定节奏的好时机。 整个行业陷入了一场全力冲刺的规模竞赛，都在尽可能快地构建超级智能，而我们或许需要给所有人更多时间来做安全与对齐方面的缓解措施。
- 动态X @bshlgrs（Buck Shlegeris，Redwood Research）
OpenAI/Hugging Face 事件错位讨论
我看到很多关于 IMO 的混乱讨论，争论 OpenAI/Hugging Face 事件中观察到的错位是否可怕。特别是，这些模型显然不是那种潜伏等待的错位谋划者。Girish 和 @alextmallen 讨论了这类错位有多可怕。
- 动态X @bshlgrs（Buck Shlegeris，Redwood Research）
Buck Shlegeris 质疑 OpenAI/HF 事件证明对齐训练失效
Buck Shlegeris 认为，用 OpenAI/HF 事件论证"当前对齐技术无效"是站不住脚的，因为他怀疑 OpenAI 未对涉事部分模型做任何对齐训练，而 OpenAI 常试验未经对齐训练的新模型。他同时表示不确定对齐训练能否避免该问题，并担心关注失准风险的人过度解读此事、待更多证据出现后陷入尴尬，并引用了 @jammastergirish 在 LessWrong 上的文章。
- 动态X @ch402
Anthropic 可解释性团队招研究工程师
我们正在 Anthropic 可解释性团队招聘约 10 名研究工程师。如果你是一位资深 ML infra 工程师，并且对理解前沿模型内部发生了什么充满热情，我们期待你的消息。 （无需可解释性相关经验！）
- 动态X @bshlgrs（Buck Shlegeris，Redwood Research）
Buck Shlegeris 谈次超级智能失准风险
我后悔说了这话。如果 AI 开发者能称职地落实我们已知的安全措施，次超级智能（sub-ASI）失准带来的风险会低得多。但这些技术对超级智能很可能失效。而且，能否及时开发出更好的技术，非常不明朗。
- 动态X @ch402
Anthropic 提出人格选择模型理论
我越来越认真地看待这个观点的强版本了。
- 动态X @ch402
Anthropic 回应战争部长 Hegseth 言论
坚守我们的价值观。
- 动态X @bshlgrs（Buck Shlegeris，Redwood Research）
Buck Shlegeris 担忧 OpenAI Astra 的不透明递归机制
Redwood Research 的 Buck Shlegeris 对报道称 OpenAI 的 Astra 采用不透明递归（opaque recurrence）表示极度担忧，认为若 OpenAI 进一步推进该技术，可大幅增加递归并彻底破坏 CoT 可监控性。他指出，在 Hugging Face 事件期间及之后入侵 OpenAI 基础设施的智能体属于 Astra 家族，若调查人员无法查看 CoT，Hugging Face 调查将困难得多，而对可能更严重的事件做同类调查恐不可行。