Hyperdimensional（Dean Ball）谈递归自我改进第一部分
Dean Ball 撰文讨论美国主要前沿 AI 实验室正开始自动化大部分研究与工程工作，并预测未来一到两年内其实效劳动力将从几千人扩张到数十万人乃至更多。他指出这种自动化不会以一个离散事件的形式发生且几乎全部发生在闭门之后，因此公众和政策制定者可能难以察觉其带来的加速效应。
观点与讨论
全部主题研究者与从业者的观点、辩论与研究议程。
在这个话题内搜索或按分类筛选新闻与论文
第 421–440 条 · 共 627 条10月1日周四
星期四
Dean Ball · 收录 · 原文 Dean Ball · 收录 · 原文 关注度2222 OpenAI 称 GPT-5.3-Codex 帮助改进自身训练，递归自我改进引发政策讨论
OpenAI 发布的 GPT-5.3-Codex 已被其团队用于监测并调试该模型的训练运行，部分研究者形容自己的工作较两个月前发生根本改变。若自动化 AI 研究带来类似推理范式的加速，新模型可能缩短到每 1-2 个月一次，最乐观情形则指向数月内出现超级智能。当前针对前沿模型的安全标准、网络安全规则以及由 AI 系统自行设计系统的可解释性与测试要求均处于空白，作者主张现阶段继续依赖实验室自律优于仓促立规。
Dean Ball · 收录 · 原文 关注度88 The Moving and the Still：从德里 AI Impact Summit 看全球 AI 治理的失语
Dean Ball 在参加德里 AI Impact Summit 后指出，这场由首尔和 Bletchley Park AI 安全峰会演变而来的全球 AI 会议上，变革性 AI、AGI 与超级智能的风险与希望被刻意回避，并非印度一方的失误，而是这类话题已不属于"体面的全球对话"。他担忧机器智能时代可能惩罚处于经济转型期的印度及全球南方国家，而非为其赋能，且当地人对此缺乏预期；他此行对印度的信心增强，但对 AI 冲击的担忧更甚于行前。
Dean Ball · 收录 · 原文 关注度3737 Dean Ball 评 Anthropic 与国防部合同争端：AI 控制权该归谁
Dean W. Ball 复盘了 Anthropic 与美国国防部（现称 Department of War）围绕 Claude 在涉密场景使用条款的争端。合同最初由拜登政府谈成、2025 年 7 月由特朗普政府扩大，包含两条使用限制：不得用于对美国人的大规模监控，不得用于控制致命性自主武器。特朗普政府称改变立场并非要立即做这两件事，而是反对私营企业以合同形式对军方使用技术施加政策限制。
Dean Ball · 收录 · 原文 关注度88 2023：AI 政策观察者 Dean Ball 回顾其技术乐观主义立场
Dean Ball 在 Hyperdimensional 撰文回顾 2023 年在斯坦福大学散步时形成的 AI 政策基本观点，并称这些想法促成了他近期决定对美国政府对 AI 行业的某些行动划下明确界限。他自述以技术乐观主义立场看待 AI 政策，认为技术对人类历史的净效应压倒性地积极，并称 2023 年是播种之年，2026 年可能是收获之年。
Dean Ball · 收录 · 原文 关注度2929 Anthropic 的 Claude Mythos 如何颠覆网络安全格局
Anthropic 的 Claude Mythos 具备近乎超人水平的自动化软件漏洞发现能力，已发现数千个漏洞，其中大部分尚未修复。该模型目前未公开，但研究人员警告其将从根本上颠覆网络安全，且未来约六周内可能有 2-3 家美国公司掌握同等能力，随后中国等对手也将获得。研究人员认为过渡期可能漫长而残酷，最终世界或将进入防御方受益的稳态。
OpenAI · 收录 · 原文 关注度2121 Sam Altman 在联合国安理会就 AI 安全与人类控制发表讲话
OpenAI CEO Sam Altman 在联合国安理会发表讲话，讨论 AI 安全、人类控制与国际合作。他围绕如何在 AI 发展中保持人类对系统的控制、以及各国如何开展国际协作展开论述。
Frontier Model Forum · 收录 · 原文 关注度2323 Frontier Model Forum 推出前沿 AI 框架技术报告系列
Frontier Model Forum 启动前沿 AI 框架技术报告系列，计划在未来数月内陆续发布四份报告，分别覆盖风险分类与阈值、前沿能力评估、缓解措施以及第三方评估。该系列旨在说明不同组织情境下如何有效落地前沿 AI 框架，并推动实施标准的形成。目前已有 12 家主要 AI 开发商发布了各自的前沿 AI 框架，其中包括 Google DeepMind 的 Frontier Safety Framework、Anthropic 的 Responsible Scaling Policy 和 OpenAI 的 Preparedness Framework。
Joe Carlsmith · 收录 · 原文 关注度1414 Joe Carlsmith：AI 时代的“假思考”与“真思考”
Joe Carlsmith 撰文区分“假思考”与“真思考”，提出地图与世界、空洞与坚实、机械与新生、士兵与侦察、干枯与切身五个相关维度，并给出放慢速度、追随好奇心、把概念锚定到真实所指等提醒自己“真正思考”的方法。他认为在进入 AI 时代之际，真思考对保持清醒尤为关键。
Joe Carlsmith · 收录 · 原文 关注度1818 Joe Carlsmith 谈我们如何解决对齐问题
Joe Carlsmith 在一组系列文章中提出解决对齐问题的路径：定义该目标为造出超级智能 AI 智能体并能安全引出其主要有益能力，同时避免失控场景，并列出"回避"与"处理"两种替代方案。他还给出 AI 权力寻求所需条件的分析框架，强调动机控制与选项控制的持续作用，并提出文明层面的三大安全因子——安全进展、风险评估与能力克制。第四篇文章主张"AI for AI safety"，通过 AI 安全反馈回路追赶或约束 AI 能力反馈回路，并指出存在一个既能大幅助力安全又尚不足以接管世界的"甜蜜区"。
Joe Carlsmith · 收录 · 原文 关注度1414 解决对齐问题意味着什么？Joe Carlsmith 系列首篇
Joe Carlsmith 在系列文章《我们如何解决对齐问题？》首篇中，将对齐问题定义为同时实现安全与收益：安全指避免"失控"场景，即 AI 出现抗命、欺骗、操纵训练、夺取权力等"叛变"行为并最终主导世界；收益指获取超级智能 AI 的主要能力红利。他称只有既建成超级智能 AI 智能体、又能安全引出其核心有益能力，才算"解决"了对齐问题，并强调该标准弱于"全尺度安全""永久安全""完全对齐"等更严苛要求。
SPY Lab · 收录 · 原文 关注度4343 ChatGPT 时代的对抗样本：聊天机器人攻击为何不同于传统对抗攻击
SPY Lab 撰文指出，传统对抗样本研究的两条基本原则（扰动不可感知、依赖梯度优化）在针对聊天机器人的攻击中基本不成立。越狱攻击由用户自己发起，提示注入中的第三方文本用户通常看不到，因此攻击文本无需保持不可感知；当前最强的越狱手段是手工试错的社会工程式指令，而非优化算法。作者在近期论文中测试了 ARCA 和 GDBA 两种优化攻击，针对 GPT-2、LLaMa 和经过拒答微调的 Vicuna，结果显示优化攻击对无防御模型部分有效，但对 Vicuna 多数失败，且即使存在可触发目标输出的提示词也找不到。
Joe Carlsmith · 收录 · 原文 关注度1818 我们何时该担心 AI 的权力寻求？Joe Carlsmith 提出三组前置条件分析框架
Joe Carlsmith 在系列文章第二篇中提出，AI 出现权力寻求行为需同时满足三组前置条件：能动性前提（行为由规划与评估过程连贯驱动）、动机前提（动机系统关注足够长时间尺度上的行为后果）、激励前提（选项与动机组合使权力寻求从 AI 视角看整体理性）。他认为激励前提常被忽视，仅凭“工具性趋同”不足以说明 AI 叛变为何理性，需综合考察其短期与非后果主义动机、成功概率、替代方案等。文章据此强调动机控制与选项控制并重，并指出若 AI 发展不减，全球脆弱性条件将更难避免。
Joe Carlsmith · 收录 · 原文 关注度1414 Joe Carlsmith 谈 AI 安全：路径与中途站点
Joe Carlsmith 在系列文章第三篇中提出，AI 对齐问题的解决取决于"问题画像"与"文明能力画像"的组合，后者由安全进展、风险评估与能力约束三个安全因素构成。他区分了胜利与代价高昂的未失败两种目标状态，并讨论了全球暂停、自动化对齐研究、全脑仿真等中途里程碑，为后续"AI for AI safety"一文铺垫。
Joe Carlsmith · 收录 · 原文 关注度1414 Joe Carlsmith 论 AI for AI safety：用前沿 AI 劳动加固对齐安全因素
Joe Carlsmith 在系列文章第四篇中提出"AI for AI safety"，即用前沿 AI 劳动强化安全进展、风险评估与能力约束三大安全因素，以让 AI 安全反馈回路追上或约束 AI 能力反馈回路。他提出"AI for AI safety 甜蜜点"概念，指前沿系统足以大幅改善安全因素、但尚不足以在现有对策下剥夺人类权力的能力区间，并指出该窗口未必存在且难以持久。文章最后列出最严重的担忧，包括诱导/评估失败、差异性破坏与危险的失控选项，以及时间与政治意愿等现实约束，并将在下一篇聚焦自动化对齐研究。
Joe Carlsmith · 收录 · 原文 关注度2424 我们能否安全地自动化对齐研究？
Joe Carlsmith 在系列文章第五篇中探讨了安全自动化对齐研究的可行性，提出"对齐 MVP"概念，即让 AI 达到或超过顶尖人类专家的对齐研究水平。他认为可通过经验反馈回路和形式化方法评估的对齐研究最值得乐观，可先大量自动化这类研究，再借此安全地自动化其余"概念性对齐研究"。主要风险包括评估难题、AI 谋划和资源不足，但他认为仍有很大机会成功。
Joe Carlsmith · 收录 · 原文 关注度2121 Joe Carlsmith 谈自动化对齐研究：可评估的对齐研究更易被自动化
Joe Carlsmith 在 Anthropic 的演讲中提出，解决对齐问题的关键之一是能否安全地自动化对齐研究，其中评估难度是核心障碍。他认为，可通过经验反馈回路与形式化方法评估的对齐研究更适合被自动化，并能反过来推动更难评估的"概念性对齐研究"。他同时强调，AI 安全反馈回路需在能力前沿推进的每个阶段跑赢或约束 AI 能力反馈回路。
SPY Lab · 收录 · 原文 关注度4343 SPY Lab 称 Glaze 防护可被绕过，并批评其安全实践
SPY Lab 发布论文与博客，称用于保护艺术家风格不被模型模仿的扰动工具 Glaze 可被绕过，并批评 Glaze 团队在安全实践上的做法。作者指出，Glaze 团队拒绝向研究社区提供源码，使第三方难以评估其鲁棒性；在作者公开论文后，Glaze 团队基于论文信息自行重实现其去噪方案并据此发布 Glaze v2.1，作者实测后称其多数结论不成立，自己的去噪器对 Glaze 2.1 在卡通风格等多种风格上仍然有效。作者还称，仅更换微调脚本就能显著削弱 Glaze 的保护，并指出 Glaze 无法被有意义地修补：已发布到网上的图片可被下载留存，后续补丁无法追溯保护，且 Glaze 失效时不会留下可检测的痕迹。
Joe Carlsmith · 收录 · 原文 关注度1212 AI 道德地位的风险：Joe Carlsmith 论 AI 能否成为道德患者
Joe Carlsmith 撰文探讨 AI 是否可能成为"道德患者"（moral patients），即其自身值得被道德考量的存在。他以疼痛为例，援引婴儿手术曾被认为无痛觉、动物养殖等历史案例，指出当前多数人将 AI 当作工具使用，但若部分近期 AI 已具备道德地位，其影响将极为重大。他同时提醒，错误地将非道德患者的 AI 当作道德患者对待，也会带来严重代价。
Joe Carlsmith · 收录 · 原文 关注度88 Joe Carlsmith 在 Anthropic 谈 AI 福利：视频与文字记录
Joe Carlsmith 在 Anthropic 发表了一场关于 AI 福利的演讲，探讨 AI 是否具有福利、道德地位与意识，以及如何在持续不确定下应对这一问题。他认为应认真对待该议题，并主张 AI 原则上可能具备意识、近期 AI 在实践层面也可能具备意识，同时指出意识或许并非唯一值得关注的焦点。演讲还讨论了相应的行动建议，其观点可能随进一步思考而演变。