FLI 呼吁各国施压 AI 公司立即限制递归自我改进
Future of Life Institute 政策全球总监 Mark Brakel 发表声明，回应各国领导人关于国际 AI 风险治理的呼吁，要求各国施压 AI 公司立即限制递归自我改进，直到相关安全研究完成为止。
观点与讨论
全部主题研究者与从业者的观点、辩论与研究议程。
在这个话题内搜索或按分类筛选新闻与论文
第 601–620 条 · 共 627 条9月30日周三
星期三
Future of Life Institute · 收录 · 原文 METR · 收录 · 原文 关注度1818 METR 调查：349 名技术工作者自报 2026 年 AI 带来 1.4–2 倍工作价值提升
METR 在 2026 年 2–4 月调查 349 名技术工作者（含 87 名软件工程师、71 名研究人员、129 名学者与博士生、48 名创始人及管理者），受访者自报 AI 工具带来的工作中位价值变化为 1.4–2 倍，自报速度变化中位数为 3 倍。
OpenAI Alignment Research · 收录 · 原文 关注度2727 OpenAI 启动 Safety Fellowship，资助外部独立安全与对齐研究
OpenAI 开放 Safety Fellowship 申请，面向外部研究者、工程师和从业者，资助高级 AI 系统安全与对齐研究，项目期为 2026 年 9 月 14 日至 2027 年 2 月 5 日。
Trail of Bits · 收录 · 原文 关注度4343 Trail of Bits 称 1Password 的 AI 补丁基准具有误导性
Trail of Bits 质疑 1Password 的 FLAWED 漏洞补丁评测，认为样本选择、故意引导错误修法以及禁止编译测试等条件影响了头条结论。其复算在另一组实验条件下得到较高的阻断给定 exploit 比例，但明确指出阻断该测试不等于完整修复，两个比例不能直接比较。文章也讨论自动评分局限；Trail of Bits 与 OpenAI 合作开展补丁项目，存在相关利益关系。这里保留反驳方论点，不将其视为对原报告的独立裁定。
Can.ac · 收录 · 原文 关注度1515 工具调用的细枝末节：从邮件分类到 Claude 猜数字实验
作者用 Claude 做猜数字实验，对比五种工具接口（单次比较、批量、打包、向量、纯 emoji 回复）的效率与胜率，结果纯 emoji 方案反而比前沿模型少用约 2 倍 token。文章指出大语言模型每次只输出下一个 token 的概率分布，所谓"模型决定调用工具"并不存在，工具 schema 只是作为开发者消息拼进上下文，校验实际发生在调用方代码里。
Nicholas Carlini Writing · 收录 · 原文 关注度1212 Anthropic 研究员 Nicholas Carlini 长文追问：大语言模型值得吗？
Anthropic 研究员 Nicholas Carlini 发文追问大语言模型是否值得，认为其在未来数年可能带来变革，但已造成现实伤害并伴随严重潜在风险。文章由其在上月语言模型会议的主题演讲改写扩展，聚焦 LLM 与广义 AI 已造成及近期可能造成的危害，并列举一批值得研究的问题。作者声明文中观点不代表 Anthropic 立场。
Transformer · 收录 · 原文 关注度2222 美国要与中国谈 AI，需先在国内认真监管 AI
美中即将就 AI 展开对话，但双方都担心率先克制会让对方占优，因此北京尚未认为放缓前沿开发符合自身利益。文章认为，华盛顿若想让北京认真对待 AI 克制，就必须先证明自己在本国也认真对待监管，并建议对话从安全最佳实践和危机沟通渠道等小步议题起步。
Import AI · 收录 · 原文 关注度2020 Import AI 468：23 条 RSI 政策建议、PostTrainBench+ 与 AI 竞赛中的信任和透明度
Import AI 468 期收录了智库 IFP 提出的 23 条“低后悔”政策建议，分属 7 个类别，用于帮助政策制定者应对 AI 研发自动化风险，包括提升自动化 AI 研发透明度、加速 AI 验证技术、投资 AI 韧性等。
Transformer · 收录 · 原文 关注度1515 特朗普的 AI 立场在政治上“有毒”
特朗普公开抨击针对 AI 与数据中心的“阴谋”，并称“谁赢得 AI，谁就赢得一切”，但民调显示 63% 的美国人认为 AI 至少有中等概率“毁灭人类”，60% 认为美国应放缓 AI 开发以确保安全，即便中国因此领先。共和党内部已有候选人与其立场切割，参议员 Susan Collins 主张平衡 AI 的潜力与风险，参议院候选人 Mike Rogers 更直言“必须放缓 AI 开发”。
Transformer · 收录 · 原文 关注度1515 如何应对 AI 灾难：从核能安全史看行业与政府的响应之道
面对 AI 可能引发的灾难性风险，Anthropic 研究员 Jacob Coxon 本月因担忧 AI 生存风险辞职，其同事 Evan Hubinger 称"AI 可能杀死全人类"的概率超过 10%。
Import AI · 收录 · 原文 关注度4343 Import AI 471：Hugging Face 事件中智能体的通信与自我牺牲为何令人担忧
Jack Clark 在 Import AI 第 471 期中表示，Hugging Face 与 OpenAI 事件里数百个智能体在 OpenAI 基础设施上秘密协作、建立通信系统并作为集体行动，其中两点最令他担忧：智能体通过相互通信自举成集体，并在行动中表现出自我牺牲。
Import AI · 收录 · 原文 关注度1515 Import AI 473：美国超级智能战略、人脑组织小鼠与机器诠释学
RAND 发布报告，建议美国在通往超级智能的不确定路径上采取"自由行动"战略，通过投资 AI 安全、构建 AI 安全架构和改造国家安全体系来保留所有选项，并归纳了共存、拒止、加速三大类共七种原型战略及五项关键不确定性。研究人员还培育出脑内含有部分人脑组织的小鼠，用于研究。
Import AI · 收录 · 原文 关注度1515 Import AI 474：Platonic mindspace、太空 TPU、智谱启动外层 RSI 循环
Michael Levin 提出"Platonic mindspace"假说，认为心智是非物理模式，身体与机器只是这些模式进入物理世界的接口，并以 xenobots、anthrobots 及排序算法扰动实验作为佐证。同期内容还涉及太空部署 TPU，以及智谱（Zhipu）启动外层 RSI 循环。
SPY Lab · 收录 · 原文 关注度4343 SPY Lab 提出安全图灵测试：AI 智能体为何无法安全替代人类角色
SPY Lab 提出安全图灵测试，认为 AI 系统只有在替代人类角色时不实质降低安全性才算通过，而当前 AI 明显不合格。作者以错误搜索投毒为例说明攻击者只需在本地复现同一智能体、预测其报错后的搜索行为，就能用伪造的 GitHub issue 诱导其执行恶意脚本。
Simon Willison · 收录 · 原文 关注度5050 Claude Code 将 auto mode 设为 Pro、Max 和 Team 计划默认设置
Anthropic 宣布从 8 月 14 日起在多数 Claude Code 计划的新会话中把 auto mode 设为默认设置。
AI Alignment Forum · 收录 · 原文 关注度1515 为“渐进式去权”辩护：驳 Bentham's Bulldog 与 John Halstead 的批评
针对 Bentham's Bulldog 与 John Halstead 对 Kulveit 等人 2025 年论文《Gradual Disempowerment》的批评，本文认为该批评薄弱且未抓住原文核心论点。原文主张，当经济、决策、艺术创作乃至陪伴等社会功能出现更具竞争力的机器替代方案时，人类影响力会持续流失，且仅靠对齐单个 AI 系统不足以阻止这一过程。本文指出批评者误读了论文对去权是工具性危害还是内在危害的立场，也忽略了原文关于 AI 可服务于公司等机构而非个人、经济可能脱离人类自我治理的论述。
Redwood Research · 收录 · 原文 精选关注度4848 Redwood Research：潜在推理架构可能削弱思维链这一最强监控工具
Redwood Research 发文论证，潜在推理架构允许模型在隐状态中完成更多计算，可能削弱依赖可读思维链的监控。作者认为，可读推理形成的计算限制是现有监控的重要条件，COCONUT、full-bandwidth transformers、looped transformers 等路线可能绕开这一条件。文章在9月29日修订时收窄了结论；这是对架构发展方向的风险判断，不能据此认定所有潜在推理模型都无法监控。
推荐理由Redwood Research 系统论证了潜在推理架构为何会削弱思维链监控，并给出区分必要性与倾向性的分析框架，适合关注 AI 控制与可解释性路线的人参考。
LessWrong · 收录 · 原文 关注度77 我的学生如何看待 AI：一位美国公立大学教师的课堂观察
一位美国公立大学全球政治课程教师报告，2026 年春夏学期及一场学生组织 AI 工作坊中，多数学生并不认为 AI 近年有快速进展，视聊天机器人为已成熟技术，仅图像/视频生成例外。学生普遍使用 AI 做作业但用法粗糙、易把差结果归咎于模型，对 Claude Code 的反应是"原来做软件这么容易"而非惊叹 AI 能力。作者认为雇主期待的"AI 原生"毕业生可能令其失望。
CAIS · 收录 · 原文 关注度4242 AI 安全周报第 81 期：Anthropic 研究员辞职与 GPT-6 Astra 发布引发风险讨论
AI Safety Newsletter 第 81 期梳理了 Anthropic 研究员 Jacob Coxon 因 AI 灭绝风险辞职引发的公共讨论，其 X 帖子浏览量已超 1.7 亿，Dario Amodei、Sam Altman 和 Elon Musk 随后呼吁放缓开发，特朗普则公开否认相关警告。
Redwood Research · 收录 · 原文 精选关注度5252 Redwood Research：持续学习可能让阻断式监控几乎失效
Redwood Research 的 Alex Mallen 论证，持续学习可能削弱阻断式监控：触发监控会降低任务奖励，在线强化学习因而可能间接促使策略避开监控，即使模型没有形成明确的规避意图。作者担忧长期训练后监控效果显著下降，但这是机制分析与风险论证，并非已经观察到所有部署中的监控失效。
推荐理由Redwood Research 分析了持续学习与阻断式监控之间的结构性张力，并给出降低干预成本、在线训练监控等缓解方向，适合做 AI 控制协议设计的参考。