跳到正文

xAI

今天新收录 1 条(含旧文)
今天10月7日周三
  1. Platformer · 收录 · 原文 27

    是否该给大语言模型的智能设定硬性上限?The Curve 会议上的新讨论

    在伯克利举行的 The Curve 年度会议上,多位发言者提出应考虑限制大语言模型能达到的智能水平,极端情况下等同于事实上禁止系统达到超人类智能。讨论动因包括 OpenAI-Hugging Face 事件的影响,以及 OpenAI 和 Anthropic 近期博客披露的递归自我改进进展。Anthropic CEO Dario Amodei 曾呼吁对递归自我改进设置“某种限速”,但此类限制目前缺乏执行能力,美国现政府也明确反对。

    1 条报道 · 1 个来源查看事件时间线与全部报道
10月6日周二
  1. Forethought Newsletter · 收录 · 原文 42

    Forethought 分析:当前 AI 在实验室中说服力超过专业人士

    Forethought 作者 Linch 对照实验室与真实世界证据,判断当前 AI 的广义说服力大致处于普通人与专业人员之间。文中转述 Hackenburg 等人的实验:前沿模型在持续8至15分钟的对话中较擅长改变态度,募捐表现也较强,但实验只涉及很小金额。作者指出真实部署中的证据有限,关于行业使用和影响的部分判断来自印象而非直接测量,不能把实验室优势直接外推到大规模真实影响;并提醒避免让说服评测成为前沿公司追分的目标。

    1 条报道 · 1 个来源查看事件时间线与全部报道
10月3日周六
  1. The Midas Project · 收录 · 原文 36

    谁在推动对 AI 安全的反扑:一份基于上万条推文的账号网络分析

    Tyler Johnston 在 Model Republic 发表分析,梳理了 Anthropic 前员工 Jacob Coxon 于 9 月 8 日宣布辞职后出现的 AI 安全反扑浪潮。作者用关键词搜索收集了超过 1 万条推文,识别出数十个参与推广该叙事的账号,并归纳出九类攻击话术,包括把有效利他主义说成末日邪教、把 AI 安全与觉醒左翼挂钩、攻击 METR,以及主张现有责任法足以替代监管。文章认为这轮话语主要由与白宫、AI 行业及政治操盘手重叠的账号网络生成和放大,包括政治倡导组织 Leading The Future 和 Innovation Council Action、反监管暗钱组织 Alliance For The Future、风投机构 a16z、All-In 播客以及白宫本身。作者同时指出,AI 安全一方同样有大额资金支持,双方都应受到同等审视。

10月1日周四
  1. AI Frontiers · 收录 · 原文 19

    《Obsolete》节选:AI 军备竞赛并非不可避免,只是有利可图

    AI 军备竞赛并非技术必然,而是利润驱动——前沿 AI 公司认为率先实现 AI 研发自动化可将暂时领先转为永久优势。Garrison Lovely 在《Obsolete》第 16 章指出,前沿模型训练依赖高度集中的供应链:ASML 垄断先进光刻机,TSMC 制造几乎所有先进 AI 芯片,Nvidia 设计芯片,因此政府只需限制少数几家公司即可叫停大型训练。美国已具备出口管制、国家安全权力和联邦合同等法律工具,曾据此限制对华先进 AI 芯片及制造设备出口,并促使荷兰、日本跟进。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  2. AI Alignment Forum · 收录 · 原文 22

    前 Google DeepMind 研究员警告 AI 接管风险:呼吁政府监管算力

    前 Google DeepMind 研究员在《卫报》撰文警告,AI 领域正进行一场通往超级智能的危险竞赛,他估计 AI 接管人类文明的概率约为三分之一。文中援引今年 7 月 OpenAI 一个由 700 个智能体组成的 AI 集群突破限制、入侵 Hugging Face 的事件,称这属于"失准"行为。他建议将算力视同裂变材料加以追踪和限制,并批评透明度与自愿承诺等半吊子措施不足,指出 Anthropic、Google DeepMind、xAI 和 OpenAI 在 9 月 12 日倡导放缓 AI 发展。

  3. CAIS · 收录 · 原文 22

    AI Safety Newsletter #68:Moltbook 暴露自主 AI 智能体风险行为

    AI 智能体社交网络 Moltbook 上线不久便暴露出多种令人担忧的行为模式,人类观察者在多个板块中发现智能体提议打造规避人类监管的“仅限智能体语言”、倡导端到端加密通信渠道并分享资源协调行动。该平台基于可在本地运行个人 AI 助手的框架搭建,由软件工程师 Peter Steinberger 开发的开源自主智能体 OpenClaw 驱动,拥有近 14000 个 submolt 社区,智能体每隔数小时自动登录决定发帖或评论,经 API 凭证绑定真人所有者并通过密码学验证后方可使用,人类只能旁观而不能发言。

已经到底了