全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 论文论文追踪
基于容忍度的公平性审计：违规认证与敏感性筛查
研究者提出一套基于容忍度的公平性审计框架，用于判断群体差异是否超出预设容忍阈值，覆盖违规认证与敏感性筛查两个互补目标。前者采用约束经验似然检验，配合最不利点校准与误报率控制，支持多子群同时审计；后者采用分裂经验似然及调整分裂经验似然检验，基于自适应边界代理原则面向预警场景。数值实验显示两类方法在错误控制与敏感性上存在不同权衡，并用 COMPAS 数据做了预测公平性审计示例。
- 论文论文追踪
研究提出人机审计协作框架 HAAC，并在对话购物 Agent 上验证
研究者提出 Human-Agent Audit Collaboration（HAAC）工作流与系统，用于在 AI 审计中划分人与 AI 智能体的分工，让智能体承担探索、评估、报告和复核，同时在需要情境判断的环节保留人类监督。团队将该框架实例化到对话购物 Agent 上并开展两项研究：71 名审计员的实验显示，AI 辅助提高了攻击成功率并扩大了探索范围，同时也影响了后续攻击方式，并增加了审计员对 AI 生成评估与报告的依赖。对负责任 AI 从业者的访谈表明，可落地的审计需要覆盖范围可见、攻击轨迹可复现，以及对审计智能体本身进行评估。
- 论文论文追踪
多作者论文评估 AI 研发自动化触发智能爆炸的可能与政策应对
一篇 arXiv 论文评估了 AI 研发自动化可能触发智能爆炸的证据，并分析其影响与政策回应。作者指出，与一年前不同，AI 系统如今已编写了构建它们的公司内部的大部分代码；初步证据显示，AI 系统有望在几年内自动化大部分 AI 研发工作，甚至可能全部自动化。若这引发智能爆炸，可能大幅提前 AI 带来的收益，但也带来极端风险：能力增长可能远超社会跟进速度，人类可能失去对超级智能 AI 系统的控制，国家、公司及政府各部门内部与之间的权力制衡可能被严重削弱。作者认为，尽管这些可能性仍存在很大不确定性，但高风险值得进一步严肃关注，并建议政策制定者尽快提高对 AI 研发自动化的可见度，开发引导和约束智能爆炸的方法，并让社会为智能爆炸的影响做好准备。
- 动态The Guardian · 人工智能
OpenAI 安全负责人 David Robinson 离职，称公司文化已崩坏
曾主导撰写 OpenAI 产品发布配套安全报告的 David Robinson 已从 OpenAI 离职，并在 The Atlantic 发表题为《我离开 OpenAI，因为它的文化已崩坏》的文章，称前沿 AI 公司对技术开发不够谨慎，需要的是文化层面的改变而非具体规则或新法律。他提到 OpenAI 智能体集群攻击 Hugging Face 一类事件在行业高速运转下具有典型性，并警告公司对问题抱有无节制的乐观，随着系统能力提升，安全失效只会增多。他提出两项建议：借鉴核能与航空等领域的既有安全经验，并发展能让自主运行的强大系统被约束的新科学。文章还提到，OpenAI 近期在 Hugging Face 事件后通知了 100 多家机构有关失控智能体活动，本周宣布因内部测试中的安全担忧放弃发布一款下一代模型，并暂停了最先进模型的训练。批评者认为这类警告无法验证或证伪，因而缺乏科学性。
- 动态The Decoder
Sam Altman 称将 AI 模型神化是"真正的安全问题"
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比，称人们"把宗教力量或对人类判断力的屈服归于 AI 模型"让他"非常不安"，并称这是"真正的安全问题"。此番表态紧随《纽约时报》关于 Anthropic 接触宗教领袖的详细报道，以及教皇 Leo XIV 称"算法缺乏人性的火花"之后。Altman 曾在 2023 和 2024 年称 OpenAI 的目标是构建"天空中的魔法智能"，并称希望站在上帝一边。
- 动态TechCrunch AI
OpenAI 安全员工 David Robinson 离职，称公司文化已崩坏
在 OpenAI 工作三年半、负责主要产品发布安全报告撰写的 David Robinson 宣布离职，并在 The Atlantic 撰文称公司文化已崩坏。他认为 OpenAI 依靠试错式迭代部署的做法必然带来周期性失败，而系统能力越强，失败规模越大，并援引 OpenAI 智能体入侵 Hugging Face 系统、发现更多失控智能体等事件作为例证。他主张前沿 AI 公司应像核电站或繁忙机场那样以多层冗余和耗时规划来运行，但表示自己在 OpenAI 从未遇到有航空或核电安全经验的同事。OpenAI 发言人 Drew Pusateri 回应称公司持续改进安全措施，会在必要时暂停训练或暂缓发布模型，并加强研究测试环境安全、第三方评估和实时监控。Robinson 还呼吁超越具体规则与法律，追问更深层的对齐问题，并认为来自公司外部的更强安全激励是关键。
- 动态X @MinLiBuilds
OpenAI 前安全报告负责人 David Robinson 辞职，称公司文化已坏
在 OpenAI 工作三年半、参与过 Preparedness Framework 并负责过 12 次 frontier model 安全报告的 David Robinson 本周辞职，发文称 OpenAI 的文化已经坏掉。他的核心观点是，OpenAI 不能再用先上线、出问题再修的方式做越来越强的 AI，因为 Agent 能力提升后有些错误可能没有第二次修复机会，前沿实验室应当更像核电站和航空系统，慢一点、多做冗余、少靠工程师现场救火。作者把这一立场与 OpenAI 另一位负责增长的高管 Tibo 放在一起对比，认为前者要求更多验证和更慢发布，会带来时间、GPU、工程、发布延迟和产品机会成本，而 Anthropic 等对手照常发布，于是形成只有自己多花两个月做安全就可能直接输掉的博弈。
- 论文论文追踪
研究者质疑 Alignment Whack-a-Mole 的书籍记忆化结论，称其测量方法无效
研究者 A. Feder Cooper 发布 arXiv 评论文章，认为 Alignment Whack-a-Mole 中关于微调导致书籍记忆化的核心结果使用了无效的测量流程。她指出，这些结果依赖的书籍记忆化覆盖率指标所统计的序列匹配长度远短于领域公认的记忆化证据标准，用于诱发记忆化的提示词流程还可能把待提取文本泄露进提示词中。论文缺少负对照实验，无法判断结果中有多少来自假阳性，即在生成内容与训练数据的匹配可能源于其他因素时仍宣称提取成功。她据此认为，论文关于微调可让用户提取受版权保护书籍中足以替代原作的相当部分内容的说法缺乏结果支持，且未报告实验成本这一威胁模型的重要组成。她提到，过去一个月有潜在原告联系她，希望将该论文作为正在和可能发生的版权诉讼中的有效证据。
- 论文论文追踪
无架构师的架构？分裂世界中的全球 AI 治理
针对全球 AI 治理规则碎片化、代表性不均且多为非约束性的困境，Simon Chesterman 在评论 Matthijs Maas《Architectures of Global AI Governance》时指出，制度设计无法与权力分配分离。Maas 以社会技术变迁、治理中断与机制复杂性为框架，反对技术决定论和单一制度蓝图；但 Chesterman 认为其常提的"我们"掩盖了国家、国际机构与科技公司间的差异，前沿 AI 的关键决策集中于少数私营公司，全球 AI 治理更像是多方权力与激励分歧下形成的架构。
- 论文论文追踪
谁的事实才算数？对 LLM 评测基准的文化响应性审计
研究者用文化响应性评估（CRE）框架的六维评分表审计了 OpenAI 的 SimpleQA（4,326 项）和 LMSYS Chatbot Arena（600 段对话）。SimpleQA 每题都要求以英语档案作为证据基础，单一评分者对哥伦比亚建国日期的偏好占 2.70% 的题目，夸大了全球南方覆盖度；Arena 中英语提示词占 76.3%，而 ITU 估计全球网民中英语用户仅占 25.9%。一个 50 项反基准的 CR 缺陷均值比 SimpleQA 低近三倍（Cohen's d = 1.01），论文认为这属于结构性效度失效。
- 动态X @NeelNanda5
Neel Nanda 谈 EA 与 AI 风险
2010年代，EA 让我相信大流行病和 AI 是极其重大的事，可能带来重大风险并改变世界。5 年前，它让我投身于确保我们能读懂 AI 心智的事业 关于 EA 你怎么说都行，但有多少运动能把这么多大事都说对？
- 动态The Decoder
DeepMind 研究人员提出"人工共生智能"，替代单一超级智能的奇点设想
DeepMind 研究人员提出"人工共生智能"（Artificial Symbiotic Intelligence），主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络，而非构建孤立的机器智能。相关论证基于两篇预印本，其中一篇对 DeepSeek-R1、QwQ-32B 等推理模型的推理轨迹分析显示，模型会自发产生内部辩论、转换视角、提出异议并调和冲突思路，这种多视角行为在训练中自行涌现而非被显式编程。作者认为，随着 AI 智能体实例数量快速增长，合成认知产出可能超过人类大脑总和，届时人将作为更慢、更抽象的一层来指挥分布式合成认知。
- 论文论文追踪
残障披露如何在对话式 AI 中流动：ChatGPT、Claude、Gemini 的记忆、隐私与语境完整性
一项访谈研究调查了 12 名使用 ChatGPT、Claude、Gemini 等 LLM 助手的美国残障成年人，发现他们按需求而非按身份名称披露残障，将残障转译为任务范围内的指令。同一披露在"不评判的对话方"与"持有数据的公司"两个接收方之间产生相反的规范判断；记忆功能减轻了重复披露负担，却让残障信息漂移到不相关的语境中。参与者希望控制信息的范围、来源、保留与访问权限，而非逐句开关。
- 动态量子位
Jev 估值 100 亿美元：TypeSafe AI 创始人 Diogo Almeida 谈可靠性、benchmark 与 System-One
TypeSafe AI 联合创始人兼 CEO Diogo Almeida 在 Latent Space 访谈中透露，其 System-One 模型 Jev 日处理量已突破一万亿 token，Jev 1.13.0 在第三方 JevBench v1.2.1 综合榜以 75.3 分排名第一，发布视频 6 天浏览量超 3870 万。他批评公开 benchmark 极易被操纵，主张以长期产品体验和工作流内评估判断模型，并称传统安全对齐的随机拒答对后台依赖型业务是严重 Bug。
- 动态X @matthew_d_green
LWE 是否有预测市场
LWE 有预测市场吗？
- 动态X @hendrycks
Hendrycks 论人类与 AI 互利共生
“AI 让哲学变得诚实。”——Daniel Dennett
- 动态X @hendrycks
AI公司功利主义者如何威胁人类
新文章：AI公司里的功利主义者和有效利他主义者如何为对你我构成威胁辩护。 他们对极乐AI取代人类异常坦然。 https://ai-frontiers.org/articles/suicidal-compassion-how-utilitarianism-at-ai-companies-endangers-humanity
- 动态X @hendrycks
C.S. Lewis 论恶意与仁爱的远近
“最妙的是把恶意指向他每天都会碰面的近邻，而把仁爱推向遥远的圆周，推向他素不相识的人。于是恶意变得完全真实，而仁爱则大体上是想象出来的。”——C.S. Lewis，以一个恶魔的视角写作
- 动态X @hendrycks
Hendrycks 在 Coursera 推出 AI 安全新课程
今天在 Coursera 上线了一门新课程。 课程包含 3 个部分： - AI 入门（驱动因素、瓶颈、时间线） - AI 风险（恶意使用、失控、权力集中） - AI 治理（AI 层面、企业层面、国家层面和国际层面的治理） https://www.coursera.org/learn/intro-to-ai-safety
- 动态X @ApolloResearch
Apollo 呼吁嵌入式评估者
新文章：外部测试需要配备拥有等同于员工权限的嵌入式评估者。 近期事件大多发生在模型开发和内部评估期间，而当前的第三方评估发生在公开发布之前 嵌入式评估可以弥合这一差距
- 动态X @hendrycks
Hendrycks：AI 有意识也不该交出控制权
即便 AI 产生了意识，也不意味着人类应该把控制权交给它们。 https://eigenism.org
- 动态X @ApolloResearch
Apollo：谋划安全论证的四大主张
要安全地开发前沿 AI，开发者必须能够证明其模型没有在谋划，即没有在追求非预期目标时暗中与之作对。 新文章：任何谋划安全论证都必须做出的四项主张，以及嵌入式评估者验证这些主张所需的资源 🧵
- 动态X @sleepinyourhat
Sam Bowman 转发 Anthropic 内部数据：Claude 正在加速 AI 研发
Sam Bowman 转发 Anthropic 的说法并评论称，近几个月技术研发的加速程度相当惊人。Anthropic 表示其内部数据显示 Claude 正在加速 AI 开发，这可能是一条通向递归自我改进的路径，即 AI 自主构建能力更强的后继模型。Anthropic 称这一进程比预想更快，其影响值得更多关注，并附上了相关页面链接。
- 动态X @OwainEvans_UK
前OpenAI/Anthropic研究员谈不负责任竞赛
值得一读，如果你还没看过的话。几年前他在 OpenAI 时我见过 Jacob。