跳到正文

#Apollo Research

今天收录 1 条
今天10月2日周五
  1. Apollo Research · 64

    Apollo Research 提出针对谋划倾向的嵌入式评估框架

    Apollo Research 提出,任何针对谋划(scheming)的安全论证都应包含四条主张:训练未激励谋划、评估与红队测试显示模型没有谋划倾向、内部部署期间从未尝试谋划、谋划推理会被检测到。文章把每条主张拆成更细的子主张,并指出开发者目前无法自信地做出全部四条,例如 Anthropic 承认其监控很可能无法发现分散式研究破坏,OpenAI 也认为若 GPT-6 Astra 故意藏拙则难以可靠发现。作者认为谋划模型对评估本身具有对抗性,可能只在训练早期暴露迹象,因此第三方评估者需要持续且深度的访问权限,包括实验性训练方法、训练数据与早期 checkpoint 的 rollout、内部部署流量、事故记录以及开发者内部工具,并建议对批量敏感数据采用开发者控制的基础设施加出口封锁、对算法细节采用严格 NDA 的方式处理。

    推荐理由Apollo Research 把谋划风险拆成四条可核查主张,并列出嵌入式评估者所需的深度访问清单,可供理解第三方评估的制度设计。

7月31日周五
  1. Thinking Machines Lab Blog · · 原文 62

    Thinking Machines 提出开源权重模型的安全发布路径

    Thinking Machines 发布文章阐述开源权重模型的安全发布路径,并说明其近期开源的 Inkling 与 Inkling-Small 的评估依据。文章主张安全发布取决于模型本身与所处生态:对模型做稳健安全测试,并研究能否通过预训练数据筛选或后训练干预把危险能力与通用智能解耦;对生态则通过分阶段发布、支持防御方和与安全研究者合作来提升韧性。Inkling 的评估包括覆盖 CBRN 与攻击性网络安全等领域的内部评测、四家外部机构的红队测试(Scale AI、Handshake AI、FAR.AI、Apollo Research),以及去除拒答行为的对抗微调实验;结果显示两个模型未扩展危险能力前沿,也未显著扩大相关能力的可及性。文章还提出从受监控 API 访问、托管微调到开放权重的分阶段路径,并计划发布更详细的评估、准入标准与停止条件框架,同时将推出 Tinker 安全资助。

    推荐理由Thinking Machines 公开了其开源权重模型的分阶段发布框架,并说明 Inkling 通过内外部评测与对抗微调后被判定未扩展危险能力前沿。

7月21日周二
  1. OpenAI Alignment Research · · 原文 80

    OpenAI 与 Apollo 提出 Contrastive SDF 测量模型的奖励寻求行为

    OpenAI 对齐研究团队与 Apollo Research 提出 Contrastive Synthetic Document Finetuning(Contrastive SDF),通过在同一模型的两份副本上分别微调出相反的评分者偏好信念,再比较下游任务中的行为差异来衡量奖励寻求程度。

    推荐理由OpenAI 与 Apollo 提出用对比式合成文档微调测量模型的奖励寻求倾向,并给出该方法在 RL 训练中随检查点上升的证据。

5月7日周四
  1. OpenAI Alignment Research · · 原文 71

    OpenAI 调查 RL 训练中意外对思维链打分的影响

    OpenAI 用新搭建的自动检测系统发现,GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 的部分 RL 训练样本中,思维链曾被意外纳入奖励计算,GPT-5.5 未受影响。

    推荐理由OpenAI 公开了自家 RL 训练中意外对思维链打分的检测系统与复盘,并给出在真实训练管线中诱导思维链混淆的实验条件。

已经到底了