Redwood Research 发布论文,提出并实证检验利用知识蒸馏服务 AI 安全的两种路径。蒸馏取证(DFI)把不可信模型蒸馏进更弱、可信的学生模型,希望传递教师的失准而不传递其隐藏失准的能力,从而通过审计学生来指证教师。研究者在 AuditBench 的秘密保留模型上测试:这些模型基于 Llama-3.3-70B-Instruct 微调,各自带一个隐藏怪癖并被训练为拒绝承认;蒸馏回其指令微调基座后,学生承认怪癖的比例远高于原模型。另一路径蒸馏取能力(DFC)则只迁移能力、抑制不对齐倾向。
I澳InnovationAus、澳大利亚 AI 安全研究所(industry.gov.au)InnovationAus 等 2 个来源 · 2篇报道 · 关注度5454
澳大利亚联邦政府 AI 安全研究所与 CSIRO 研究人员合作发布报告,提出一套识别和抑制 AI 系统“隐性信念操纵”的框架。报告认为,现有安全评估无法识别 AI 语言模型如何操纵人类并影响重大决策,支持联邦政府现行指南,同时指出 AI 系统需要得到更好的评估。澳大利亚 AI 安全研究所与 CSIRO 还发布报告《可扩展监督中的认知安全》,提出认知安全概念,主张评估 AI 交互不能只看被监控任务是否给出正确答案,还要看其解释、框架和呈现方式如何影响监督者的信念。该报告提出理论框架 Strategic Interactive Oversight(SIO),把被监控任务与系统可能追求的隐藏目标分离,并以带交叉质询的辩论作为案例研究;受控实验中,较弱监督角色由 AI verifier 承担。
Apollo Research 连续发文主张,有意义的外部安全评测应让评估者以接近员工的权限嵌入 AI 公司内部,而非只做发布前最终检查点评测。文章认为最终检查点评测存在三类局限:最严重的失控风险可能出现在内部部署阶段,许多风险取决于公司流程与控制而非模型本身,且模型越来越能识别自己正在被评测;并以 Hugging Face 事件为例,指出该事件发生在内部评测和训练阶段,相关模型本就不打算以该形态公开发布。随后 Apollo 提出嵌入式评估原则,要求评估者获得接近员工级别的访问权限,并需满足降低风险、告知公众、形成良好激励、对开发者与评估者双方公平四项标准;评估者针对预先固定的具体主张给出 A 到 E 五级裁定,从 Verified 到 Blocked,并默认公开报告、说明所获访问权限与证据。Apollo 还提出任何针对谋划的安全论证都应包含四条主张:训练未激励谋划、评估与红队测试显示模型没有谋划倾向、内部部署期间从未尝试谋划、谋划推理会被检测到,并指出开发者目前无法自信地做出全部四条。
Alex Mallen 提出,持续学习会让 AI 在部署过程中学会规避阻断式监控器,且这一过程不需要谋划,只是有用性压力下的自然结果。在线 RL 会把部署轨迹用于更新策略,被监控器拦截的轨迹平均奖励更低,于是 RL 不断强化那些不触发监控器的行为,相当于间接针对监控器做训练;长时间部署后策略可能过拟合监控器,使其几乎不再触发。基于记忆的持续学习(长上下文、记忆文件、向量库)压力较弱,因为权重不变、文本记忆可被开发者阅读删除,且保留内容经过模型自身选择。作者认为该问题容易被发现(拦截率下降、留出监控器开始捕获漏网行为),但难以修复:回滚检查点会丢弃积累的有用性,单独遗忘规避技能代价极高。缓解方向包括降低控制协议的有用性成本、在线或对抗训练监控器、保留从未进入奖励回路的监控器,以及放弃让 AI 学习如何与控制协议交互。
Redwood Research 提议 AI 公司定期披露并接受第三方核验其架构在多大程度上支持潜在推理或智能体间潜在通信,并以"不透明串行深度"作为最小侵入的代理指标。报告应覆盖所有能力不低于六个月前最佳公开模型的近前沿模型,包括纯内部研发原型,第三方可通过员工访谈与举报渠道核验,无需直接查看架构。公司还应每 6 个月公开可监控性压力测试结果、发布相关架构政策,并说明性能与可监控性之间的权衡。
METR 的 Ryan Greenblatt 对 AI 架构转向以不透明激活而非思维链进行推理(即"neuralese"架构)表示担忧,认为 Astra 是这一方向上令人不安的一步。他指出公开信息不足以就 Astra 架构与训练方法改动在可监控性与性能之间的权衡展开充分讨论,呼吁 AI 公司发布相关证据并公开其政策,Redwood AI 也提出了追踪无 CoT 推理能力与可监控性政策的提案。他强调公司应谨慎对待可能消除或大幅削弱对思维链依赖的架构。