跳到正文

#危险能力

今天还没有收录新动态
8月30日周日
  1. arXiv:危险能力与安全评测 · 78

    Reference-Grafting 在提取沙袋行为隐藏能力上追平微调

    论文提出 reference-grafting,通过在主动学习选出的少量电路上把激活沿对比方向的坐标设为诚实参考值,在十一个密码锁模型(1.5–32B,三个架构谱系)上恢复了诚实与沙袋差距的 +94% 到 +101%,与微调提取效果相当,且无需更新权重或训练标签,两到五对样本即可拟合方向。作者指出该锁是阈值门机制:沿方向扫动坐标时准确率在接近诚实参考处陡升,因此加性激活引导和把坐标置零常常失败。同样的恢复效果出现在 GRPO 训练的 RL 沙袋模型(+95–101%)和密码锁代码生成任务上。对比方向按诱导机制而非被隐藏内容区分:在 ARC 上拟合的方向可提取 WMDP 中被隐藏的危险知识,但提示、微调与 RL 各自携带不同方向,跨机制迁移失败。Circuit-breaking 是边界,它每次前向都重路由激活,使固定编辑失效。

    推荐理由论文用激活编辑在多个密码锁模型上复现微调的隐藏能力提取效果,并给出阈值门机制与失效边界。

7月31日周五
  1. Thinking Machines Lab Blog · 62

    Thinking Machines 提出开源权重模型的安全发布路径

    Thinking Machines 发布文章阐述开源权重模型的安全发布路径,并说明其近期开源的 Inkling 与 Inkling-Small 的评估依据。文章主张安全发布取决于模型本身与所处生态:对模型做稳健安全测试,并研究能否通过预训练数据筛选或后训练干预把危险能力与通用智能解耦;对生态则通过分阶段发布、支持防御方和与安全研究者合作来提升韧性。Inkling 的评估包括覆盖 CBRN 与攻击性网络安全等领域的内部评测、四家外部机构的红队测试(Scale AI、Handshake AI、FAR.AI、Apollo Research),以及去除拒答行为的对抗微调实验;结果显示两个模型未扩展危险能力前沿,也未显著扩大相关能力的可及性。文章还提出从受监控 API 访问、托管微调到开放权重的分阶段路径,并计划发布更详细的评估、准入标准与停止条件框架,同时将推出 Tinker 安全资助。

    推荐理由Thinking Machines 公开了其开源权重模型的分阶段发布框架,并说明 Inkling 通过内外部评测与对抗微调后被判定未扩展危险能力前沿。

4月8日周二
  1. DeepMind Safety Research · 62

    DeepMind 发布技术 AGI 安全与防护方法论文

    Google DeepMind 发布论文,阐述其应对技术 AGI 安全与防护的整体方法,目标是构建不会造成严重危害的 AGI。论文将风险路径分为滥用、失准、错误和结构性风险四类,策略聚焦滥用与失准:滥用通过 Frontier Safety Framework 评估模型是否具备造成危害的能力,并配套部署与安全缓解;失准则依靠放大监督、引导模型行为和稳健训练,加上把模型当作不可信内部人员的 AI 控制手段。论文提出能力阈值、危险能力评估、红队压力测试和四类安全论证(无能力、监督、激励、理解),并列出不确定性、更安全设计模式与可解释性等需持续投入的研究方向。作者强调这只是研究议程,治理与技术同等重要,且未覆盖结构性风险。

    推荐理由DeepMind 把 AGI 安全拆成滥用与失准两条线,并给出可落地的评估、缓解与安全论证框架,适合对照自家安全策略。

2月14日周五
  1. DeepMind Safety Research ·

    Google DeepMind 推出 AGI 安全短期课程

    Google DeepMind 发布了面向学生、研究人员和相关从业者的 AGI 安全短期课程,总时长 75 分钟,由录制讲座和练习组成,并配有幻灯片和练习手册。课程涵盖 AI 对齐问题及技术与治理层面的应对思路,内容包括刻意规划带来的风险、规格博弈与目标错误泛化两种错位目标来源、知情监督原则以及危险能力评估等前沿安全实践。若想进一步参与该方向工作,研究科学家与研究工程师岗位申请开放至 2 月 28 日。

已经到底了