事件观察中
提案：先解决当前代对齐再训练下一代
先了解这件事
AI 综述
AI Alignment Forum 上的一则提案建议，实验室须先充分解决当前代模型的重大对齐问题，才能训练下一代模型。提案要求多家独立对齐机构在各训练检查点审查并红队测试最新模型，并在受信用户的受限部署中监控，出现重大对齐问题即下架模型并做根因分析。作者称这只是启发式的最低标准，「一代模型」如何界定、何时应停止模型等仍是未决问题。
AI 根据报道生成 · 9 小时前更新
后续时间线
10月12日
- AI Alignment ForumAI Alignment Forum 提案：先充分解决当前代模型的对齐问题，再训练下一代
AI Alignment Forum 上的一则提案建议，实验室须先充分解决当前代模型的重大对齐问题，才能训练下一代模型。提案要求多家独立对齐机构在各训练检查点审查并红队测试最新模型，并在受信用户的受限部署中监控，出现重大对齐问题即下架模型并做根因分析。作者称这只是启发式的最低标准，「一代模型」如何界定、何时应停止模型等仍是未决问题。
相关讨论
关注度走势
每天新增来源
- 10月12日新增1个来源（1家媒体、0个账号）
- 10月13日新增0个来源（0家媒体、0个账号）