事件历史事件
能力研究同样扩展安全-有用性帕累托前沿
先了解这件事
AI 综述
2026年10月3日，Redwood Research 发文讨论安全研究的定义问题。作者指出，若把安全研究定义为“在不显著牺牲有用性的前提下提升部署安全”，几乎所有能力研究也会被算作安全研究，例如推理性能优化会让更弱更安全的模型被更广泛使用。作者认为该标准不充分：开发者必须在帕累托前沿上选点，安全研究通常引导其选择更高安全，能力研究则相反，因为危险 AI 更有用。作者同时指出，在政治意愿远高于当下的未来情形下，某些能力研究可能成为提升安全的有效方式。
AI 根据报道生成 · 4 天前更新
最新进展10月3日 02:22
Redwood Research 指出“不显著牺牲有用性”的安全研究定义会把能力研究也算作安全研究，认为该标准不充分。后续时间线
10月3日
- Redwood Research能力研究同样扩展安全-有用性帕累托前沿
Redwood Research 提出，把安全研究定义为"在不显著牺牲有用性的前提下提升部署安全"会把几乎所有能力研究也算作安全研究，例如推理性能优化让更弱更安全的模型被更广泛使用。作者认为该标准不充分：开发者必须在帕累托前沿上选点，安全研究通常引导其选择更高安全，能力研究则相反，因为危险 AI 更有用。作者同时指出，在政治意愿远高于当下的未来情形下，某些能力研究可能成为提升安全的有效方式。
相关讨论
关注度走势
每天新增来源
- 10月3日 新增 1 个来源（1 家媒体、0 个账号）
- 10月4日 新增 0 个来源（0 家媒体、0 个账号）
- 10月5日 新增 0 个来源（0 家媒体、0 个账号）
- 10月6日 新增 0 个来源（0 家媒体、0 个账号）
- 10月7日 新增 0 个来源（0 家媒体、0 个账号）