跳到正文
原文
CNBC · Technology·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →

OpenAI 与四家独立评估机构签署协议以加强安全工作

OpenAI inks agreements with four independent evaluators to boost company's safety work

AI 导读

OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 四家独立评估机构签署协议,初期围绕模型行为与护栏开展试点评估,并向其开放内部系统深度访问。Apollo Research 将检验模型是否会暗中违背开发者意图、护栏能否发现该行为,Goodfire 派研究员驻场负责训练运行监控、调试与对齐,METR 开展两项对齐与监控评估,Transluce 评估后训练对齐评测并计划明年进行为期八周的后续评估。评估方可访问源代码、模型检查点、训练数据等内部资源并可发布发现,OpenAI 保留删减机密信息的权利;Apollo Research 与 Goodfire 收取与评估结果无关的报酬,METR 与 Transluce 不收费但可接受算力或 API 额度。

阅读原文cnbc.com