跳到正文
原文
iThome(台湾)· 陳曉莉·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →精选关注度59

OpenAI开放4家外部机构进驻,深入检验AI模型安全性

OpenAI開放4家外部機構進駐,深入檢驗AI模型安全性

AI 导读

OpenAI 于11月16日启动第一阶段嵌入式评估(Embedded Assessments),开放 Apollo Research、METR、Transluce、Goodfire 四家机构进驻检验其 AI 模型安全性与防护机制。有别于一般通过 API 的外部评估,参与专家可按评估需求存取未发布模型、源代码、训练与评估数据、监控系统及技术文档,并直接与研究人员交流。Apollo Research 将调查模型是否可能暗中违背开发者意图及监控系统能否察觉此类行为,METR 检验 OpenAI 迄今规模最大的强化学习训练作业以寻找现有测试未发现的行为偏差,Transluce 检查训练后安全评估的质量与覆盖范围并计划2027年初开展约8周后续评估,Goodfire 分析模型内部机制以协助改善训练监控与对齐。

推荐理由

外部机构可接触未发布模型与训练数据,评估深于一般 API 测试,但 OpenAI 保留删除机密信息及延后披露的权利。

阅读原文ithome.com.tw