跳到正文
原文
GovAI·本站收录 · 原文发表

GovAI 提出前沿 AI 嵌入式评估框架,建议开发者立即引入

Embedded Assessments for Frontier AI

AI 导读

GovAI 发布研究论文,主张前沿 AI 开发者应引入嵌入式评估,让独立评估者以近似员工的权限访问开发者的内部系统、人员和文档,从而对依赖内部系统与实践的风险做更深入、更灵活的评估,并在更强的安全控制下提供访问。论文随后讨论了范围、信息收集、时长、时机、参与条款、披露和升级机制七个设计问题,并建议开发者现在就启动嵌入式评估,至少覆盖内部 Agent 监控、内部 Agent 安全控制与权限、模型对齐三个领域。为支持有实质意义的第三方审查,评估应持续进行,评估者至少每季度发布详细报告,并建立清晰的升级机制;论文称这些建议只是起点,仍需更多步骤才能充分发挥嵌入式评估的潜力。

阅读原文governance.ai