先进 AI 模型的整体安全与责任评估

Google DeepMind 发布报告，总结其在先进 AI 模型开发中应用的一整套安全与责任评估方法，并面向更广泛的读者分享经验。报告提出三条主要经验：理论框架有助于组织风险领域、模态、形式、指标和目标的广度；安全评测的理论与实践都受益于协作，以澄清目标、方法与挑战，并在不同利益相关者和学科之间传递洞见；类似的关键方法、经验和机构适用于责任与安全的各类问题，包括已确立和新兴的危害，因此安全评测和安全研究社区应协同开发、完善并落实新的评测方法与最佳实践，而非各自孤立运作。报告最后指出，需要快速推进评测科学，将新评测整合进 AI 的开发与治理，建立有科学依据的规范和标准，并促进健全的评测生态。