arXiv· arXiv:2608.07514· Stephen Casper, Kyle O'Brien, Shayne Longpre, Elizabeth Seger, Kevin Klyman, Rishi Bommasani, Aniruddha Nrusimha, Ilia Shumailov, Sören Mindermann, Steven Basart, Frank Rudzicz, Kellin Pelrine, Avijit Ghosh, Andrew Strait, Robert Kirk, Dan Hendrycks, Peter Henderson, Zico Kolter, Geoffrey Irving, Yarin Gal, Yoshua Bengio, Dylan Hadfield-Menell·本站收录· 原文发表
开放权重 AI 模型风险管理中的待解技术问题
Open Technical Problems in Open-Weight AI Model Risk Management
AI 导读
arXiv 论文《开放权重 AI 模型风险管理中的待解技术问题》提出 16 个开放技术挑战，覆盖训练数据、训练算法、评测、部署与生态监测。作者指出，开放权重模型可被任意修改、在缺乏监督下使用并不可逆传播，而针对这类模型的安全工具研究仍有限。论文认为该领域尚处早期，研究、方法与评测的开放而非仅开放权重，是建立严谨的开放权重模型风险管理科学的关键。