In-House Evaluation Is Not Enough: Towards Robust Third-Party Flaw Disclosure for General-Purpose AI
arXiv· arXiv:2503.16861· Shayne Longpre, Kevin Klyman, Ruth E. Appel, Sayash Kapoor, Rishi Bommasani, Michelle Sahar, Sean McGregor, Avijit Ghosh, Borhane Blili-Hamelin, Nathan Butters, Alondra Nelson, Amit Elazari, Andrew Sellars, Casey John Ellis, Dane Sherrets, Dawn Song, Harley Geiger, Ilona Cohen, Lauren McIlvenny, Madhulika Srikumar, Mark M. Jaycox, Markus Anderljung, Nadine Farid Johnson, Nicholas Carlini, Nicolas Miailhe, Nik Marda, Peter Henderson, Rebecca S. Portnoff, Rebecca Weiss, Victoria Westerhoff, Yacine Jernite, Rumman Chowdhury, Percy Liang, Arvind Narayanan·本站收录· 14 天前· 原文发表治理
AI 导读
一篇跨学科论文指出，通用 AI 系统的缺陷报告基础设施、实践和规范仍严重不足，呼吁建立稳健的第三方缺陷披露机制。作者来自软件安全、机器学习、法律、社会科学和政策领域，提出三项干预：为研究者制定标准化 AI 缺陷报告和参与规则，便于提交、复现和分诊缺陷；让通用 AI 提供商借鉴漏洞赏金，采用范围广泛的缺陷披露计划，并设置法律安全港保护研究者；建设协调基础设施，在可能受影响的多方之间分发缺陷报告。论文称越狱等可跨不同提供商系统迁移的缺陷普遍存在，使这些措施日益紧迫。