MIT 发布 AI 事故数据库使用情况的初步研究发现
Preliminary findings on how AI incident databases are used
AI 导读
MIT AI Risk Initiative 团队访谈了 20 个国家的 45 位从业者，研究 AI 事故数据库的实际使用方式，并向数据库维护者提出六条建议和三项应避免的做法。研究给出五项发现，包括同一份数据无法服务所有机构任务、事故覆盖不均会左右用户看到的图景、分类会掩盖评估者之间的分歧、报告数量变化不等于单位使用风险的变化，以及数据经中间人转手时上下文会丢失。团队还提出跨机构学习的案例库与飞轮设想，建议按任务提供不同视图并保留可追溯的来源与版本。研究计划把样本扩展到 50 至 60 人，并在 2027 年 3 月前在 MIT AI Incident Tracker 中试点部分建议。