欧盟监管尚未准备好应对多智能体 AI 事故
EU Regulations Are Not Ready for Multi-Agent AI Incidents
AI summary
Tech Policy Press 的文章指出，欧盟《人工智能法案》第 73 条指南草案只针对单一智能体和单次事件，难以覆盖多智能体交互产生的级联与累积风险。该指南将于今年 8 月生效，要求关键基础设施等高风险场景的部署者和提供者上报严重 AI 事故。作者以德国燃油市场定价算法相互反应推高价格、2010 年闪崩中自动交易系统数分钟内造成近万亿美元市值蒸发为例，说明事故可能源于系统间交互而非单一系统故障。文章还提到，Anthropic 去年 11 月报告了迄今规模最大的 AI Agent 网络攻击，攻击者将任务拆解为看似无害的步骤交由 Claude 执行，这种累积效应按现行草案难以构成可上报事件。作者建议指南明确纳入累积性、系统性和非物理形式的损害，并建立第三方与匿名举报渠道。