迈向 AI 滥用所致网络安全风险的量化建模

研究者发布技术报告，将量化风险建模方法应用于 AI 助力的网络攻击，构建了九个网络风险模型来分析 AI 带来的攻击能力提升（uplift）。每个模型按 MITRE ATT&CK 框架把攻击拆解为步骤，估计 AI 如何影响攻击者数量、攻击频率、成功概率和造成的危害；估计值由人类专家德尔菲研究和基于大语言模型（LLM）的模拟专家共同产生，把 Cybench 和 BountyBench 的基准分数映射到风险模型因素，再经蒙特卡洛模拟汇总。结果显示攻击效果、速度和目标触达范围出现系统性提升，不同风险模型的提升机制各异。作者希望该方法帮助安全团队排定缓解优先级、评测者设计基准、开发者做部署决策、政策制定者设定风险阈值，并指出估计存在较大不确定性，公开量化结果有助于专家定位分歧、共同修正估计。