CryptanalysisBench:五个前沿模型在 191 项密码分析任务上的表现
提出CryptanalysisBench,评测模型端到端破解真实密码原语的能力
- 一句话定位:该论文提出了首个面向真实标准化候选密码原语的端到端自动化密码分析基准CryptanalysisBench,并对前沿大语言模型展开系统性评测。
- 要解决的问题:传统密码分析依赖人类专家,而既有大模型评测集中在玩具密码或人工植入脆弱点的CTF赛题,缺乏衡量AI对真实复杂密码算法分析与漏洞挖掘能力的严谨基准。
- 方法要点:汇集NIST竞赛等191个密码算法任务,划分为已知攻破的Tier 1、无已知实用攻击(含缩减与全强度)的Tier 2以及生产级Challenge Set;基于Docker双容器与HTTP API隔离构建形式化安全博弈交互,通过重测独立实例自动验证模型提交的攻击脚本。
- 主要实验结果:
- 五款前沿模型在Tier 1上取得65.3%–85.7%的成功率(Mythos 5攻破42/49,GLM-5.2攻破32/49),其中约78%的攻破源自算法数学与结构设计缺陷。
- 在全强度方案测试中,Mythos 5与Sonnet 5通过2次查询攻破了未修改的SpoC AEAD方案,Mythos 5攻破KINDI并揭示其NIST安全性证明中的错误,两项均为此前未公开的真实设计缺陷。
- 算力扩展测试表明,将时间预算放宽至16小时后,Mythos 5攻破了此前无法实现的SIKE、RLCE-KEM和WalnutDSA,成功率升至95.9%。
- 作者结论与启示:作者认为前沿模型已初步具备独立发现复杂密码原语设计缺陷的能力,失败更多受限于代码工程与特定求解算法的实现而非分析盲区;该基准可作为跟踪AI密码分析能力并辅助密码标准安全性压力测试的评估框架。