MOSAIC:安全 AI 计算的掩码外包
MOSAIC: Masked Outsourcing of Secure AI Computations
AI 导读
论文提出 MOSAIC,把 AI 计算从计算能力弱但可信的客户端安全外包给不可信的强大服务器,客户端同时持有输入和模型,服务器两者都不能获知。其核心是新的矩阵乘法掩码协议,可扩展到远大于此前工作的矩阵,支持大型 Transformer 推理等负载;通过在乘法结果中加入少量噪声放宽正确性,实现渐近最优的客户端开销,运行时间比此前工作快数个数量级,安全性归约到判定性 LWE 与 LPN 假设,并以随机 Hadamard 旋转抑制误差在多层间的累积。在 70B 模型上,MOSAIC 的困惑度与主流量化方法相当,在 HumanEval 上与全精度 BF16 推理持平。作者还展示端到端实现,称这类方法有望在现代数据中心实现大规模机密 AI,保持较小可信计算基(TCB)并把大部分计算外包给不可信加速器。