摘要作者称功耗单独只能弱约束隐藏算力。
这篇工作定量估计片外功耗能为算力核验排除多少未声明运算。
这篇工作定量估计片外功耗能为算力核验排除多少未声明运算。
用 SCM 合成会话并训练检测器识别推理层滥用
提出端到端全同态加密方案 ODIN,在云端密文上完成推理以保护提示词
ODIN 是面向 Llama 的服务器侧 CKKS 推理系统:客户加密提示词,诚实但好奇的服务器用明文权重在密文上算完 Llama-3,只返回结果密文。
提出 GIFT,用加密与 GPU 信息流跟踪隔离共享 LLM 服务中的用户数据
GIFT 是作者为共享 LLM serving 做的用户数据隔离系统,并有启用机密计算的 GIFT-CC。作者在结论中称它是该场景的首个 IFT 设计。
提出 SeedHijack,劫持采样 PRNG 以强制选定 token
SeedHijack 把 LLM 采样用的 PRNG 输出换成攻击者选定的数,从而指定下一个 token。权重、输入和 logits 都不改。防御是用硬件 QRNG 替换该随机源。
提出 PrefixWall 选择性隔离共享前缀以缓解计时侧信道
PrefixWall 是多租户 LLM 服务上的系统级防御,用来限制 Automatic Prefix Caching 的 TTFT 侧信道,同时保留前缀复用。