在单台 DGX Spark 上运行 DeepSeek V4.1 Flash 1017（ds4-dfm-rs、Docker Compose）
DeepSeek V4.1 Flash 1017 on a single DGX Spark (ds4-dfm-rs, Docker Compose)
AI 导读
该 GitHub 仓库给出在单台 NVIDIA DGX Spark 上用一条命令部署 DeepSeek V4.1 Flash 1017 量化版的完整方案，路由专家以约 1.6 bit 向量量化、其余为 q4_K，114 GB 基础文件常驻内存，203 GB Engram 查表留在 SSD 上逐 token 读取。首次运行需构建引擎并下载 318 GB 文件，作者称耗时约 2.5 小时，此后启动约 2 分钟；引擎 ds4-dfm-rs v0.1.3 一次只服务一个请求，上下文为 1M tokens，模型卡称该量化在 69-79% 的情况下选出与完整模型相同的下一个 token。作者建议对涉及转账或发消息的工具，在模型之外设置收款人白名单或对新增对象增加确认步骤。