无互联网模型部署说明
现场不能联网时,先在联网Windows电脑下载所需文件,用移动硬盘带到管理MegaCube,导入后再部署模型。以下步骤只需为您要用的模型操作,不必下载全部模型。
请先按“硬件环境搭建”接好设备。现场虽然可以没有互联网,但设备之间的管理网络和QSFP高速网络仍须连通。设备缺少必要软件时,请设备支持人员先处理平台给出的提示。
1. 在联网Windows电脑准备下载工具
- 下载工具需要Python 3.11或更新版本。没有安装时,打开Python下载页面,下载Windows安装程序。运行后勾选“Add python.exe to PATH”,再点击“Install Now”,等待安装完成。
- 打开交付文件夹中的“下载工具”。也可以在平台“高级管理 → 模型文件 → 离线导入模型”点击“下载工具包”,下载后右键ZIP,选择“全部解压”。
- 将完整工具文件夹放在空闲空间充足的磁盘上。工具只负责下载文件,模型仍在MegaCube上运行。
2. 选择方案,等待下载完成
- 双击“下载模型资源.cmd”,看到模型菜单后,输入所需方案的编号并按Enter。
- 保持窗口打开,等待显示“下载完成”。大模型文件很多,下载可能需要较长时间;不要同时打开多个窗口下载同一个方案。
- 打开下载工具中的downloads文件夹,找到对应的方案编号文件夹。这里就是稍后需要复制的内容。
下载中断或报错时,先按提示处理,再运行同一个工具、选择同一个方案,工具会检查已有文件并继续。看到“Press any key to close”表示程序已结束,请先查看上方是成功提示还是错误提示。
3. 用移动硬盘复制文件
- 将整个downloads/方案编号文件夹复制到移动硬盘,里面的文件和子文件夹全部保留,不改名、不合并。
- 等待复制完成,再安全弹出硬盘,插到管理MegaCube上。
- 在MegaCube的文件管理器中打开该方案文件夹。确认能直接看到resource-manifest.json(工具生成的清单文件),不要选择它外面的一层文件夹。
- 按Ctrl+L选中地址栏,再按Ctrl+C复制这个文件夹的完整路径。也可以先把整个方案文件夹复制到MegaCube,再复制新位置的路径。
请确认电脑、移动硬盘和管理MegaCube都有足够空间。移动硬盘需能在两端读取,并支持大于4GB的文件;FAT32不适用,通常可使用exFAT。如硬盘无法识别或无法复制大文件,请管理员检查,不要格式化仍有资料的硬盘。
4. 在平台导入
- 以管理员登录平台,确认已在“集群总览”添加管理设备MC-001。
- 打开“高级管理 → 模型文件 → 离线导入模型”。
- 粘贴刚才复制的方案文件夹路径,点击“开始导入”。这里填写的是MegaCube上的路径,不是Windows的E盘、F盘路径。
- 等待显示“导入成功”。平台会检查文件并复制到管理设备,大文件可能需要较长时间。导入过程中不要拔出硬盘或关闭管理设备。
原文件会保留在移动硬盘或原文件夹中。导入成功后即可移除移动硬盘;建议先保留一份,方便以后重新导入。
5. 部署并使用
- 打开“模型部署”,选择与下载时相同的模型和方案。
- 按页面提示选择运行模型的设备,核对服务名称,点击“开始部署”。
- 在同页下方的模型服务列表查看进度。平台会使用已导入的文件,自动完成准备和部署。
- 等待服务显示运行中、健康;多副本服务还要确认健康数量等于总数。
- 点击该服务的“API接入”,按窗口给出的网页地址或接入信息使用模型。
以后再次使用时,平台会检查并使用已有文件。若提示文件缺失或版本不符,请按提示补齐并重新导入。
支持的模型和方案
下载工具会自动选择方案要求的版本,并下载全部必要文件。您只需在工具中选择对应编号。下表的“每套设备数”表示运行一套模型需要几台MegaCube;部署多套时需要相应增加设备。
| 模型 / 方案 | 模型文件来源(需要时查阅) | 每套设备数 | 其他运行文件 |
|---|---|---|---|
| Qwen-Image-2.1-Turbo BF16 · Turbo 8步 · 单机 | Qwen-Image-2.1-Turbo · 官方备用 | 1 | 下载工具一并准备,导入后由平台自动处理 |
| Z-Image-Turbo BF16 | Z-Image-Turbo · 官方备用 | 1 | 下载工具一并准备,导入后由平台自动处理 |
| Ornith-1.5-35B-A3B-NVFP4 NVFP4 | Ornith-1.5-35B-A3B-NVFP4 · 官方备用 | 1 | 下载工具一并准备,导入后由平台自动处理 |
| Qwen3.8-27B-NVFP4 NVFP4 + DFlash2 K12 | Qwen3.8-27B-NVFP4 · 官方备用 Qwen3.8-27B-DFlash2 · 官方备用 | 1 | 下载工具一并准备,导入后由平台自动处理 |
| Qwen3.8-27B-NVFP4 NVFP4 + Native MTP | Qwen3.8-27B-NVFP4 · 官方备用 | 1 | 下载工具一并准备,导入后由平台自动处理 |
| GLM-5.3-Flash-NVFP4 NVFP4·DFlash3·双机TP2·256K | GLM-5.3-Flash-NVFP4 · 官方备用 GLM-5.3-Flash-DFlash2 · 官方备用 | 2 | 下载工具一并准备,导入后由平台自动处理 |
| DeepSeek-V4-Flash-Vision-Exp 标准版 | DeepSeek-V4-Flash-Vision-Exp · 官方备用 | 2 | 下载工具一并准备,导入后由平台自动处理 |
| MiniMax-H3 INT8 单机版 | MiniMax-H3 · 官方备用 MiniMax-H3-Turbo-Lora · 官方备用 | 1 | 下载工具一并准备,导入后由平台自动处理 |
| Qwen3.8-Flash-Next-NVFP4 NVFP4 | Qwen3.8-Flash-Next-NVFP4 · 官方备用 | 1 | 下载工具一并准备,导入后由平台自动处理 |
| DeepSeek-V4.1-Flash 官方原版 | DeepSeek-V4.1-Flash · 官方备用 | 4 | 下载工具一并准备,导入后由平台自动处理 |
| Qwen-Image-2.1 Diffusers·文生图·单机 | Qwen-Image-2.1 · 官方备用 | 1 | 下载工具一并准备,导入后由平台自动处理 |
| Qwen3.6-35B-A3B-NVFP4-Fast NVFP4 Fast + MTP2 | Qwen3.6-35B-A3B-NVFP4-Fast · 官方备用 | 1 | 下载工具一并准备,导入后由平台自动处理 |
| DeepSeek-V4.1-Flash-1017 官方原版 | DeepSeek-V4.1-Flash-1017 · 官方备用 | 4 | 下载工具一并准备,导入后由平台自动处理 |
遇到问题怎么处理
| 看到的提示或问题 | 怎么做 |
|---|---|
| Python 3.11 or newer was not found | 按第1步安装Python,完成后重新打开下载工具。 |
| Extract ALL files | 先对工具ZIP执行“全部解压”,再运行解压后的程序。 |
| 下载盘空间不足 | 清理空间后选择同一方案继续。换磁盘时,将整个下载工具文件夹一起移动,保留其中的downloads文件夹。 |
| 管理设备或目标设备空间不足 | 除了模型文件,还需要准备和运行模型的空间。按平台提示清理不再使用的内容;模型文件可在“高级管理 → 模型文件”管理。 |
| 下载失败或缺文件 | 检查联网电脑的网络和空间,重新运行工具并选择同一方案;仍失败时记录完整错误提示,联系支持人员。 |
| 找不到导入目录 | 在管理MegaCube的文件管理器中打开方案文件夹,复制地址栏里的路径,确认选中目录能直接看到resource-manifest.json。 |
| 校验失败或文件不完整 | 重新运行下载工具检查并补齐文件,再完整复制、重新导入,不要手工修改清单文件。 |
| 同名目录已有其他来源文件 | 先在“模型文件”页核对已有目录,联系支持人员确认;不要直接合并覆盖。 |
| 软件与资源版本不匹配 | 从当前平台重新下载工具,按相同方案准备文件后再导入。 |
文件完整并导入成功后,还需完成部署。模型服务显示运行正常,并能生成所需结果,才表示可以使用。