无互联网模型部署说明

现场不能联网时,先在联网Windows电脑下载所需文件,用移动硬盘带到管理MegaCube,导入后再部署模型。以下步骤只需为您要用的模型操作,不必下载全部模型。

请先按“硬件环境搭建”接好设备。现场虽然可以没有互联网,但设备之间的管理网络和QSFP高速网络仍须连通。设备缺少必要软件时,请设备支持人员先处理平台给出的提示。

1. 在联网Windows电脑准备下载工具

  1. 下载工具需要Python 3.11或更新版本。没有安装时,打开Python下载页面,下载Windows安装程序。运行后勾选“Add python.exe to PATH”,再点击“Install Now”,等待安装完成。
  2. 打开交付文件夹中的“下载工具”。也可以在平台“高级管理 → 模型文件 → 离线导入模型”点击“下载工具包”,下载后右键ZIP,选择“全部解压”。
  3. 将完整工具文件夹放在空闲空间充足的磁盘上。工具只负责下载文件,模型仍在MegaCube上运行。

2. 选择方案,等待下载完成

  1. 双击“下载模型资源.cmd”,看到模型菜单后,输入所需方案的编号并按Enter。
  2. 保持窗口打开,等待显示“下载完成”。大模型文件很多,下载可能需要较长时间;不要同时打开多个窗口下载同一个方案。
  3. 打开下载工具中的downloads文件夹,找到对应的方案编号文件夹。这里就是稍后需要复制的内容。

下载中断或报错时,先按提示处理,再运行同一个工具、选择同一个方案,工具会检查已有文件并继续。看到“Press any key to close”表示程序已结束,请先查看上方是成功提示还是错误提示。

3. 用移动硬盘复制文件

  1. 将整个downloads/方案编号文件夹复制到移动硬盘,里面的文件和子文件夹全部保留,不改名、不合并。
  2. 等待复制完成,再安全弹出硬盘,插到管理MegaCube上。
  3. 在MegaCube的文件管理器中打开该方案文件夹。确认能直接看到resource-manifest.json(工具生成的清单文件),不要选择它外面的一层文件夹。
  4. 按Ctrl+L选中地址栏,再按Ctrl+C复制这个文件夹的完整路径。也可以先把整个方案文件夹复制到MegaCube,再复制新位置的路径。

请确认电脑、移动硬盘和管理MegaCube都有足够空间。移动硬盘需能在两端读取,并支持大于4GB的文件;FAT32不适用,通常可使用exFAT。如硬盘无法识别或无法复制大文件,请管理员检查,不要格式化仍有资料的硬盘。

4. 在平台导入

  1. 以管理员登录平台,确认已在“集群总览”添加管理设备MC-001。
  2. 打开“高级管理 → 模型文件 → 离线导入模型”。
  3. 粘贴刚才复制的方案文件夹路径,点击“开始导入”。这里填写的是MegaCube上的路径,不是Windows的E盘、F盘路径。
  4. 等待显示“导入成功”。平台会检查文件并复制到管理设备,大文件可能需要较长时间。导入过程中不要拔出硬盘或关闭管理设备。

原文件会保留在移动硬盘或原文件夹中。导入成功后即可移除移动硬盘;建议先保留一份,方便以后重新导入。

5. 部署并使用

  1. 打开“模型部署”,选择与下载时相同的模型和方案。
  2. 按页面提示选择运行模型的设备,核对服务名称,点击“开始部署”。
  3. 在同页下方的模型服务列表查看进度。平台会使用已导入的文件,自动完成准备和部署。
  4. 等待服务显示运行中、健康;多副本服务还要确认健康数量等于总数。
  5. 点击该服务的“API接入”,按窗口给出的网页地址或接入信息使用模型。

以后再次使用时,平台会检查并使用已有文件。若提示文件缺失或版本不符,请按提示补齐并重新导入。

支持的模型和方案

下载工具会自动选择方案要求的版本,并下载全部必要文件。您只需在工具中选择对应编号。下表的“每套设备数”表示运行一套模型需要几台MegaCube;部署多套时需要相应增加设备。

模型 / 方案模型文件来源(需要时查阅)每套设备数其他运行文件
Qwen-Image-2.1-Turbo
BF16 · Turbo 8步 · 单机
Qwen-Image-2.1-Turbo · 官方备用1下载工具一并准备,导入后由平台自动处理
Z-Image-Turbo
BF16
Z-Image-Turbo · 官方备用1下载工具一并准备,导入后由平台自动处理
Ornith-1.5-35B-A3B-NVFP4
NVFP4
Ornith-1.5-35B-A3B-NVFP4 · 官方备用1下载工具一并准备,导入后由平台自动处理
Qwen3.8-27B-NVFP4
NVFP4 + DFlash2 K12
Qwen3.8-27B-NVFP4 · 官方备用
Qwen3.8-27B-DFlash2 · 官方备用
1下载工具一并准备,导入后由平台自动处理
Qwen3.8-27B-NVFP4
NVFP4 + Native MTP
Qwen3.8-27B-NVFP4 · 官方备用1下载工具一并准备,导入后由平台自动处理
GLM-5.3-Flash-NVFP4
NVFP4·DFlash3·双机TP2·256K
GLM-5.3-Flash-NVFP4 · 官方备用
GLM-5.3-Flash-DFlash2 · 官方备用
2下载工具一并准备,导入后由平台自动处理
DeepSeek-V4-Flash-Vision-Exp
标准版
DeepSeek-V4-Flash-Vision-Exp · 官方备用2下载工具一并准备,导入后由平台自动处理
MiniMax-H3
INT8 单机版
MiniMax-H3 · 官方备用
MiniMax-H3-Turbo-Lora · 官方备用
1下载工具一并准备,导入后由平台自动处理
Qwen3.8-Flash-Next-NVFP4
NVFP4
Qwen3.8-Flash-Next-NVFP4 · 官方备用1下载工具一并准备,导入后由平台自动处理
DeepSeek-V4.1-Flash
官方原版
DeepSeek-V4.1-Flash · 官方备用4下载工具一并准备,导入后由平台自动处理
Qwen-Image-2.1
Diffusers·文生图·单机
Qwen-Image-2.1 · 官方备用1下载工具一并准备,导入后由平台自动处理
Qwen3.6-35B-A3B-NVFP4-Fast
NVFP4 Fast + MTP2
Qwen3.6-35B-A3B-NVFP4-Fast · 官方备用1下载工具一并准备,导入后由平台自动处理
DeepSeek-V4.1-Flash-1017
官方原版
DeepSeek-V4.1-Flash-1017 · 官方备用4下载工具一并准备,导入后由平台自动处理

遇到问题怎么处理

看到的提示或问题怎么做
Python 3.11 or newer was not found按第1步安装Python,完成后重新打开下载工具。
Extract ALL files先对工具ZIP执行“全部解压”,再运行解压后的程序。
下载盘空间不足清理空间后选择同一方案继续。换磁盘时,将整个下载工具文件夹一起移动,保留其中的downloads文件夹。
管理设备或目标设备空间不足除了模型文件,还需要准备和运行模型的空间。按平台提示清理不再使用的内容;模型文件可在“高级管理 → 模型文件”管理。
下载失败或缺文件检查联网电脑的网络和空间,重新运行工具并选择同一方案;仍失败时记录完整错误提示,联系支持人员。
找不到导入目录在管理MegaCube的文件管理器中打开方案文件夹,复制地址栏里的路径,确认选中目录能直接看到resource-manifest.json。
校验失败或文件不完整重新运行下载工具检查并补齐文件,再完整复制、重新导入,不要手工修改清单文件。
同名目录已有其他来源文件先在“模型文件”页核对已有目录,联系支持人员确认;不要直接合并覆盖。
软件与资源版本不匹配从当前平台重新下载工具,按相同方案准备文件后再导入。

文件完整并导入成功后,还需完成部署。模型服务显示运行正常,并能生成所需结果,才表示可以使用。