模型资源使用指南

适用软件：1.2.3。安装平台后，按需要准备模型文件，不必一次下载全部模型。日常部署操作见使用指南。

1. 支持的模型、已有文件、正在运行的模型有什么区别

下载完成或导入成功后，还要部署模型。 仅有文件，不表示模型已经运行。

下载时可查看当前文件、已下载容量和实际速度。中断后重试同一模型和版本，会继续已有下载；等待网络连接或校验文件时，速度可能显示为0。请保留下载目录，不要手动改动其中的临时文件。

2. 文件放在哪里

管理设备MC-001负责保存模型文件和准备运行模型所需的软件。部署时，平台把文件通过QSFP高速网络传给您选择的设备，再启动模型。

打开“高级管理 → 模型文件”，页面显示的“当前扫描目录”就是平台查找模型文件的位置。默认在安装文件夹下的shared/models中；请以页面实际显示为准，不要照抄其他人的用户名或路径。

模型文件、运行模型的软件和设备上的运行副本分开存放：

多台设备共同运行一个模型时，每台仍需保存完整模型文件；不要按设备数量平分磁盘需求。管理设备还需要留出准备文件的空间，容量要求以部署提示为准。详细存储位置供管理员在维护手册中查阅。

3. 联网时怎么准备

直接进入“模型部署”，选择模型、方案和设备，点击“开始部署”。平台会检查已有文件，自动下载缺少的文件并准备运行软件。等待服务显示运行正常后，再打开使用入口。

首次准备大模型可能需要较长时间，请查看服务列表里的进度和提示，不要重复提交。

已有模型文件，只缺运行镜像

如果现场不能联网，可以由维护人员提供与本方案对应的离线镜像补充包。将完整补充包复制到管理MegaCube并解压，在其文件夹中打开终端，按随包说明运行bash import.sh。工具会校验并登记镜像；不需要重装平台、修改IP或重新添加设备，也不需要停止正常运行的模型。导入成功后回到平台重试部署。

补充包导入的是平台镜像库，导入后docker images中暂时没有镜像也正常，部署时平台会分发并在目标设备加载。其他模型或多副本方案需要各自对应的镜像资源，请以补充包适用范围为准。

已经手动下载或备份过模型

把完整模型文件夹复制到“当前扫描目录”下面，保持模型文件夹名称不变，然后点击“扫描现有文件”。平台会按所支持方案的固定版本检查已有文件，检查通过后自动识别；不需要您手动创建来源记录或隐藏文件。检查会读取全部模型文件，大模型需要一些时间。

之后正常选择模型并部署，已经检查通过的文件会复用。缺少的文件会在联网部署时补齐；文件损坏、版本不同或混入其他模型文件时，平台会提示具体问题并保留原文件，不会直接覆盖。扫描已有模型使用软件自带的校验清单，不需要重新下载权重。

模型文件夹直接放在扫描目录下面，不要多套一层备份文件夹，也不要只复制权重分片；分词器和配置等文件也要一起复制。已有服务使用中的主模型和辅助模型不会因扫描而自动改写识别记录。

4. 现场不能联网时怎么准备

只下载您要用的模型和方案即可。现场仍需接通设备之间的管理网络和QSFP高速网络。

在联网Windows电脑下载

1. 下载工具需要Python 3.11或更新版本。没有安装时，打开Python下载页面，下载Windows安装程序。安装时勾选“Add python.exe to PATH”，点击“Install Now”，等待完成。
2. 打开交付包中的“下载工具”文件夹；也可以在平台“高级管理 → 模型文件 → 离线导入模型”点击“下载工具包”，下载后右键ZIP，选择“全部解压”。
3. 将整个工具文件夹放到空闲空间充足的磁盘，双击“下载模型资源.cmd”。
4. 在菜单中输入需要的方案编号并按Enter，保持窗口打开，等待显示“下载完成”。不要同时下载同一个方案。
5. 打开工具中的downloads文件夹，找到对应的方案编号文件夹。这就是需要复制的完整内容。

选择方案后，窗口会显示准备信息。已有的大镜像需要先检查完整性，窗口会显示校验进度，请等待检查完成。镜像下载来源持续过慢时，工具会尝试其他可用来源，并保留已下载的部分。

下载中断时，处理提示的问题后，运行同一个工具并选择同一方案，工具会检查并继续下载，不要先删除下载目录。看到“Press any key to close”表示程序已结束，请先查看上方是成功还是错误提示。

用移动硬盘复制到管理MegaCube

1. 将整个downloads/方案编号文件夹复制到移动硬盘，保留全部文件和子文件夹，不改名、不合并。
2. 等待复制完成，安全弹出硬盘，再插到管理MegaCube。
3. 在MegaCube的文件管理器打开该方案文件夹，确认能直接看到resource-manifest.json，不要选择它外面的一层文件夹。
4. 按Ctrl+L选中地址栏，再按Ctrl+C复制这个文件夹的完整路径。也可以先把整个文件夹复制到MegaCube，再复制新位置的路径。

请确认电脑、移动硬盘和管理MegaCube均有足够空间。硬盘应能在两端读取，并支持大于4GB的文件；FAT32不适用，通常可使用exFAT。硬盘无法识别时请管理员检查，不要格式化仍有资料的硬盘。

导入后部署

1. 以管理员登录平台，确认已经在“集群总览”添加管理设备MC-001。
2. 打开“高级管理 → 模型文件 → 离线导入模型”。
3. 粘贴方案文件夹在MegaCube上的完整路径，点击“开始导入”。不要填写Windows的E盘、F盘路径。
4. 等待显示“导入成功”。大文件复制需要时间，不要中途拔出硬盘或关闭管理设备。
5. 回到“模型部署”，选择与下载时相同的模型和方案，再按使用指南选择设备并开始部署。
6. 等待服务健康，点击“API接入”开始使用。多副本服务还需确认健康数量等于总数。

导入成功后即可移除硬盘，建议保留原始文件以便以后重新导入。平台会自动使用已导入的模型、镜像或构建材料，完成准备和部署；缺文件或版本不符时按提示补齐。

下载和导入常见问题

支持的模型和下载来源

下载工具会选择方案要求的固定版本，并下载必要文件，包括主模型、辅助模型、镜像或构建材料。只需选择对应编号，不必逐个打开下面的链接。“每套设备数”指运行一套模型所需的MegaCube数量。

旧版DeepSeek-V4.1-Flash的资源清单为兼容已有服务保留，部署页不再显示其模型卡。

5. “模型文件”页怎么用

首次没有下载或导入文件时，列表为空是正常的。扫描不到时，先检查文件夹是否在“当前扫描目录”内、是否复制完整，以及有没有多套一层文件夹。

页面保留历史记录，显示文件缺失的项目不一定还占用磁盘。校验提示来源或版本不明时，请支持人员检查；同名文件夹不代表是同一个版本，不要直接合并覆盖。

文件检查通过，只表示文件符合检查要求。 是否能使用模型，仍以部署后的服务状态和实际生成结果为准。

6. 空间不足时怎么清理

1. 确认模型不再使用；需要释放设备时，先在模型服务列表停止并卸载对应服务。
2. 进入“高级管理 → 模型文件”，打开不再需要的模型的“文件详情”。
3. 点击“删除本地文件”，输入当前平台管理员密码确认。
4. 查看删除结果和剩余空间。以后再次使用该模型，需要重新下载或导入。

正在运行或部署模型所需的文件不能删除。删除管理设备的模型文件，与卸载模型服务是两个操作。 此按钮不删除运行软件、其他设备的副本或其他文件夹；其他空间清理由管理员按维护手册处理。

7. 已有模型文件的手动导入

日常优先使用第4节的下载工具和完整资源导入。下面供管理员和支持人员处理已有模型文件时查阅；仅复制权重不能替代镜像和构建材料。

1. 下载前，确认模型和固定版本

先确认平台已经开放该模型、所选精度及部署方案。模型名称相同，不代表文件版本、量化格式或运行方案相同。

从方案对应的仓库和固定提交下载，不默认使用仓库的最新版本。固定版本和所需文件清单不明确时，先向软件支持人员确认。

DeepSeek 双机方案示例

• 模型目录： DeepSeek-V4-Flash-Vision-Exp
• 模型仓库： deepseek-ai/DeepSeek-V4-Flash-Vision-Exp
• 固定提交： 86f746b36186f0e567729a5c06a8c918caba82a9
• 所需文件： 该固定方案需要65个文件，其中48个为权重分片；配置、分词器、索引及相关子目录也要完整。

请注意： 上例仅适用于这份DeepSeek固定方案。其他模型和辅助模型使用各自的仓库、固定提交及文件清单，不能套用此版本号。

2. 下载完整目录，保留文件结构

1. 下载全部必要权重分片，以及config.json、分词器文件、权重索引和该方案需要的其他资源。
2. 保持原始文件名和子目录，不混用不同版本，不只复制单个权重分片。
3. 如果下载工具生成了.cache/huggingface等隐藏元数据，保留它们。文件管理器中启用“显示隐藏文件”；Linux桌面通常可按Ctrl+H切换。
4. 复制的是普通文件。Hugging Face全局缓存中的符号链接、未完成下载的临时文件或只有Git LFS指针的文件，需要先转换为完整的真实文件。

某些方案还需要草稿模型或LoRA等辅助资源。只下载主模型并不一定满足整个部署方案。

3. 复制到管理节点的当前模型库

1. 登录平台，打开“高级管理 → 模型文件”，查看页面显示的“当前扫描目录”。
2. 把完整模型文件夹放在这个目录下。目录名应与平台方案使用的模型目录名一致。
3. 等待复制完成后再扫描或部署。同名目录已有文件时先核对，不直接合并覆盖来自不同来源的内容。

目录结构示例

当前扫描目录/
└── DeepSeek-V4-Flash-Vision-Exp/
    ├── config.json
    ├── generation_config.json
    ├── model.safetensors.index.json
    ├── tokenizer.json
    ├── tokenizer_config.json
    ├── model-00001-of-00048.safetensors
    ├── ……其余权重分片……
    ├── encoding/
    └── inference/

请注意： 不要多套一层同名文件夹。以平台显示的实际扫描目录为准，不要求客户使用固定的系统用户名或绝对路径。

先导入管理节点即可。部署时由平台经已验证的QSFP通路向目标设备分发资源；目标设备也需要满足方案要求的存储容量。

4. 根据文件来源完成核验和登记

从另一套已验证的平台模型库复制

1. 完整复制模型目录，包含.source.json和.cache等隐藏内容。
2. 确认原目录的模型版本符合新平台所选方案。不要复制原平台的数据库、私有配置、账号或密钥。
3. 在新平台重新扫描并校验，以新平台实际检查结果为准。

使用Hugging Face下载工具下载

1. 指定方案要求的固定提交，下载到普通本地目录，并保留下载元数据。
2. Hugging Face工具可生成.cache/huggingface元数据，但不会自动生成平台自己的.source.json。两者是不同的信息。
3. 如平台仍提示来源未确认或版本未锁定，按下面的原始文件导入流程处理，不手工伪造来源标记。

从ModelScope、网页或其他文件包取得原始文件

1. 记录下载来源、原仓库、下载版本，以及所选的平台方案。
2. 由支持人员读取方案固定提交的可信文件清单和预期哈希，检查必要文件是否齐全，再对本地全部文件进行完整比较。
3. 文件全部匹配后，登记仓库、固定提交和每个文件的版本及完整性记录。缺失或不匹配时，先处理对应文件，不把现有目录直接认定为可部署。
4. 固定清单以外的文件先核查并备份，不盲目删除；不要把不同版本混入同一个目录。

请注意： “离线导入模型”只接收配套工具生成的完整资源目录；不接收任意来源的原始权重包。来源不明的旧文件夹需由支持人员确认，不能只凭扫描到文件就认定版本正确。

本地自行计算出的哈希只能说明文件当前的内容；必须与可信固定版本的预期哈希比较，才能确认版本一致。已匹配的权重无需为了来源登记而重新下载。

5. 在平台扫描并校验

1. 进入“高级管理 → 模型文件”，点击“扫描现有文件”，等待扫描完成。
2. 找到所需模型，打开“文件详情”，核对目录、版本、文件数和异常提示。
3. 点击“校验文件”，等待全部文件检查完成。大模型校验需要读取大量数据，耗时取决于文件容量和磁盘速度。
4. 确认文件详情没有异常，点击“校验文件”并等待任务完成，再继续部署。若仍显示“已生成哈希 · 来源待核验”，请支持人员核对来源。 - 页面显示“结构检查通过 · 待哈希校验”：已扫描到文件，尚未完成完整哈希检查。 - 页面显示“已生成哈希 · 来源待核验”：已计算文件哈希，但来源或版本仍待确认。 - 页面显示“文件检查异常”：结构、分片或文件存在异常，需要处理提示的问题。 - 页面显示“匹配下载版本元数据”：来源记录匹配下载版本，不表示本次扫描已经读取全部文件做哈希检查，也不表示服务已启动。

6. 选择方案和设备，开始部署

1. 打开“模型部署”，选择与导入资源对应的模型、版本和方案。
2. 选择所需设备，核对设备数量、内存、磁盘和QSFP状态，再确认部署。
3. 等待平台准备文件、传输并启动模型。服务显示健康后，按页面提供的网页或API入口使用。

模型权重与推理镜像、依赖是不同资源。复制权重不代表镜像和依赖已经准备，首次部署仍可能需要管理节点联网。

遇到问题时怎么处理

• 扫描不到模型： 检查“当前扫描目录”、目录层级、完整文件和读取权限；页面不会全盘搜索，更新列表不等于重新扫描。
• 同名模型目录已有其他来源文件，禁止覆盖： 先做固定版本来源核验和登记，不反复点击下载，也不为绕过检查自行填写来源JSON。
• 校验后仍显示“已生成哈希 · 来源待核验”： 表示尚未确认文件来源或版本，不一定是文件损坏。请支持人员核对。
• 缺少分片、哈希不匹配或结构异常： 按错误提示补齐或重新获取对应文件，不混入其他版本；处理后重新扫描并校验。
• 文件已校验但部署失败： 查看失败阶段，继续检查镜像、构建依赖、分发、节点资源及推理日志。文件通过校验不保证后续运行成功。

固定版本下载资料：Hugging Face下载说明。