模型资源使用指南

适用软件：1.2.0。安装平台后，按需要准备模型文件，不必一次下载全部模型。日常部署操作见使用指南。

1. 支持的模型、已有文件、正在运行的模型有什么区别

下载完成或导入成功后，还要部署模型。 仅有文件，不表示模型已经运行。

2. 文件放在哪里

管理设备MC-001负责保存模型文件和准备运行模型所需的软件。部署时，平台把文件通过QSFP高速网络传给您选择的设备，再启动模型。

打开“高级管理 → 模型文件”，页面显示的“当前扫描目录”就是平台查找模型文件的位置。默认在安装文件夹下的shared/models中；请以页面实际显示为准，不要照抄其他人的用户名或路径。

模型文件、运行模型的软件和设备上的运行副本分开存放：

多台设备共同运行一个模型时，每台仍需保存完整模型文件；不要按设备数量平分磁盘需求。管理设备还需要留出准备文件的空间，容量要求以部署提示为准。详细存储位置供管理员在维护手册中查阅。

3. 联网时怎么准备

直接进入“模型部署”，选择模型、方案和设备，点击“开始部署”。平台会检查已有文件，自动下载缺少的文件并准备运行软件。等待服务显示运行正常后，再打开使用入口。

首次准备大模型可能需要较长时间，请查看服务列表里的进度和提示，不要重复提交。

4. 现场不能联网时怎么准备

只下载您要用的模型和方案即可。现场仍需接通设备之间的管理网络和QSFP高速网络。

在联网Windows电脑下载

1. 下载工具需要Python 3.11或更新版本。没有安装时，打开Python下载页面，下载Windows安装程序。安装时勾选“Add python.exe to PATH”，点击“Install Now”，等待完成。
2. 打开交付包中的“下载工具”文件夹；也可以在平台“高级管理 → 模型文件 → 离线导入模型”点击“下载工具包”，下载后右键ZIP，选择“全部解压”。
3. 将整个工具文件夹放到空闲空间充足的磁盘，双击“下载模型资源.cmd”。
4. 在菜单中输入需要的方案编号并按Enter，保持窗口打开，等待显示“下载完成”。不要同时下载同一个方案。
5. 打开工具中的downloads文件夹，找到对应的方案编号文件夹。这就是需要复制的完整内容。

下载中断时，处理提示的问题后，运行同一个工具并选择同一方案，工具会检查并继续下载。看到“Press any key to close”表示程序已结束，请先查看上方是成功还是错误提示。

用移动硬盘复制到管理MegaCube

1. 将整个downloads/方案编号文件夹复制到移动硬盘，保留全部文件和子文件夹，不改名、不合并。
2. 等待复制完成，安全弹出硬盘，再插到管理MegaCube。
3. 在MegaCube的文件管理器打开该方案文件夹，确认能直接看到resource-manifest.json，不要选择它外面的一层文件夹。
4. 按Ctrl+L选中地址栏，再按Ctrl+C复制这个文件夹的完整路径。也可以先把整个文件夹复制到MegaCube，再复制新位置的路径。

请确认电脑、移动硬盘和管理MegaCube均有足够空间。硬盘应能在两端读取，并支持大于4GB的文件；FAT32不适用，通常可使用exFAT。硬盘无法识别时请管理员检查，不要格式化仍有资料的硬盘。

导入后部署

1. 以管理员登录平台，确认已经在“集群总览”添加管理设备MC-001。
2. 打开“高级管理 → 模型文件 → 离线导入模型”。
3. 粘贴方案文件夹在MegaCube上的完整路径，点击“开始导入”。不要填写Windows的E盘、F盘路径。
4. 等待显示“导入成功”。大文件复制需要时间，不要中途拔出硬盘或关闭管理设备。
5. 回到“模型部署”，选择与下载时相同的模型和方案，再按使用指南选择设备并开始部署。
6. 等待服务健康，点击“API接入”开始使用。多副本服务还需确认健康数量等于总数。

导入成功后即可移除硬盘，建议保留原始文件以便以后重新导入。平台会自动使用已导入的模型、镜像或构建材料，完成准备和部署；缺文件或版本不符时按提示补齐。

下载和导入常见问题

支持的模型和下载来源

下载工具会选择方案要求的固定版本，并下载必要文件，包括主模型、辅助模型、镜像或构建材料。只需选择对应编号，不必逐个打开下面的链接。“每套设备数”指运行一套模型所需的MegaCube数量。

旧版DeepSeek-V4.1-Flash的资源清单为兼容已有服务保留，部署页不再显示其模型卡。

5. “模型文件”页怎么用

首次没有下载或导入文件时，列表为空是正常的。扫描不到时，先检查文件夹是否在“当前扫描目录”内、是否复制完整，以及有没有多套一层文件夹。

页面保留历史记录，显示文件缺失的项目不一定还占用磁盘。校验提示来源或版本不明时，请支持人员检查；同名文件夹不代表是同一个版本，不要直接合并覆盖。

文件检查通过，只表示文件符合检查要求。 是否能使用模型，仍以部署后的服务状态和实际生成结果为准。

6. 空间不足时怎么清理

1. 确认模型不再使用；需要释放设备时，先在模型服务列表停止并卸载对应服务。
2. 进入“高级管理 → 模型文件”，打开不再需要的模型的“文件详情”。
3. 点击“删除本地文件”，输入当前平台管理员密码确认。
4. 查看删除结果和剩余空间。以后再次使用该模型，需要重新下载或导入。

正在运行或部署模型所需的文件不能删除。删除管理设备的模型文件，与卸载模型服务是两个操作。 此按钮不删除运行软件、其他设备的副本或其他文件夹；其他空间清理由管理员按维护手册处理。

7. 已有模型文件的手动导入

日常优先使用第4节的下载工具和完整资源导入。下面供管理员和支持人员处理已有模型文件时查阅；仅复制权重不能替代镜像和构建材料。

1. 下载前，确认模型和固定版本

先确认平台已经开放该模型、所选精度及部署方案。模型名称相同，不代表文件版本、量化格式或运行方案相同。

从方案对应的仓库和固定提交下载，不默认使用仓库的最新版本。固定版本和所需文件清单不明确时，先向软件支持人员确认。

DeepSeek 双机方案示例

• 模型目录： DeepSeek-V4-Flash-Vision-Exp
• 模型仓库： deepseek-ai/DeepSeek-V4-Flash-Vision-Exp
• 固定提交： 86f746b36186f0e567729a5c06a8c918caba82a9
• 所需文件： 该固定方案需要65个文件，其中48个为权重分片；配置、分词器、索引及相关子目录也要完整。

请注意： 上例仅适用于这份DeepSeek固定方案。其他模型和辅助模型使用各自的仓库、固定提交及文件清单，不能套用此版本号。

2. 下载完整目录，保留文件结构

1. 下载全部必要权重分片，以及config.json、分词器文件、权重索引和该方案需要的其他资源。
2. 保持原始文件名和子目录，不混用不同版本，不只复制单个权重分片。
3. 如果下载工具生成了.cache/huggingface等隐藏元数据，保留它们。文件管理器中启用“显示隐藏文件”；Linux桌面通常可按Ctrl+H切换。
4. 复制的是普通文件。Hugging Face全局缓存中的符号链接、未完成下载的临时文件或只有Git LFS指针的文件，需要先转换为完整的真实文件。

某些方案还需要草稿模型或LoRA等辅助资源。只下载主模型并不一定满足整个部署方案。

3. 复制到管理节点的当前模型库

1. 登录平台，打开“高级管理 → 模型文件”，查看页面显示的“当前扫描目录”。
2. 把完整模型文件夹放在这个目录下。目录名应与平台方案使用的模型目录名一致。
3. 等待复制完成后再扫描或部署。同名目录已有文件时先核对，不直接合并覆盖来自不同来源的内容。

目录结构示例

当前扫描目录/
└── DeepSeek-V4-Flash-Vision-Exp/
    ├── config.json
    ├── generation_config.json
    ├── model.safetensors.index.json
    ├── tokenizer.json
    ├── tokenizer_config.json
    ├── model-00001-of-00048.safetensors
    ├── ……其余权重分片……
    ├── encoding/
    └── inference/

请注意： 不要多套一层同名文件夹。以平台显示的实际扫描目录为准，不要求客户使用固定的系统用户名或绝对路径。

先导入管理节点即可。部署时由平台经已验证的QSFP通路向目标设备分发资源；目标设备也需要满足方案要求的存储容量。

4. 根据文件来源完成核验和登记

从另一套已验证的平台模型库复制

1. 完整复制模型目录，包含.source.json和.cache等隐藏内容。
2. 确认原目录的模型版本符合新平台所选方案。不要复制原平台的数据库、私有配置、账号或密钥。
3. 在新平台重新扫描并校验，以新平台实际检查结果为准。

使用Hugging Face下载工具下载

1. 指定方案要求的固定提交，下载到普通本地目录，并保留下载元数据。
2. Hugging Face工具可生成.cache/huggingface元数据，但不会自动生成平台自己的.source.json。两者是不同的信息。
3. 如平台仍提示来源未确认或版本未锁定，按下面的原始文件导入流程处理，不手工伪造来源标记。

从ModelScope、网页或其他文件包取得原始文件

1. 记录下载来源、原仓库、下载版本，以及所选的平台方案。
2. 由支持人员读取方案固定提交的可信文件清单和预期哈希，检查必要文件是否齐全，再对本地全部文件进行完整比较。
3. 文件全部匹配后，登记仓库、固定提交和每个文件的版本及完整性记录。缺失或不匹配时，先处理对应文件，不把现有目录直接认定为可部署。
4. 固定清单以外的文件先核查并备份，不盲目删除；不要把不同版本混入同一个目录。

请注意： “离线导入模型”只接收配套工具生成的完整资源目录；不接收任意来源的原始权重包。来源不明的旧文件夹需由支持人员确认，不能只凭扫描到文件就认定版本正确。

本地自行计算出的哈希只能说明文件当前的内容；必须与可信固定版本的预期哈希比较，才能确认版本一致。已匹配的权重无需为了来源登记而重新下载。

5. 在平台扫描并校验

1. 进入“高级管理 → 模型文件”，点击“扫描现有文件”，等待扫描完成。
2. 找到所需模型，打开“文件详情”，核对目录、版本、文件数和异常提示。
3. 点击“校验文件”，等待全部文件检查完成。大模型校验需要读取大量数据，耗时取决于文件容量和磁盘速度。
4. 确认文件详情没有异常，点击“校验文件”并等待任务完成，再继续部署。若仍显示“已生成哈希 · 来源待核验”，请支持人员核对来源。 - 页面显示“结构检查通过 · 待哈希校验”：已扫描到文件，尚未完成完整哈希检查。 - 页面显示“已生成哈希 · 来源待核验”：已计算文件哈希，但来源或版本仍待确认。 - 页面显示“文件检查异常”：结构、分片或文件存在异常，需要处理提示的问题。 - 页面显示“匹配下载版本元数据”：来源记录匹配下载版本，不表示本次扫描已经读取全部文件做哈希检查，也不表示服务已启动。

6. 选择方案和设备，开始部署

1. 打开“模型部署”，选择与导入资源对应的模型、版本和方案。
2. 选择所需设备，核对设备数量、内存、磁盘和QSFP状态，再确认部署。
3. 等待平台准备文件、传输并启动模型。服务显示健康后，按页面提供的网页或API入口使用。

模型权重与推理镜像、依赖是不同资源。复制权重不代表镜像和依赖已经准备，首次部署仍可能需要管理节点联网。

遇到问题时怎么处理

• 扫描不到模型： 检查“当前扫描目录”、目录层级、完整文件和读取权限；页面不会全盘搜索，更新列表不等于重新扫描。
• 同名模型目录已有其他来源文件，禁止覆盖： 先做固定版本来源核验和登记，不反复点击下载，也不为绕过检查自行填写来源JSON。
• 校验后仍显示“已生成哈希 · 来源待核验”： 表示尚未确认文件来源或版本，不一定是文件损坏。请支持人员核对。
• 缺少分片、哈希不匹配或结构异常： 按错误提示补齐或重新获取对应文件，不混入其他版本；处理后重新扫描并校验。
• 文件已校验但部署失败： 查看失败阶段，继续检查镜像、构建依赖、分发、节点资源及推理日志。文件通过校验不保证后续运行成功。

固定版本下载资料：Hugging Face下载说明。