HarmonyOS鸿蒙Next端侧部署混元大模型时，MindSpore Lite converter_lite Windows版解析参数分离MindIR路径拼接错误

HarmonyOS鸿蒙Next端侧部署混元大模型时，MindSpore Lite converter_lite Windows版解析参数分离MindIR路径拼接错误 问题背景

我正在开发一款鸿蒙原生 APP，需要将 腾讯混元大模型（Hunyuan） 部署到端侧运行。由于鸿蒙系统原生支持 MindSpore Lite 推理框架，我使用 MindSpore 将 HuggingFace 格式的混元模型转换为 MindIR 格式，再使用 converter_lite 转换为 .ms 端侧模型时遇到路径解析 bug。

模型信息

  • 模型名称: AngelSlim-Hunyuan-MT1.5-1.8B-1.25bit（基于腾讯混元架构的轻量化版本）
  • 模型类型: hunyuan_v1_dense
  • 参数量: 1.8B
  • 配置: hidden_size=2048, num_attention_heads=16, num_key_value_heads=4（GQA分组查询注意力）
  • 原始格式: HuggingFace Safetensors
  • 导出后大小: MindIR 结构文件约 270MB，参数分离文件约 8GB

问题现象

使用 Windows 版 converter_lite.exe 转换参数分离的 MindIR 模型时，出现路径拼接错误，无法正确找到变量文件。

错误日志：

Exception occurred: Open file 'E:\AngelSlim\AngelSlimHy-MT1.5-1.8B-1.25bit\angel_slim_hunyuan_graph.mindir/E:\AngelSlim\AngelSlimHy-MT1.5-1.8B-1.25bit\angel_slim_hunyuan_variables\data_0' failed

问题分析

  1. 路径分隔符混用：使用 / 而非 Windows 的 \
  2. .mindir 文件名被错误当作目录名的一部分
  3. 变量目录路径被错误拼接到 .mindir 文件路径后

已尝试的解决方案

尝试 结果
重命名 .mindir 和 _variables 使名称匹配 ❌ 失败，同样错误
将文件放到极简路径（如 E:\tmp_model\） ❌ 失败，同样错误
重新下载 MindSpore Lite 2.9.0 Windows 版 ❌ 失败，同样错误
检查并补齐 MinGW 依赖库（libssp-0.dll 等） ✅ 解决启动问题，但路径 bug 仍存在

环境信息

  • 操作系统: Windows 11 64位
  • MindSpore Lite 版本: 2.9.0（mindspore-lite-2.9.0-win-x64）
  • MindSpore 版本: 2.9.0
  • Python: 3.12
  • MinGW: x86_64-16.1.0-release-posix-seh-ucrt-rt_v14-rev1

提问

  1. 是否有 workaround 可以在 Windows 下绕过此 bug 完成转换？
  2. 是否必须切换到 Linux/WSL 进行转换？Windows 版是否有修复计划？
  3. 对于 鸿蒙端侧部署混元/LLaMA 类大模型，华为是否有官方推荐的转换流程或工具链？

更多关于HarmonyOS鸿蒙Next端侧部署混元大模型时，MindSpore Lite converter_lite Windows版解析参数分离MindIR路径拼接错误的实战教程也可以访问 https://www.itying.com/category-93-b0.html

9 回复

开发者你好，官网使用MindSpore Lite进行模型转换指导中，相关的工具是Linux-x86_64操作系统，你这边反馈使用的Windows 版 converter_lite.exe，这个工具来源是官网吗？是否有对应的链接？是否有相关操作截图？

请您注意提供的内容不要包含您或第三方的非公开信息，如给您带来不便，敬请谅解。

更多关于HarmonyOS鸿蒙Next端侧部署混元大模型时，MindSpore Lite converter_lite Windows版解析参数分离MindIR路径拼接错误的实战系列教程也可以访问 https://www.itying.com/category-93-b0.html


MindSpore Lite下载

好的，问题已收到，正在内部分析中。

开发者你好，这是 MindSpore Lite converter 在处理参数分离的 MindIR 时，Windows 平台路径处理代码的已知缺陷。MindSpore 的 Windows 支持通常滞后于 Linux，核心工具链优先在 Linux 上验证，建议在 MindSpore Gitee 提交 Issue，包含：复现步骤和完整错误日志和模型结构信息。

可以尝试使用 MindSpore Python API 导出合并版 MindIR，在导出 MindIR 时，不使用参数分离模式，而是导出为单个 .mindir 文件（将 variables 内联到 graph 文件中）。

这个现象更像是 Windows 版 converter_lite 对“参数分离 MindIR”的变量目录路径解析不兼容，而不是你重命名文件能解决的问题。报错里把 .mindir 文件路径和 variables 目录的绝对路径拼到一起，已经说明变量文件路径被二次拼接了。

建议先按两个方向处理：

  1. 用 Linux/WSL/容器里的 converter_lite 转一次，同一套 mindir + variables 如果能过，就基本可定位为 Windows 工具链路径解析问题。

  2. 在 Windows 下尽量使用同盘根目录、英文短路径、相对路径执行，并确认 .mindir 与 *_variables 目录保持导出时的原始相对关系。

  3. 如果模型允许，尝试重新导出为非参数分离的 MindIR 或更小分片，排除大变量文件路径处理问题。

  4. 转换命令里不要把变量目录显式拼到 modelFile 后面，只传 graph.mindir，让工具按 MindIR 内部记录查找变量目录。

如果 Linux 版本正常、Windows 版本稳定复现，建议整理最小可复现目录结构和 converter_lite 命令反馈给 MindSpore Lite 工具链，端侧部署前还要单独评估 1.8B 模型在目标设备上的内存和推理时延。

谢谢佬，我研究下，

哇啊哦，

该问题源于converter_lite在Windows平台对MindIR路径分隔符处理不当，导致参数分离后的文件路径拼接错误。检查--mindir_path和--weight_path参数中的相对/绝对路径，确保使用一致的正斜杠（/），并避免路径含空格或特殊字符。

  1. Windows 版 converter_lite 对参数分离 MindIR 的路径拼接确实存在缺陷，目前没有可靠 workaround。可尝试在 Python 中 os.chdir 到模型目录后传相对路径，但大概率仍失败。最有效的方式是用 WSL 或 Linux 运行 Linux 版 converter_lite，路径处理正常。
  2. 目前 Linux/WSL 是推荐的转换环境。Windows 版修复时间未知；若坚持 Windows，只能先把参数合并成单文件 MindIR（8GB 分离参数不适合）。
  3. 官方流程为：MindSpore 导出 MindIR（允许参数分离）→ converter_lite 转换生成 .ms → HarmonyOS 端用 MindSpore Lite Runtime 或 NNRt 加载推理。LLaMA/混元类大模型均按此链路，无额外专用工具。
回到顶部