本页目录

  • 概述
  • 转换
  • 参数参考
  • 源模型输入设置
  • 平台和导出设置
  • 量化设置
  • 原始 ONNX 与 ONNX NN Archive 对比
  • 故障排除

详细转换

概述

为了充分利用设备上的AI模型,必须先将它们转换为目标平台的RVC编译格式。 如果您想了解什么是转换、为什么需要转换以及涉及的一些关键概念,请参阅转换部分。虽然Hub通过快速转换工具提供了一个快速且简化的选项,但某些工作流需要更精细的控制。 详细转换工作流正是为这些高级用例设计的,提供了细粒度的配置参数和版本/变体管理。 如果您更喜欢快速一次性的转换且设置最少,请参阅快速转换部分。

转换

分步说明:

打开模型变体

打开Hub,导航到模型部分,打开所需模型,滚动到模型变体,点击要导出的变体旁边的转换

选择目标平台

选择目标RVC平台。可用的目标取决于上传的基础模型格式。 实际上,基于ONNX的模型源提供了跨平台最广泛的转换支持。

配置转换表单

检查预填的值并根据需要进行调整。 如果基础模型是原始的ONNX文件,请手动输入源模型输入设置。 如果基础模型是ONNX NN Archive,请将其config.json作为真实来源,仅在存档元数据不正确时才更改值。使用下面的参考部分了解每个字段的确切含义。

导出并确认结果

点击导出开始转换。 新的模型实例最初显示为待处理,当导出准备就绪时变为成功 然后您可以下载转换后的存档,或通过DepthAI直接引用它。

参数参考

源模型输入设置

参数类别含义
Shape源模型源模型期望的输入形状
Mean Values源模型从输入中减去的每个通道的值
Scale Values源模型减去均值后应用的每个通道除数
Encoding From源模型源模型期望的通道顺序
Encoding To导出模型转换后的模型在运行时期望的通道顺序

平台和导出设置

参数类别含义
Model Instance Name导出模型Hub中显示的转换后实例的名称
Ir version / Snpe version转换过程目标转换格式或运行时版本
Disable Onnx Simplification转换过程在转换过程中禁用ONNX图简化
Mo Args转换过程用于RVC2RVC3的额外OpenVINO模型优化器参数
Compile Tool Args转换过程用于RVC2的额外OpenVINO编译工具参数
POT Target Device转换过程用于RVC3的POT目标设备
Convert to blob导出模型RVC2导出.blob而不是.superblob

量化设置

参数类别含义
Quantization Data转换过程用于校准量化转换的数据集
Max Quantization Images转换过程量化过程中使用的最大图像数量
Target Precision转换过程精度目标,例如针对 RVC4FP16INT8
在 Hub UI 中,你可以从以下通用数据集中选择:
  • Driving - 街道和车辆图像(OIv7 类别,如 Vehicle、Car、Traffic light 等)
  • Food - 水果、蔬菜、生食和熟食图像(OIv7 类别,如 Apple、Salad、Pizza 等)
  • General - OIv7 图像的随机子集,代表多种对象和场景
  • Indoors - 室内空间图像(OIv7 类别,如 Table、Chair、Fireplace 等)
  • Random - 随机像素图像
  • Warehouse - 仓库内部图像(叉车-1 图像的随机子集)
如果需要自定义量化数据集,请使用 HubAI SDK 有关更高级的转换和量化选项,请参阅 ModelConverter 文档。

原始 ONNX 与 ONNX NN Archive 对比

起始点Hub 可以自动确定的内容你仍需定义的内容
原始 ONNX图结构中的张量结构训练阶段的预处理选择以及语义输出元数据(如类别名称和解析器配置)
ONNX NN Archive张量元数据、预处理以及来自 config.json 的可选 heads 元数据导出选择(如目标平台和转换特定选项)
如果从正确定义的 ONNX NN Archive 开始,通常不需要手动编辑导出的归档文件。 导出的归档文件可能与源归档文件不同,这是预期的。 例如,模型路径从 model.onnx 更改为编译后的构件(如 .superblob.blob.dlc),并且 mean/scale 可能变为 null,因为预处理已嵌入到编译后的模型中。

故障排除

并非所有模型都能成功转换为目标平台。 你可以按如下方式检查失败的转换日志:

打开失败的转换作业

Failed Conversions(失败的转换)部分找到失败的作业并打开。

下载或检查日志

使用右上角的 Logs(日志)按钮下载日志,或直接检查页面上的 Conversion process logs(转换过程日志)部分。