转换为 ONNX
最后更新
概述
.onnx 的方法。 建议这样做,因为它为适用于 RVC 平台的转换提供了最多的选择。转换
从 PyTorch 转换
Python
1import torch
2import torch.nn as nn
3
4# 定义模型架构(必须与保存的模型匹配)
5class Model(nn.Module):
6 ...
7
8# 初始化模型并加载训练好的权重
9model = Model()
10model.load_state_dict(torch.load("model_name.pt"))
11model.eval() # 将模型设置为推理模式
12
13# 定义输入形状并创建虚拟输入张量
14input_shape = ... # 例如 (1, 3, 512, 288)
15dummy_input = torch.randn(input_shape)
16
17# 将模型导出为 ONNX 格式
18torch.onnx.export(model, dummy_input, "model_name.onnx")YOLO 模型
tools-cli 包,如下所示:Command Line
1git clone --recursive https://github.com/luxonis/tools.git
2cd tools
3pip install .tools 目录的根目录运行):Command Line
1tools <MODEL>.pt --imgsz "<WIDTH> <HEIGHT>"BGR 输入图像分辨率为 (512, 288) 的 YOLOv6n 模型,请运行以下命令:Command Line
1tools yolov6n.pt --imgsz "512 288" --encoding BGR(1, 3, 512, 288),输出形状如下:(1,85,36,64)、(1,85,18,32) 和 (1,85,9,16) (与通过通用转换获得的原始模型的输出形状形成对比:(1, 2304, 85)、(1, 576, 85) 和 (1, 144, 85);如果连接成单个张量,则为 (1, 3024, 85))。如果您有兴趣使用 Docker 运行工具,请查看这些 指南。
从 TensorFlow 转换
.pb)、Keras (.h5)、tensorflow.js (.json 和 .bin) 或 TensorFlow Lite (.tflite) 格式的模型,我们建议使用 tf2onnx 转换工具。- 首先,安装
tensorflow和tf2onnx包:
Command Line
1pip install tensorflow
2pip install -U tf2onnx- 其次,可以通过命令行完成转换:
Command Line
1python -m tf2onnx.convert --saved-model tensorflow-model-path --output model.onnx验证
输入/输出张量
- 正确定义(从/向适当的层获取输入/发送输出)。
- 如果没有,请使用 onnx-modifier 工具重新定义输入/输出张量。
- 形状为 NCHW 形式(批大小、颜色通道、高度、宽度)。
- 如果没有,在运行 tf2onnx 工具时定义
--inputs-as-nchw data和--outputs-as-nchw标志。
- 如果没有,在运行 tf2onnx 工具时定义
- 形状维度都不是动态的(例如,批大小是固定的)。
- 如果是动态的,请使用 onnxruntime 库固定形状(有关更多信息,请参阅此 教程)。
我们建议使用 Netron 工具来检查模型。
性能
- 更新到最新的 ONNX Opset: 确保您使用的是最新的 ONNX opset 版本。 较新的 opset 通常包含改进和错误修复,可增强模型兼容性。
- 简化模型操作: 在将模型转换为 ONNX 之前,简化模型中的复杂操作或层。 这有助于减少转换相关问题的可能性。
- 确保精度一致性: 在两个模型中对权重、输入和输出使用相同的数据类型(例如,float32),以保持数值精度。