此页面由 AI 自动翻译。查看英文原版
最后更新

本页目录

  • 类
  • ONNXModifier
  • 函数
  • get_opset_version
  • onnx_attach_normalization_to_inputs
  • 属性
  • FLOATING_TENSOR_TYPES
Claude CodeCodexCursor
Luxonis 智能体工具包为你常用的编程智能体加载 Luxonis 上下文与技能,更快地基于 OAK 开发应用。
安装工具包
最后更新
Python API: modelconverter.utils.onnx_tools转换后端共享的 ONNX 图实用程序。包含 modelconverter 在将 ONNX 模型交给平台供应商工具链之前对其应用的传递:将配置的输入归一化(通道反转、均值减法和缩放)烘焙到图中,并使用 onnxsim、onnxruntime 和 onnx_graphsurgeon 简化、优化和融合图。

类

ONNXModifier

ONNX 模型修改器类,用于优化和修改 ONNX 模型。

方法

init
Python
1def __init__(model_path: Path, output_path: Path, skip_optimization: bool = False, skip_constant_folding: bool = False):
加载 ONNX 模型并准备进行修改。参数
  • model_path (Path): 基础 ONNX 模型的路径。
  • output_path (Path): 保存修改后的 ONNX 模型的路径。
  • skip_optimization (bool): 是否跳过加载和导出模型时执行的图优化。
  • skip_constant_folding (bool): 是否跳过简化过程中的常量折叠。
compare_outputs
Python
1def compare_outputs(from_modelproto: bool = False) -> bool:
比较两个 ONNX 模型的输出。参数
  • from_modelproto (bool): 如果为 True,则比较内存中的模型与其先前的状态,而不是比较磁盘上的模型文件。
返回
  • bool: 如果两个模型的输出匹配,则为 True,否则为 False。
modify_onnx
Python
1def modify_onnx(substitute_sub_with_add: bool = True, substitute_div_with_mul: bool = True, fuse_add_mul_to_bn: bool = True, fuse_comb_add_mul_to_conv: bool = True, fuse_single_add_mul_to_conv: bool = True, fuse_split_concat_to_conv: bool = True) -> bool:
通过应用一系列优化来修改 ONNX 模型。每个标志启用一个步骤。如果某个步骤改变了模型的输出,则会回滚该步骤。参数
  • substitute_sub_with_add (bool): 是否用 Add 节点替换 Sub 节点。
  • substitute_div_with_mul (bool): 是否用 Mul 节点替换 Div 节点。
  • fuse_add_mul_to_bn (bool): 是否将 Add 和 Mul 节点融合到 BatchNormalization 节点中。
  • fuse_comb_add_mul_to_conv (bool): 是否将 Add 和 Mul 节点的组合融合到 Conv 节点中。
  • fuse_single_add_mul_to_conv (bool): 是否将单个 Add 和 Mul 节点融合到 Conv 节点中。
  • fuse_split_concat_to_conv (bool): 是否将 Split 和 Concat 节点融合到 Conv 节点中。
返回
  • bool: 如果模型被修改并导出,则为 True,否则为 False。

属性

model_path
基础 ONNX 模型的路径。
output_path
保存修改后的 ONNX 模型的路径。

函数

get_opset_version

Python
1def get_opset_version(model: onnx.ModelProto) -> int:
返回 ONNX 模型的默认域 opset 版本。参数
  • model (onnx.ModelProto): 搜索其 opset_import 的模型。
返回
  • int: 为默认(空)域声明的 Opset 版本。
抛出
  • ONNXException: 如果模型未声明默认域 opset。

onnx_attach_normalization_to_inputs

Python
1def onnx_attach_normalization_to_inputs(model_path: Path, save_path: Path, input_configs: dict[str, InputConfig], *, reverse_only: bool = False) -> Path:
将输入归一化烘焙到 ONNX 模型的图中。对于每个需要归一化的输入,在输入前面插入通道反转(Split 和 Concat)、均值减法(Sub)和缩放(乘以比例的倒数 Mul)节点,以便图本身计算yc = (xc − meanc)⋅(1)/(scalec)对于每个通道 c。结果模型将保存并使用 ONNX 检查器进行验证。均值和比例归一化支持任何已知通道数;颜色通道反转需要正好三个通道。标量均值或比例广播到每个通道。参数
  • model_path (Path): 源 ONNX 模型的路径。
  • save_path (Path): 修改后的模型保存到的路径。
  • input_configs (dict[str, InputConfig]): 以输入名称为键的输入配置。
  • reverse_only (bool): 如果为 True,则仅应用通道反转,并忽略均值和比例值。
返回
  • Path: 如果任何输入需要修改,则为 save_path,否则为未修改的 model_path。
抛出
  • ONNXException: 如果预处理请求或源模型无效。
  • PreprocessingEmbeddingError: 如果无法将有效的预处理嵌入到此 ONNX 图中。

属性

FLOATING_TENSOR_TYPES