onnx_tools
最后更新
modelconverter.utils.onnx_tools转换后端共享的 ONNX 图实用程序。包含 modelconverter 在将 ONNX 模型交给平台供应商工具链之前对其应用的传递:将配置的输入归一化(通道反转、均值减法和缩放)烘焙到图中,并使用 onnxsim、onnxruntime 和 onnx_graphsurgeon 简化、优化和融合图。类
ONNXModifier
方法
init
Python
1def __init__(model_path: Path, output_path: Path, skip_optimization: bool = False, skip_constant_folding: bool = False):model_path(Path): 基础 ONNX 模型的路径。output_path(Path): 保存修改后的 ONNX 模型的路径。skip_optimization(bool): 是否跳过加载和导出模型时执行的图优化。skip_constant_folding(bool): 是否跳过简化过程中的常量折叠。
compare_outputs
Python
1def compare_outputs(from_modelproto: bool = False) -> bool:from_modelproto(bool): 如果为True,则比较内存中的模型与其先前的状态,而不是比较磁盘上的模型文件。
bool: 如果两个模型的输出匹配,则为True,否则为False。
modify_onnx
Python
1def modify_onnx(substitute_sub_with_add: bool = True, substitute_div_with_mul: bool = True, fuse_add_mul_to_bn: bool = True, fuse_comb_add_mul_to_conv: bool = True, fuse_single_add_mul_to_conv: bool = True, fuse_split_concat_to_conv: bool = True) -> bool:substitute_sub_with_add(bool): 是否用Add节点替换Sub节点。substitute_div_with_mul(bool): 是否用Mul节点替换Div节点。fuse_add_mul_to_bn(bool): 是否将Add和Mul节点融合到BatchNormalization节点中。fuse_comb_add_mul_to_conv(bool): 是否将Add和Mul节点的组合融合到Conv节点中。fuse_single_add_mul_to_conv(bool): 是否将单个Add和Mul节点融合到Conv节点中。fuse_split_concat_to_conv(bool): 是否将Split和Concat节点融合到Conv节点中。
bool: 如果模型被修改并导出,则为True,否则为False。
属性
model_path
output_path
函数
get_opset_version
Python
1def get_opset_version(model: onnx.ModelProto) -> int:model(onnx.ModelProto): 搜索其opset_import的模型。
int: 为默认(空)域声明的 Opset 版本。
ONNXException: 如果模型未声明默认域 opset。
onnx_attach_normalization_to_inputs
Python
1def onnx_attach_normalization_to_inputs(model_path: Path, save_path: Path, input_configs: dict[str, InputConfig], *, reverse_only: bool = False) -> Path:Split 和 Concat)、均值减法(Sub)和缩放(乘以比例的倒数 Mul)节点,以便图本身计算yc = (xc − meanc)⋅(1)/(scalec)对于每个通道 c。结果模型将保存并使用 ONNX 检查器进行验证。均值和比例归一化支持任何已知通道数;颜色通道反转需要正好三个通道。标量均值或比例广播到每个通道。参数model_path(Path): 源 ONNX 模型的路径。save_path(Path): 修改后的模型保存到的路径。input_configs(dict[str, InputConfig]): 以输入名称为键的输入配置。reverse_only(bool): 如果为True,则仅应用通道反转,并忽略均值和比例值。
Path: 如果任何输入需要修改,则为save_path,否则为未修改的model_path。
ONNXException: 如果预处理请求或源模型无效。PreprocessingEmbeddingError: 如果无法将有效的预处理嵌入到此 ONNX 图中。