inferer
最后更新
modelconverter.platforms.rvc2.inferer使用为 RVC2 平台转换的模型进行推理。RVC2 转换会生成 OpenVINO IR(一个 .xml 拓扑文件和一个 .bin 权重文件)。此模块通过 OpenVINO 推理引擎在 CPU 上运行此类 IR,该引擎在 RVC2 容器内可用,因此转换后的模型可以与原始模型输入相同的图像。类
RVC3Inferer
方法
infer
Python
1def infer(inputs: dict[str, Path]) -> dict[str, np.ndarray]:inputs(dict[str, Path]): 从输入名称到要馈送给它的图像文件的映射。
dict[str, np.ndarray]: 从输出名称到网络生成的数组的映射。
setup
Python
1def setup(self):.xml 拓扑文件及其旁边的 .bin 权重文件,从 IR 中获取输入形状并猜测每个 4-D 输入的布局——当第二个维度为 1、3 或 4 时为 NCHW,否则为 NHWC——然后将网络加载到 CPU 上。