此页面由 AI 自动翻译。查看英文原版
最后更新

本页目录

  • 类
  • RVC3Benchmark
Claude CodeCodexCursor
Luxonis 智能体工具包为你常用的编程智能体加载 Luxonis 上下文与技能,更快地基于 OAK 开发应用。
安装工具包
最后更新
Python API: modelconverter.platforms.rvc3.benchmark在 RVC3 设备上对转换后的模型进行基准测试。通过 OpenVINO 推理引擎将模型加载到连接的 RVC3 设备的 VPUX 插件上,并测量其在不同数量的并发推理请求下的吞吐量和延迟。

类

RVC3Benchmark

在 RVC3 设备上运行的转换模型的基准测试。

方法

benchmark
Python
1def benchmark(configuration: Configuration) -> Result:
在设备上运行模型的单次基准测试。参数
  • configuration (Configuration): 用于基准测试的配置。唯一支持的选项是 requests,即并发推理请求的数量。
返回
  • Result: 在 fps 下测得的吞吐量和在 latency 下测得的中位数请求延迟。

属性

all_configurations
返回完整基准测试使用的配置。涵盖一到五个并发推理请求。
default_configuration
RVC3 基准测试的默认配置。
  • Options:: requests: 要执行的请求数量。