device_monitors
最后更新
modelconverter.utils.device_monitors在基准测试期间对设备硬件计数器进行采样。在真实硬件上对转换后的模型进行基准测试可以说明其运行速度,但不能说明其成本。这里的监视器填补了这一空白:在基准测试运行时,它会轮询设备通过其 shell 公开的功耗、RAM、CPU、DSP 和热量计数器,并在之后报告它们的聚合数据。它由 RVC4 基准测试使用,该基准测试还会获取空闲基线进行比较。类
DeviceMonitor
with 块会启动采样线程,离开它会停止线程。方法
init
Python
1def __init__(device_handler: DeviceHandler, interval: float = 0.5, model: Literal['4d', '4s', '4lite'] = '4lite'):device_handler(DeviceHandler): 用于在设备上运行 shell 命令的处理程序。interval(float): 两次采样之间的延迟,单位为秒。model(Literal['4d', '4s', '4lite']): 正在监视的设备型号。仅记录。
get_idle_measurements
Python
1def get_idle_measurements(t: float = 5) -> dict[str, float | None]:t(float): 采样时长,单位为秒。
dict[str, float | None]: 聚合计数器,每个键都以idle_为前缀。
get_stats
Python
1def get_stats(self) -> dict[str, float | None]:dict[str, float | None]: 计数器名称到其聚合值的映射,对于没有样本的计数器为None。
start
Python
1def start(self):stop
Python
1def stop(self`):