Luxonis 设备由专用的(RVC)硬件驱动,能够在边缘端实现实时、低延迟的 AI 推理。
为了支持这一能力,我们提供了一套完整的 AI 模型工作工具链:包括模型的获取或训练、转换为设备兼容格式、部署进行推理,以及评估其性能。本节将说明各个组件如何协同工作,以支持在 Luxonis AI 生态系统中使用 AI 模型。为了从高层次理解这一流程,请在深入阅读各个主题之前参考下图。
AI 模型可以从多种来源获取。 查看我们的 模型动物园, 解锁丰富多彩的预训练模型世界。或者,使用我们的 训练 工具 来构建适合您应用的定制模型。在运行于 Luxonis 设备之前,AI 模型必须转换为与目标 RVC 平台 兼容的格式。 更多信息请查看 转换 部分。在 Luxonis 设备上运行模型推理的过程由 DepthAI 管道 编排。 更多关于设置推理管道以及对模型输出进行后处理以提取有意义的见解和可操作数据的信息,请查看 推理 部分。使用我们的 基准测试 工具,在 Luxonis 设备上评估 AI 模型性能。测量包括推理速度、功耗和资源利用率在内的关键指标,以便为您的应用做出关于模型选择和优化的明智决策。这是我们内部用于标准化打包 AI 模型的格式。 NN Archive 将模型可执行文件和配置文件存储在一起,以简化运行时的模型设置和转换过程。除了上述选项,我们还提供了与外部源的集成,以简化在我们平台中使用外部 AI 模型的过程。 更多信息请查看 集成 部分。