本页目录

  • 概述
  • 使用方法

NVIDIA TAO

Supported on:RVC2RVC4

概述

NVIDIA TAO(训练、适配和优化)是一个强大的 AI 工具包,旨在简化和加速计算机视觉、语音和自然语言处理深度学习模型的开发。TAO 基于 NVIDIA 先进的 AI 框架构建,使开发者能够以最少的编码量微调预训练模型,减少对大规模数据集和广泛机器学习专业知识的需求。通过利用迁移学习和模型剪枝,TAO 精简了 AI 开发流程,使企业能够高效部署高性能 AI 应用。你可以在其官方文档中了解更多关于该工具包的信息。除了工具包,他们还提供了 NCG 目录,其中包含集合、容器、Helm 图表等内容,并提供了适用于多种用例的庞大模型仓库(Model Zoo)。你可以在此浏览所有模型。

使用方法

TAO 工具包允许你训练自定义模型。有关详细指导,请参阅官方文档并探索各种实践教程。训练完成后,你将获得一个 .tlt 模型文件,需要将其转换为 ONNX 格式。以下是一个导出 重识别模型 的示例:
Command Line
1tao model re_identification export \
2 -e $USER_EXPERIMENT_DIR/media/experiment_market1501_resnet.yaml \
3    results_dir=$USER_EXPERIMENT_DIR \
4 encryption_key=$KEY \
5    export.checkpoint=$USER_EXPERIMENT_DIR/resnet50_market1501_aicity156.tlt \
6 export.onnx_file=$USER_EXPERIMENT_DIR/resnet50_market1501_aicity156.onnx
导出后,你应该会得到一个 ONNX 文件。接下来,按照 RVC 转换部分 中概述的步骤进行操作。或者,你也可以参考我们的 ONNX 转换教程 获取详细指导。如果你不想训练自己的模型,可以使用 TAO 模型仓库中的预训练模型。其中许多模型已经以 ONNX 格式提供,因此你可以跳过转换步骤,直接准备模型以在 RVC 设备上部署。