strategies
最后更新
luxonis_train.strategies拥有优化调度器的训练策略。策略将参数组规则添加到模型参数的分区,并且可以在每一步更改其自己的组。该包提供了 TripleLRSGDStrategy。它运行 SGD,带有预热和学习率的余弦或线性衰减。编写自定义策略:子类化 BaseTrainingStrategy 并实现以下方法:rules()按顺序返回规则。每个 StrategyRule 都有一个tag、一个(module, module_name, parameter, parameter_name)上的selector、一个OptimizerConfig和一个可选的SchedulerConfig。没有调度器的规则使用基本调度器。get_base_configs()返回基本优化器配置和基本调度器配置。节点的finetuning条目将其覆盖合并到其中,并且默认规则使用它们。update_parameters()是可选的。TrainingManager 在每次反向传播之后、优化器步进之前调用它。通过attach()为规则标签存储的句柄访问组:self.runtime.group(handle)["lr"] = ...。 resolve_training_plan 在每个节点的finetuning条目之后和默认规则之前评估策略规则。因此,节点条目获胜,并且策略未声明的每个参数仍然会获得一个优化器。 具有相同优化器名称和相同调度器配置的规则共享一个内部优化器,每个规则有一个参数组。如果有一个以上的内部优化器,一个 CompositeOptimizer 驱动它们,因此训练保持在 Lightning 的自动优化中。
configure_optimizers() API 的策略仍然有效,直到下一个次要版本发布。luxonis_train.lightning.utils.build_training_strategy 会记录一个弃用警告,并将此类策略包装在 LegacyStrategyAdapter 中。要移植策略,请将其参数拆分表示为 rules(),并将其每步逻辑移动到 update_parameters()。