bce_with_logits
最后更新
luxonis_train.attached_modules.losses.bce_with_logits对原始 logits 进行二元交叉熵计算。类
BCEWithLogitsLoss
Sigmoid 层后接 BCELoss 更具数值稳定性,因为组合步骤使用了 log-sum-exp 技巧。输入::predictions(Tensor):[B, C, ...]logitstarget(Tensor): 相同形状,浮点值在[0, 1]之间
输出::Tensor: 标量,或当reduction为"none"时为[B, C, ...]
公式:: 对于 logit x,其目标 y,以及 sigmoid σ,一个元素的损失为 ℓ = − w[p ylogσ(x) + (1 − y)log(1 − σ(x))] 这里的 w 来自weight,p 来自pos_weight。如果未设置,两者都为1。然后reduction对所有元素取平均值或求和,或者保留每个元素的损失。
参考
- 来源: 封装了 torch.nn.BCEWithLogitsLoss (BSD-3-Clause)。
- 许可证: Apache-2.0 (本项目)
注意
该类封装了
nn.BCEWithLogitsLoss。forward 首先比较两个张量的形状,如果它们不同则抛出 RuntimeError。示例
附加到
model.nodes 中的 DDRNetSegmentationHead:Yaml
1- name: DDRNetSegmentationHead
2 inputs: [DDRNet]
3 losses:
4 - name: BCEWithLogitsLoss兼容::
方法
init
Python
1def __init__(weight: list[float] | None = None, reduction: Literal['none', 'mean', 'sum'] = 'mean', pos_weight: Tensor | None = None, **kwargs):nn.BCEWithLogitsLoss。参数weight(list[float] | None): 元素损失的因子。该列表将成为一个张量,与形状为[B, C, ...]的损失进行广播,并在最后一个维度对齐。对于形状为[B, C]的目标,包含C个值的列表为每个类别提供一个因子。对于形状为[B, C, H, W]的目标,该列表与W对齐,而不是与类别对齐。None使每个元素的因子为1。reduction(Literal['none', 'mean', 'sum']): 如何减少元素的损失:"none": 返回每个元素的损失。"mean": 返回所有元素的平均值。"sum": 返回所有元素的总和。
pos_weight(Tensor | None): 损失正项的因子。该张量与目标进行广播,并在最后一个维度对齐。对于形状为[B, C, H, W]的目标,形状为[C, 1, 1]的张量为每个类别提供一个因子。None使因子为1。列表会引发TypeError。**kwargs: 转发给 BaseLoss 的关键字参数,例如final_loss_weight和node。
forward
Python
1def forward(predictions: Tensor, target: Tensor) -> Tensor:示例
一个自信的正确 logit 会产生较小的损失,而一个自信的错误 logit 会产生较大的损失:目标必须与 logits 的形状相同:
Pycon
1>>> import torch
2>>> loss = BCEWithLogitsLoss(reduction="none")
3>>> logits = torch.tensor([[2.0, -2.0]])
4>>> target = torch.tensor([[1.0, 1.0]])
5>>> values = loss(logits, target)[0].tolist()
6>>> [round(value, 4) for value in values]
7[0.1269, 2.1269]Pycon
1>>> BCEWithLogitsLoss()(logits, torch.tensor([1.0, 1.0]))
2Traceback (most recent call last):
3 ...
4RuntimeError: Target tensor dimension (torch.Size([2])) and preds tensor dimension (torch.Size([1, 2])) should be the same.predictions(Tensor): 形状为[B, C, ...]的 logits,是节点的主要输出。target(Tensor): 形状与predictions相同的[0, 1]范围内的浮点目标。classification标签的形状为[B, C],segmentation标签的形状为[B, C, H, W]。
Tensor: 对于"mean"和"sum"归约,返回一个标量。对于"none",返回每个元素的损失,形状为[B, C, ...]。
RuntimeError: 当predictions和target形状不同时。