BCELoss

class torch.nn.BCELoss(weight=None, size_average=None, reduce=None, reduction='mean')

创建一个准则，用于衡量目标值与输入概率之间的二元交叉熵。

未约简的（即 reduction 设置为 'none'）损失可以描述为

$$\ell(x, y) = L = \{l_1,\dots,l_N\}^\top, \quad l_n = - w_n \left[ y_n \cdot \log x_n + (1 - y_n) \cdot \log (1 - x_n) \right],$$

其中 $N$ 是批次大小。如果 reduction 不是 'none' (默认为 'mean')，则：

$$\ell(x, y) = \begin{cases} \operatorname{mean}(L), & \text{if reduction} = \text{`mean';}\\ \operatorname{sum}(L), & \text{if reduction} = \text{`sum'.} \end{cases}$$

这用于测量重建误差，例如在自动编码器（auto-encoder）中。请注意，目标值 $y$ 应该是 0 到 1 之间的数字。

请注意，如果 $x_n$ 是 0 或 1，上述损失方程中的其中一个对数项在数学上将是未定义的。PyTorch 选择设置 $\log (0) = -\infty$，因为 $\lim_{x\to 0} \log (x) = -\infty$。然而，出于多种原因，损失方程中出现无穷大项是不理想的。

首先，如果 $y_n = 0$ 或 $(1 - y_n) = 0$，那么我们将用 0 乘以无穷大。其次，如果我们有一个无穷大的损失值，那么我们的梯度中也会有一个无穷大项，因为 $\lim_{x\to 0} \frac{d}{dx} \log (x) = \infty$。这将使 BCELoss 的反向传播（backward）方法相对于 $x_n$ 是非线性的，将其用于线性回归等场景将不会那么直接。

我们的解决方案是，BCELoss 将其对数函数的输出限制（clamp）在大于或等于 -100 的范围内。这样，我们总能得到一个有限的损失值和一个线性的反向传播方法。

参数:

• weight (Tensor, optional) – 为每个批次元素的手动重缩放权重。如果提供，则必须是大小为 nbatch 的 Tensor。

• size_average (bool, optional) – 已弃用 (参见 reduction)。默认情况下，损失值在批次中的每个损失元素上取平均值。请注意，对于某些损失，每个样本有多个元素。如果字段 size_average 设置为 False，则损失值在每个小批次中而是求和。当 reduce 为 False 时忽略。默认值：True

• reduce (bool, optional) – 已弃用 (参见 reduction)。默认情况下，损失值在每个小批次中根据 size_average 对观测值进行平均或求和。当 reduce 为 False 时，返回每个批次元素的损失值，并忽略 size_average。默认值：True

• reduction (str, 可选) – 指定要应用于输出的缩减（reduction）操作：'none' | 'mean' | 'sum'。'none'：不应用缩减；'mean'：输出的总和将除以输出中的元素数量；'sum'：输出将求和。注意：size_average 和 reduce 正在被废弃的过程中，在此期间，指定这两个参数中的任何一个都将覆盖 reduction。默认值：'mean'

形状

• 输入： $(*)$，其中 $*$ 表示任意数量的维度。

• 目标：$(*)$，与输入形状相同。

• 输出：标量。如果 reduction 为 'none'，则 $(*)$，与输入形状相同。

示例

>>> m = nn.Sigmoid()
>>> loss = nn.BCELoss()
>>> input = torch.randn(3, 2, requires_grad=True)
>>> target = torch.rand(3, 2, requires_grad=False)
>>> output = loss(m(input), target)
>>> output.backward()

forward(input, target)

执行前向传播。

返回类型:

张量