LazyBatchNorm2d#

class torch.nn.LazyBatchNorm2d(eps=1e-05, momentum=0.1, affine=True, track_running_stats=True, device=None, dtype=None)[source]#

具有延迟初始化的 torch.nn.BatchNorm2d 模块。

LazyBatchNorm2d 会为 BatchNorm2d 的 num_features 参数进行延迟初始化，该参数将从 input.size(1) 中推断得出。将被延迟初始化的属性包括 weight、bias、running_mean 和 running_var。

有关延迟模块及其限制的更多文档，请查看 torch.nn.modules.lazy.LazyModuleMixin。

参数

eps (float) – 为了数值稳定性添加到分母中的值。默认值：1e-5
momentum (Optional[float]) – 用于 running_mean 和 running_var 计算的值。可以设置为 None 以进行累积移动平均（即简单平均）。默认值：0.1
affine (bool) – 一个布尔值，如果设置为 True，则该模块具有可学习的仿射参数。默认值：True
track_running_stats (bool) – 当设置为 True 时，此模块会跟踪运行均值和方差；当设置为 False 时，此模块不跟踪这些统计数据，并将统计缓冲区 running_mean 和 running_var 初始化为 None。当这些缓冲区为 None 时，此模块在训练和评估模式下始终使用批次统计数据。默认为 True。

文档