LazyBatchNorm2d

class torch.nn.modules.batchnorm.LazyBatchNorm2d(eps=1e-05, momentum=0.1, affine=True, track_running_stats=True, device=None, dtype=None)

一个具有延迟初始化的 torch.nn.BatchNorm2d 模块。

BatchNorm2d 的 num_features 参数将从 input.size(1) 推断并进行延迟初始化。将被延迟初始化的属性包括 weight、bias、running_mean 和 running_var。

有关延迟模块及其限制的更多文档，请查看 torch.nn.modules.lazy.LazyModuleMixin。

参数

• eps (float) – 为了数值稳定性添加到分母中的值。默认值：1e-5

• momentum (Optional[float]) – 用于 running_mean 和 running_var 计算的值。可以设置为 None 以进行累积移动平均（即简单平均）。默认值：0.1

• affine (bool) – 一个布尔值，如果设置为 True，则该模块具有可学习的仿射参数。默认值：True

• track_running_stats (bool) – 一个布尔值，当设置为 True 时，此模块会跟踪运行均值和方差；当设置为 False 时，此模块不跟踪这些统计数据，并将统计缓冲区 running_mean 和 running_var 初始化为 None。当这些缓冲区为 None 时，此模块在训练和评估模式下始终使用批统计数据。默认为 True

cls_to_become

的别名是 BatchNorm2d