LazyBatchNorm2d#

class torch.nn.LazyBatchNorm2d(eps=1e-05, momentum=0.1, affine=True, track_running_stats=True, device=None, dtype=None)[source]#

一个具有延迟初始化的 torch.nn.BatchNorm2d 模块。

延迟初始化用于 BatchNorm2d 的 num_features 参数，该参数将从 input.size(1) 推断。将延迟初始化的属性是 weight、bias、running_mean 和 running_var。

有关延迟模块及其限制的更多文档，请查看 torch.nn.modules.lazy.LazyModuleMixin。

参数

eps (float) – 添加到分母的一个值，用于数值稳定性。默认值：1e-5
momentum (Optional[float]) – 用于 running_mean 和 running_var 计算的值。可以设置为 None 以表示累积移动平均（即简单平均）。默认为：0.1
affine (bool) – 一个布尔值，当设置为 True 时，此模块具有可学习的仿射参数。默认为：True
track_running_stats (bool) – 一个布尔值，当设置为 True 时，此模块跟踪运行均值和方差，当设置为 False 时，此模块不跟踪这些统计信息，并将统计缓冲区 running_mean 和 running_var 初始化为 None。当这些缓冲区为 None 时，此模块始终在训练和评估模式下使用批次统计。默认为：True

文档