LazyLinear

class torch.nn.modules.linear.LazyLinear(out_features, bias=True, device=None, dtype=None)

一个 torch.nn.Linear 模块，其中 in_features 是被推断出来的。

在此模块中，weight 和 bias 是 torch.nn.UninitializedParameter 类。它们将在第一次调用 forward 后进行初始化，该模块将成为一个常规的 torch.nn.Linear 模块。Linear 的 in_features 参数将从 input.shape[-1] 推断得出。

有关延迟模块及其限制的更多文档，请查看 torch.nn.modules.lazy.LazyModuleMixin。

参数

• out_features (int) – 每个输出样本的大小

• bias (UninitializedParameter) – 如果设置为 False，则该层不会学习加性偏差。默认为 True

变量

• weight (torch.nn.parameter.UninitializedParameter) – 该模块的可学习权重，形状为 $(\text{out\_features}, \text{in\_features})$。其值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$，其中 $k = \frac{1}{\text{in\_features}}$

• bias (torch.nn.parameter.UninitializedParameter) – 该模块的可学习偏差，形状为 $(\text{out\_features})$。如果 bias 为 True，其值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$，其中 $k = \frac{1}{\text{in\_features}}$

cls_to_become

别名：Linear

initialize_parameters(input)

根据 input 推断 in_features 并初始化参数。

reset_parameters()

根据 __init__ 中使用的初始化重置参数。