Int4WeightOnlyEmbedding

class torchao.quantization.qat.embedding.Int4WeightOnlyEmbedding(num_embeddings: int, embedding_dim: int, padding_idx: Optional[int] = None, max_norm: Optional[float] = None, norm_type: float = 2.0, scale_grad_by_freq: bool = False, sparse: bool = False, group_size: int = 32, scale_precision: dtype = torch.float32, zero_point_precision: dtype = torch.int32, device: device = None, output_dtype: dtype = torch.float32)

该模块实现了一个具有 int4 量化分组通道权重的嵌入层。

forward(x)

定义每次调用时执行的计算。

所有子类都应重写此方法。

注意

尽管前向传播的实现需要在此函数中定义，但您应该在之后调用 Module 实例而不是此函数，因为前者会处理注册的钩子，而后者则会静默忽略它们。