快捷方式

QuantizeTensorKwargs

class torchao.quantization.quantize_.common.QuantizeTensorKwargs[源]

用于创建量化张量的关键字参数容器的基类。这对于支持在权重张量上存储激活构造参数,同时支持多种类型的激活量化是必需的。

例如:

class Float8Tensor(…)

@classmethod def to_float8(cls, tensor, quant_kwargs: QuantizeTensorKwargs)

文档

访问全面的 PyTorch 开发者文档

查看文档

教程

为初学者和高级开发者提供深入的教程

查看教程

资源

查找开发资源并让您的问题得到解答

查看资源