快捷方式

_choose_quant_func_and_quantize_tensor

torchao.quantization.quantize_.common._choose_quant_func_and_quantize_tensor(tensor: Tensor, quant_kwargs: QuantizeTensorKwargs) Tensor[source]

给定一个张量和一个 kwargs 容器,根据 quant_kwargs 的类型,选择一个派生的数据类型 (float8, int8 等) 来量化张量。根据 (1) 中选择的派生数据类型量化张量。这对于支持激活到各种派生数据类型的灵活量化是必需的。

文档

访问全面的 PyTorch 开发者文档

查看文档

教程

为初学者和高级开发者提供深入的教程

查看教程

资源

查找开发资源并让您的问题得到解答

查看资源