_choose_quant_func_and_quantize_tensor¶
- torchao.quantization.quantize_.common._choose_quant_func_and_quantize_tensor(tensor: Tensor, quant_kwargs: QuantizeTensorKwargs) Tensor [source]¶
给定一个张量和一个 kwargs 容器,根据 quant_kwargs 的类型,选择一个派生的数据类型 (float8, int8 等) 来量化张量。根据 (1) 中选择的派生数据类型量化张量。这对于支持激活到各种派生数据类型的灵活量化是必需的。