quantize

class torch.ao.quantization.quantize(model, run_fn, run_args, mapping=None, inplace=False)

使用后训练静态量化量化输入浮点模型。

首先，它将准备模型进行校准，然后调用run_fn来执行校准步骤，之后我们将模型转换为量化模型。

参数

• model – 输入浮点模型

• run_fn – 用于校准已准备模型的校准函数

• run_args – run_fn 的位置参数

• inplace – 就地执行模型转换，原始模块将被修改

• mapping – 原始模块类型与量化对应模块之间的对应关系

返回

量化模型。