PerChannelMinMaxObserver

class torch.ao.quantization.observer.PerChannelMinMaxObserver(ch_axis=0, dtype=torch.quint8, qscheme=torch.per_channel_affine, reduce_range=False, quant_min=None, quant_max=None, factory_kwargs=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)

用于基于运行时的逐通道最小/最大值计算量化参数的观察者模块。

此观察器使用张量的最小/最大统计信息来计算每个通道的量化参数。该模块记录传入张量的运行最小和最大值，并使用此统计信息计算量化参数。

参数

• ch_axis – 通道轴

• dtype – quantize 节点需要的 dtype 参数，用于实现参考模型规范。

• qscheme – 要使用的量化方案

• reduce_range – 将量化数据类型范围减小 1 位

• quant_min – 最小量化值。如果未指定，则遵循 8 位设置。

• quant_max – 最大量化值。如果未指定，则遵循 8 位设置。

• eps (Tensor) – float32 的 epsilon 值，默认为 torch.finfo(torch.float32).eps。

量化参数的计算方式与 MinMaxObserver 相同，不同之处在于运行的最小/最大值是按通道存储的。因此，尺度 (scales) 和零点 (zero points) 也是按通道计算的。

注意

如果运行的最小值等于运行的最大值，则尺度和零点将设置为 1.0 和 0。

reset_min_max_vals()

重置最小/最大值。