评价此页

ConvertCustomConfig#

class torch.ao.quantization.fx.custom_config.ConvertCustomConfig[source]#

ConvertCustomConfig 的自定义配置。

使用示例

convert_custom_config = ConvertCustomConfig()             .set_observed_to_quantized_mapping(ObservedCustomModule, QuantizedCustomModule)             .set_preserved_attributes(["attr1", "attr2"])
classmethod from_dict(convert_custom_config_dict)[source]#

从具有以下项的字典创建 ConvertCustomConfig

“observed_to_quantized_custom_module_class”: 一个从量化模式映射到内部映射(从观察模块类到量化模块类)的嵌套字典,例如:: { “static”: {FloatCustomModule: ObservedCustomModule}, “dynamic”: {FloatCustomModule: ObservedCustomModule}, “weight_only”: {FloatCustomModule: ObservedCustomModule} } “preserved_attributes”: 一个属性列表,即使它们未在 forward 中使用,这些属性也会保留。

此函数主要用于向后兼容,将来可能会被删除。

返回类型

ConvertCustomConfig

set_observed_to_quantized_mapping(observed_class, quantized_class, quant_type=QuantType.STATIC)[source]#

设置从自定义观察模块类到自定义量化模块类的映射。

量化模块类必须有一个 from_observed 类方法,该方法将观察模块类转换为量化模块类。

返回类型

ConvertCustomConfig

set_preserved_attributes(attributes)[source]#

设置将保留在图模块中的属性名称,即使它们未在模型的 forward 方法中使用。

返回类型

ConvertCustomConfig

to_dict()[source]#

将此 ConvertCustomConfig 转换为字典,其中包含 from_dict() 中描述的项。

返回类型

dict[str, Any]