评价此页

ConvertCustomConfig#

class torch.ao.quantization.fx.custom_config.ConvertCustomConfig[source]#

for convert_fx() 的自定义配置。

使用示例

convert_custom_config = ConvertCustomConfig()             .set_observed_to_quantized_mapping(ObservedCustomModule, QuantizedCustomModule)             .set_preserved_attributes(["attr1", "attr2"])
classmethod from_dict(convert_custom_config_dict)[source]#

从具有以下项目的字典创建 ConvertCustomConfig

“observed_to_quantized_custom_module_class”: 一个嵌套字典,从量化模式映射到内部字典,该内部字典从已观察的模块类映射到已量化的模块类,例如::: { “static”: {FloatCustomModule: ObservedCustomModule}, “dynamic”: {FloatCustomModule: ObservedCustomModule}, “weight_only”: {FloatCustomModule: ObservedCustomModule} } “preserved_attributes”: 一个属性列表,即使它们未在 forward 中使用,它们也会保留

此函数主要用于向后兼容,将来可能会被删除。

返回类型

ConvertCustomConfig

set_observed_to_quantized_mapping(observed_class, quantized_class, quant_type=QuantType.STATIC)[source]#

设置从自定义已观察模块类到自定义已量化模块类的映射。

已量化模块类必须有一个 from_observed 类方法,该方法将已观察模块类转换为已量化模块类。

返回类型

ConvertCustomConfig

set_preserved_attributes(attributes)[source]#

设置将保留在图模块中的属性名称,即使它们未在模型的 forward 方法中使用。

返回类型

ConvertCustomConfig

to_dict()[source]#

将此 ConvertCustomConfig 转换为字典,其中包含 from_dict() 中描述的项目。

返回类型

dict[str, Any]