评价此页

generate_numeric_debug_handle#

class torch.ao.quantization.generate_numeric_debug_handle(ep)[source]#

为给定的 ExportedProgram 的图模块中的所有节点(例如 conv2d、squeeze、conv1d 等),除了 placeholder 之外,附加 numeric_debug_handle_id。注意,像 getattr 这样的节点超出了范围,因为它们不在图中。

输入导出程序的图节点会就地修改。

以下是使用 debug handle 量化流程的示例

ep = export_for_training(eager_model, example_inputs)
generate_numeric_debug_handle(ep)

m = ep.module()
quantizer = XNNPACKQuantizer()
m = prepare_pt2e(m, quantizer)
m = convert_pt2e(m)