评价此页

generate_numeric_debug_handle#

class torch.ao.quantization.generate_numeric_debug_handle(ep)[source]#

为给定的 ExportedProgram 中的所有节点(如 conv2d、squeeze、conv1d 等)附加 numeric_debug_handle_id,但占位符节点除外。请注意,像 getattr 这样的节点不在范围内,因为它们不在图中。

输入导出程序的图节点是就地修改的。

以下是使用 debug handle 量化流程的示例

ep = export_for_training(eager_model, example_inputs)
generate_numeric_debug_handle(ep)

m = ep.module()
quantizer = XNNPACKQuantizer()
m = prepare_pt2e(m, quantizer)
m = convert_pt2e(m)