generate_numeric_debug_handle#
- class torch.ao.quantization.generate_numeric_debug_handle(ep)[source]#
为给定的 ExportedProgram 的图模块中的所有节点(例如 conv2d、squeeze、conv1d 等),除了 placeholder 之外,附加 numeric_debug_handle_id。注意,像 getattr 这样的节点超出了范围,因为它们不在图中。
输入导出程序的图节点会就地修改。
以下是使用 debug handle 量化流程的示例
ep = export_for_training(eager_model, example_inputs) generate_numeric_debug_handle(ep) m = ep.module() quantizer = XNNPACKQuantizer() m = prepare_pt2e(m, quantizer) m = convert_pt2e(m)