快捷方式

swap_linear_with_smooth_fq_linear

torchao.quantization.swap_linear_with_smooth_fq_linear(model, skip_fqn_list=None, cur_fqn='', alpha=0.5) None[源代码]

将模型中的线性层替换为其 SmoothFakeDynamicallyQuantizedLinear 等价物。

参数:
  • model (torch.nn.Module) – 包含要替换的线性层的模型。

  • skip_fqn_list (strlist, 可选) – 在替换过程中要跳过的完全限定名称列表。默认为 None。

  • cur_fqn (str, 可选) – 当前正在处理的模块的完全限定名称。默认为 “”。

  • alpha (float, 可选) – SmoothQuant 的缩放因子。默认为 0.5。

返回:

文档

访问全面的 PyTorch 开发者文档

查看文档

教程

为初学者和高级开发者提供深入的教程

查看教程

资源

查找开发资源并让您的问题得到解答

查看资源