快捷方式

Float8FakeQuantizer

class torchao.quantization.qat.Float8FakeQuantizer(config: Float8FakeQuantizeConfig)[源代码]

根据配置,对张量应用 float8 伪量化的通用模块。

forward(x: Tensor) Tensor[源代码]

定义每次调用时执行的计算。

所有子类都应重写此方法。

注意

尽管前向传播的实现需要在此函数中定义,但您应该在之后调用 Module 实例而不是此函数,因为前者会处理注册的钩子,而后者则会静默忽略它们。

文档

访问全面的 PyTorch 开发者文档

查看文档

教程

为初学者和高级开发者提供深入的教程

查看教程

资源

查找开发资源并让您的问题得到解答

查看资源