Float8Layout

class torchao.dtypes.Float8Layout(mm_config: Optional[Float8MMConfig] = None)

表示 Float8 仿射量化张量的布局配置。

变量:

mm_config (Optional[Float8MMConfig]) – 涉及 Float8 张量的矩阵乘法操作的配置。如果为 None，则使用默认设置。