UintxLayout

class torchao.dtypes.UintxLayout(dtype: dtype, pack_dim: int = - 1)

Uintx 张量的布局类，Uintx 张量是指其元素被打包成比标准 8 位字节更小位宽的张量。此布局用于定义数据如何在 UintxTensor 对象中存储和处理。

变量:

• dtype (torch.dtype) – 张量元素的数​​据类型，它决定了用于打包的位宽。

• pack_dim (int) – 数据打包的维度。默认为 -1，表示最后一个维度。