目录

快捷方式

Int4CPULayout¶

class torchao.dtypes.Int4CPULayout[来源]¶: 用于 affine 量化张量的 int4 CPU 布局的布局类，由 tinygemm 内核 _weight_int4pack_mm_for_cpu 使用。仅适用于 PyTorch 版本 2.6 或更高版本

文档

访问全面的 PyTorch 开发者文档

查看文档

教程

为初学者和高级开发者提供深入的教程

查看教程

资源

查找开发资源并让您的问题得到解答

查看资源