safe_int_mm¶
- torchao.quantization.safe_int_mm(input: Tensor, mat2: Tensor) Tensor[源]¶
执行安全的整数矩阵乘法，并考虑 torch.compile、cublas 和回退情况的不同路径。
- 参数:
input (torch.Tensor) – 形状为 [i, j] 的输入张量。
mat2 (torch.Tensor) – 要相乘的矩阵，形状为 [j, k]。
- 返回:
矩阵乘法的结果。
- 返回类型:
- 抛出:
AssertionError – 如果张量不在同一设备上。
