FBGEMM GenAI¶ FBGEMM GenAI (FBGEMM 生成式 AI 核库) 是一个 PyTorch GPU 算子库集合,专为生成式 AI 应用设计,例如 FP8 逐行量化和集体通信。 FBGEMM GenAI 开发 构建说明 建立一个隔离的构建环境 其他构建前设置 CUDA 构建 ROCm 构建 构建后检查(针对开发者) 安装说明 设置运行时环境 安装 FBGEMM GenAI 包 安装后检查 测试说明 设置 FBGEMM GenAI 测试环境 运行 FBGEMM GenAI 测试 运行 FBGEMM GenAI 基准测试