compilers_index

在 Google Colab 中运行

Colab

下载 Notebook

Notebook

在 GitHub 上查看

GitHub

编译器

探索 PyTorch 编译器，以高效优化和部署模型。了解诸如 torch.compile 和 torch.export 等 API，它们可以帮助您提升模型性能并简化部署流程。深入研究诸如编译自动求导（compiled autograd）、动态编译控制以及第三方后端解决方案等高级主题。

警告

TorchScript 已不再处于活跃开发状态。

---

torch.compile 教程

使用最新的 PyTorch 编译解决方案 torch.compile，只需极少的代码改动即可加速您的模型。

模型优化,torch.compile

torch.compile 端到端教程

一个将 torch.compile 应用于真实模型的示例，展示了加速效果。

模型优化,torch.compile

编译的自动微分：为 torch.compile 捕获更大的反向图

了解如何使用编译自动求导（compiled autograd）来捕获更大的反向传播图。

模型优化,CUDA,torch.compile

Inductor CPU 后端调试和性能分析

学习 ``torch.compile`` 与 Inductor CPU 后端的使用、调试和性能分析。

模型优化,torch.compile

使用 torch.compiler.set_stance 进行动态编译控制

了解如何使用 torch.compiler.set_stance

模型优化,torch.compile

torch.export 流程演示、常见挑战及解决方案

了解如何为常见用例导出模型

模型优化,torch.compile

（测试版）使用 torch.compile 编译优化器

使用 torch.compile 加速优化器

模型优化,torch.compile

(beta) 使用 LR 调度器运行已编译的优化器

使用 LRScheduler 和 torch.compiled 优化器加速训练

模型优化,torch.compile

在 torch.compile 中使用变长注意力机制

使用 torch.compiled 变长注意力机制加速训练

模型优化,torch.compile

在 torch.compile 中使用用户自定义的 Triton 核函数

了解如何在 torch.compile 中使用用户自定义核函数

模型优化,torch.compile

torch.compile 中的编译时缓存

了解如何在 torch.compile 中使用编译时缓存

模型优化,torch.compile

编译时缓存配置

了解如何在 torch.compile 中配置编译时缓存

模型优化,torch.compile

通过区域编译减少 torch.compile 的冷启动编译时间

了解如何使用区域编译（regional compilation）来控制冷启动编译时间

模型优化,torch.compile

针对 Python 运行时的 torch.export AOTInductor 教程

学习一个关于如何在 Python 运行时使用 AOTInductor 的端到端示例。

基础知识,torch.export

深入了解 torch.export

了解如何使用 torch.export 将 PyTorch 模型导出为标准化的模型表示。

基础知识,torch.export

（可选）使用 TorchDynamo 后端将 PyTorch 模型导出为 ONNX，并使用 ONNX Runtime 运行它

在 PyTorch 中构建图像分类器模型，并在使用 ONNX Runtime 部署之前将其转换为 ONNX。

生产环境,ONNX,后端

扩展 ONNX 导出器的算子支持

演示如何端到端地解决 ONNX 中不支持的算子。

生产环境,ONNX,后端

将带有控制流的模型导出到 ONNX

演示在将 PyTorch 模型导出到 ONNX 时如何处理控制流逻辑。

生产环境,ONNX,后端

在 FX 中构建卷积/批归一化（Batch Norm）融合器

构建一个简单的 FX 传递（pass），将批归一化融合到卷积中，以提高推理性能。

FX

使用 FX 构建一个简单的性能分析器

构建一个简单的 FX 解释器，以记录算子、模块和函数调用的运行时，并报告统计信息

FX