compilers_index

在 Google Colab 中运行

Colab

下载笔记本

笔记本

在 GitHub 上查看

GitHub

编译器

探索 PyTorch 编译器以高效地优化和部署模型。了解 torch.compile 和 torch.export 等 API，它们可以帮助您提升模型性能并简化部署流程。探索编译自动求导、动态编译控制以及第三方后端解决方案等高级主题。

警告

TorchScript 已不再积极开发。

---

torch.compile 教程

使用 PyTorch 最新的编译器解决方案 torch.compile，以最少的代码更改加速您的模型。

模型优化,torch.compile

编译自动求导：为 torch.compile 捕获更大的反向图

学习如何使用编译自动求导来捕获更大的反向图。

模型优化,CUDA,torch.compile

Inductor CPU 后端调试和性能分析

学习 ``torch.compile`` 与 Inductor CPU 后端的使用、调试和性能分析。

模型优化,torch.compile

使用 torch.compiler.set_stance 进行动态编译控制

学习如何使用 torch.compiler.set_stance

模型优化,torch.compile

torch.export 流程演示、常见挑战及解决方案

学习如何为常见用例导出模型

模型优化,torch.compile

（测试版）使用 torch.compile 编译优化器

使用 torch.compile 加速优化器

模型优化,torch.compile

(beta) 使用 LR 调度器运行已编译的优化器

使用 LRScheduler 和 torch.compiled 优化器加速训练

模型优化,torch.compile

在 ``torch.compile`` 中使用用户定义的 Triton 内核

学习如何在 ``torch.compile`` 中使用用户定义的内核

模型优化,torch.compile

``torch.compile`` 中的编译时缓存

学习如何在 ``torch.compile`` 中使用编译时缓存

模型优化,torch.compile

编译时缓存配置

学习如何在 ``torch.compile`` 中配置编译时缓存

模型优化,torch.compile

通过区域编译减少 torch.compile 的冷启动编译时间

学习如何使用区域编译来控制冷启动编译时间

模型优化,torch.compile

torch.export AOTInductor Python 运行时教程

学习一个关于如何为 Python 运行时使用 AOTInductor 的端到端示例。

基础,torch.export

深入了解 torch.export

学习如何使用 torch.export 将 PyTorch 模型导出为标准化的模型表示。

基础,torch.export

（可选）使用 TorchDynamo 后端将 PyTorch 模型导出到 ONNX 并使用 ONNX Runtime 运行

在 PyTorch 中构建一个图像分类器模型，并将其转换为 ONNX，然后使用 ONNX Runtime 进行部署。

生产,ONNX,后端

扩展 ONNX 导出器的算子支持

端到端演示如何解决 ONNX 中不支持的算子问题。

生产,ONNX,后端

将带有控制流的模型导出到 ONNX

演示在将 PyTorch 模型导出到 ONNX 时如何处理控制流逻辑。

生产,ONNX,后端

在 FX 中构建一个卷积/批量归一化融合器

构建一个简单的 FX 传递，将批量归一化融合到卷积中，以提高推理性能。

FX

使用 FX 构建一个简单的性能分析器

构建一个简单的 FX 解释器，以记录操作、模块和函数调用的运行时并报告统计信息

FX