compilers_index

在 Google Colab 中运行

Colab

下载 Notebook

Notebook

在 GitHub 上查看

GitHub

编译器

探索 PyTorch 编译器，以高效地优化和部署模型。了解 torch.compile 和 torch.export 等 API，它们可以提升模型性能并简化部署流程。探索编译后的自动微分、动态编译控制以及第三方后端解决方案等高级主题。

警告

TorchScript 已不再积极开发。

---

torch.compile 教程

使用 torch.compile（最新的 PyTorch 编译器解决方案）以最少的代码更改加速您的模型。

模型优化,torch.compile

torch.compile 端到端教程

一个将 torch.compile 应用于真实模型的示例，展示了速度提升。

模型优化,torch.compile

编译后的自动微分：为 torch.compile 捕获更大的反向传播图

了解如何使用编译后的自动微分来捕获更大的反向传播图。

模型优化,CUDA,torch.compile

Inductor CPU 后端调试和性能分析

学习 ``torch.compile`` 与 Inductor CPU 后端的使用、调试和性能分析。

模型优化,torch.compile

使用 torch.compiler.set_stance 进行动态编译控制

了解如何使用 torch.compiler.set_stance

模型优化,torch.compile

torch.export 流程演示、常见挑战及解决方案

了解如何导出模型以用于流行用例

模型优化,torch.compile

(beta) 使用 torch.compile 编译优化器

使用 torch.compile 加速优化器

模型优化,torch.compile

(beta) 使用 LR 调度器运行已编译的优化器

使用 LRScheduler 和 torch.compiled 优化器加速训练

模型优化,torch.compile

将用户定义的 Triton 内核与 ``torch.compile`` 结合使用

了解如何将用户定义的内核与 ``torch.compile`` 结合使用

模型优化,torch.compile

``torch.compile`` 中的编译时缓存

了解如何在 ``torch.compile`` 中使用编译时缓存

模型优化,torch.compile

编译时缓存配置

了解如何在 ``torch.compile`` 中配置编译时缓存

模型优化,torch.compile

通过区域编译减少 torch.compile 的冷启动编译时间

了解如何使用区域编译来控制冷启动编译时间

模型优化,torch.compile

torch.export AOTInductor Python 运行时教程

了解一个端到端的示例，说明如何为 Python 运行时使用 AOTInductor。

基础,torch.export

深入了解 torch.export

了解如何使用 torch.export 将 PyTorch 模型导出为标准化模型表示。

基础,torch.export

(可选) 使用 TorchDynamo 后端将 PyTorch 模型导出为 ONNX 并使用 ONNX Runtime 运行

在 PyTorch 中构建一个图像分类模型，并将其转换为 ONNX，然后使用 ONNX Runtime 进行部署。

生产,ONNX,后端

扩展 ONNX 导出器运算符支持

端到端演示如何处理 ONNX 中的不支持的运算符。

生产,ONNX,后端

导出带有控制流的模型到 ONNX

演示在将 PyTorch 模型导出到 ONNX 时如何处理控制流逻辑。

生产,ONNX,后端

使用 FX 构建卷积/批量归一化融合器

构建一个简单的 FX 传递，将批量归一化融合到卷积中，以提高推理性能。

FX

使用 FX 构建简单的性能分析器

构建一个简单的 FX 解释器，记录算子、模块和函数调用的运行时，并报告统计数据

FX