欢迎来到 ExecuTorch 文档#
ExecuTorch 是 PyTorch 针对边缘设备(从手机到嵌入式系统)高效 AI 推理的解决方案。
核心价值主张#
可移植性: 可在多种平台运行,从高端移动设备到受限的微控制器。
性能: 轻量级运行时,支持完整的硬件加速(CPU、GPU、NPU、DSP)。
生产力: 从模型开发到部署,均可使用熟悉的 PyTorch 工具。
🎯 成果与成功案例#
探索文档#
简介
概述、架构和核心概念 — 了解 ExecuTorch 的工作原理及其优势。
快速入门
开始使用 ExecuTorch — 安装、导出您的第一个模型并运行推理。
边缘
Android、iOS、桌面、嵌入式 — 特定平台的部署指南和示例。
后端
CPU、GPU、NPU/加速器后端 — 硬件加速和后端选择。
大型语言模型 (LLMs)
LLM 导出、优化和部署 — 针对边缘设备的完整 LLM 工作流程。
高级
量化、内存规划、自定义传递 — 深度自定义和优化。
工具
开发者工具、性能分析、调试 — 全面的开发和调试套件。
API
API 参考用法和示例 — 详细的 Python、C++ 和 Java API 参考。
💬 支持
常见问题解答、故障排除、贡献 — 获取帮助并为项目做出贡献。