函数 torch_tensorrt::torchscript::compile

• 定义于 文件 torch_tensorrt.h

函数文档

TORCHTRT_API torch::jit::Module torch_tensorrt::torchscript::compile(const torch::jit::Module &module, CompileSpec info)

使用 TensorRT 为 NVIDIA GPU 编译 TorchScript 模块。

接收一个现有的 TorchScript 模块和一组配置编译器的设置，并将方法转换为调用等效 TensorRT 引擎的 JIT 图

特别转换 TorchScript 模块的 forward 方法

参数

• module – torch::jit::Module - 现有 TorchScript 模块

• info – torch_tensorrt::CompileSpec - 编译设置

返回

: 一个面向 TensorRT 引擎的新模块