torch_tensorrt::torchscript::convert_method_to_trt_engine 函数

• 定义于 文件 torch_tensorrt.h

函数文档

TORCHTRT_API std::string torch_tensorrt::torchscript::convert_method_to_trt_engine(const torch::jit::Module &module, std::string method_name, CompileSpec info)

使用 TensorRT 为 NVIDIA GPU 编译 TorchScript 方法。

接受现有的 TorchScript 模块和一组用于配置编译器的设置，并将选定的方法转换为可由 TensorRT 运行的序列化 TensorRT 引擎。

参数

• module – torch::jit::Module - 现有的 TorchScript 模块

• method_name – std::string - 要编译的方法的名称

• info – torch_tensorrt::CompileSpec - 编译设置

返回

: std::string: 序列化 TensorRT 引擎，等同于方法图