函数 torch_tensorrt::torchscript::convert_method_to_trt_engine¶
函数文档¶
-
TORCHTRT_API std::string torch_tensorrt::torchscript::convert_method_to_trt_engine(const torch::jit::Module &module, std::string method_name, CompileSpec info)¶
使用 TensorRT 为 NVIDIA GPU 编译 TorchScript 方法。
接收一个现有的 TorchScript 模块和一组用于配置编译器的设置，然后将所选方法转换为序列化的 TensorRT 引擎，该引擎可以使用 TensorRT 运行。
- 参数
module – torch::jit::Module - 现有 TorchScript 模块
method_name – std::string - 要编译的方法名称
info – torch_tensorrt::CompileSpec - 编译设置
- 返回
: std::string: 等同于方法图的序列化 TensorRT 引擎
