TensorRT C++ 序列化serialize / 反序列化deserialize

最新推荐文章于 2026-02-03 10:15:00 发布

原创

最新推荐文章于 2026-02-03 10:15:00 发布 · 2.6k 阅读

收录于

当前文章被以下社区和专栏收录：

本文介绍了如何在TensorRT中使用C++进行Engine的序列化和反序列化操作，详细讨论了序列化Engine和反序列化Engine的过程，以及在使用智能指针时的注意事项。

序列化Engine

// serialize the engine, then close everything down
const std::string engine_file{
   
    "tensorrt_mnist.trt" };
nvinfer1::IHostMemory* gieModelStream = mEngine->serialize(); // GIE model
fprintf(stdout, "allocate memory size: %d bytes\n", gieModelStream->size()