win10平台下将PyTorch模型转成ncnn模型-CFANZ编程社区

1 总体流程

按照官方模型转换示例：use-ncnn-with-pytorch-or-onnx，首先将pytorch模型转为onnx模型，接着使用onnx-simplifier工具简化onnx模型，最后将onnx模型转为ncnn模型

2 环境配置

2.1 软件安装

Visual Studio 2019

在这里插入图片描述

CMake3.21.3

在这里插入图片描述

用户变量中添加环境变量

在这里插入图片描述

OpenCV3.4.10

在这里插入图片描述

用户变量中配置下环境变量

在这里插入图片描述

2.2 protobuf编译

protobuf3.4.0下载后解压到指定文件夹：D:\ncnnby

以管理员身份打开VS2019的本地工具命令提示符x64 Native Tools Command Prompt for VS 2019，构建protobuf

在这里插入图片描述

依次输入以下指令

cd <protobuf-root-dir>
mkdir build-vs2019
cd build-vs2019
cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -Dprotobuf_BUILD_TESTS=OFF -Dprotobuf_MSVC_STATIC_RUNTIME=OFF ../cmake
nmake
nmake install

开始编译

在这里插入图片描述

nmake

在这里插入图片描述

nmake install

在这里插入图片描述

得到所需文件

在这里插入图片描述

2.3 ncnn编译

跳过下载Vulkan SDK，不使用GPU推理；使用Git Bash下载ncnn

在这里插入图片描述

以管理员身份打开VS2019的本地工具命令提示符x64 Native Tools Command Prompt for VS 2019，构建ncnn

依次输入以下指令

cd <ncnn-root-dir>
mkdir build
cd build
cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -DProtobuf_INCLUDE_DIR=D:/ncnnby/protobuf-3.4.0/build-vs2019/install/include -DProtobuf_LIBRARIES=D:/ncnnby/protobuf-3.4.0/build-vs2019/install/lib/libprotobuf.lib -DProtobuf_PROTOC_EXECUTABLE=D:/ncnnby/protobuf-3.4.0/build-vs2019/install/bin/protoc.exe -DNCNN_VULKAN=off -DOpenCV_DIR=D:/ncnnby/opencv/build ..
nmake
nmake install

注意：把cmake命令下DProtobuf开头命令的路径改成自己protobuf所在路径

在这里插入图片描述

nmake

在这里插入图片描述

nmake install

在这里插入图片描述

得到所需文件

在这里插入图片描述

至此，软件都已编译好

2.3 VS2019配置

新建VS2019工程，视图 $\to$ 其他窗口 $\to$ 属性管理器

在这里插入图片描述

右击Releaase x64，选择添加新项目属性表

在这里插入图片描述

命名属性表，并保存

在这里插入图片描述

双击打开属性页开始编辑，出现如下页面

在这里插入图片描述

<opencv-root-dir>/build/include 
<opencv-root-dir>/build/include/opencv 
<opencv-root-dir>/build/include/opencv2 
<ncnn-root-dir>/build/install/include/ncnn
<protobuf-root-dir>/build-vs2019/install/include

在这里插入图片描述

添加库目录

<opencv-root-dir>/build-vs2019/x64/vc15/lib
<ncnn-root-dir>/build/install/lib
<protobuf-root-dir>/build/install/lib

在这里插入图片描述

添加附加依赖项

ncnn.lib
opencv_world3410.lib
libprotobuf.lib
libprotobuf-lite.lib
libprotoc.lib

在这里插入图片描述

经测试，环境搭建没问题（注：测试时要把属性页添加好，VS工程调试选择release x64)

3 模型转换

3.1 pytorch模型转onnx模型

在训练pytorch模型项目中添加转onnx模型的代码

import torch
from mtcnn.core.detect import create_mtcnn_net

if __name__ == '__main__':
    pnet, rnet, onet = create_mtcnn_net(p_model_path="./original_model/pnet_epoch_7.pt",
                                        r_model_path="./original_model/rnet_epoch_6.pt",
                                        o_model_path="./original_model/onet_epoch_10.pt",
                                        use_cuda=False)          # 加载自己的pt文件
    out_onnx_pnet = './modelconvert/pnet_epoch_7.onnx'           # 保存生成的onnx文件路径
    out_onnx_rnet = './modelconvert/rnet_epoch_6.onnx'
    out_onnx_onet = './modelconvert/onet_epoch_10.onnx'

    x = torch.randn(1, 3, 640, 480)
    y = torch.randn(1, 3, 24, 24)
    z = torch.randn(1, 3, 48, 48)
    # define input and output nodes, can be customized
    input_names = ["input"]
    output_names = ["output"]
    # convert pytorch to onnx
    torch_out_pnet = torch.onnx.export(pnet, x, out_onnx_pnet, input_names=input_names, output_names=output_names)
    torch_out_rnet = torch.onnx.export(rnet, y, out_onnx_rnet, input_names=input_names, output_names=output_names)
    torch_out_onet = torch.onnx.export(onet, z, out_onnx_onet, input_names=input_names, output_names=output_names)

得到onnx模型

在这里插入图片描述

3.2 简化onnx模型

首先安装简化工具，在Anaconda虚拟环境中输入如下指令

pip install onnx-simplifier

在这里插入图片描述

可见，还额外装了几个包，如：onnx，onnxruntime等

接着简化onnx模型，以管理员身份打开命令提示符，cd到模型所在文件，输入指令

python3 -m onnxsim resnet18.onnx resnet18-sim.onnx

在这里插入图片描述

得到简化模型

在这里插入图片描述

3.3 onnx模型转ncnn模型

将简化后文件移动到D:\ncnnby\ncnn\tools\onnx文件夹下

打开Anaconda Prompt，cd到指定目录，输入指令

onnx2ncnn resnet18-sim.onnx resnet18.param resnet18.bin

在这里插入图片描述

得到ncnn模型文件

在这里插入图片描述
ok，大功告成！

参考文献