Skip to content

引言

MNN是一个深度网络移动端推理引擎,它支持端侧模型的训练和推理(当然,常用的就是推理功能了)。

功能模块

按使用功能可以将MNN划分为以下模块:

  1. 训练模块
  2. 推理模块
  3. 转换模块(将其他格式模型转换成MNN计算格式
  4. 预处理模块(包含常用的图像操作,包括旋转、缩放、裁剪、归一化等等。可以替代第三方图像库使用,比如OpenCV
  5. 其他组件

模型推理流程

  1. Pytorch模型转换成ONNX格式:.pt -> .onnx
  2. ONNX模型转换成MNN格式:.onnx -> .mnn
  3. 输入图像数据,利用预处理模块进行图像操作;
  4. 最后输入到MNN推理模块进行计算。