python+keras搭建的模型部署至嵌入式端PSoc6

前面已经写了文章描述如何搭建简单的水果分类模型，本文将介绍如何将搭建的模型部署至嵌入式端，本文利用ML Configurator提供的配置程序ML Configurator来导入预先训练好的机器学习模型，而它的目前版本仅支持Keras-H5。所以前文是采用Keras搭建神经网路。

1.相关介绍

1.1 ML Configurator

本文使用的嵌入式端软件为ModusToolbox，下图1显示了ModusToolbox软件可用内容的高级视图。

图1 ModusToolbox视图

其中包含有ML Configurator工具。训练好的模型最终就是通过ML Configurator工具去进行部署和验证的。用于嵌入式机器学习的开发工具ML Configurator包括以下组件：

（1）ML Configurator配置工具：一个GUI工具，可以加载预先训练好的模型和选择测试数据。使用验证数据集进行模型的性能评估时，能够以数据或者图形的方式可视化报告测试数据；

（2）ML Configurator核心工具：用于执行Python脚本进行神经网络的解析、训练、回归和转换；

（3）ML Configurator库：包括中间件助手函数、一个神经网络模型和输入数据赖以工作的模型库；

（4）ML Configurator代码示例：提供使用ML库的应用程序参考。

各组件关系如下图2所示。

图2 ML Configurator组件关系

ML Configurator的特点有：

（1）⽀持 TFLite 和 H5 模型格式

（2）⽀持两种类型的推理引擎：

⽤于微控制器 (TFLM) 的 TensorFlow Lite 推理引擎

Infineon 推理引擎

（3）⽀持神经⽹络的以下特性：

核⼼神经⽹络内核：MLP、GRU、Conv1d、Conv2d、 LSTM

⽀持 NN 内核：展平、dropout、重塑、输⼊层

激活：relu、softmax、sigmoid、线性、tanh

（4）输⼊数据量化级别：

32 位浮点数

16/8 位整数

（5）NN 权重量化级别：

32 位浮点</