CUBEAI（Cube Artificial Intelligence）是一种人工智能（AI）中间件，旨在为嵌入式系统提供高效、灵活的神经网络推理能力。该中间件的设计目标是在资源有限的嵌入式设备上实现深度学习推理，从而为物联网（IoT）设备、嵌入式系统和边缘计算场景提供强大的人工智能支持。
创建项目选择能运行神经网络的MCU，STM32F4以上系列的都支持部署神经网络。
- 权重参数：存放在Flash中
- 激活值：存在MCU自带的SRAM中，也可以使用外部的SD卡或者外接SRAM进行存储。需要用户自己定义。
- 输入输出数据：存放在SRAM中需要用户自己定义。如下图所示
“激活”缓冲区是一个简单的连续内存映射缓冲区，放置在一个读写内存段中。它由AI客户端拥有和分配。它被传递给网络实例(参见ai_init()函数)，并在执行推理期间用作私有堆(或工作缓冲区)来存储中间结果。在两次运行之间，应用程序可以使用相关的内存段。其大小AIDATA_ACTIVATIONS_SIZE是在代码生成期间定义的，对应于报告的内存度量。
Weights”缓冲区是一个简单的连续内存映射缓冲区(或多个内存映射缓冲区与——split-weights选项)。它通常放置在一个非易失和只读的内存设备中。总长度AIDATA_WEIGHTS_SIZE是在代码生成期间定义的，对应于报告的ROM度量。
“输出”和“输入”缓冲区也必须放在读写内存映射缓冲区中。默认情况下，它们由AI客户端拥有和提供。它们的大小依赖于模型，称为生成时间(AI_IN/OUT_SIZE_BYTES)。它们也可以位于“激活”缓冲区中。
ai_error ai__create(ai_handle* network, const ai_buffer* network_config);
参数：
1.network：神经网络句柄
2.Network_config参数是一个特定的网络配置缓冲区(不透明结构)，编码为ai_buffer。它是由代码生成器生成的，应用程序不应该修改它。当前，该对象总是空的，可以传递NULL，但最好传递AI_NETWORK_DATA_CONFIG(见_data.h文件)。以上是官方文档的解释，我们自己设置为NULL就可以。
功能： 这个强制函数是应用程序创建c模型实例时必须调用的早期函数。如果ai_handle对象被更新，并且它引用了一个上下文(不透明对象)，该上下文应该被传递给其他函数。
ai_bool ai_(name)_init(ai_handle network, const ai_network_params* params);
参数：
1.network：神经网络句柄
2.Params参数是一个结构体(ai_network_params类型)，它允许传递权重和激活缓冲区的引用(数组格式)。也就是激活缓冲区的地址，官网上面的案例直接传递激活缓冲区的地址就可以，权重是自动生成的不用管。
返回值： 初始化正确还是错误
功能： 这个强制函数用于应用程序初始化内部运行时数据结构，并设置激活缓冲区和权重缓冲区。
ai_error ai__create_and_init(ai_handle* network,
const ai_handle activations[], const ai_handle weights[]);
参数：
1.network：神经网络句柄
2.const ai_handle activations[]：激活图存储地址
返回值： 初始化正确还是错误
功能： 结合了上面两个函数的功能，一般直接使用这个函数就可以
应用案例：进行创建和初始化网络模型
ai_i32 ai__run(ai_handle network, const ai_buffer* input, ai_buffer* output);
> 参数：
1.network：神经网络句柄
2.ai_buffer* input：输入数据地址
3.ai_buffer* output：输出数据地址
返回值： 返回值是n_batches >= 1时处理的输入张量的数量。如果<=0，应该使用ai_network_get_error()函数来知道错误
功能： 根据输入数据，运行神经网络
根据示例代码可知，自己需要修改的地方主要有三点。
1、定义网络句柄、输入、输出和激活缓冲区数据buf 和管理输入和输出数据的指针。
2、获取和处理数据并进行推理。如果是图像分类任务，图像数据可能是来自摄像头模块获取。其他任务例如运动检测任务，数据可能会来自六轴加速度传感器。
3、对输出数据进行后处理。对于分类任务，模型输出结果是每个类别的概率，有时我们要输出准确率最高的类别就要写一个求最大值的函数
代码来自https://github.com/colin2135/STM32G070_AI_TEST.git 大家可以去star一下。感谢作者的开源。作者使用的是STM32G0系列的单片机，我是使用的是STM32F7和正点原子的H5mini，F4系列的都可以。目前还没有尝试F1系列的单片机。
二、代码实现：
1、定义网络句柄、输入、输出和激活缓冲区数据buf 和管理输入和输出数据的指针。
2、获取和处理数据
通过串口获取数据
处理数据，通过上位机发送的数据是8位数据，由于模型参数是32位浮点数因此输入数据要转换成32位浮点数
神经网络推理
3、对输出数据进行后处理
将输出结果和最大值通过串口进行发送
3.whlie(1)代码
完整代码