PowLu/TencentOS-tiny
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

文档优化

Browse Source
This commit is contained in:
QingChuanWS
2021-02-06 18:31:59 +08:00
parent 63e39e2594
commit da6da2c8fe
2 changed files with 121 additions and 105 deletions
Download Patch File Download Diff File Expand all files Collapse all files

25
components/ai/tflite_micro/readme.md
View File

@@ -2,16 +2,16 @@
## 1.组件介绍
TensorFlow Lite Micro 组件是 Google TensorFlow 团队针对微处理器平台专门设计的端侧推理框架，该推理框架主要解决在资源, 功耗, 性能等资源受限的嵌入式系统中, 部署基于 Tensorflow Lite 框架实现深度学习模型任务。
TensorFlow Lite Micro 组件是 Google TensorFlow 团队针对微处理器平台设计的端侧推理框架，该推理框架主要解决在资源, 功耗, 性能受限的嵌入式系统中, 如何简单快速高效部署 Tensorflow Lite 深度学习模型。CMSIS 全称 Software Interface Standard for Arm Cortex-based Microcontrollers，其中 CMSIS-NN 组件为 AI 加速库，包含高效的神经网络算子来减小内存占用和最大化硬件性能。相关代码和文档已经开源并在多个平台上得到验证（ https://www.keil.com/pack/doc/CMSIS/NN/html/index.html ）。
## 2.目录结构
组件内部整体的目录结构如下图所示：
组件目录结构如下图所示：
```
tflite_micro
├─Source //放置了 TensorFlow Lite Micro 的全部源码
├─KEIL //针对 KEIL 环境需要的适配文件
├─Source // TensorFlow Lite Micro 的全部源码
├─KEIL //针对 KEIL 开发环境所需的适配文件
├─ARM_CortexM4_lib //针对 ARM Cortex M4 生成的 tensorflow_lite_micro.lib 库
├─ARM_CortexM7_lib //针对 ARM Cortex M7 生成的 tensorflow_lite_micro.lib 库
├─LICENSE
@@ -20,11 +20,11 @@ tflite_micro
```
其中，KEIL 文件夹中放置了针对 KEIL 编程环境需要额外添加的源文件，如果使用的是 KEIL 编程环境则需要将其中的源文件一同加入工程。
其中，KEIL 文件夹中包含针对 KEIL 编程环境需要额外添加的源文件（将其中的源文件一同加入工程）。
ARM_CortexM4_lib 和 ARM_CortexM7_lib 两个文件夹中存放了针对 Cortex M4、M7 平台预先优化编译好的 tensorflow_lite_micro.lib 库，优化后的性能数据可以参考附录部分；如果在开发过程中使用了 ARM Cortex M4 或 M7 系列的芯片可以直接使用对应的 tensorflow_lite_micro.lib 库，并包含相关的头文件，可以极大的简化神经网络任务的部署流程。
ARM_CortexM4_lib 和 ARM_CortexM7_lib 两个文件夹中存放了针对 Cortex M4、Cortex M7 平台预编译的 tensorflow_lite_micro.lib 库，优化后的性能数据可以参考附录部分；如果在开发过程中采用 ARM Cortex M4 或 Cortex M7 系列芯片可以直接使用对应的 tensorflow_lite_micro.lib 库，并包含相关的头文件，极大的缩短了开发时间。
在 [TFlite_Micro_Component_User_Guide.md](./TFlite_Micro_Component_User_Guide.md) 中提供了本组件的基本使用流程以及上述 .lib 库的制作流程，可以在使用之前进行参考
在 [TFlite_Micro_Component_User_Guide.md](./TFlite_Micro_Component_User_Guide.md) 中提供了本组件的使用说明以及上述 .lib 库的制作方法。
## 3.组件使用案例
@@ -33,14 +33,13 @@ ARM_CortexM4_lib 和 ARM_CortexM7_lib 两个文件夹中存放了针对 Cortex M
## 4. 附录：Tensorflow Lite Micro 性能优化情况
- 硬件平台：Necluo STM32L496ZG
- 涉及的加速库：ARM CMSIS-NN
- 测试输入图片：`tensorflow\lite\micro\tools\make\downloads\person_model_int8` 目录 `person_image_data.cc` 和 `no_person_image_data.cc` 中保存的 96 * 96 ( uint_8 ) 灰度图。
- 单次执行和 10 次迭代的测试结果如下：
- 加速库：ARM CMSIS-NN
- 测试输入图片：`tensorflow\lite\micro\tools\make\downloads\person_model_int8` 目录中 `person_image_data.cc` 和 `no_person_image_data.cc` 保存的 96 * 96 pixels ( uint_8 ) 灰度图。
- 单次执行和 10 次累计执行的测试结果如下：
| Case | Without ARM-CMSIS-NN | With ARM-CMSISNN | Improvement |
| Case | Disable ARM-CMSIS-NN | Enable ARM-CMSISNN | Improvement |
| :--------------------------------------------: | :----------------------: | :------------------: | :---------: |
| Initialize_Benchmark_Runner | 65 ticks (65 ms) | 66 ticks (66 ms) | * |
| Run_Single_Iteration | 12476 ticks (12476 ms) | 633 ticks (633 ms) | 19.71X |
| Person_Detection_Ten_Ierations_With_Person | 124769 ticks (124769 ms) | 6324 ticks (6324 ms) | 19.73X |
| Person_Detection_Ten_Ierations_With_out_Person | 124770 ticks (124770 ms) | 6325 ticks (6325 ms) | 19.72X |
| Person_Detection_Ten_Ierations_With_out_Person | 124770 ticks (124770 ms) | 6325 ticks (6325 ms) | 19.72X |