MindSpore Lite整体架构介绍

MindSpore Lite框架的总体架构如下所示：

• 前端（Frontend）： 负责模型生成，用户可以通过模型构建接口构建模型，将第三方模型和MindSpore训练的模型转换为MindSpore Lite模型，其中第三方模型包括TensorFlow Lite、Caffe 1.0和ONNX模型。
• IR： 负责MindSpore的Tensor定义、算子定义和图定义。
• Backend： 基于IR进行图优化，包括GHLO、GLLO和量化三部分。其中，GHLO负责和硬件无关的优化，如算子融合、常量折叠等；GLLO负责与硬件相关的优化；量化Quantizer支持权重量化、激活值量化等训练后量化手段。
• Runtime： 智能终端的推理运行时，其中session负责会话管理，提供对外接口；线程池和并行原语负责图执行使用的线程池管理，内存分配负责图执行中各个算子的内存复用，算子库提供CPU、GPU和NPU算子。
• Micro： IoT设备的运行时，包括模型生成.c文件、线程池、内存复用和算子库。

其中，Runtime和Micro共享底层的算子库、内存分配、线程池、并行原语等基础设施层。

最新文章

1. Python列表和元组
2. suid sgid sbit chattr lsattr
3. hive中的全排序
4. HDOJ 1995 汉诺塔V
5. merge into Oracle里的 saveOrUapdate
6. 苹果公司的新的编程语言 Swift 高级语言（十五）－－协议
7. java线程学习(二)
8. Java线程池（ThreadPool）详解
9. Java迭代器Iterator
10. Spring AOP高级——源码实现（1）动态代理技术
11. linux 磁盘管理三部曲——（2）管理分区，文件系统类型格式化
12. python-Djando项目搭建
13. DBeaver入门
14. hdu 3016 Man Down
15. php多进程pcntl学习(一)
16. 52. N-Queens II(数个数)
17. web.xml文件初始化过程
18. 02-JVM内存模型：虚拟机栈与本地方法栈
19. HDU 1069 Monkey and Banana （dp）
20. Little Mathematics Knowledge 数学小常识

热门文章

1. xposed学习四：总结
2. Aircrack-ng破解无线WIFI密码
3. 手脱ASPack2.12壳（练习）
4. 推荐算法-聚类-K-MEANS
5. 深入浅出带你玩转sqlilabs(四)-updatexml(),floor(),extractvalue()报错注入
6. JetBrains系列软件用法
7. 【python】Leetcode每日一题-不同的子序列
8. 第一周JVM核心技术-工具与GC策略
9. HEVC学习（一） —— HM的使用
10. JAVA基础——包机制