TVM图优化与算子融合
2024-09-03 12:29:57
TVM图优化与算子融合
计算图的定义
Computational graphs: a common way to represent programs in deep learning frameworks
对于图优化来说，有很多种图优化手段：
Operator Fusion
Constant Parameter Path Pre-Computation
Static Memory Reuse Analysis
Data Layout Transformation
AlterOpLayout
SimplifyInference
计算图优化层（Optimizing Computational Graphs）
这个层级结构实际上是针对各种硬件后端生成了同一种运算符的微调版本，即对其中的张量运算进行了相关优化。
张量优化层（tensor optimization layer）
Schedule Space
TVM提出 Schedules 的概念，指的是一种将计算描述（张量运算）降低到后端（底层）优化实现的特定规则。这也是TVM实现的核心。
其理念是对 Schedules 空间和用于遍历此空间的转换进行建模,从而提供生成低级代码的不同方法。TVM的 Schedules 空间如图所示：
最新文章
- QSS的应用
- 深度学习笔记------windows系统下进行Linux-Ubuntu14.04双系统安装笔记（二）
- Android属性（property）机制
- 用GruntJS合并、压缩CSS资源文件
- C++ 中类的构造函数理解（二）
- Serializable 剔除某些不想保存的字段 transient
- Excel异常Cannot get a text value from a numeric cell
- Upstart概述引导方法事件驱动的任务和服务
- vs2005的MFC程序在64位机上不能运行
- Oracle EBS-SQL (PO-5):采购订单控制信息查询.sql
- 使用uWSGI+nginx部署Django项目
- OCI(Open Container Initiative) & OCF (Open Container Format)
- 12.exception对象
- Lucky Coins Sequence
- Flask之基于route装饰器的路由系统（源码阅读解析）
- 2#第一个Java程序
- Java基础（运算符）
- UVA10562（看图写树，dfs）
- linux和sqlserver 2017的安装
- Python标准模块--concurrent.futures(进程池,线程池)