torch.utils.data.DataLoader()中的pin_memory参数
2024-08-26 01:42:53
参考链接：http://www.voidcn.com/article/p-fsdktdik-bry.html
该pin_memory参数与锁页内存、不锁页内存以及虚拟内存三个概念有关；
锁页内存理解（pinned memory or page locked memory）：https://blog.csdn.net/dgh_dean/article/details/53130871
What is the disadvantage of using pin_memory： https://discuss.pytorch.org/t/what-is-the-disadvantage-of-using-pin-memory/1702
pin_memory就是锁页内存，创建DataLoader时，设置pin_memory=True，则意味着生成的Tensor数据最开始是属于内存中的锁页内存，这样将内存的Tensor转义到GPU的显存就会更快一些。
主机中的内存，有两种存在方式，一是锁页，二是不锁页，锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换（注：虚拟内存就是硬盘），而不锁页内存在主机内存不足时，数据会存放在虚拟内存中。
而显卡中的显存全部是锁页内存！
当计算机的内存充足的时候，可以设置pin_memory=True。当系统卡住，或者交换内存使用过多的时候，设置pin_memory=False。因为pin_memory与电脑硬件性能有关，pytorch开发者不能确保每一个炼丹玩家都有高端设备，因此pin_memory默认为False。
（实操时，貌似如果内存交换过多时，置pin_memory = True会卡住，可以将其设为False，对应的num_workers = 0）
最新文章
- js new
- GWAS Simulation
- bash while/until循环学习
- Java 使用jaxp修改节点
- delphi平方开方
- Android开发的技术层次
- jsp 变量和方法的声明 Java程序片 HTML注释 JSP注释
- Sublime插件库新成员基于APICloud快速开发跨平台App
- iOS 轻量级的数据库leveldb
- ti processor sdk linux am335x evm setup.sh hacking
- centos6.5 无线网卡配置
- 重载new delete操作符是怎么调用的
- phpcms插件
- PAT乙级-1041. 考试座位号(15)
- java中断
- iOS企业版使用第三方实现自动更新版本
- maven手动安装jar包到本地仓库,以ojdbc6为例
- Linux下 查找大文件
- python 中的流程控制语句
- php cli命令 自定义参数传递