1×1卷积的用途(Network in Network)
2024-08-24 02:44:17
1×1卷积,又称为Network in Network
如果卷积的输出输入都只是一个平面,那么1x1卷积核并没有什么意义,它是完全不考虑像素与周边其他像素关系。 但卷积的输出输入是长方体,所以1x1卷积实际上是对每个像素点,在不同的channels上进行线性组合(信息整合),且保留了图片的原有平面结构,调控depth,从而完成升维或降维的功能。
如下图所示,如果选择2个filters的1x1卷积层,那么数据就从原本的depth 3 降到了2。若用4个filters,则起到了升维的作用。
1. 相当于输入(6×6)每个元素对应的所有通道分别进行了全连接运算,输出即为filters的数量。
2. 对于池化层,可以压缩高度和宽度,1×1卷积,可以压缩或增加通道数。
降维( dimension reductionality )或者升维。由于33卷积或者55卷积在几百个filter的卷积层上做卷积操作时相当耗时,所以11卷积在33卷积或者5*5卷积计算之前先降低维度。比如,一张500×500且厚度depth为100 的图片在20个filter上做1×1的卷积,那么结果的大小为500×500×20。
3. 加入非线性。卷积层之后经过激励层,1×1的卷积在前一层的学习表示上添加了非线性激励( non-linear activation ),提升网络的表达能力;
最新文章
- Tomcat一个BUG造成CLOSE_WAIT
- Ubuntu安装SSH服务器故障分析及解决办法(错误1:E:软件包 openssh-server 还没有可供安装的候选者,错误2:E: 无法修正错误,因为您要求某些软件包保持现状,就是它们破坏了软件包间的依赖关系)
- 使用LocalBroadcastManager
- 2015年第14本(英文第10本):The A.B.C. Murders (A.B.C谋杀案)
- tyvj3481 越狱
- js 判断字符是否以汉字开头
- 树莓派加入定时任务实现花生壳定时重启(linux的定时任务)
- 【转】Git详解之一:Git起步
- 20160503-spring入门1
- Python基础篇-day3
- Android APK反编译(二)
- android active间数据传递
- 2018年2月19日我的java学习
- golang web框架 beego
- python 面向对象编程 之 元类
- AsmTools
- 新同事,git又报错Please move or remove them before you merge
- Java overload和override的区别分析
- Dbzoj#3188. [Coci 2011]Upit
- 20165320 预备作业3 :Linux安装及命令入门