Squeeze-and-Excitation Networks Paper 近些年来,卷积神经网络在很多领域都取得了巨大的突破.而卷积核作为卷积神经网络的核心,通常被看做是在局部感受野上,将空间上(spatial)的信息和特征维度上(channel-wise)的信息进行聚合的信息聚合体.卷积神经网络由一系列卷积层.非线性层和下采样层构成,这样它们能够从全局感受野上去捕获图像的特征来进行图像的描述. 然而去学到一个性能非常强劲的网络是相当困难的,其难点来自很多方面.最近很多工作呗提出来从空间维度层
维基百科对深度学习的精确定义为“一类通过多层非线性变换对高复杂性数据建模算法的合集”.因为深层神经网络是实现“多层非线性变换”最常用的一种方法,所以在实际中可以认为深度学习就是深度神经网络的代名词.从维基百科给出的定义可以看出,深度学习有两个非常重要的特性——多层和非线性.那么为什么要强调这两个性质呢?下面我们开始学习. 1,线性模型的局限性 在线性模型中,模型的输出为输入的加权和.假设一个模型的输出 y 和输入 xi 满足以下关系,那么这个模型就是一个线性模型: 其中,wi , b € R