MobileNetV2: Inverted Residuals and Linear Bottlenecks
2021-04-07 14:24
标签:mobile 通道 http 技术 使用 运算 stride 函数 lock 本文的主要贡献点是一个构造了一个结构,称为the inverted residual with linear bottleneck。该结构与传统的residual block中维度先缩减后扩增相反,而是先将输入的低维feature map扩增到高维,然后用depthwise convolution方式做卷积运算,然后再使用一个线性的卷积将其映射到低维空间中。 Inverted residual block简单介绍 如上图,左边(a)图的传统的residual block,先用1x1卷积将输入的feature map的维度降低,然后进行3x3的卷积操作,最后再用1x1的卷积将维度变大。右边(b)图即为本文提出的结构,先用1x1卷积将输入的feature map维度变大,然后用3x3 depthwise convolution方式做卷积运算,最后使用1x1的卷积运算将其维度缩小。注意,此时的1x1卷积运算后,不再使用ReLU激活函数,而是使用线性激活函数,以保留更多特征信息,保证模型的表达能力。 该block具体结构如下: 当stride=1时,block内会有short cut;而当stride=2时,block没有short cut。 下图是MobileNetV2与MobileNetV1的区别(原图链接): 主要区别有两点: (1)Depth-wise convolution之前多了一个1*1的“扩张”层,目的是为了提升通道数,获得更多特征; (2)最后不采用Relu,而是Linear,目的是防止Relu破坏特征。 MobileNetV2: Inverted Residuals and Linear Bottlenecks 标签:mobile 通道 http 技术 使用 运算 stride 函数 lock 原文地址:https://www.cnblogs.com/ziwh666/p/12485222.html
文章标题:MobileNetV2: Inverted Residuals and Linear Bottlenecks
文章链接:http://soscw.com/index.php/essay/72420.html