官方GitHub链接https://github.com/hujie-frank/SENethttps://github.com/hujie-frank/SENet原文链接[1709.01507] Squeeze-and-Excitation Networkshttps://arxiv.org/abs/1709.01507感兴趣的朋友可以自行下载下面就让我们开始今天的分享。一、引言SENetSqueeze-and-Excitation是由来自Momenta的胡杰及其所在的WMW团队提出的一种通道注意力机制在这之前传统CNN面临着这样一个情况每个特征通道的响应强度都是固定的网络无法根据当前输入的具体内容动态地决定“哪些特征通道更重要”。SENet则解决了这个问题可以自适应地学习到每个通道的重要性根据全局信息重新校准通道权重进而可以大大提升模型的性能。二、核心思想SE模块核心思想是三步走战略1.压缩Squeeze通过全局平均池化将每个通道的HW空间信息压缩成一个数值这个数值携带该通道的全局感受野信息让浅层网络也能获得全局信息Squeeze操作第c个通道的全剧平均池化结果标量第c个通道的特征图形状为2.激励Excitation通过两次全连接层FC → ReLU → FC → Sigmoid网络学习通道间的相关性先将通道数压缩为原来的1/rr默认取16平衡性能和计算量经ReLU激活后再恢复到原始通道数最后通过Sigmoid得到每个通道0-1之间的权重值表示Sigmoid 激活函数表示ReLU激活函数3.重标定Scale将学习得到的权重逐通道乘到原始特征上完成对原始特征的重标定表示重标定后的新特征图表示得到的新权重表示原始特征图第c个通道的二维矩阵三、小结SENetSqueeze-and-Excitation Networks是一种通道注意力机制本质上是一个即插即用的轻量级模块而非独立的网络架构。它可以嵌入到ResNet、Inception等已有网络中用极低成本让网络学会“注意力”动态地为每个特征通道学习0~1之间的权重让重要特征更突出让无关特征被忽略。