0%

Res2Net回顾

1. Res2Net简析

paper: https://arxiv.org/pdf/1904.01169.pdf

image-20220507135929679

Res2Net提出的契机, 其认为网络提取多尺度特征的能力是非常重要的,与其他网络不同的是,Res2Net没有在layer-wise这个层面改进,而是在更细粒度的层面改进了网络模型,其改进了Residual Block内部,以期能够提升该模块提取多尺度特征的能力。

  • objects may appear with different sizes in a single image, e.g., the sofa and cup are of different sizes.
  • the essential contextual information of an object may occupy a much larger area than the object itself.
  • perceiving information from different scales is essential for understanding parts as well as objects for tasks such as fine-grained classification and semantic segmentation.

image-20220507140613917

上图(b)即为Res2Net提出的Block, 经过1x1卷积之后,特征图分成4(s)部分。x1不做处理,直接传到y1,等价于skip-connection;x2经过3x3卷积之后分为两条线路,一条继续向前传播给y2,另一条传到x3,这样第三条线路就获得了第二条线路的信息;第三条线路、第四条线路,以此类推。每条线路的通道数为n/s。这样拆分组合的方式使得经过该block之后的特征感受野更加丰富,包含了多种尺度的特征,使得整的网络能够有效提取全局特征和局部特征。Res2Net提出了尺度(s)这个超参数,论文实验论证了增加该参数相比其他维度(通道,深度,宽度)更加有效。

总的组合方式可以归结为如下公式,也比较简单。

image-20220507141454394

2. Integration with Modern Modules

image-20220507142103636

Res2Net提出的Block可以轻松的嵌入到ResNet, SENet,ResNeXt,DLA等网络中。

3. 实验

image-20220507142253891

image-20220507142922170

与其他网络在ImageNet的Top-1 error对比。

image-20220507142942714

对比了不同尺度因子(s)的效果。