nlp|把大核卷积拆成三步，清华胡事民团队新视觉Backbone刷榜三大任务

梦晨发自凹非寺
量子位 | 公众号 QbitAI
在视觉任务上，CNN、ViT各有各的优势和劣势。
于是，以经典Backbone为基础、细节上相互借鉴，成了最近一个热门研究方向。
前有微软SwinTransformer引入CNN的滑动窗口等特性，刷榜下游任务并获马尔奖。
后有Meta AI的ConvNeXT用ViT上的大量技巧魔改ResNet后实现性能反超。
现在一种全新Backbone——VAN（Visiual Attention Network, 视觉注意力网络）再次引起学界关注。
因为新模型再一次刷榜三大视觉任务，把上面那两位又都给比下去了。
VAN号称同时吸收了CNN和ViT的优势且简单高效，精度更高的同时参数量和计算量还更小。

文章插图
VAN来自清华计图胡事民团队，他们提出一个标准大核卷积可以拆解成三部分：
深度卷积(DW-Conv)、深度扩张卷积(DW-D-Conv)和1 × 1卷积(1 × 1 Conv)。

文章插图
更关键的是，再加上一步element-wise相乘可以获得类似注意力的效果，团队把新的卷积模块命名为大核注意力LKA（Large Kernel Attention）

文章插图
论文最后还提到，现在的VAN只是一个直觉的原始版本、没有仔细打磨，也就是说后续还有很大提升潜力。
（代码已开源，地址在文末）
拆解大核卷积能算注意力注意力机制，可以理解为一种自适应选择过程，能根据输入辨别出关键特征并自动忽略噪声。
关键步骤是学习输入数据的长距离依赖，生成注意力图。
有两种常用方法来生成注意图。
第一种是从NLP来的自注意力机制，但用在视觉上还有一些不足，比如把图像转换为一维序列会忽略其二维结构。
第二种是视觉上的大核卷积方法，但计算开销又太大。
为克服上面的问题，团队提出的LKA方法把大核卷积拆解成三部分。
设扩张间隔为d，一个K x K的卷积可以拆解成K/d x K/d的深度扩张卷积，一个(2d ? 1) × (2d ? 1)的深度卷积核一个1 x 1的point-wise卷积。

文章插图
△c为通道(channel)
这样做，在捕捉到长距离依赖的同时节省了计算开销，进一步可以生成注意力图。

文章插图
LKA方法不仅综合了卷积和自注意力的优势，还额外获得了通道适应性。

文章插图
在CNN里，LKA方法与MobileNet的两部分拆解法类似，增加的深度扩张卷积可以捕获长距离依赖。
与ViT相比，解决了自注意力的二次复杂度对高分辨率图像计算代价太大的问题，
MLP架构中的gMLP也引入了注意力机制，但只能处理固定分辨率的图像，且只关注了全局特征，忽略了图像的局部结构。
从理论上来说，LKA方法综合了各方优势，同时克服了上述缺点。
那么，实际效果如何？
新Backbone刷榜三大任务根据LKA方法设计的新Backbone网络VAN，延续了经典的四阶段设计，具体配置如下。

文章插图
每个阶段的结构如图所示，其中下采样率由步长控制，CFF代表卷积前馈网络（ convolutional feed-forward network）

文章插图
假输入和输出拥有相等的宽高和通道数，可以算出计算复杂性。

文章插图
其中当卷积核大小(K)为21时，扩张间隔(d)取3可以让参数量最小，便以此为默认配置。
团队认为按此配置对于全局特征和局部特征的提取效果都比较理想。
最终，在ImageNet上不同规模的VAN精度都超过了各类CNN、ViT和MLP。

文章插图
在COCO 2017目标检测任务上，以VAN为Backbone应用多种检测方法也都领先。

文章插图
ADE20K语意分割任务上同样如此。

文章插图
而且正如前文所述，VAN未经仔细打磨就已刷榜三大任务，后续还有提升空间。
对于今后的改进方向，团队表示可能会尝试更大的卷积核，引入来自Res2Net的多尺度结构，或者Inception中的多分支结构。