腾讯出品：自循环半监督算法性能逼近监督学习( 二 ) 本期分享MICCAI2020的一篇关于医

文章插图
；第二，将拼图游戏任务整合成到端到端自监督框架中，输入的自监督子任务的尺寸要求与分割任务的尺寸一致，即输入和输出长宽一致。因此，本文没有使用共享权重的神经网络结构（没有再单独设计一个针对于图像块的分类网络），而是将随机排列的图像块拼接成和原始图像输入同等大小的图像（即原始图像裁剪成9块，随机排列组合后，依然还是原始图像的大小，只是相对位置进行了改变）输入进网络进行K分类训练。算法流程图以及伪代码如下。
文章插图
文章插图
2.2 无标记数据的自循环不确定性估计
如算法流程伪代码所示，自监督的子任务能够循环地通过神经网格利用无标注数据进行迭代优化。
不同的阶段（即10种不同的图像块随机组合）可以看做是不同的模型进行集成，而在本文中只有一个网络就能达到类似集成学习的效果。这些随机排列组合的图像块输入进FCN模型得到多个（合计10个）分割预测特征图。
因为自监督的损失表达的是模型被随机排列组合数据困扰的程度，因此作者设计了一种利用自监督损失构造的一种置信度S（如伪代码中公式所示）来调整每一个组合图像块对最终分割结果的贡献。
Uncertainty-Guided Loss：
文章插图
分割预测的结果如图所示，红色代表前景得分高。加权平均的自循环不确定性结果能够引导模型获从无标注的数据中取更加可靠，更加准确的预测结果。因此我们采用了均方差损失函数来作为生成假标签的损失函数。其中II代表指数函数， H,W分别是图像的高和宽。是输入图像的分割预测结果,是阈值。
2.3 目标函数
文章插图
3 实验
数据数据分别是MoNuSeg和ISIC数据集。评估标准采用的是未加权的F1-Score 。 baseline选择的是三个主流的不确定性方法：softmax概率图，蒙特卡洛dropout ，不确定性估计集成学习网络。主干网络选用的是ResUnet-18 。
3.1 评估生成的假标签的质量
使用MoNuSeg数据集进行假标签生成质量的评估，通过计算预测标签和真实标签的F1-SCORE进行对比，结果如下表所示。其中SL的是每个原始图像采用几种随机排列组合输入模型进行训练，实验分别采用了3 ， 6,10三种数量以及20%和50%两种比例的无标注数据进行对比。可以看出本文提出的SL方法涨点明显，都在2%以上。随着无标注数据的增加， SL数量的影响逐步减小（消融实验结论）。
文章插图
3.2 分割性能评估
为了验证本文生成假标签的方法性能，与主流的半监督算法模型进行对比分析，采用的数据集是MoNuSeg和ISIC 。半监督训练中用到的标注数据的比例分别为20%和50% 。对比发现，全部包含监督信息数据进行训练的模型性能还是最佳的，但本文提出的方法已经非常逼近最优结果了！
文章插图
4 结论
作者提出了一种自监督学习方法，在标注数据受限的情况下，利用大量的无标签数据进行一种自循环不确定性方法生成逐步逼真的假标签以辅助模型进行分割。这种方法能够辅助带标注的数据进行训练，提升模型的分割性能。
5 结语
这是一篇半监督学习在医学图像领域的一次创新。方法上的靓点笔者人为是设计了一种在训练的过程中逐步优化迭代假标签，并且无需单独训练的这种端到端的模式。损失函数的设计也显得较为巧妙，没有像常见的利用sofxmax层输出概率，而是通过损失函数的加权平均。
整体算法流程在伪代码中和流程图都已写得非常清楚，复现应该也不复杂。
[赠书福利]
AI科技评论联合【机械工业出版社华章公司】为大家带来15本“新版蜥蜴书”正版新书。
在10月24号头条文章《1024快乐！最受欢迎的AI好书《蜥蜴书第2版》送给大家！》留言区留言，谈一谈你对本书内容相关的看法和期待，或你对机器学习/深度学习的理解。
AI 科技评论将会在留言区选出 15名读者，每人送出《机器学习实战：基于Scikit-Learn、Keras和TensorFlow（原书第2版）》一本（在其他公号已获赠本书者重复参加无效）。