基于跨模态无监督域自适应的医学图像分割模型

MICS科研简讯第四期

深度无监督域自适应旨在仅使用未标记的目标域数据和带标记的源域数据来改善在目标域上的深度神经网络模型的性能。然而当前许多无监督域自适应方法在目标域数据较少的场景下,性能往往有很大的下降。针对这个问题,这篇文章提出了一种高效的跨模态无监督域自适应图像分割模型。该模型结合新颖的基于VAE的特征优先匹配和域对抗训练策略,以学习在分割过程中利用的共享域不变空间。

整个网络包括一个含两个域各自的编码器和解码器的Variational Auto-Encoders (VAE),一个域判别器以及一个作用在VAE的潜在空间上的域不变分割器。该网络模型的整体框架如图1所示。工作的创新点在于这是第一篇适用于目标域数据较少的跨模态无监督域自适应场景下的文章,并且本文提出的数据高效(“本文数据高效指的是目标域数据较少”)跨模态图像分割模型在共享域不变空间上使用了特征优先匹配策略。

图1:网络整体框架

文章的主要工作介绍如下:

(1)有监督的源域网络训练

使用源域图像标签对计算VAE损失、分割损失和对抗损失优化源域的编码器、解码器以及分割器网络。

VAE损失包含源域图像重建损失以及KL散度损失:

对抗损失用来预训练判别器区分输入是源域图像或重建图像。

(2)特征优先匹配策略

使用VAE损失优化目标域的编码器、解码器。

VAE损失:

其中KL散度正则化项和源域类似,在目标域数据较少的场景下非常有效,通过强迫源域和目标域特征空间分布都近似于同一分布N(0,I),从而匹配这两种分布。

(3)域对抗训练策略

将从目标域转换来的源域图像输入到域判别器中作为伪样本计算对抗损失训练判别器和目标域编码器、解码器。

同时,为了保证两个编码器的输出得到校准,增加了从源域到目标域再到源域的单向循环一致性损失。

此外,为了使得分割器对ZT和ZS的不同(由于两个域编码器存在缺陷)更加鲁棒,该文章还使用了任务一致性损失。

综上,利用这些损失的加和训练整个无监督域自适应分割网络;

该文章在MICCAI心脏分割挑战赛数据集上进行测试,它包含20张3D的CT图像和20张3D的MR图像。对于分割结果,本文使用Dice和ASSD (Averaged Squared Surface Distance)进行评价。结果如下:

(1)定量结果

表1给出了对比方法以及本文提出方法的测试指标比较结果。其中,Unadapted模型表示基线模型,是将目标域图像直接输入到源域分割模型;Oracle模型表示在源域分割模型的基础上进行有监督的目标域图像微调;Pnp-AdaNet-16、SIFA-16是两种其他的对比方法,使用了16张目标域图像用于训练;而Pnp-AdaNet-1、SIFA-1表示的模型随机选择1张目标域图像用于训练;Proposed-1是本文提出的模型,也是随机选择1张目标域图像用于训练;可以看出,无论和基线模型相比,还是和其他对比模型相比,在目标域数据较少的场景下(即随机选择一张目标域图像的场景下),本文提出的跨模态分割模型的分割准确度都更高。

(2)定性结果

图2:自适应分割结果的定性显示

图2直接展示了各种模型的分割预测结果,明显看出,该文章提出的模型得到的分割结果与真实标签更为接近。

此外,为了验证特征优先匹配和域对抗训练策略的有效性,该文章还做了消融实验,分别移除特征优先匹配部分和域对抗训练部分,这种情况下,模型很容易过拟合,而且平均Dice值也会降到55%以下,因此这两种策略是非常有效的。

参考文献

[1] Ouyang C, Kamnitsas K, Biffi C, et al. Data efficient unsupervised domain adaptation for Cross-Modality image segmentation[C]//International Conference on Medical Image Computing and Computer-Assisted Intervention. Springer, Cham, 2019: 669-677.

本文作者:韩晓婷

指导老师:史颖欢

单   位:南京大学


医学图像计算青年研讨会(Medical Imaging Computing Seminar,MICS)创立于2014年,其宗旨是为医学图像领域的华人青年学者提供学术交流平台,增进相互之间的了解和友谊,帮助青年学者融入学术研究大家庭。MICS聚焦于近两年内的医学图像计算领域原创研究,欢迎医学图像处理、计算机视觉、人工智能等新理论、新方法、新应用的展示,以及影像与临床医学、基础医学深度交叉的突破性进展报告。首届MICS在医学图像领域著名学者、北卡罗来纳大学教堂山分校沈定刚教授的倡议下,于2014年12月在深圳大学举行。经过2015(济南)、2016(广州)、2017(上海)、2018(南京)、2019(苏州)的蓬勃发展,MICS从参会人数不足百人到吸引上千名专家学者参与,已迅速成为全国医学图像计算领域最具影响力的活动之一。2020年的MICS会议将于7月18~19日在大连举办,欢迎全球同道专家和同学共聚学术盛宴!

“医学图像计算青年研讨会”微信公众号

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注