社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

Attention GhostUNet 融合通道、空间和深度注意力机制于Ghost Bottleneck,实现深度学习模型 !

arXiv每日学术速递 • 3 天前 • 8 次点击  


对腹部脂肪组织(包括皮下脂肪组织SAT和内脏脂肪组织VAT)以及肝脏的精确分割对于理解身体成分和与2型糖尿病、心血管疾病等相关的健康风险至关重要。

本研究提出了Attention GhostUNet++,一种将通道、空间和深度注意力机制融入Ghost  Bottleneck 的新型深度学习模型,用于实现自动、精确的分割。

在AATTCT-IDS和LiTS数据集上的评估显示,该模型在VAT分割上达到了0.9430的Dice系数,在SAT分割上达到了0.9639,在肝脏分割上达到了0.9652,超越了基准模型。

尽管在边界细节分割方面存在一些局限性,但所提出的模型显著提升了特征细化、上下文理解和计算效率,为身体成分分析提供了一种稳健的解决方案。

所提出的Attention GhostUNet 模型的实现代码可在以下链接获取:https://github.com/MansoorHayat777/AttentionGhostUNetPlusPlus。

临床相关性-Attention GhostUNet++模型在从CT图像中自动分割脂肪组织和肝脏区域方面取得了显著进展。准确界定内脏脂肪组织和皮下脂肪组织,以及肝脏结构,对于管理心脏代谢疾病(包括2型糖尿病和心血管疾病)的临床医生至关重要。通过减少对人工标注的依赖,该模型提高了效率和可扩展性,为其融入常规临床工作流程和大规模人体成分研究铺平了道路。

一 引言

肥胖是心血管代谢疾病的重要风险因素,包括2型糖尿病(T2D)、心血管疾病(CVD)、非酒精性脂肪性肝病和高血压[1][2]。身体成分(BC)分析关注脂肪和非脂肪组织的分布,特别是在脂肪组织、肌肉、肝脏和骨骼等库中,在预测和预防这些疾病方面发挥着关键作用[3]。在脂肪组织库中,内脏脂肪组织(VAT)和皮下脂肪组织(SAT)是关键的。VAT位于腹腔内[4][5]。类似地,SAT位于皮肤下方[3][6][7][8][17]。

本研究介绍了Attention GhostUNet++,一种先进的深度学习模型,该模型将通道注意力机制、空间注意力机制和深度注意力机制整合到Ghost UNet++ Bottleneck 中,用于从CT图像中自动分割内脏脂肪组织(VAT)、皮下脂肪组织(SAT)和肝脏区域。使用AATTCT-IDS [10] 和 LiTs [11] 数据集进行测试,该模型在VAT、SAT和肝脏区域的Dice系数分别为0.9430、0.9639和0.9652,在大多数指标上优于 Baseline 模型。然而,在SAT和VAT边界分割方面仍存在挑战,其中SAT和VAT的Jaccard指数分别为0.9639和0.9430,在某些特定情况下未能达到UNet的性能水平。

所提出的模型减少了人工标注的依赖,为BC分析提供了一种高效、可扩展的解决方案。它解决了大规模成像研究中的挑战,为多类别分割和个性化医疗的更广泛应用铺平了道路,未来的工作将集中于边界优化和数据集泛化。

方法论

幽灵模块

Ghost-UNet [9] 架构旨在通过最小化特征图的冗余来提高计算效率。传统的卷积操作在生成高维特征图时计算量大。Ghost模块通过采用轻量级操作生成Ghost特征图来解决这个问题,Ghost特征图是输入特征的低分辨率表示。这显著提高了效率,同时不牺牲准确性。

Ghost模块的数学表达式为:

  • 其中:
  •  : 高分辨率输出特征图,:  : 低分辨率幽灵特征图,. W: 幽灵卷积层的权重张量,:  和  : 可学习的缩放和平移参数,:  幽灵卷积操作。

幽灵卷积操作进一步定义为:

其中  表示幽灵通道, 是输入特征图的索引, 表示偏置项。

Attention GhostUNet  架构

在所提出的Attention GhostUNet++中,Ghost Bottleneck 层被集成到架构中,每个层都通过通道、空间和深度注意力机制进行增强。这些机制通过动态强调特征图中的相关区域并抑制冗余信息来提升特征细化效果。该网络由15个 Bottleneck 层组成,这些层在嵌套架构中排列,该架构支持稳健的收缩和扩张路径:

收缩路径:在多个分辨率下提取特征。

扩展路径:重建特征图以实现精确分割。

网络中的每个 Bottleneck 层可以表示为:

  • 其中:
  •  : 输入张量,

  •  : 输出张量,

  •  : 鬼 Bottleneck 层,

:注意力机制,

Θ:可学习参数集。

在网络的每一层  中,特征图计算如下:

  • 其中:
  •  : 池化操作,:  : 上采样操作,:  : 鬼模块。

网络最终输出为:

其中  表示架构中的层级数量。这种创新性地将Ghost bottleneck层与注意力机制相结合的方式,使得Attention GhostUNet++能够实现高精度、计算效率和改进的特征细化,使其成为医学图像分割的可靠解决方案。

II. 实验结果

数据集与预处理

本研究使用两个数据集评估了所提出的Attention GhostUNet++模型:腹部脂肪组织CT图像数据集(AATTCT-IDS)[10]和肝脏肿瘤分割基准(LiTS)[11]。这些数据集提供了用于分割SAT、VAT和肝脏区域的标注CT图像。

AATTCT-IDS数据集[10]包含13,732个CT切片(其中3,213个已标注),来自300名受试者,重点关注SAT和VAT。挑战源于个体差异以及这些区域之间边界重叠。LiTS数据集[11]包含201个标注了肝脏区域的CT体积,具有多样的肝脏形状和病理特征。本研究优先进行肝脏分割。

预处理包括将CT切片调整到一致分辨率、归一化像素强度以及裁剪体积以聚焦于感兴趣区域。应用数据增强(例如旋转、翻转、缩放)以增强变异性并减少过拟合。

这些数据集对于验证Attention GhostUNet 模型在分割复杂解剖结构时的鲁棒性和泛化能力至关重要,尤其是在不同场景下。

训练设置

所提出的Attention GhostUNet 模型在PyTorch 2.0中实现,并在Nvidia 3090 Ti GPU上进行训练。Xavier初始化确保了有效的权重缩放。数据集被划分为训练集、验证集和测试集(比例为70:20:10),并应用数据增强(旋转、翻转、缩放和强度变化)以提升泛化能力。

训练采用了Adam优化器[16](初始学习率,余弦退火衰减)以及Dice损失和交叉熵损失的组合。大小为16的mini-batch优化了GPU使用,而早停(100个epoch的耐心值)防止了过拟合。基于验证Dice系数(DC)选择了表现最佳的模型。

使用DC和Jaccard指数(JI)评估了分割精度:

Dice系数=

Jaccard指数=

其中  和  分别表示像素  处的预测分割和真实分割。

[15] 对于增值税、销售税和肝脏。评估指标包括Dice系数和Jaccard指数,分别用于评估分割精度和重叠程度。

所提出的模型在大多数情况下表现优于 Baseline 模型。如表1所示,在VAT分割中,它达到了0.9430的Dice系数和0.9430的Jaccard指数,与UNet的0.9491的Jaccard指数紧密竞争。在SAT分割中,它达到了0.9639的Dice系数,与UNet的0.9807的Jaccard指数相当,但在处理边界细节方面仍有改进空间。在肝脏分割中,Attention GhostUNet 表现出优越的性能,Dice系数为0.9652,Jaccard指数为0.9496,优于所有 Baseline 模型。

所提出的Attention GhostUNet++模型的性能与 Baseline 模型进行了比较(UNet [12]、UNet++ [13]、ResUNet [14]和GhostUNet+ 

性能评估

表1 AATTCT-IDS [10] 和 LITS [11] 数据集中不同目标的平均分割 Dice 和 Jaccard 分数

这些结果证实了Attention GhostUNet  [15]模型在医学图像分割方面的有效性。尽管该模型在大多数任务中达到了最先进的性能,但在SAT分割方面存在的轻微局限性表明,通过进一步优化可以提升边界精度和整体泛化能力。

图2展示了测试数据集的示例分割输出。真实标注与每个模型的预测结果并列显示。Attention GhostUNet++ [15]模型表现出优异的边界贴合度和精确的区域分割,特别是在SAT和VAT边界重叠或难以区分的挑战性情况下。此外,在肝脏分割方面,所提出的模型有效捕捉了器官的不规则轮廓,其结果明显优于 Baseline 模型。

这些视觉比较突显了该模型在处理复杂分割任务时,具有更高的精度和边界准确性,使其成为医学影像应用中的一种稳健解决方案。

III. 结论

作者提出了Attention GhostUNet++,一种用于在CT图像中分割SAT、VAT和肝脏区域的新型深度学习架构。通过将通道、空间和深度注意力机制集成到Ghost-Net Bottleneck 层中,该模型实现了增强的特征精炼和上下文理解,同时保持了计算效率。

在AATTCT-IDS[10]和LiTS[11]数据集上的实验验证了该模型达到了当前最佳性能,其中Dice系数分别为0.9430(VAT)、0.9639(SAT)和0.9652(肝脏)。视觉对比突显了该模型在准确分割复杂解剖结构方面的能力,有效减少了边界误差,并优于基准模型。

该自动化解决方案减少了对人工标注的依赖,并提升了临床和研究应用的可扩展性。未来的工作将集中于解决局限性、扩展至多类别任务,并在多样化的数据集上进行验证,为高效准确的医学影像工具铺平道路。

参考

[1]. Attention GhostUNet++: Enhanced Segmentation of Adipose Tissue and Liver in CT Images




Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/181697
 
8 次点击