Prediction of Thermal Conductance of Complex Networks with Deep Learning
Changliang Zhu (朱昌良), Xiangying Shen (沈翔瀛), Guimei Zhu (朱桂妹), and Baowen Li (李保文)
Chin. Phys. Lett. 2023 40 (12): 124402
DOI: 10.1088/0256-307X/40/12/124402
不同于传统的基于图像识别的深度学习算法,本文首次利用网络的拉普拉斯矩阵作为卷积神经网络的训练集,成功预测了网络的热输运行为,提高了算法效率,为“AI for Science”提供了一种全新的算法策略。
图1. 深度学习对非晶复杂网络传热性质的预测。上图:该工作所采用的5层卷积AlexNet神经网络架构。左下:将复杂非晶网络的拉普拉斯矩阵作为输入,取代传统的图片数据,用于训练神经网络。下中:复杂网络热输运示意图,底部节点预设高温,顶部节点预设低温,节点颜色代表平衡态下温度分布。右下:AlexNet模型对网络热导性质的预测结果,横轴为标签值,纵轴为预测值,R2=0.99,表明预测十分准确。
如今,得益于纳米技术的进步,真实的纳米线/纳米管网络已可在实验室大规模制备。然而,预测这类网络结构的热输运对物理学和材料学来说都是一个巨大的挑战。这一挑战源于网络结构和热导参数之间复杂的相互作用,包括连通性、网络拓扑、网络几何形状、节点不均匀性等。深度学习 (Deep Learning, DL) 因其能够处理庞大而复杂的数据集、识别复杂模式和预测材料行为,有望帮助研究人员预测出复杂网络的热输运特性。在利用深度学习算法时,为提高预测准确性并减轻过拟合,构建更深的卷积神经网络(Convolutional Neural Network, CNN)架构是常见的做法。然而,更复杂的 CNN 模型需要更大的数据集和更多的计算资源。尤其是当数据样本的采集需要大量的实验和算力消耗时,使用深度学习算法的成本无疑会加剧。因此,确定一个合适的 CNN 模型,在保证高预测精度的前提下提高运算效率、节省资源消耗,对于利用深度学习预测复杂系统的物理特性至关重要。
近日,不同于传统基于图像识别的深度学习模型,南方科技大学朱昌良博士、沈翔瀛副研究员、朱桂妹副研究员、李保文教授提出以ALexNet神经网络架构作为算法基础,通过学习非晶网络的拉普拉斯矩阵来预测网络的热输运特性。复杂网络中的热输运性质由其拓扑性质决定,不同的拓扑构型导致了不同的热导(thermal conductance),而拓扑结构由拉普拉斯矩阵唯一确定。不同于以往利用图片作为训练集的算法训练模式,该团队采用了16层的VGG-16模型及5层的AlexNet模型,通过学习拉普拉斯矩阵成功降低了深度学习算法对训练集数量的依赖,有效缩短了训练时间。研究还表明相比于复杂的VGGNet,架构更加简单的AlexNet模型更适合预测网络的热输运特性。在训练方面,VGGNet耗时120 min,而AlexNet仅耗时20 min。预测方面,解一个16*16尺寸的网络拉普拉斯矩阵计算热导需耗时546.54 ms,而VGGNet和AlexNet各需130.04 ms和76.37 ms,显著低于直接计算所花的时间,且计算时间上的差距随网络尺寸的增加而进一步拉大。
该工作表明,简单的神经网络架构可产生同样准确的预测,同时节省了训练时间和运算时间。本研究为利用CNN算法预测复杂网络的热输运特性提供了高效的方案:1. 使用拉普拉斯取代图像识别;2. 利用架构更简单的ALexNet可以在保证高预测率的同时极大提高运算效率。
具有超宽温域、低电流可调性的巨二维斯格明子拓扑霍尔效应
通过 H 的表面饱和实现cg-N在环境条件下的稳定存在
基于电子体系的高随机性高稳定性的无后处理量子随机数发生器
为了保证重要研究成果的首发权和显示度,CPL于2012年6月开设了Express Letters栏目。此栏目发表速度快,学术质量高。截至2020年底,平均每篇被引用约20次,已经在国内物理学界建立起良好口碑与声望,来稿数量不断增加。