安徽大学徐春燕/石先阳、中科院安光所王中桢WR：稳健的 S3Former 深度学习模型直接诊断和预测水体天然有机物 (NOM)

引言

图文导读

总体架构

图1.提出的用于快速识别3D荧光光谱中NOM的S3Former的整体流程。

如图1所示，我们首先介绍所提出的S3Former架构的整体流程，该架构旨在基于NOM快速诊断3D-EEM光谱。接下来，我们描述了稀疏空间光谱感知的多头注意力机制，该机制针对3D-EEM荧光光谱的空间特征进行了定制。最后，我们详细介绍了模型中使用的随机噪声扰动和自适应学习率调整方案。

实验设计

图 2.基于深度神经网络 (DNN) 开发 NOM 直接3D-EEM 诊断方法的四步实验。

本研究主要包括四个步骤（图2）：步骤1，溶液制备，选取4种NOM，配制并稀释至相应浓度，同时配制二元混合物；步骤2，数据采集，对获得的NOM样品进行荧光检测，获取相应的荧光数据；步骤3，数据分析，利用基于Python的数据处理算法对3D-EEM数据进行量化处理，并采用先进的深度神经网络（DNN）实现对NOM种类及其浓度的快速准确识别；步骤4，实际应用，以膜过滤实验的渗透液作为测试样品，应用该模型分析其荧光数据，确定NOM种类及浓度范围。

预测精度与模型对比

图 3. (A) S3Former 模型对一元 NOM 物种、二元 NOM 物种、一元 NOM 浓度和二元NOM 浓度数据集的预测准确率。(B) 一元和二元 NOM 的气泡图。

如图3所示，S3Former 在多个维度上表现良好。由于其稀疏空间光谱感知注意机制和多级、多尺度特征提取架构，它有效地平衡了准确率和推理时间，同时保持了较低的模型复杂度。推理时间的减少使 S3Former 能够在实际应用中更快地处理大量光谱数据，提供及时的分析结果。图4展示了预测精度。我们的 S3Former 模型出色地诊断了采样的一元和二元 NOM 种类（分别为 100% 和 97.2%）及其浓度（分别为 75% 和 65.6%）。

图 4. S3Former用于一元和二元 NOM 的混淆矩阵。混淆矩阵按特定顺序在行和列中列出物种，列上是预测值，行上是真实值。正确的预测位于矩阵的对角线上。

模型应用

图5. 膜过滤实验示意图及实验结果和S3Former模型验证。膜出水污染物浓度值与S3Former模型预测区间对应。绿点表示预测区间正确，红点表示预测区间不正确，蓝点表示预测区间与实际浓度误差小于1mg/L。

我们设计并进行了一系列 NOM 过滤实验, 使用荧光光谱分析 UF 渗透液。然后使用 Swin-Transformer 和 S3Former 模型分析结果，并使用动态筛选机制识别样品。选择 HA 和 BSA 作为实验的模型污染物。分别以浓度为 1000 ppm 和 100 ppm 的 HA 和 BSA 溶液作为进料。过滤实验中使用截留分子量 (MWCO) 为 0.22 µm（用于HA 过滤）和 10 kDa（用于 BSA 过滤）的聚醚砜 (PES) 膜。实验结果表明，0.22 µm PES  膜对 HA 表现出优异的截留率（稳态截留率 > 97%）。在检测范围内，S3Former 模型对 HA 浓度的识别准确率最高约为 76.9%。10 kDa PES 膜对BSA 表现出良好的截留率（稳态截留率 > 90%），尽管截留率有所波动，但 S3Former 模型对 BSA 浓度的识别仍然比较准确，最高准确率可达 76.9%。相比之下，Swin-Transformer 模型对 HA 浓度的识别准确率最高约为 61.5%，对 BSA 浓度的识别准确率最高约为 53.9%。结果表明，在复杂水样条件下，S3Former 在适用性和稳定性方面优于Swin-Transformer 。