引用格式: 闻建刚, 李依静, 倪郑威, 等. 基于机器学习方法的OQAM-FBMC 调制波形分析与优化设计. 中国科学: 信息科学, 2026, doi: 10.1360/SSI-2025-0237
本文聚焦6G通信核心挑战，提出基于机器学习的OQAM-FBMC原型滤波器设计方案，完善了滤波器指标与系统性能定量关联的空白，为6G候选波形优化提供新路径。6G需突破Tbps级传输速率，依赖毫米波、太赫兹等高频段资源，却面临频谱碎片化、非视距链路衰落、高速移动多普勒效应三大问题；滤波多载波（FMC）技术如OQAM-FBMC因时频灵活分配、低带外辐射等优势成6G物理层候选，但存在原型滤波器设计盲目（无指标与性能定量模型，阈值靠经验）、优化模型复杂（易陷非凸问题，难兼顾多指标）的瓶颈。本文以OQAM-FBMC为对象，通过“数据集构建→关联分析→聚类划分→模型优化”形成闭环：先收集数万个滤波器样本（含传统与约束优化方法），提取12项指标并计算多场景SINR，经预处理得近3万有效样本；再用Spearman分析剔除冗余（如排除低相关指标），锁定6项关键滤波器指标，发现NYQ-ISI与SINR最强负相关；接着结合t-SNE用K均值将数据划分为6个子集，明确最优子集的指标范围，验证NYQ-ISI的关键作用；最后以最小化NYQ-ISI为目标，将非凸约束转化为线性矩阵不等式，并进一步将原非凸问题转为半定规划（SDP）问题，用sdpvar工具高效求解，且约束阈值可灵活调整。该研究的贡献可归纳为：首次通过Spearman+K均值建立滤波器指标与SINR的定量映射，解决指标盲设问题；将NYQ-ISI设为优化目标而非约束，避免ISI门限难题；通过LMI转化实现SDP求解，兼顾精度与效率；方法可推广至UFMC、GFDM等其他FMC技术。仿真实验从三方面验证有效性：本文方法设计的H1-H5滤波器在多场景下SINR、SER优于传统PHY/IOTA及异常指标滤波器(见图1(a))，OOBE与PHY相当；H5的NYQ-ISI等指标优于多种文献方法，多调制方式下SER相对更优；采用最优设计原型滤波器的OQAM-FBMC，复杂度介于OFDM与OTFS-OFDM之间，相同SER要求下较两者分别有3dB、2dB的SNR优势(见图1(b))，仅PAPR略高但可优化改善。综合来讲，本文提出的“机器学习+SDP优化”方案，有效解决了OQAM-FBMC原型滤波器的设计难题，可为6G FMC实用化提供支撑，未来可优化数据集以适配更多的FMC技术。图1 (a) 本文设计所得滤波器(H1-H5)与其他滤波器的SER对比；(b) 采用H5的OQAM-FBMC与OFDM、OTFS-OFDM的SER对比
