基于全复数值神经网络的高擦地角海杂波协方差矩阵估计研究学术报告

本报告介绍一项由国防科技大学与自然资源部第一海洋研究所的研究团队共同完成的研究工作。该研究题为“Neural Network-Based Covariance Matrix Estimation for Sea Clutter at High Grazing Angle”，发表于 IEEE Transactions on Aerospace and Electronic Systems 期刊，接收于2026年3月，并于2026年4月以当前版本在线发布。该研究聚焦于雷达信号处理领域，特别是针对高擦地角条件下的海杂波协方差矩阵估计这一关键问题，提出了一种创新的深度学习解决方案。

一、 学术背景与研究动机

机载雷达因其平台飞行高度高、观测范围广，在海上搜救、巡逻监视等任务中发挥着至关重要的作用。然而，俯视工作的机载海上雷达会遭遇强烈的海杂波干扰，极大地增加了信号处理的难度。海杂波具有显著的随机性和非高斯特性，其统计特性（尤其是协方差矩阵）对于目标检测和杂波抑制等任务至关重要。

传统的协方差矩阵估计方法，如样本协方差矩阵（SCM）、归一化样本协方差矩阵（NSCM）和固定点估计（FPE），在理想或特定模型假设下表现良好。然而，在实际的高擦地角场景中，海杂波的统计特性更为复杂，存在模型-数据失配、参考单元被目标能量污染（即“污染单元”问题）以及协方差矩阵元素间固有的幅度-相位关系被破坏等挑战。这些因素导致传统方法的估计精度下降，进而使得依赖这些估计的自适应检测器性能恶化，甚至失去恒虚警率（CFAR）特性。

近年来，数据驱动的深度学习方法因其强大的非线性拟合能力，在雷达信号处理中展现出潜力。然而，现有的基于深度学习的协方差矩阵估计方法通常将复数值矩阵拆分为独立的实部和虚部进行处理，这破坏了矩阵元素间的幅度-相位依赖关系，且无法保证估计出的矩阵满足协方差矩阵必须是埃尔米特（Hermitian）矩阵这一基本数学性质。此外，这些方法大多依赖模拟数据训练，在面对实测数据时性能会显著下降，并且对参考单元中的能量泄漏和污染问题考虑不足。

因此，本研究旨在解决上述挑战，其核心目标是：开发一种能够保持协方差矩阵埃尔米特性质和复数值幅度-相位关系的神经网络估计方法；设计一种能够在实测数据上直接训练、并对污染单元具有鲁棒性的学习框架；最终提升高擦地角下海面目标的检测性能。

二、 研究流程与方法详述

本研究包含理论框架构建、网络架构设计、损失函数创新、数据集构建与训练、以及综合性能验证等多个详细步骤。

1. 理论框架与问题建模： 研究首先从雷达目标检测的二元假设检验模型出发，明确了协方差矩阵在自适应检测器中的核心地位。接着，从海杂波多普勒谱的物理模型（如演进高斯谱模型）出发，推导了协方差矩阵元素（自相关函数）与多普勒中心频率和谱宽的数学关系，为后续利用复数值网络保留相位信息提供了理论依据。在此基础上，研究团队提出了一个创新的、可学习的复数值加权协方差矩阵估计通用公式：M̂_cut = Σ_{r=1}^{R} (V_r V_r^H) ⊙ M̂_r。其中，M̂_r 是第r个参考单元的归一化协方差矩阵（如NSCM），V_r 是通过复数值神经网络学习得到的复权重矩阵，⊙ 表示哈达玛积，H 表示共轭转置。通过强制 V_r V_r^H 为埃尔米特矩阵，确保了最终估计的 M̂_cut 也必然是埃尔米特矩阵，从而严格满足了协方差矩阵的数学结构。

2. 网络架构设计（ICMEN）： 基于上述公式，研究团队设计了一个名为“改进的协方差矩阵估计网络”（Improved Covariance Matrix Estimation Network, ICMEN）的全复数值神经网络。该网络主要由三个模块构成： * 编码器模块（Encoder Module）：采用一个复数值卷积编码器，以滑动窗口方式处理R个参考单元的NSCM输入。该模块包含复卷积层、复批归一化层、复修正线性单元（CReLU）激活函数和基于幅度的复最大池化层，用于提取和压缩每个参考单元协方差矩阵的复数值特征，输出一组复特征向量。 * 辨识模块（Identification Module）：为了解决污染单元问题，该模块对编码器输出的每个复特征向量进行分析，将其分类为“纯净海杂波单元”或“污染单元”。它由一个复卷积层和一个幅度Softmax激活函数构成，输出一个二维复向量，其幅度代表了该单元属于两类别的概率。 * 解码器模块（Decoder Module）：这是网络的核心估计部分。它将所有参考单元的复特征向量集和原始的NSCM张量作为输入。首先通过特征融合与压缩，然后利用一个可学习的参数网络预测出每个参考单元对应的复权重矩阵 V_r。接着计算 W_r = V_r V_r^H 得到埃尔米特权重矩阵。最后，通过对所有参考单元的加权NSCM进行爱因斯坦求和，得到待检测单元的最终协方差矩阵估计 M̂_cut。

网络中的所有层（卷积、批归一化、池化、上采样、激活函数）均设计为处理复数值运算，以完整保留数据的幅度和相位信息。

3. 多任务损失函数与训练策略： 为了在实测数据上有效训练网络并增强对污染单元的鲁棒性，研究设计了一个多任务损失函数：L = L_white + λ L_identification。 * 白化损失（L_white）：该损失函数直接作用于实测数据，其核心思想是，一个理想的协方差矩阵估计应能完美地白化纯净的海杂波数据。损失计算估计矩阵的逆平方根对参考数据的白化结果与单位矩阵之间的Frobenius范数差异。 * 辨识损失（L_identification）：这是一个监督损失，用于训练辨识模块准确区分纯净和污染单元。它基于交叉熵损失函数，但针对复数值输出进行了专门推导。 * 超参数λ：用于平衡两项损失的贡献，本研究通过实验确定为λ=2。

网络使用Adam优化器进行训练，批量大小为32，初始学习率为0.001，共训练100个周期。在测试阶段，移除了辨识模块以降低计算复杂度，形成ICMEN_t网络。

4. 实验数据与设置： 研究使用了新收集的高擦地角数据集（HGAD）。该数据由自然资源部第一海洋研究所于2023年5月在中国渤海海域通过机载Ku波段雷达采集，擦地角为80度，海况3级。数据集包含192个固定波位，每个波位有512个脉冲和280个距离单元。研究采用五折交叉验证来评估方法。在训练数据中，随机引入了污染单元（包含合成目标信号），其中30%的样本包含2个污染单元，另外30%包含4个污染单元，以模拟实际中的目标能量泄漏。合成目标的信杂比（SCR）和多普勒频率在一定范围内均匀分布。

5. 性能评估与对比实验： 研究将提出的ICMEN方法与几种基准方法进行了全面对比，包括传统方法NSCM和FPE，以及之前基于实值网络的深度学习方法CMEN。评估指标包括： * 检测概率（Pd）：将各方法估计的协方差矩阵接入自适应归一化匹配滤波器（ANMF）检测器，在不同SCR和多普勒频率下计算Pd。 * 虚警偏差（ΔPfa）：通过在训练集上计算指定虚警概率（Pfa = 5×10^-4）对应的检测门限，并将其应用于测试集的纯净杂波单元，计算实际虚警概率与设定值的偏差，以衡量方法的CFAR控制能力。 * 统计搜索图：通过在所有距离-多普勒单元上运行检测器并统计目标被发现的概率分布，直观展示不同方法对杂波的抑制能力和目标能量的聚焦效果。

此外，研究还进行了一系列深入的消融实验和参数分析，以验证各个组件的贡献，包括：评估污染单元数量（CRC）的影响、分析不同初始化矩阵（SCM, NSCM, FPE）的效果、探讨超参数λ的取值影响，以及通过构建不同的消融模型（如移除辨识模块、将复权重替换为实权重等）来剖析ICMEN各个部分的作用。

三、 主要研究结果

实验结果表明，所提出的ICMEN方法在高擦地角海杂波协方差矩阵估计任务上全面优于对比方法。

1. 检测性能：在不同SCR和多普勒频率下，ICMEN均取得了最高的检测概率（Pd）。特别是在目标多普勒频率落入海杂波谱内部（fd = -0.1）的挑战性场景下，在SCR=15 dB时，ICMEN相比次优方法将Pd提升了约15%。这证明了其复数值网络在保留多普勒相位信息、从而更精确估计协方差矩阵方面的优势。统计搜索图进一步显示，ICMEN能最有效地抑制杂波背景，并将目标能量最清晰地聚焦在正确的多普勒频率上。

2. 虚警控制：在跨多个多普勒导向向量的虚警偏差评估中，ICMEN表现出最佳的虚警控制能力，其平均绝对偏差最小（2.96×10^-5）。这表明ICMEN估计的协方差矩阵能更稳定地维持检测器的CFAR特性。

3. 鲁棒性分析：

   • 抗污染单元能力：当污染单元数量（CRC）增加时，所有方法的性能都会下降，但ICMEN的下降幅度显著小于CMEN。例如，当CRC=4时，CMEN的检测性能下降了近2.5 dB，而ICMEN下降较小。同时，ICMEN在不同CRC下的虚警偏差也始终低于CMEN。这证实了其内置的辨识模块和多任务损失函数能有效缓解污染单元带来的负面影响。
   • 初始化矩阵选择：实验表明，使用NSCM或FPE作为网络输入初始化矩阵的性能优于SCM，因为前者更适合非均匀的复合高斯杂波模型。鉴于FPE的迭代计算成本较高而性能提升有限，研究选择NSCM作为初始化方案。
   • 超参数λ分析：实验发现λ=2能在检测性能和虚警控制之间取得最佳平衡。当CRC增大时，较大的λ（即更强调辨识损失）表现更好，这符合直觉。

4. 消融实验结论：消融实验（CRC=4条件下）清晰地证明了ICMEN各组成部分的有效性。完整的ICMEN性能最佳。移除辨识模块（Ablation 1）或使用实权重替代复权重（Ablation 2）都会导致性能下降，其中实权重的影响更为严重。同时移除两者（Ablation 3）的性能与基础的CMEN方法相近。这分别验证了：1) 复数值权重对于保持幅度-相位关系至关重要；2) 辨识模块对于处理污染单元非常有效。

四、 研究结论与价值

本研究成功提出并验证了一种基于全复数值神经网络的高擦地角海杂波协方差矩阵估计方法（ICMEN）。该方法通过创新的复数值加权公式和网络架构，严格保证了估计矩阵的埃尔米特性，并完整保留了数据的幅度-相位信息。通过设计结合白化损失和辨识损失的多任务目标函数，该方法能够直接在实测数据上进行训练，并对参考单元中的目标污染表现出较强的鲁棒性。

科学价值：本研究将深度学习的强大拟合能力与雷达信号处理中的严格数学模型（埃尔米特协方差矩阵）相结合，为数据驱动的协方差矩阵估计提供了一种新的、更具物理可解释性的范式。它明确了在复信号处理中保持复数域完整性的重要性，并展示了如何通过网络设计来强制执行必要的数学约束。

应用价值：该方法显著提升了高擦地角条件下雷达对海面目标的检测性能，同时保持了良好的虚警控制能力。这对于提升机载海事监视、搜救等实际应用的效能具有直接意义。所构建的高擦地角实测数据集（HGAD）也为该领域的研究提供了宝贵的资源。

五、 研究亮点

1. 理论创新：提出了一个具有严格数学保证（埃尔米特性）的可学习复数值加权协方差矩阵估计通用公式，为数据驱动方法提供了坚实的理论框架。
2. 方法创新：设计了首个用于协方差矩阵估计的全复数值神经网络（ICMEN），所有层均支持复数值运算，从根本上解决了传统实值网络割裂幅度-相位关系的问题。
3. 损失函数创新：设计了结合白化损失和辨识损失的多任务损失函数，使得网络能够直接在实测杂波数据上训练，并主动学习和抑制污染单元的影响，增强了方法的实用性和鲁棒性。
4. 实验验证充分：基于真实的高擦地角机载雷达数据进行了全面、系统的实验，不仅对比了检测性能，还深入分析了虚警控制、鲁棒性、参数影响等，并通过消融实验明确了各模块的贡献，论证严谨。
5. 性能卓越：实验结果表明，该方法在检测概率和虚警控制两方面均超越了现有的先进方法（包括传统方法和深度学习基线），尤其是在目标多普勒落入杂波谱内及存在污染单元等困难场景下优势明显。

六、 其他有价值内容

研究团队在文中也指出了未来的工作方向，主要包括：1) 研究多任务损失中λ的自适应加权方法，以在训练过程中更好地平衡不同任务间的梯度；2) 收集不同海况和地理区域下的高擦地角数据，以进一步验证和提升方法的泛化能力。这些方向为该技术的持续发展指明了道路。