基于CNN与白化度量的杂波协方差矩阵估计用于自适应检测的学术研究报告

本文旨在向各位研究人员介绍一篇发表于《IEEE Transactions on Geoscience and Remote Sensing》期刊（2025年，卷63，文章号5100512）的最新研究论文。该论文的标题为“Clutter Covariance Matrix Estimation Based on the CNN and Whitening Metric for Adaptive Detection”，由Naixin Kang、Weijian Liu（IEEE高级会员）、Zheran Shang、Jun Liu（IEEE高级会员）、Xiaotao Huang（IEEE会员）和Jianjun Ge共同完成。作者单位包括国防科技大学、武汉电子信息研究所、军事科学院、中国科学技术大学以及中国电子科技集团公司信息科学研究院。该研究于2024年11月14日在线发表。

一、 研究背景与目标

本研究属于雷达信号处理领域，具体聚焦于雷达自适应检测中的核心环节——杂波协方差矩阵（Clutter Covariance Matrix, CCM）估计。雷达在探测目标时，接收到的回波信号中往往混杂着来自地面、海面等背景的杂波。自适应检测技术通过利用待检测单元（Cell Under Test, CUT）和邻近的参考（或称“辅助”）单元数据，估计杂波统计特性，从而设计最优滤波器来抑制杂波、提高目标检测能力。其中，准确估计杂波协方差矩阵是实现有效杂波抑制（即“白化”处理）的关键。

传统的协方差矩阵估计方法，如样本协方差矩阵（Sample Covariance Matrix, SCM）、归一化样本协方差矩阵（Normalized SCM, NSCM）和定点估计（Fixed-Point Estimation, FPE）等，均建立在特定的杂波统计模型（如高斯分布、复合高斯模型）假设之上。然而，实际测量数据往往不能完美符合这些理想模型，导致模型失配，进而引起协方差矩阵估计性能下降和检测器性能损失。

近年来，数据驱动的深度学习方法在许多领域展现出超越模型限制的强大能力。一些研究尝试将深度学习应用于雷达信号处理，包括使用深度神经网络（DNN）或卷积神经网络（CNN）进行目标检测或谱估计。然而，这些方法通常面临一个挑战：由于实测数据的真实协方差矩阵（即“地面真值”）无法获取，网络训练通常依赖于模拟数据作为折衷方案。这可能导致当测试数据（实测数据）与训练数据（模拟数据）差异显著时，性能出现严重下降。

因此，本研究旨在解决上述问题，其核心目标是：开发一种能够直接利用实测数据进行训练、不依赖于特定杂波统计模型的、数据驱动的杂波协方差矩阵估计方法，以提升在模型失配情况下的估计性能和最终的自适应检测性能。

二、 研究详细工作流程

本研究提出了一种基于卷积神经网络（CNN）和新型损失函数的协方差矩阵估计网络（Covariance Matrix Estimation Network, CMEN）方法。整个工作流程可分为四个主要步骤，其核心思想是利用传统模型方法进行数据预处理以缩小参数范围、加速网络收敛，然后利用CNN学习更优的加权矩阵，最终通过一个创新的“批白化损失”函数指导网络训练。

步骤一：基于模型的数据预处理 首先，对输入的原始雷达回波数据进行预处理。对于每一个待处理的“帧”（包含一个CUT和K个辅助数据单元），分别计算CUT和每个辅助数据单元的“单元协方差矩阵估计”。研究中选择NSCM作为基础估计器进行计算，即对于第k个单元（k=0代表CUT，k=1,…,K代表辅助单元），其单元协方差矩阵估计为：R̂_k = n * (y_k y_k^H) / (y_k^H y_k)，其中y_k是n×1的复数据向量（n为脉冲数，研究中设为8），(·)^H表示共轭转置。这一步将原始数据转换为一系列协方差矩阵，作为后续网络的输入。研究中使用K=16个辅助单元。

步骤二：协方差矩阵估计网络（CMEN）的构建与估计 这是本研究的核心创新部分。作者构建了一个专门的CNN网络（CMEN）来估计最终的杂波协方差矩阵R̂_net。网络的输入是K个辅助单元的单元协方差矩阵估计{R̂_1, …, R̂_K}。由于这些矩阵是复数的，而网络处理实数，因此首先将每个R̂_k拆分为实部和虚部并进行拼接，形成2K个n×n的实数矩阵作为输入。

CMEN主要由两个模块构成： 1. 多尺度特征提取（MFE）模块：该模块通过多个2维卷积层（Conv2D）、批归一化（Batch Normalization, BN）和ReLU激活函数，从输入的协方差矩阵中提取丰富的特征。网络结构设计（如表II所示）包含了不同尺度的卷积核，以捕获不同层次的特征信息。 2. 权重矩阵计算（WMC）模块：此模块是方法创新的关键。传统方法（如NSCM）在合成最终协方差矩阵时，对所有辅助单元的单元协方差矩阵采用固定且相等的权重（1/K）。本研究认为，距离CUT较近的辅助单元其杂波特性更为相似，应赋予更高权重；同时，单元协方差矩阵内部的不同元素（代表不同脉冲间的相关性）对最终估计的贡献也应不同。因此，CMEN通过学习一个自适应的权重矩阵Ŵ_k来改进估计公式：R̂net = Σ{k=1}^{K} (Ŵ_k ⊙ R̂_k)，其中⊙表示哈达玛积（逐元素相乘）。WMC模块利用通道注意力和空间注意力机制分别计算通道权重向量Ŵ_channel（维度K×1，代表不同辅助单元的重要性）和空间权重矩阵Ŵ_spatial（维度n×n，代表单元协方差矩阵内部各元素的重要性），最终通过元素相乘得到每个辅助单元对应的权重矩阵Ŵ_k。

网络通过爱因斯坦求和约定（Einsum）操作，根据上述公式输出最终的估计矩阵R̂_net。

步骤三：网络训练与损失函数设计 由于无法获得实测数据的真实协方差矩阵作为标签进行监督学习，作者创新性地设计了一种无监督的损失函数——“批白化损失”（Batch Whitening Loss）。该函数的核心思想直接来源于雷达信号处理中协方差矩阵的根本用途：对数据进行白化，使得抑制杂波后的数据近似于白高斯噪声。最优的协方差矩阵估计应能最大程度地白化数据。

对于一个批次（Batch）的B帧数据，损失函数定义为： L = || (1/B) Σ_{b=1}^{B} [ (R̂_net^{(b)})^{-¹⁄₂} R̂_0^{(b)} (R̂_net^{(b)})^{-¹⁄₂} ] - I ||_F 其中，R̂_net^{(b)}是网络对第b帧数据估计的协方差矩阵，R̂_0^{(b)}是第b帧CUT的单元协方差矩阵（由NSCM计算得到），I是单位矩阵，||·||_F表示Frobenius范数。该损失函数度量了用网络估计的矩阵对CUT数据进行白化后，其协方差矩阵与单位矩阵（理想白噪声的协方差）的差距。通过最小化这个损失，网络被引导去学习能够最佳白化数据的协方差矩阵估计器，而无需任何真实标签。研究中采用Adam优化器，设置批次大小B=16，共训练200个周期（Epoch），学习率按计划衰减。

步骤四：性能评估与应用 将训练好的CMEN应用于实测数据（IPIX雷达数据集），评估其性能。评估分为两个方面： 1. 白化能力评估：计算测试数据的“白化损失”（类似训练损失，但是对整个测试数据集而非批次计算），与传统的NSCM和FPE方法进行比较。更低的损失值意味着更好的白化效果。 2. 检测性能评估：将CMEN估计的协方差矩阵R̂_net应用于一个标准的自适应检测器——自适应归一化匹配滤波器（Adaptive Normalized Matched Filter, ANMF）。同时，也将NSCM和FPE估计的矩阵用于同一检测器作为对比。此外，还与一篇近期文献中提出的端到端DNN检测器进行了比较。通过蒙特卡洛仿真，在恒定虚警概率（Pfa = 10^{-2}）下，绘制检测概率（Pd）随信杂比（SCR）变化的曲线，并可视化特定数据帧的检测统计量图。

三、 主要研究结果

实验使用了McMaster大学的IPIX雷达实测海杂波数据集。选取了8个文件用于训练，1个用于验证，2个用于测试。每个文件包含60,000个相干脉冲和28个距离门。

1. 网络训练收敛性：如图6所示，训练和验证过程中的批白化损失随着训练周期增加而收敛并趋于稳定，表明网络得到了有效训练，且未出现过拟合。

2. 白化能力对比结果：在两个独立的测试数据集上，CMEN估计器的白化损失均显著低于传统的NSCM和FPE方法（如图7所示）。这直接证明了CMEN能够学习到更优的协方差矩阵，从而更有效地将杂波数据转换为近似白噪声，达到了设计损失函数的目的。

3. 检测性能对比结果： * 检测概率曲线：如图8所示，在所有测试的SCR范围内，使用CMEN估计器的ANMF检测器获得了比使用NSCM或FPE估计器更高的检测概率（Pd）。这表明更好的白化能力直接转化为了更优越的检测性能。与端到端的DNN检测器相比，CMEN+ANMF的组合性能与之相当，甚至在某些情况下略优。 * 检测统计量可视化：图10和图11展示了向特定数据帧的CUT注入合成目标后，不同方法处理后的检测统计量图。结果显示，CMEN方法能更有效地抑制杂波背景，并在目标所在的多普勒频率处产生更尖锐、更明显的峰值，而DNN检测器在某些无目标区域会产生较大的统计量值，可能导致虚警，表明其稳定性可能稍逊。

4. 消融实验（Ablation Study）结果：为验证CMEN中双注意力机制（通道+空间）的必要性，作者进行了消融研究，比较了完整CMEN、仅含通道注意力的网络（Channel-only Net）和仅含空间注意力的网络（Spatial-only Net）。结果显示（图12，图13）： * Channel-only Net的性能与使用固定权重（即传统NSCM）非常接近。 * Spatial-only Net的性能优于Channel-only Net，但不及完整CMEN。 * 完整CMEN在所有评估指标上均表现最佳。 这一结果有力地证明了同时考虑辅助单元间（通道）和协方差矩阵内部（空间）差异性加权的重要性，也验证了所设计网络结构的有效性。

四、 研究结论与意义

本研究成功提出并验证了一种基于CNN和白化度量的杂波协方差矩阵估计新方法。主要结论如下： 1. 方法有效性：所提出的CMEN能够直接从实测数据中学习估计杂波协方差矩阵，无需依赖特定的统计模型假设或真实协方差矩阵标签。 2. 性能优势：与传统模型驱动的方法（NSCM, FPE）相比，CMEN具有更强的数据白化能力和更高的目标检测概率。 3. 机制验证：通过引入可学习的权重矩阵并利用注意力机制，CMEN能够更合理地融合来自不同辅助单元和不同相关性分量的信息，这是其性能提升的内在原因。

该研究的价值体现在： * 科学价值：为雷达自适应信号处理提供了一种新的、数据驱动的范式。它将深度学习的特征学习能力与信号处理领域的先验知识（白化准则）巧妙结合，开辟了解决模型失配问题的新途径。 * 应用价值：所提方法不依赖于特定的杂波分布模型，因此具有更强的环境适应性和鲁棒性，对于在复杂、非平稳杂波环境（如海杂波、地杂波）下提升雷达探测性能具有实际应用潜力。 * 方法论贡献：设计的“批白化损失”函数为解决无真实标签的协方差矩阵估计问题提供了创新思路，这种思路可以推广到其他需要学习最优变换或滤波器的信号处理任务中。

五、 研究亮点

1. 创新性的问题定义与解决思路：直面“实测数据无真实标签”这一核心挑战，摒弃了依赖模拟数据训练或直接监督学习的传统深度学习思路，转而利用信号处理中的“白化”这一物理意义明确的目标来构造无监督损失函数，实现了网络与实测数据的直接对接。
2. 网络结构设计的针对性：提出的CMEN并非通用网络，其结构（MFE+WMC）紧密围绕协方差矩阵估计的任务特点设计。特别是WMC模块，将传统方法中的固定权重推广为自适应的、由注意力机制生成的权重矩阵，具有明确的物理解释和性能增益。
3. 完整的性能验证链条：研究不仅从中间指标（白化损失）上证明方法的优越性，更进一步将估计结果接入经典检测器（ANMF），从最终的系统级性能（检测概率）进行验证，形成了从估计到检测的完整性能评估闭环。
4. 严谨的消融分析：通过消融实验，清晰、定量地证明了网络中各组件（通道注意力和空间注意力）的贡献，增强了结论的可信度。

六、 其他有价值内容

论文在引言部分对雷达自适应检测和杂波协方差矩阵估计的背景进行了全面而深入的回顾，涵盖了从经典的高斯环境检测器（如Kelly‘s GLRT, AMF）到非高斯（复合高斯）环境检测器（如ANMF），以及相关的协方差矩阵估计方法（SCM, NSCM, FPE）。这为读者理解本研究工作的定位和贡献提供了良好的学术语境。此外，文章对相关工作（包括基于机器学习的分类方法、DNN检测器等）的评述也较为到位，指出了其局限性，从而凸显了本研究的创新点和必要性。