关于《Remote Sensing》2023年发表论文《基于复值卷积神经网络的雷达自适应检测杂波协方差矩阵估计》的学术研究报告
一、 研究作者、机构与发表信息 本研究的主要作者为康乃馨（Naixin Kang）、尚哲然（Zheran Shang，通讯作者）、刘维建（Weijian Liu）和黄晓涛（Xiaotao Huang）。康乃馨和黄晓涛来自国防科技大学电子科学学院，尚哲然来自军事科学院，刘维建来自武汉电子信息研究所。该研究以技术说明（Technical Note）的形式发表于国际期刊《Remote Sensing》2023年第15卷第22期，文章编号5367，于2023年11月15日正式在线发布。该期刊由MDPI出版，本文遵循知识共享CC BY 4.0许可协议开放获取。
二、 学术背景与研究目标 本研究属于雷达信号处理领域，具体聚焦于雷达自适应目标检测中的核心环节——杂波协方差矩阵估计。在雷达探测中，环境杂波（如海杂波）的存在会严重干扰对目标的检测。自适应检测技术通过估计并利用杂波的统计特性（通常由其协方差矩阵表征）来抑制杂波，从而在恒虚警概率（CFAR）下最大化检测概率（Pd）。传统的协方差矩阵估计器（如样本协方差矩阵SCM、归一化样本协方差矩阵NSCM、近似最大似然估计AML等）大多基于特定的数学模型（如高斯分布、复合高斯分布）。然而，实际环境中的杂波特性复杂多变，当实测数据与假设模型失配时，传统方法的检测性能会出现显著下降。
近年来，数据驱动的深度学习方法在雷达信号处理中展现出潜力，能够从大量数据中学习复杂特征，对模型失配具有更好的鲁棒性。卷积神经网络（CNN）因其强大的特征提取能力被广泛应用。然而，现有研究大多使用实值（Real-Valued, RV）网络处理雷达数据，而雷达信号本质上是复值（Complex-Valued, CV）的，包含对目标运动信息至关重要的相位。复值网络能更自然地处理雷达信号的物理特性（如相位旋转），并可能减少学习过程中的自由度，从而有望提升性能。
基于此背景，本研究旨在解决非高斯杂波环境下雷达自适应检测的协方差矩阵估计问题。具体研究目标包括：1) 提出一种基于复值卷积神经网络（CV-CNN）的杂波协方差矩阵估计新方法；2) 构建一个具有相同框架的实值网络作为自然竞争对手，以凸显复值网络的优势；3) 利用模拟数据和实测海杂波数据，验证所提方法相对于传统模型驱动方法及其实值网络变体的性能优越性。
三、 详细研究流程与方法 本研究的工作流程主要包括问题建模、网络设计、训练过程和性能评估四个主要环节，环环相扣。
第一环节：问题建模与数据准备。 研究首先明确了雷达自适应检测的二元假设检验模型。在检测单元（CUT）中，接收到的信号可能仅包含杂波（H0假设）或包含目标信号与杂波（H1假设）。检测器需要利用不含目标的辅助（次级）数据来估计杂波协方差矩阵R，进而用于自适应归一化匹配滤波器（ANMF）等检测器进行目标判决。研究的核心任务就是设计一个数据驱动的估计器R̂_net，以取代传统的模型驱动估计器。为了训练和测试网络，研究采用了模拟的复合高斯（Compound Gaussian, CG）杂波数据作为基础。复合高斯模型能有效描述非高斯海杂波，其纹理分量（Texture）服从逆伽马分布。通过设置不同的相关参数（如一阶相关系数ρ、杂波多普勒频率fc）、纹理参数（形状参数λ、尺度参数μ）以及信杂噪比（SCNR）等，生成了大量多样化的训练和测试数据，以覆盖广泛的杂波场景。对于实测数据验证，研究采用了著名的IPIX雷达实测海杂波数据集。
第二环节：网络结构设计与创新。 本研究提出了一种全新的复值协方差矩阵估计网络（Covariance matrix estimation network based on Complex-Valued CNN, CVCENet）。其核心创新在于网络架构和输入设计。 1. 输入数据多源化： 与传统线性估计器（如R̂ = αR̂_a + (1-α)R̂_s）仅使用正则化矩阵R̂_a和次级数据估计R̂_s不同，CVCENet创新性地引入了三个输入通道，分别接收正则化数据（R̂_a，可为单位阵或基于历史数据的先验矩阵）、主数据协方差矩阵（R̂_p，来自检测单元的杂波估计）以及多个次级数据协方差矩阵（R̂_k， k=1,…,K）。这种设计使网络能够综合利用当前检测单元信息、周围环境信息以及历史先验知识，理论上能获得更准确的估计。 2. 复值网络架构： CVCENet整体框架包含两个主要模块：多矩阵特征提取模块和协方差矩阵重建模块。 * 多矩阵特征提取模块：该模块由三个并行的复值残差密集网络（CV Residual Dense Network, CVRDN）构成，分别处理R̂_a、R̂_p和{R̂_k}这三路输入。每个CVRDN内部包含多个复值残差密集块（CV Residual Dense Block, CVRDB），通过复值卷积层（CVConv2D）和复值激活函数（如CReLU）进行特征提取。残差连接有助于缓解梯度消失问题。 * 协方差矩阵重建模块：该模块接收来自特征提取模块的拼接特征，通过另一个CVRDN和两个CVConv2D层，最终输出估计的复值协方差矩阵R̂_net。 3. 实值对比网络（RVCENet）： 为了公平比较，研究构建了一个与CVCENet框架完全相同的实值网络（RVCENet）。其区别在于，输入数据被拆分为实部和虚部作为两个独立的实数通道，网络内部所有运算均为实值运算，最终输出再合并为复矩阵。这确保了性能差异主要源于对数据复数本质的处理方式不同，而非网络容量或结构的差异。
第三环节：网络训练过程。 训练目标是使网络输出的R̂_net尽可能接近真实的协方差矩阵R（由模拟数据生成作为“地面真值”）。损失函数采用均方误差损失（MSELoss）。在训练中，正则化矩阵R̂_a以50%的概率设置为单位阵I，以50%的概率设置为对真实协方差矩阵R施加一个随机扰动矩阵后的结果，以模拟不同质量的先验信息。训练共进行200个周期（Epoch），每个周期使用10,000组随机生成的训练数据，批次大小（Batch Size）为16，采用Adam优化器，学习率初始为0.001并每50个周期减半。详细的超参数和训练策略在论文的表2和表3中列出。所有代码已在GitHub上开源。
第四环节：性能评估实验。 研究通过大量实验综合评估了所提方法的性能。评估流程如下： 1. 训练收敛性分析：绘制并比较CVCENet和RVCENet在训练和验证集上的损失曲线，以及在不同训练周期下应用于ANMF检测器时的检测概率（Pd）变化曲线，以观察收敛速度和稳定性。 2. 模拟数据检测性能测试：在多种仿真场景下，将基于CVCENet估计的协方差矩阵应用于ANMF检测器，并与基于RVCENet、传统NSCM估计器、收缩定点估计器（SFPE）以及理论最优的NMF检测器（已知真实R）进行比较。测试变量包括： * 杂波非高斯性：改变复合高斯纹理的形状参数λ（λ越小，非高斯性越强）。 * 次级数据数量：设置K = N（刚好满足估计要求）和K = 2N（较充足）两种情况，N为脉冲数（文中N=8）。 * 正则化信息质量：使用单位阵I或不同扰动水平（σ²=0.1, 0.5）的先验矩阵作为R̂_a。 * 目标多普勒频率：改变目标归一化多普勒频率fd，观察其在杂波谱附近（fd接近fc）和远离时的检测性能。 3. 实测数据验证：使用IPIX雷达实测海杂波数据（19980223_170435_antstep.cdf文件）进行测试。选择其中杂波较强的第25个距离单元作为检测单元，利用其前后各N或2N个单元作为次级数据。从该单元的历史数据中估计先验协方差矩阵作为R̂_a。同样，注入不同SCNR和fd的模拟目标信号，评估各估计器在实际杂波环境下的检测性能。
四、 主要研究结果与分析 研究通过系统的实验，得出了全面且具有说服力的结果，证明了CVCENet的有效性和优越性。
1. 训练与收敛结果： 如图8所示，CVCENet和RVCENet的训练与验证损失均随训练周期增加而下降，并在约100个周期后收敛。重要的是，CVCENet的损失曲线始终低于RVCENet，表明其具有更低的估计误差。图9进一步显示，在训练过程中，使用CVCENet的ANMF检测器的Pd上升更快，且最终收敛到的稳定Pd值也高于使用RVCENet的情况。这初步验证了复值网络在学习和估计协方差矩阵任务上的优势。
2. 模拟数据检测结果： * 对杂波特性的鲁棒性（图10）：无论杂波的非高斯性强弱（λ=1.5, 3, 5），也无论次级数据是否充足（K=N或2N），基于CVCENet的ANMF检测器始终表现出最高的检测概率（Pd），最接近理论最优的NMF检测器。RVCENet性能次之，但优于传统SFPE和NSCM。当次级数据稀缺（K=N）时，NSCM性能严重下降，而CVCENet、RVCENet和SFPE因利用了正则化信息（单位阵），仍能保持较好性能，凸显了数据驱动方法和正则化的优势。 * 利用先验信息的能力（图11）：当提供更精确的先验协方差矩阵（σ²=0.1）时，CVCENet和RVCENet的性能均能得到进一步提升，且CVCENet的提升幅度更大，性能最佳。即使先验信息质量较差（σ²=0.5），CVCENet的性能下降也较小，表现出稳健性。而SFPE只能固定使用单位阵作为正则化，无法利用高质量先验信息；NSCM则完全不使用正则化。这表明CVCENet能更智能、更有效地融合多源信息。 * 目标多普勒频率的影响（图12）：当目标多普勒频率fd接近杂波多普勒中心fc时，所有检测器的性能都会下降，形成“凹口”。CVCENet形成的凹口最窄、最深，意味着其在杂波区外能更快地恢复高检测概率，且其在杂波区附近的性能也最接近理论最优值。这证明了CVCENet能更精确地估计杂波谱结构，从而更好地在频域区分目标和杂波。
3. 实测数据验证结果（图14，图15）：在IPIX实测海杂波数据上的测试结果与仿真趋势一致。CVCENet在所有SCNR条件下都取得了最高的Pd，尤其在低SCNR（信杂噪比）条件下优势更为明显。RVCENet性能仍优于传统方法，但明显逊于CVCENet。这一差距在实测数据中比在仿真数据中更为显著，可能因为实测杂波特性更为复杂，而复值网络对复杂相位结构的建模能力更强。图15再次证实，CVCENet在目标多普勒频率远离杂波区时，性能提升最快，凹口特性最好。
4. 结果逻辑与贡献： 上述结果层层递进，逻辑严密。训练结果证明了CVCENet作为估计器本身具有更优的学习能力。仿真结果在受控条件下系统验证了CVCENet在各种关键场景下的优越性、鲁棒性和信息利用能力。最终，实测数据验证将结论推广到真实世界，证明了该方法在实际应用中的有效性和先进性。所有这些结果共同支撑了研究的核心结论：基于复值卷积神经网络的协方差矩阵估计方法显著优于传统的模型驱动方法以及同框架的实值网络方法。
五、 研究结论与价值 本研究成功提出并验证了一种基于复值卷积神经网络（CVCENet）的雷达杂波协方差矩阵估计新方法。主要结论如下： 1. 方法有效性：CVCENet能够有效估计非高斯杂波环境下的协方差矩阵，将其应用于ANMF检测器，能在次级数据充足或不足的情况下，均获得比传统估计器（NSCM, SFPE）及同框架实值网络（RVCENet）更高的目标检测概率（Pd）。 2. 复值网络优势：与实值网络相比，复值网络（CVCENet）在训练中收敛更快，估计误差更低，最终检测性能更优。这证实了在处理本质为复数的雷达信号时，利用复值运算符合数据物理特性，能减少无效自由度，从而带来性能增益。 3. 数据驱动与信息融合优势：CVCENet作为一种数据驱动方法，通过大量多样化数据训练，降低了对特定数学模型的依赖，对模型失配更具鲁棒性。其多通道输入设计能够综合利用主数据、次级数据和先验信息，从而提升了估计精度，特别是在先验信息可用时能进一步优化性能。
研究的科学价值在于为雷达自适应信号处理领域提供了一种新的、性能更优的协方差矩阵估计范式，即从纯模型驱动转向数据与模型混合驱动，并强调了复数域深度学习在雷达信号处理中的潜力。应用价值则体现在能直接提升雷达系统在复杂杂波环境（尤其是非高斯海杂波）下的目标检测能力，对于提升雷达的探测性能具有实际意义。
六、 研究亮点 1. 首创性网络架构：首次提出专门用于雷达杂波协方差矩阵估计的复值卷积神经网络（CVCENet），并设计了融合主数据、次级数据和正则化数据的三通道输入结构，这是一个新颖的架构设计。 2. 复值与实值的系统对比：构建了与CVCENet框架完全一致的实值网络（RVCENet）作为“自然竞争对手”，进行了公平、系统的对比实验，有力证明了复值网络在处理雷达复信号问题上的固有优势，而不仅仅是网络容量增加带来的效果。 3. 全面严谨的性能评估：不仅进行了广泛的仿真实验（覆盖不同杂波特性、数据量、先验信息质量、目标参数），还使用了权威的IPIX实测海杂波数据进行验证，评估维度全面，结论可靠。 4. 开源与可复现性：作者公开了所有源代码，促进了研究的可复现性和后续发展。
七、 其他有价值内容 论文还对性能提升的原因进行了初步分析：与实值网络相比，复值网络的乘法规则能根据数据的物理特性强制进行信号变换，减少无效自由度，从而加速收敛并增强对数据的适应性。与传统方法相比，基于神经网络的估计器受益于在各种条件下生成的大量训练数据，可以看作是同时利用大量当前数据和历史数据来估计真实协方差矩阵的估计器，这与仅使用当前数据的传统估计器有本质不同。此外，论文在引言部分对相关领域工作（传统估计器、实值CNN在雷达中的应用）进行了梳理，为读者提供了清晰的学术背景。文末也指出了未来可能的工作方向，即使用更多的实测海杂波数据进一步训练网络以获得更好性能。