学术研究报告：基于弱监督Transformer的雷达干扰识别新方法

一、 研究作者、机构与发表信息

本项研究的主要作者为哈尔滨工业大学电子与信息工程学院的张梦露、陈玉时（通讯作者）和张晔。研究成果以题为《Weakly Supervised Transformer for Radar Jamming Recognition》的论文形式，于2024年7月10日发表于开放获取期刊 *Remote Sensing*（卷16，期14，文章号2541）。该期刊在遥感科学领域具有重要影响力，本文的发表标志着弱监督学习在非成像雷达信号处理，特别是雷达干扰识别这一关键电子对抗领域，取得了新的突破。

二、 学术研究背景

本研究隶属于雷达信号处理与人工智能交叉学科领域，具体聚焦于雷达干扰识别。在现代复杂电磁战场环境中，雷达系统面临各种有源和无源干扰的严重威胁，准确识别干扰类型是实施有效抗干扰措施、保障雷达生存与效能的前提。传统及基于深度学习的雷达干扰识别方法大多依赖于监督学习，其性能严重依赖于大量且标注精确的训练样本。

然而，实际作战环境中收集的雷达干扰样本往往存在弱监督问题，具体表现为：1) 标签噪声：由于人为失误或环境因素，部分样本的标签可能存在错误（不精确监督）；2) 标签缺失：受限于安全、技术等因素，难以获取足够数量的标注样本（不完全监督）。这两种情况都会导致基于强监督假设的模型性能显著下降。与此同时，现有基于卷积神经网络的方法在提取雷达干扰信号的长程依赖关系（long-range dependencies）方面存在局限，因其卷积核的感受野有限，难以捕捉信号全局特征。

近年来，Transformer 模型因其强大的全局依赖建模能力，在多个领域取得显著成功。弱监督学习，包括处理噪声标签的互补标签学习和处理标签缺失的半监督学习，在计算机视觉、自然语言处理等领域展现出应对弱标注数据的潜力，但在雷达干扰识别任务中尚属空白。

因此，本研究旨在解决上述双重挑战：研究目标是开发一种能够有效利用带有噪声标签或大量无标签雷达干扰样本的弱监督识别框架，通过结合Transformer的全局特征提取优势，提升在真实弱监督场景下的雷达干扰识别准确率。

三、 研究详细工作流程

本研究提出了两种针对不同弱监督场景的创新框架，并进行了系统的实验验证。整体工作流程包含方法设计、数据集构建、实验设置、性能评估与对比分析等多个环节。

1. 针对含噪声标签样本的RADARCL-TR框架 此框架旨在处理训练集中存在错误标签（噪声标签）的情况。其核心流程分为三个阶段： * 第一阶段：噪声雷达干扰样本检测。 研究团队构建了一个基于Transformer的特征提取网络作为识别器。不同于直接使用可能错误的原始标签进行训练，他们引入了互补标签学习。对于一个真实类别为j的样本，其互补标签是从除j以外的其他所有类别中随机选取一个。模型通过最小化一个修改后的损失函数（使模型预测为互补标签的概率趋近于0）进行训练。这种间接学习方式使模型对噪声标签更具鲁棒性，并能在训练过程中初步区分出预测置信度较低的潜在噪声样本。 * 第二阶段：噪声雷达干扰样本清洗。 基于第一阶段训练好的模型，对所有训练样本进行预测，得到每个样本对其当前标注类别的预测概率。根据“干净样本的预测概率通常更高”的假设，设定一个阈值α（研究中设为0.5）。将预测概率高于阈值的样本视为干净样本予以保留，低于阈值的则视为噪声样本予以剔除。由此，从原始含噪训练集D_n中筛选出干净的训练子集D_s。 * 第三阶段：雷达干扰识别。 使用筛选出的干净样本集D_s，重新训练同一个Transformer网络（或从头初始化训练）。此时采用标准的交叉熵损失函数，因为D_s中的标签被认为是准确的。训练完成后，该模型用于最终的雷达干扰类型识别测试。

2. 针对含大量无标签样本的RADARSSL-PL-S-TR框架 此框架旨在处理仅有少量标注样本和大量无标注样本的半监督场景。 * 第一步：使用有标签集预训练。 首先，仅利用少量有标签的雷达干扰样本集D_l，预训练一个Transformer特征提取模型，获得初步的识别能力。 * 第二步：为无标签样本生成伪标签。 将大量无标签样本集D_u输入第一步预训练好的模型，模型为每个无标签样本输出一个预测类别，即伪标签。由此构建一个伪标签样本集D_p。 * 第三步：使用有标签和伪标签集重新训练。 将有标签集D_l和伪标签集D_p合并，共同训练模型。总损失函数为有标签样本的损失和伪标签样本的损失加权和，其中伪标签损失的权重β随训练周期动态调整。 * 第四步：选择可靠的伪标签样本。 为了减少错误伪标签的负面影响，引入了一个选择模块。该模块采用近似排序聚类算法，根据样本在特征空间的聚类关系生成另一组伪标签。将第二步模型生成的伪标签与AROC生成的伪标签进行逐元素比较，两者一致的样本被视为可靠伪标签样本。将这些可靠样本从D_p中移出，加入到有标签集D_l中，更新两个集合。然后，循环执行第三步（重新训练）和第四步（选择可靠样本），逐步迭代优化模型。

3. 研究数据与实验对象 * 数据集： 研究使用了一个仿真的雷达干扰数据集。雷达发射信号为线性调频信号。数据集包含了12种干扰类型，每种500个样本，共计6000个样本。干扰类型涵盖：纯噪声、压制式干扰（瞄准式、阻塞式、扫频式）、欺骗式干扰（距离欺骗、密集假目标）、新型干扰（间歇采样转发、灵巧噪声）、无源干扰（箔条）以及三种复合干扰。每个样本为4000个采样点（实部与虚部各2000点）。 * 实验设置： * 噪声标签实验： 从每类中随机选取30个样本作为训练集，3个作为验证集，其余作为测试集。通过对称噪声转移矩阵，以一定比例（η=0.1, 0.2）随机翻转训练样本的标签，模拟噪声标签。对比方法包括基于噪声鲁棒损失函数的GCE和SCE。 * 半监督实验： 从每类中仅选取10个有标签样本作为训练集，其余作为无标签池和测试集。对比方法包括标签传播和拉普拉斯支持向量机等传统半监督方法。 * 评估指标： 采用总体准确率、Kappa系数和平均每类准确率来衡量识别性能，结果以五次独立实验的均值±标准差报告。 * 模型参数： Transformer编码器块数设为5，注意力头数设为6。采用了余弦退火学习率调度等优化策略。

四、 主要研究结果

1. RADARCL-TR框架实验结果： * 噪声样本检测与清洗有效性： 通过绘制训练过程中干净样本与噪声样本输出概率的分布直方图，可视化验证了所提方法的有效性。在训练早期，两类样本概率分布混杂；在训练中后期，干净样本的概率值显著升高并与噪声样本分离，证明了互补标签学习和清洗模块能有效区分和过滤噪声样本。 * 识别性能对比： 在含10%和20%对称噪声的两种设置下，所提出的RADARCL-TR方法在总体准确率和Kappa系数上均显著优于所有对比方法（包括基于CNN和Transformer的基准方法及噪声鲁棒损失方法）。例如，在20%噪声比下，RADARCL-TR的OA达到92.55%，比次优的SCE-TR方法高出7.07个百分点。这证明了其在噪声环境下的优越性。 * 特征可视化分析： 通过t-SNE对特征进行降维可视化显示，与对比方法相比，RADARCL-TR方法提取的特征具有更小的类内距离和更大的类间距离，表明其能学习到更具判别性的特征表示。 * 复杂度分析： 尽管RADARCL-TR的训练时间因两阶段训练而较长，但其测试推理时间与对比方法相当，且模型参数量并未增加，在保证高精度的同时并未显著增加部署成本。

2. RADARSSL-PL-S-TR框架实验结果： * 参数敏感性分析： 对伪标签损失权重γ进行了调优实验。结果显示，对于基础的RADARSSL-PL-TR，较低的γ值（0.3）效果最佳，有助于减轻错误伪标签的负面影响；而对于引入了选择模块的RADARSSL-PL-S-TR，较高的γ值（3.0）能带来更高精度，因为选择模块提升了伪标签集的质量，可以给予更高权重。 * 识别性能对比： 在每类仅有10个有标签样本的极端情况下，所提出的RADARSSL-PL-S-TR方法取得了最高的总体识别准确率（89.27%），比次优的对比方法（AROC-TR）高出6.17个百分点。RADARSSL-PL-TR也优于所有CNN基方法。这充分证明了利用无标签样本和伪标签选择策略能极大缓解标注数据不足的问题。 * 特征可视化分析： t-SNE图显示，RADARSSL-PL-S-TR方法产生的特征聚类效果最好，不同干扰类型的特征簇分离最为清晰，直观解释了其获得最高识别精度的原因。

结果的逻辑关系： 针对噪声标签问题，RADARCL-TR通过“检测-清洗”流程，净化了训练集，为后续的强监督训练奠定了基础，其优异的实验结果直接证明了该流程的有效性。针对标签缺失问题，RADARSSL-PL-S-TR通过“预训练-生成伪标签-联合训练-选择可靠样本”的迭代过程，逐步利用无标签数据增强模型，其性能随迭代提升的结果验证了该闭环流程的合理性。两个框架的实验结果共同支撑了本文的核心结论：所提出的弱监督Transformer方法能有效提升在两种典型弱监督场景下的雷达干扰识别性能。

五、 研究结论与价值

本研究成功提出并验证了两种针对雷达干扰识别任务的弱监督Transformer框架：RADARCL-TR（应对噪声标签）和RADARSSL-PL-S-TR（应对标签缺失）。实验结果表明，这两种方法在各自对应的弱监督场景下，识别准确率均显著优于现有先进方法。

• 科学价值：

  1. 方法创新： 首次将互补标签学习和结合伪标签选择的半监督学习系统性地引入雷达干扰识别领域，为解决该领域长期存在的“数据标注难、标注质量差”这一瓶颈问题提供了新的、有效的技术路径。
  2. 模型创新： 创造性地将Transformer架构与弱学习策略结合，发挥了Transformer在建模雷达信号长程依赖关系上的优势，同时利用弱监督学习机制克服了其对高质量标注数据的依赖，形成了优势互补。
  3. 理论验证： 通过详实的实验（如特征可视化、参数分析、复杂度比较），不仅验证了所提方法的有效性，还深入分析了其内在工作机制（如噪声样本分离过程、伪标签权重影响），为后续研究提供了有价值的见解。

• 应用价值：

  1. 提升实战能力： 该研究使雷达干扰识别系统在训练数据存在标注错误或标注严重不足的现实条件下，仍能保持高识别性能，极大地增强了雷达电子对抗系统在复杂、不确定战场环境下的适应性和鲁棒性。
  2. 降低数据成本： 减少了对昂贵、耗时的人工精确标注的依赖，使得利用大量易获取但标注质量不高的实战数据或仿真数据训练高性能模型成为可能，具有重要的军事和经济意义。
  3. 技术推广潜力： 所提出的框架具有通用性，其核心思想（Transformer+弱监督）可扩展至其他雷达信号处理任务（如目标识别、型号识别）乃至更广泛的时序信号处理领域，为解决类似弱监督问题提供了参考范式。

六、 研究亮点

1. 问题导向鲜明，切中实际痛点： 研究直接瞄准雷达干扰识别在实际应用中面临的核心难题——弱监督数据，具有明确的现实意义和工程应用背景。
2. 双重框架设计，覆盖完整场景： 针对噪声标签和标签缺失这两种最主要的弱监督类型，分别设计了针对性强、结构清晰的解决方案，形成了较为完整的弱监督雷达识别方法体系。
3. 核心算法新颖，实现有效融合： 首次将互补标签学习与样本清洗机制结合用于雷达噪声标签处理；在半监督学习中创新性地引入了基于聚类一致性的伪标签选择模块，提升了伪标签质量。这些设计与Transformer骨干网络深度融合，是方法取得成功的关键。
4. 实验验证充分，结论令人信服： 研究构建了包含12类干扰的仿真数据集，设置了严谨的对比实验，采用了多种评估指标和可视化手段，从定量精度到定性特征分布，全方位证明了所提方法的优越性和有效性。

七、 其他有价值内容

研究还对所提方法的计算复杂度进行了分析，指出虽然训练时间因多阶段流程有所增加，但测试推理时间与基线方法相当，这表明方法增加的复杂度主要发生在离线训练阶段，对于在线部署识别的影响较小，体现了其工程实用性。此外，论文对雷达干扰信号模型进行了详细描述，为相关领域研究者复现或构建类似数据集提供了参考。