本研究由Kai Zhang、Jun Yan、Feng Zhang、Chiru Ge、Wenbo Wan、Jiande Sun和Huaxiang Zhang等作者共同完成,他们主要来自Shandong Normal University信息科学与工程学院以及University of Jinan信息科学与工程学院。该研究于2024年发表在遥感领域顶级期刊IEEE Transactions on Geoscience and Remote Sensing(卷62)。
这项研究属于遥感图像处理与计算机视觉交叉领域,具体专注于高光谱(HS)与多光谱(MS)图像融合这一重要课题。高光谱成像技术能够获取数十至数百个光谱波段来描述观测场景,已成为遥感领域最重要的技术成就之一。然而受物理限制,现有技术难以同时获取高空间分辨率的高光谱图像。
研究团队指出,现有基于深度神经网络(DNN)的方法虽然取得了一定效果,但两个关键先验信息未被充分利用:光谱波段相关性(Spectral Band Correlation, SBC)和空间非局部相似性(Spatial Nonlocal Similarity, SNS)。为解决这一问题,作者团队提出了谱间-空间双图展开网络(Spectral-Spatial Dual Graph Unfolding Network, SDGU-Net),这是首个将谱间和空间正则化优化模型展开为网络的创新方法。
SDGU-Net的整体架构源于图正则化重建模型的优化过程,通过引入谱间图和空间图来规范化期望的高空间分辨率HS图像重建。研究包含以下关键流程:
采用近端梯度下降法解决优化问题。定义输入为升采样的低分辨率HS图像,其中每个光谱波段被视为图节点。使用谱间图卷积网络(GCN)在特征空间中捕捉SBC,通过以下迭代更新方程:
e_{i+1} = [(I-λD^T D)e_i + αX̃_0L_1](I+αL_1)^{-1} 该模块包含空间残差块和逆谱间GCN两个核心组件,其中: - 空间残差块使用步长卷积(sconv)和转置卷积(dconv)学习空间降质与提升 - 逆谱间GCN通过计算特征图间的相似性矩阵获取通道相关性
同样基于近端梯度下降法,将图像分块处理后,每块视为图节点。构建空间GCN和逆空间GCN来学习全局SNS,迭代方程为:
d_{i+1} = [(I-λS^T S)d_i + βX̂_0L_2](I+βL_2)^{-1} 创新性地采用: - 两个3×3卷积层生成patch特征 - 全连接层计算块间相似性矩阵 - 聚合操作增强空间结构一致性
将上述两个优化过程展开为k级联的谱间和空间图展开模块,主要创新点包括: - 特征融合模块:通过残差学习整合谱间和空间信息 - 特征凝聚模块:使用注意力机制强调显著内容 - 最终重建公式:X = μY + ρU(Z)+O
在四个标准数据集上评估: 1. CAVE数据集:32张512×512图像,31个波段 2. Harvard数据集:50张1392×1040图像 3. Pavia数据集:610×340遥感图像,103个波段 4. DFC2018 Houston数据集:4172×1202图像,48个波段
评估指标采用PSNR、SAM、UIQI、SSIM和ERGAS五种定量指标,并与9种先进方法对比(包括4种传统方法和5种DNN方法)。
实验结果显示SDGU-Net在所有数据集上均取得最优或次优性能:
模块重要性:
图卷积的作用:
超参数分析:
该研究的主要科学贡献包括: 1. 方法论创新: - 首次将谱间和空间图正则化优化展开为端到端网络 - 提出双图卷积机制分别处理SBC和SNS
技术突破:
应用价值:
模型驱动与数据驱动的融合:通过展开优化算法保持可解释性,同时利用DNN强大学习能力
全局相关性建模:突破了传统局部窗口限制,实现全图范围的谱间和空间关系捕捉
轻量高效架构:仅需两阶段展开即可优于多数深层网络,推理速度达到17fps
该研究的局限在于需要预先已知光谱响应函数,未来将探索盲融合架构和自适应参数学习机制。这项工作为多源遥感数据融合提供了新思路,相关方法论也可迁移至其他图像恢复任务。