分享自:

用于多类建筑物变化检测的分层DINOv3与Mamba架构

期刊:ISPRS Annals of the Photogrammetry, Remote Sensing and Spatial Information SciencesDOI:10.5194/isprs-annals-xi-3-2026-601-2026

本研究由 Youngwoong Yoon、Jangwoo Cheon、Hwiyoung Kim(均来自韩国首尔 Innopam 公司地理空间团队)和 Impyeong Lee(来自首尔大学地理信息学系)共同完成,论文发表于 ISPRS Annals of the Photogrammetry, Remote Sensing and Spatial Information Sciences 第 XI-3-2026 卷,属于第 XXV 届 ISPRS 大会(2026 年 7 月 4 日至 11 日,加拿大多伦多)的同行评议论文。

学术背景

本研究属于遥感影像变化检测(change detection)领域,具体聚焦于高分辨率航空影像中的四类建筑物变化检测(4-class building change detection)。变化检测旨在比较同一地区在两个时相(T1 和 T2)获取的配准影像,逐像素分类其变化类型。与仅判断“是否变化”的二值变化检测(binary change detection)不同,多类变化检测需要进一步区分变化的性质,在本研究中包括无变化(no change)、新建(new construction)、拆除(demolition)和翻新(renovation)四类。该任务在城市动态监测、可持续规划、基础设施管理和灾害应对中具有重要价值,但面临两个核心挑战:一是类别严重不平衡,真实航空影像中无变化区域远多于所有变化类别的总和;二是特征表示能力不足,许多现有深度学习模型使用从零开始在有限航空数据集上训练的编码器,缺乏大规模预训练带来的通用视觉理解。近年来,视觉基础模型(visual foundation models, VFMs)和视觉状态空间模型(visual state space models, VSSMs)分别展现了强大的特征表示能力和线性复杂度的长程依赖建模能力,但将十亿参数级 VFM 用于专门任务面临计算成本过高和灾难性遗忘风险。本研究的目标是在保持计算可行的前提下,利用 VFM 的丰富先验知识提升多类变化检测性能。

研究流程

研究提出了名为 Hie-DinoMamba 的新型分层架构,主要由四个部分组成:基于冻结 DINOv3-L 的孪生编码器(siamese encoder)、低秩适应(low-rank adaptation, LoRA)模块、分层孪生 Mamba 特征金字塔网络(Feature Pyramid Network, FPN)解码器,以及分层双损失(dual-loss)优化策略。

首先,在特征提取阶段,T1 和 T2 两幅影像分别输入权重共享且完全冻结的 DINOv3-L 编码器。该编码器拥有 11 亿参数,使用 SAT-493M 数据集预训练,该数据集包含从 Maxar 卫星正射影像中采样的 4.93 亿张 RGB 图像。尽管其在卫星影像上具有强领域相关性,但卫星影像(如 0.6 米分辨率)与目标航空影像(0.1 米分辨率、传感器特性和低空视角不同)之间仍存在显著领域差距。冻结策略一方面保留模型的先验知识,避免灾难性遗忘;另一方面大幅降低训练成本。

其次,为弥合领域差距,研究在冻结编码器的注意力机制中的 query 和 value 投影层注入 LoRA 模块。LoRA 通过将权重更新 ΔW 分解为两个低秩矩阵 B 和 A 的乘积,在保持原始权重 W0 不变的情况下,仅训练极少量参数。实验中 LoRA 秩(rank)设为 8,alpha 设为 16。该策略使模型能够针对高分辨率航空影像调整注意力机制,同时将可训练参数数量控制在整个 11 亿参数主干的极小比例。

第三,分层孪生 Mamba FPN 解码器接收来自编码器四个层级的特征对(F1 至 F4)。在每个层级,T1 和 T2 的特征图沿通道维度拼接后通过 1×1 卷积投影到统一通道数,形成融合特征图。解码器采用自顶向下的 FPN 结构,从最深层、最低分辨率的融合特征 Ffuse,4 开始,经过包含 VSSM 块的顶层处理块生成初始变化图 P4,然后逐层向上迭代:上一层的变化图 P{i+1} 经过 2 倍上采样后与当前层融合特征 F_fuse,i 拼接,再经过包含 VSSM 块的横向处理块生成精化后的变化图 P_i。VSSM 块中的选择性扫描机制在不同空间方向上进行二维扫描,以线性复杂度建模长程空间上下文,从而生成更连贯的分割掩膜。

第四,研究采用分层双损失策略。语义头(semantic head)连接在较深、较低分辨率的 P3 特征图上,使用 focal loss 优化变化类型的分类;边界头(boundary head)连接在最浅、最高分辨率的 P1 特征图上,使用 focal Tversky loss 和 Dice loss 的加权组合优化边界像素的精确分割。两个目标在不同层级同时优化,使模型既保证语义准确性又保持空间精度。

研究使用的数据集来自韩国国家信息社会局(National Information Society Agency, NIA)管理的 AI-Hub 航空建筑物变化检测数据集,包含首尔城市区域的 41,548 对 512×512 像素、0.1 米空间分辨率的影像对,官方划分为 36,940 对训练和 4,608 对测试。为缓解类别不平衡,训练时采用物体感知裁剪(object-aware cropping),确保训练裁剪以少数变化类像素为中心;同时应用几何和颜色数据增强。模型使用 PyTorch 实现,优化器为 AdamW,初始学习率 1e-4,余弦学习率衰减,批量大小为 32。

主要结果

在定量评估中,Hie-DinoMamba 在四类基准上取得了 65.12% 的 mIoU 和 75.77% 的 Cohen’s kappa,比最强的 VSSM 基线 ChangeMamba-MC(mIoU 63.02%)提高了 2.1 个百分点。在逐类 IoU 中,Hie-DinoMamba 在无变化(97.09%)、新建(56.17%)和翻新(61.38%)三个类别中取得最佳成绩;其中翻新类比 ChangeMamba-MC 提高了 4.97 个百分点。然而,拆除类的 IoU 为 45.84%,低于 ChangeFormer 的 48.44%,仍是所有模型的挑战性类别。

消融实验揭示了各组件的贡献层级。移除 LoRA 导致 mIoU 下降 4.17 个百分点,是三个组件中影响最大的,其中新建类 IoU 从 56.17% 降至 49.37%(下降 6.80),拆除类从 45.84% 降至 40.81%,翻新类从 61.38% 降至 57.63%。这证明冻结 VFM 需要针对性的领域适应才能在下游任务中达到最优表现。移除边界损失使 mIoU 下降 2.23 个百分点,尤其翻新类从 61.38% 降至 56.22%,表明边界头对于涉及建筑立面改造但整体轮廓不变的翻新类变化具有重要作用。将 Mamba 块替换为标准残差卷积块仅导致 mIoU 下降 0.56 个百分点,说明 DINOv3-L 的表示已编码大量全局上下文信息;但翻新类 IoU 下降 1.14 个百分点,表明对空间分布较广的翻新区域进行分割需要长程空间依赖建模。

定性分析进一步验证了模型的实际性能。在拆除示例中,尽管定量指标适中,Hie-DinoMamba 仍能准确识别被拆除建筑,并产生更少的误检和漏检。在复杂城市场景中,模型能稳健区分公交车等非建筑物体与建筑屋顶,精确识别新建像素。在若干存在标签遗漏的样本中,模型是唯一检测到真实拆除区域的,说明其真实性能可能高于定量指标所反映的水平。在来自训练区域之外牙山市(Asan-si)的样本中,模型成功检测到其他模型未能识别的复杂翻新目标,展示了基于 DINOv3-L 特征的跨区域泛化能力。

结论与价值

研究证明了通过冻结 11 亿参数 DINOv3-L 编码器并结合 LoRA 领域适应,可以在不产生过高计算成本的前提下有效提升多类变化检测性能。Hie-DinoMamba 取得的 65.12% mIoU 为该四类基准设立了新的最先进水平。研究的科学价值在于提供了一种将大型视觉基础模型高效集成到专门遥感任务中的范式,证明了 LoRA 领域适应、双损失优化和 Mamba 解码器在变化检测中的互补作用。应用价值方面,该框架为城市规划和治理中需要精细区分新建、拆除和翻新的变化监测任务提供了高精度工具,并展示了向未见地理区域泛化的潜力。研究同时指出拆除类在定量指标上仍存在挑战,可能与标注缺失有关;未来工作可探索对标签噪声鲁棒的训练方法和更先进的边界细化技术。

研究亮点

本研究的重要发现包括:LoRA 是三个组件中对性能贡献最大的单一因素,尤其对新建类变化的识别至关重要;边界损失对翻新类变化的精确分割具有突出作用;Mamba 块在整体上提供了增量式改进,且其优势具有类别依赖性。方法上的新颖性在于首次将遥感专用的 DINOv3-L 基础模型与 LoRA 和分层 Mamba FPN 解码器结合用于多类变化检测,并将语义分类与边界分割解耦到不同层级进行优化。研究目标的特殊性在于聚焦于航空影像中语义上更具挑战性的四类变化检测,而非常见的二值检测任务,同时验证了模型在完全未参与训练的地理区域上的实际泛化性能。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com