分享自:

WIND: 用于零样本大气建模的气象逆扩散模型

期刊:Proceedings of the 43rd International Conference on Machine Learning

关于“WIND:面向零样本大气建模的天气逆向扩散模型”的学术报告

作者与发表信息

本研究由来自多个顶尖机构的 Michael Aich(慕尼黑工业大学、波茨坦气候影响研究所)、Andreas Fürst(约翰内斯·开普勒林茨大学)、Florian Sestak(约翰内斯·开普勒林茨大学、Emmi AI GmbH)等学者共同完成,其中前三位为共同第一作者。该项研究成果发表于机器学习领域的顶级会议——第43届国际机器学习大会(ICML 2026)的论文集中。

研究背景与目标

深度学习虽已在天气预报领域引发变革,但在气候建模等方向仍面临诸多挑战。当前该领域高度碎片化,研究者通常需为降水降尺度(precipitation downscaling)和风速预测等每一个特定任务,从头训练一个专用模型。为扭转此局面,本文作者提出了名为 WIND(Weather INverse Diffusion)的统一框架。该方法旨在构建一个单一的、预训练的“基础模型”(foundation model),以取代各类任务中的专用基准模型,其关键创新在于无需任何针对特定任务的微调(fine-tuning)。为达成这一目标,WIND通过自监督视频重建任务进行预训练,利用无条件视频扩散模型(unconditional video diffusion model)从带噪声状态中迭代重建大气动力学过程,以学习一个鲁棒的、任务无关的大气先验知识。在推理阶段,研究者将不同的领域问题严格构建为反问题(inverse problems),并通过后验采样(posterior sampling)加以解决。这一统一方法可处理概率预报、时空降尺度、稀疏观测重建及推行全球干空气团守恒等高度相关的天气和气候问题。

详细工作流程与研究方法

WIND框架的核心是将大气动力学学习与具体的下游应用解耦,整个流程分为两大阶段。

第一阶段:基于扩散强制(Diffusion Forcing)的预训练。研究选用ERA5再分析数据集,分辨率设为1.5°,时间步长为6小时,序列长度T=5,涵盖C=70个大气变量。所采用的骨干网络是一个具有约4.58亿参数的空时U-ViT(spatiotemporal U-ViT)模型,并能同时处理所有变量以隐式编码其互依关系。此阶段的训练方法与标准视频扩散模型迥异。标准方法对所有视频帧施加相同噪声水平,而WIND遵循“扩散强制”(diffusion forcing)范式,对序列中的每一帧独立采样一个噪声水平k_t ∈ [0, 1]。前向过程依据公式z_t = α(k_t)x_t + β(k_t)ϵ_t对原始帧x_t加噪,U-ViT骨干网x̂_θ(z)则旨在从带噪序列z中重建出干净的完整序列。一个关键设计是网络不接收噪声水平k_t作为条件输入,迫使模型仅从含噪的输入数据中自行推断每帧的不确定性,从而学习到更鲁棒的表征。训练目标是最小化预测值与真实值之间的加权均方误差。

第二阶段:基于矩匹配后验采样(MMPS)的零样本推理。预训练完成后,模型权重被冻结。任何下游任务都被形式化为一个反问题,即通过一个可微的前向算子(forward operator)A,从观测值y(满足y = A(x) + η)中恢复大气状态x。推理过程中的核心是依据贝叶斯法则,计算后验得分∇_z log p(z|y),它等于先验得分(由预训练模型提供)与似然得分(likelihood score)之和。计算似然得分的难点在于需对所有可能的干净状态进行边际化。不同于假设p(x|z)为狄拉克分布的扩散后验采样(DPS),本研究采用矩匹配后验采样(MMPS),将该分布近似为高斯分布N(x̂_θ(z), v[x|z]),并利用特威迪协方差公式(Tweedie’s covariance formula)估计其方差,从而在校准引导时有效考虑了模型在不同噪声水平下的预测不确定性。似然得分通过共轭梯度法(conjugate gradient method)高效求解,无需显式计算高维矩阵的逆。

研究通过为不同任务定义特定的算子A,展现出极强的通用性。 - 概率预报:算子A为单位矩阵,不施加任何引导,仅以一个干净帧为起点,对未来的纯噪声帧进行去噪,实现条件生成。 - 空间降尺度:算子A为平均池化(average pooling),强制生成的高分辨率场在池化后与低分辨率输入一致。 - 时间降尺度:算子A计算时间均值,约束生成的高频序列的日均值必须与给定的日均观测值匹配。 - 稀疏重建:算子A为一个二值掩码,模型依据未掩码处的观测值,利用学到的先验去填补99%的未知区域。 - 全球干空气团守恒:算子A为一个非线性函数,用于计算全局干空气体积分,并在推理的每一步均强制其恒定于目标值。 - 气候变暖情景模拟:算子A计算全球空间均值,用以持续约束热力学变量的全球均值偏移,维持一个比训练数据更暖的背景气候态。

主要实验结果与结论

实验证明,WIND在多类任务上性能卓越。在14天概率预报中,其连续分级概率评分(CRPS)在数天后即优于自回归式U-ViT基准模型,展现出更优的长期稳定性。在定标分析中,WIND的集合离散度-技术比率(SSR)随时间趋近于1,意味着其集合预报的不确定性估计精准,而基准模型则出现过度自信或离散度过大的问题。在空间降尺度任务中,尽管确定性U-ViT基准的像素级均方根误差(RMSE)略低,但功率谱密度分析显示,WIND能高度保真地再现ERA5地面真值的高频细节能量,避免了确定性模型因回归均值而产生的光谱模糊。在稀疏重建任务中,面对仅1%观测点的极端情况,WIND的RMSE在主要动力学变量上超越了专用U-ViT基线,生成了与真值无异的清晰结构,而克里金插值法则显得过度平滑。在物理一致性方面,WIND在不损害短期预报技巧的前提下,通过推理时引导,成功将一次200天后发生漂移的长期自由运行稳定在目标干空气质量上达四年之久。最后,在针对德国“伯恩德”风暴(Storm Bernd)进行的气候变暖情景创想式分析中,主动引导的集合预报有效维持了+2°C增温和+14%比湿的异常状态,避免了自由运行模型迅速回归训练分布的倾向,并捕捉到了峰值降水增强13.9%的克劳修斯-克拉佩龙尺度化(Clausius-Clapeyron scaling)效应,甚至在个别极端场景下展现出超理论值的增幅,揭示了局部尾部风险。

研究价值与亮点

WIND标志着大气建模从专用单一任务模型向统一概率基础模型的范式转移。其核心科学价值在于,它论证了一个经自监督预训练的强大生成式先验,可以取代多个下游任务中的专家模型。通过将扩散强制训练的灵活性与MMPS的通用引导能力相结合,WIND赋予了单一模型解决异构反问题的能力,例如可处理任意传感器布局的稀疏重建,或引入非线性物理约束。该框架的计算效率和应用灵活性,为气候变化下的灾害风险减缓、可再生能源规划等提供了极具潜力的新工具。研究强调,虽然蒸馏技术可解决其当前推理速度较慢的局限性,且在0.25°更高分辨率上训练将能更好地解析极端事件,但WIND已成功地展示了其作为通用大气人工智能模型雏形的强大能力。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com