这篇研究论文《量化深度时空预测中的不确定性》（Quantifying Uncertainty in Deep Spatiotemporal Forecasting）发表于第27届ACM SIGKDD知识发现与数据挖掘会议（KDD ‘21）的会议论文集。论文由来自加州大学圣地亚哥分校的吴冬霞（Dongxia Wu）、马毅安（Yi-An Ma）、Rose Yu，华盛顿大学的Gao Liyao，以及东北大学的Matteo Chinazzi、熊新悦（Xinyue Xiong）、Alessandro Vespignani合作完成。该研究于2021年8月14日至18日在新加坡的线上虚拟会议上发表。这是一篇典型且完整的原创性研究论文（类型a），旨在系统性地探索和评估深度学习模型在时空序列预测任务中进行不确定性量化（Uncertainty Quantification， UQ）的各种方法。
研究背景与目的 深度学习方法因其强大的表示学习能力，在时空预测领域（如交通流量预测、流行病传播预测、空气质量预测）获得了广泛应用。然而，绝大多数现有工作仅关注点预测，即为未来状态提供一个单一的“最佳猜测”值，而未能量化预测的不确定性。在实际高风险领域，例如公共卫生决策（流行病预测）和智能交通管理，能够提供带有置信区间的概率性预测对于风险评估和科学决策至关重要。同时，已知深度神经网络倾向于做出过度自信的预测，缺乏可靠的不确定性估计能力。
在此背景下，不确定性量化（UQ）研究在深度学习领域日益受到重视。主要存在两大流派：频率主义方法侧重于数据的扰动和模型的鲁棒性；贝叶斯方法则关注在给定数据下模型参数的后验分布。尽管UQ研究在分类和回归任务中已有不少进展，但在多步时空预测这一特定且重要的场景下，仍缺乏系统性的基准研究和比较。时空数据具有独特的挑战：复杂的时空依赖性、长预测视野下的误差累积与不确定性传播，以及针对不确定性评估的合适度量标准（传统均方误差MSE不适用）。因此，本研究的核心目标是对深度学习时空预测中的不确定性量化方法进行首次系统的基准研究，将频率主义和贝叶斯方法纳入统一的分析框架，并通过大量真实世界数据实验，揭示不同方法的统计性能与计算代价之间的权衡，最终为从业者提供一套实用的指导方案。
研究流程与方法论 本研究工作流程清晰，可概括为以下几个主要环节：
1. 问题定义与基础模型构建： 研究首先明确定义了时空预测问题：给定一个包含P个地点、每个地点D个特征的多变量时间序列，以及一个表示空间相关性的矩阵A，目标是预测未来H个时间步的序列。研究选用两种主流的深度学习架构作为基础点预测模型，以适应不同几何结构的空间数据： - 规则网格数据（如空气质量地图）：采用卷积长短期记忆网络（Convolutional LSTM, ConvLSTM），它将标准RNN中的矩阵乘法替换为卷积操作，以捕捉空间局部模式。 - 图结构数据（如交通路网、州际人口流动网络）：采用扩散卷积循环神经网络（Diffusion Convolutional Recurrent Neural Network， DCRNN），它将图卷积操作集成到RNN中，以处理非欧几里得空间关系。 这些模型仅提供点估计，后续工作是在此基础上嫁接不同的UQ方法。
2. 评估指标的选择与理论论证： 由于点预测的MSE指标无法评估不确定性估计的质量，而基于似然的指标又难以适用于不显式输出似然的深度学习模型，本研究引入并推广了统计学和计量经济学中的平均区间评分（Mean Interval Score， MIS） 作为核心评估标准。MIS同时奖励更窄的置信区间和更高的观测值覆盖率。论文还从理论上证明了MIS作为评分函数的一致性：在样本无限的情况下，最小化MIS得到的区间恰好是真实的(1-ρ)置信区间；在有限样本下，最优区间则覆盖了ρ比例的数据点。这一理论为后续使用MIS作为训练和评估目标奠定了坚实基础。
3. 不确定性量化方法的统一框架与具体实现： 研究从统计决策理论的角度，将频率主义和贝叶斯UQ方法统一到一个框架下进行分析。随后，详细适配并实现了六种具体的UQ方法，将其应用于上述两种基础时空预测模型： - 频率主义方法： - 自助法（Bootstrap）：通过对训练数据进行重复采样（本研究随机丢弃50%数据）并重新训练模型25次，利用多个模型的预测结果来构建置信区间。 - 分位数回归（Quantile Regression）：直接使用分位数损失函数（pinball loss）训练模型，使其输出指定的分位数（如0.025， 0.5， 0.975），从而直接得到预测区间。 - 样条分位数回归（Spline Quantile Regression， SQ）：为避免分位数交叉问题，假设分位数函数为分段线性样条并强制其单调，通过最小化连续分级概率评分（CRPS）进行训练。 - 平均区间评分回归（MIS Regression）：创新性地将MIS本身作为损失函数，训练一个多头神经网络同时输出预测值、区间上界和下界，直接优化预测区间质量。 - 贝叶斯方法： - 蒙特卡洛丢弃法（Monte Carlo Dropout， MC Dropout）：在训练和测试阶段均以一定概率随机丢弃网络节点，进行多次前向传播，将结果视为来自近似后验的样本，用于计算均值和区间。 - 随机梯度马尔可夫链蒙特卡洛（Stochastic Gradient Markov Chain Monte Carlo， SG-MCMC）：采用更精确的贝叶斯推断方法，通过引入辅助变量和动力学方程（如随机梯度热力学方法SGNHT），对模型参数的后验分布进行采样。本研究采用了25条并行链进行采样。
4. 实验设计与数据集： 为了全面评估上述方法，研究在三个具有代表性的真实世界时空预测任务上进行了广泛的实验： - 网格数据任务：空气质量PM2.5预测。使用北京地区的网格化气象和PM2.5数据，预测未来12至48小时的PM2.5浓度。 - 图数据任务一：METR-LA路网交通速度预测。使用洛杉矶高速公路传感器数据，预测未来15分钟至1小时的交通速度。空间相关性由传感器间的路网距离构建。 - 图数据任务二：COVID-19新增死亡病例预测。这是一个小样本、高风险的挑战性任务。研究采用了混合建模（Hybrid Modeling） 的创新策略：并非直接预测死亡数，而是预测报告死亡数与基于全球流行病与流动性模型（GLEAM）的机制模型预测值之间的残差。空间相关性由美国各州间的日均航空客流量构建。这种“深度学习校正机制模型”的方法，有效结合了机制模型的领域知识和数据驱动模型的灵活性。
5. 性能评估与对比分析： 对于每个任务和每种UQ方法，研究团队从三个维度评估性能： - 点预测精度：使用平均绝对误差（MAE）。 - 不确定性量化质量：使用平均区间评分（MIS），MIS越低越好。 - 区间宽度：反映置信区间的宽窄。 所有实验均在统一环境下进行，详细记录了模型参数、学习率、提前停止等训练细节，确保了比较的公平性。
主要研究结果 实验得出了丰富且具有洞察力的结果，主要可归纳为以下几点：
贝叶斯方法在点预测精度上更优，频率主义方法在不确定性覆盖上更佳：这是本研究最核心的发现。在所有三个数据集的实验中，贝叶斯方法（尤其是SG-MCMC）的MAE通常最低，甚至优于基础的点预测模型，表明通过平均多个后验样本可以提升平均预测的鲁棒性。然而，频率主义方法（特别是MIS回归和分位数回归）在MIS指标上表现最好，意味着它们生成的95%置信区间能更有效地覆盖数据真实值的变异。可视化结果清晰地显示：SG-MCMC的预测均值更贴近真实值，但其置信区间往往较窄，有时无法覆盖真实值；而分位数回归的预测区间更宽，能更好地囊括数据波动。
不同UQ方法存在显著的性能与计算权衡：
混合建模策略在小样本预测中的有效性：在COVID-19预测任务中，直接使用深度学习模型（Deep）在有限数据下表现很差。而结合了GLEAM机制模型的DeepGLEAM混合模型显著提升了预测精度（RMSE降低约6.6%）。这验证了在数据稀缺的高风险领域，利用领域知识（机制模型）作为归纳偏置，再由深度学习学习残差修正，是一种极具价值的策略。
性能解剖：覆盖度与精度的关系：分析表明，在现有深度学习模型中，更好的MIS分数不仅与更高的精度相关，也往往与更宽的置信区间相关。这暗示了这些模型存在普遍的“过度自信”倾向，需要通过UQ方法来更好地捕捉数据中的所有变异源。
结论与价值 本研究通过对六种UQ方法在三种时空预测任务上的系统性基准测试，得出以下重要结论：在计算资源有限的情况下，贝叶斯方法（如SG-MCMC）通常在均值预测上更鲁棒，而频率主义方法（如MIS回归、分位数回归）在覆盖数据变异方面更有效。研究还揭示了不同方法在计算复杂度、样本复杂度和渐进一致性方面的权衡。
基于这些发现，论文为从业者提供了一套清晰的实践指南： - 大数据、计算充足：推荐使用SG-MCMC或自助法，它们兼具准确性、高质量的UQ和理论一致性。 - 大数据、计算有限：推荐MIS回归或分位数回归，能以较低成本获得高质量的区间估计。 - 小数据：推荐使用带有合适先验的SG-MCMC，其贝叶斯框架有助于提升泛化能力。
本研究的科学价值在于：首次在深度时空预测领域建立了系统性的UQ基准，将频率与贝叶斯方法置于统一决策理论框架下进行比较，并提出了具有理论保证的评估指标（MIS）。其应用价值则直接体现在为公共卫生、交通管理、环境监测等高风险领域的决策者提供了选择和使用UQ方法的具体路线图，有助于推动从“点预测”到“概率预测与风险评估”的范式转变。
研究亮点 1. 开创性的基准研究：这是首个针对深度时空预测中不确定性量化问题的系统性基准研究，填补了该领域的空白。 2. 统一的决策理论框架：创新性地从统计决策理论出发，为理解和比较频率主义与贝叶斯UQ方法提供了统一视角。 3. 理论与实践结合的评估：不仅引入了理论性质良好的MIS指标并证明了其一致性，还通过大量真实世界实验验证了其有效性。 4. 实用的“配方”指南：基于详实的实验结果，提炼出了面向不同数据规模和计算资源的UQ方法选择指南，对实践者有直接的指导意义。 5. 创新的混合建模应用：在COVID-19预测中成功应用了“深度学习校正机制模型”的混合策略，为解决小样本、高风险预测问题提供了新思路。
其他有价值的贡献 论文的附录部分提供了所提命题的完整数学证明、实验设置的更多细节（如模型超参数、数据预处理方法）以及GLEAM模型的详细描述，确保了研究的可复现性。此外，研究还指出了未来方向，例如如何结合贝叶斯可信区间和频率主义置信区间的优点，以及如何利用时空数据结构设计更高效的推断算法。这些都为后续研究指明了有潜力的探索路径。