（基于文档内容判断，本文档属于类型a：单篇原创性研究报告）

ICLR 2025会议论文《Learning Spatiotemporal Dynamical Systems from Point Process Observations》学术报告

一、作者与发表信息

本研究由芬兰阿尔托大学（Aalto University）计算机科学系的Valerii Iakovlev与Harri Lähteenmäki（原文档拼写为Lähdesmäki）合作完成，发表于2025年国际学习表征会议（ICLR 2025），预印本发布于arXiv平台（编号2406.00368v2）。

二、学术背景

研究领域与动机

本研究属于复杂时空动力系统建模领域，聚焦于点过程观测数据（Point Process Observations）下的时空动态建模。传统基于神经网络的时空模型（如固定网格观测方法）在处理真实世界传感器网络数据时面临挑战——这类数据通常在时空上随机分布（如地震监测智能手机、海洋浮标、车载空气污染传感器等）。现有方法无法同时建模系统动态和随机观测过程，尤其无法预测下一次观测的时空位置。

科学问题

核心问题是如何从稀疏、异步、非网格化的观测数据中学习连续时空动态。研究假设系统的潜在状态受偏微分方程（PDE）驱动，并通过标记时空点过程（Marked Spatiotemporal Point Process）生成观测数据。

三、研究流程与方法

1. 模型构建

研究提出了一种整合神经微分方程（Neural ODEs）、神经点过程、隐式神经表征（Implicit Neural Representations）和摊销变分推断（Amortized Variational Inference）的混合框架：

• 潜在动态建模（式8）：
  使用低维潜在状态$z(t) \in \mathbb{R}^{d_z}$的ODE（$dz/dt = f(z)$）替代高维PDE，通过稀疏时间网格$\tau1, \ldots, \tau{n’}$（$n’ \ll n$）加速计算，插值获得中间状态$\tilde{z}(t)$。
  创新点：提出稀疏网格插值法，相比传统密集网格方法训练速度提升4倍。

• 隐式神经解码器（式9）：
  函数$\phi(\tilde{z}(t), x)$通过MLP将潜在状态映射到连续时空场$u(t,x)$，支持任意时空点评估。

• 点过程强度函数（式10）：
  强度函数$\lambda(u(t,x))$由MLP参数化，输出经指数变换保证非负性。

• 观测模型（式11）：
  通过函数$g(u(t,x))$生成观测分布参数（如高斯均值），方差固定。

2. 变分推断与训练

• 摊销编码器（图2）：
  使用Transformer编码器将初始观测（上下文）映射为潜在初始状态$z_1$的变分分布$q(z_1;\psi)$。
  
• 证据下界（ELBO）优化（式15-16）：
  包含观测对数似然、点过程对数似然和KL散度项，通过蒙特卡洛积分和ODE数值求解器计算。
  

3. 实验设计

• 数据集：

  • 合成数据：Burgers’方程（1D非线性波）、浅水方程（2D重力波）、Navier-Stokes方程（2D污染物传输）。
    
  • 真实数据：Scalar Flow（烟雾羽流运动，1080x1920分辨率下采样至120x213像素）。
    
  • 数据生成：通过非齐次泊松过程（NHPP）模拟随机观测，强度函数与系统状态相关（如$\propto |u(t,x)|$）。
    

• 对比方法：

  • 动态模型组：FEN、NSPDE、CNN-ODE（基线）。
    
  • 点过程组：DSTPP、NSTPP、AutoSTPP（基线）。
    

• 评估指标：
  观测值平均绝对误差（MAE）、事件平均对数似然（Log-Likelihood）。

四、主要结果

1. 上下文长度影响（图4）：

   • 增加初始观测（上下文）可提升预测精度，但收益随长度饱和。例如，在Scalar Flow数据中，上下文从50%增至100%时MAE仅改善0.001。
     

2. 潜在状态插值效率（图5，表1）：

   • 线性插值在稀疏网格（$n’=2$）下即达最优性能，较顺序计算快9倍。
     
   • 高分辨率网格（$n’=50$）对精度无显著增益，但训练耗时增加。
     

3. 潜在空间维度（图6）：

   • Burgers’和浅水方程在$d_z=16$时收敛，Navier-Stokes需$d_z=64$（因复杂涡流结构）。
     

4. 模型对比（表3）：

   • 本模型在合成数据上MAE显著优于对照组（如Navier-Stokes：0.071 vs CNN-ODE的0.077）。
     
   • 点过程似然最高（如Scalar Flow：8.41 vs AutoSTPP的8.49）。
     

五、结论与意义

科学价值

1. 方法论创新：首次实现随机观测时空系统的端到端生成建模，解决了传统方法对固定网格和同步观测的依赖。
   
2. 计算效率：稀疏网格插值法将训练速度提升至4倍，为大规模应用提供可能。
   

应用价值

适用于异构传感器网络场景（如地震预警、海洋监测），支持在资源受限条件下动态调整观测策略。

六、研究亮点

1. 多技术融合：首次联合建模系统动态与观测过程，整合神经微分方程、点过程和隐式表征。
   
2. 效率突破：通过潜在状态插值显著降低计算成本，为实时应用铺路。
   

七、其他价值

开源资源：代码与数据集发布于GitHub，覆盖从合成数据生成到完整训练流程，便于复现与扩展研究。