类型a

Alberto Solera-Rico、Carlos Sanmiguel Vila、Miguel Gómez-López 等人于2024年在《Nature Communications》上发表了题为“β-variational autoencoders and transformers for reduced-order modelling of fluid flows”的研究论文。作者们分别隶属于Universidad Carlos III de Madrid、西班牙国家航空航天技术研究所（INTA）、KTH皇家理工学院和伊利诺伊理工学院等机构。

湍流是自然界和工程领域中普遍存在的重要现象，其复杂的空间-时间动力学特性涉及大量自由度和复杂的非线性相互作用。为了理解流体流动的行为，研究人员致力于开发降阶模型（ROMs），以捕捉流动的关键动力学特征并降低问题的维度。尽管传统的线性分解方法如本征正交分解（POD）和动态模态分解（DMD）在某些流动中取得了成功，但它们在处理湍流时表现出局限性。近年来，机器学习（ML）技术，特别是神经网络架构，已成为开发非线性ROM的有前景的方法。本文旨在通过结合β-变分自编码器（β-VAE）和Transformer架构，提出一种新的降阶建模方法，用于复杂流体流动的建模与预测。

该研究包括以下主要步骤：
1. 数据生成与预处理：研究使用了二维粘性流体流动的数值模拟数据，包含周期性和混沌两种流动状态。这些数据由浸入边界投影法（IBPM）求解Navier-Stokes方程生成。计算域尺寸为96c × 28c，空间分辨率为300 × 98网格点。时间步长分别为δt = c/u∞（周期性流动）和δt = c/u∞/5（混沌流动）。数据集经过标准化处理，并被划分为训练集（90%）和测试集（10%）。
2. β-VAE模型构建与训练：研究采用β-VAE架构来学习流速场的低维潜在空间表示。β-VAE是一种基于概率框架的自编码器，其损失函数包括重建误差和KL散度损失，并通过调节超参数β来平衡重建精度与潜在空间解耦。编码器将输入数据映射到潜在空间中的高斯分布，解码器则从潜在空间重建原始数据。模型通过Adam优化算法进行训练，学习率采用一周期调度策略。
3. Transformer模型构建与训练：研究使用Transformer架构预测潜在空间的时间动态。Transformer模型包括多头注意力机制（MHA）和前馈神经网络，输入为前64个时间步的潜在向量序列，输出为下一时间步的预测值。模型通过均方误差损失函数进行训练，并采用了时间-空间嵌入模块以增强时间信息的表达能力。
4. 对比实验与评估：研究对比了β-VAE与POD的结果，并评估了不同潜在空间维度（d=10和d=20）以及不同时间步长（δt=tc和δt=tc/5）对模型性能的影响。此外，还比较了Transformer、LSTM和Koopman非线性强迫（KNF）模型在时间动态预测中的表现。

研究的主要结果如下：
1. 潜在空间分析：β-VAE在周期性流动中能够用两个模式捕捉97.5%的能量，而在混沌流动中，使用20个模式可捕捉89.8%的能量，显著优于POD（64.4%）。这表明β-VAE可以生成紧凑且近似正交的潜在空间表示，避免了传统自编码器中潜在空间的过拟合问题。
2. 时间动态预测：Transformer模型在时间动态预测中表现出色，尤其在密集采样条件下，其多尺度表征能力优于LSTM和KNF模型。对于未见数据，Transformer模型在t+tc和t+10tc时刻的能量重建率分别为78.1%和64.6%，同时保留了原始流动模式。
3. Poincaré映射分析：通过Poincaré映射分析，研究发现Transformer模型能够准确捕捉潜在空间的动态行为，其预测的概率密度函数与真实数据高度一致。相比之下，KNF模型倾向于收敛到谐波行为，无法捕捉混沌流动的时间系数变化。
4. 流场重建：结合β-VAE和Transformer模型，研究实现了完整的流场预测。对于d=20的潜在空间，模型在t+tc时刻的能量重建率达到78.1%，并在长期预测中仍能保持流动的动态特征。

该研究的意义在于提出了一种结合β-VAE和Transformer的降阶建模方法，为复杂流体流动的非线性建模提供了新思路。该方法不仅能够生成紧凑且近似正交的潜在空间表示，还能通过Transformer模型准确预测时间动态，从而实现高效且精确的流场重建。研究结果表明，这种方法在湍流建模、天气预报、结构动力学和生物医学工程等领域具有广泛的应用潜力。

研究的亮点包括：
1. 提出了结合β-VAE和Transformer的降阶建模方法，首次在混沌流动中实现了高效的非线性模式提取与时间动态预测。
2. β-VAE通过调节超参数β实现了潜在空间的解耦，生成了比传统POD更紧凑的表示。
3. Transformer模型在时间动态预测中表现出优越的多尺度表征能力，显著优于LSTM和KNF模型。
4. 研究通过Poincaré映射和概率密度函数分析验证了模型的动态行为捕捉能力，进一步证明了其鲁棒性。

这项研究为复杂流体流动的降阶建模提供了一种创新的方法，展示了机器学习技术在流体力学领域的巨大潜力。