Zhe Wu, Panagiotis D. Christofides 团队及其合作者在《Reviews in Chemical Engineering》期刊上发表机器学习模型预测控制最新教程综述

本篇综述文章由新加坡国立大学（National University of Singapore）的Zhe Wu、Wanlu Wu、Yujia Wang，以及加州大学洛杉矶分校（University of California, Los Angeles）的Panagiotis D. Christofides、Fahim Abdullah、Aisha Alnajdi、Yash Kadakia等学者共同撰写，于2024年12月10日在线发表于德古意特（De Gruyter）旗下的化学工程领域期刊《Reviews in Chemical Engineering》（Rev Chem Eng）。文章题为“A tutorial review of machine learning-based model predictive control methods”，旨在对基于机器学习（Machine Learning, ML）的模型预测控制（Model Predictive Control, MPC）方法提供一个全面、兼具理论与实践的教程式概览。

综述的核心主题与目标 该论文的核心科学领域是过程系统工程与控制理论，特别是先进过程控制（Advanced Process Control）与数据驱动建模（Data-driven Modeling）的交叉领域。其写作动机源于工业界从基于理论的建模范式向以数据为中心的范式转变的趋势。近年来，深度学习（Deep Learning）的成功以及工业数据获取能力和计算能力的提升，使得采用机器学习模型（尤其是循环神经网络，RNN）为复杂的非线性化工系统建立动态模型用于MPC应用展现出巨大潜力，并在仿真和实际系统中（如造纸机、电化学反应器、生物发酵罐等）取得初步成功。然而，作者指出，ML-MPC的工业应用落地仍面临诸多障碍，例如黑箱模型缺乏可解释性、获取充足可靠数据的挑战、控制器鲁棒性、运行安全性与闭环稳定性保证等。

因此，这篇综述旨在弥补现有文献的不足，对ML-MPC（尤其是基于神经网络，NN的MPC）在工业实施中面临的理论与实践挑战进行系统性梳理与整合，并从建模与控制的双重视角探讨潜在解决方案。文章不仅提供理论分析，还通过一个非线性化工过程的实例演示了相关方法的应用，并附有开源代码。

论文主要观点详述 文章的主体结构围绕ML-MPC面临的挑战展开，主要分为理论挑战和实践挑战两大板块。

第一，理论挑战：ML-MPC的闭环稳定性与泛化性能分析。 作者明确指出，ML-MPC面临的首要理论挑战在于如何数学上保证其闭环稳定性（Closed-loop Stability）。其核心问题在于机器学习模型的泛化误差（Generalization Error）。即使经过充分训练，ML模型也可能难以泛化到训练集之外的新数据，这可能导致控制器性能不佳甚至引发稳定性问题。

为了量化这一风险，论文深入探讨了如何推导机器学习模型（特别是RNN）泛化误差的上界（Upper Bound）。文章采用了基于经验Rademacher复杂度的概率近似正确（Probably Approximately Correct, PAC）学习框架。通过一系列对RNN输入、权重矩阵范数以及激活函数（如ReLU）的合理假设（如假设数据有界、权重矩阵Frobenius范数有界、激活函数满足正齐次性和Lipschitz连续等），作者详细推导并呈现了定理（Theorem 1），给出了RNN模型在回归任务中泛化误差的概率上界。该上界的形式为：泛化误差 ≤ 经验误差 + Rademacher复杂度项 + 与置信度和样本量相关的修正项。具体而言，Rademacher复杂度项与权重矩阵范数、输入数据界、时间序列长度和样本量等因素相关。这一分析具有重要的指导意义： * 支持论据1： 该理论分析表明，降低泛化误差（从而提升模型可靠性）的途径包括：1）通过精心设计网络和训练，最小化在训练集上的经验损失；2）增加训练样本的数量；3）谨慎权衡模型复杂度（假设类大小）。增大模型复杂度可能降低近似误差，但也可能增加估计误差（对应Rademacher复杂度项），这解释了实践中从简单网络开始、逐步增加复杂度以防止过拟合（Overfitting）做法的理论依据。 * 支持论据2： 基于上述概率化的泛化误差上界，论文进一步讨论了ML-MPC的闭环稳定性。文章以李雅普诺夫模型预测控制（Lyapunov-based MPC, LMPC）为例，阐述了其如何通过将基于李雅普诺夫函数的稳定性约束集成到在线优化问题中，从而继承一个已知稳定非线性控制律的稳定性与可行性特性。关键点在于，由于NN模型的预测误差是概率有界的，因此闭环稳定性也是在概率意义上（例如，以至少1-δ的概率）得到保证的。理论误差界提供了一个保守的估计，可用于指导网络架构构建和样本量选择。

第二，实践挑战：ML-MPC工业应用中的多重障碍及应对策略。 这是本文篇幅最大、内容最丰富的部分。作者将ML-MPC的开发流程按时间顺序分为数据收集、建模和执行三个阶段，每个阶段都对应一系列独特的挑战，并逐一进行了阐述。

观点一：数据稀缺（Data Scarcity）的挑战与解决方案。 获取大量高质量数据对于开发准确的ML模型至关重要，但在工业中往往成本高昂且困难。文章综述了多种前沿应对技术： * 物理信息机器学习（Physics-Informed Machine Learning, PIML）： 通过将物理定律（通常以常微分方程/偏微分方程形式）作为正则化项嵌入损失函数，来指导模型学习。文中重点介绍了物理信息循环神经网络（Physics-Informed RNN, PIRNN）的构建，其损失函数包含数据驱动损失项和物理驱动损失项（如ODE残差项）。这种方法即使在没有标记数据（仅使用物理方程和初始条件）的极端情况下也能进行学习，显著减少了数据依赖。此外，还可以通过定制网络架构（如根据化工过程网络结构设计部分连接的RNN）来隐式整合领域知识，提升泛化性能。 * 迁移学习（Transfer Learning, TL）： 将从一个相关任务（源域）学到的知识迁移到新任务（目标域），以减少目标域的数据需求。文章介绍了参数共享等常见策略，并指出关键挑战是“负迁移”（Negative Transfer），即不当的迁移可能损害目标域性能。作者引用相关研究，说明可以通过量化源域与目标域分布之间的差异距离等理论工具来评估迁移有效性。 * 合成数据生成（Synthetic Data Generation）： 利用生成模型（如生成对抗网络GAN、变分自编码器VAE）对现有数据集进行扩充，以增加数据量和多样性。这在过程工业中对于处理采样率不一致、数据缺失等问题有应用潜力。 * 主动学习（Active Learning）： 智能选择对当前模型不确定性高或信息量大的数据点进行标记和训练，以最小的标注成本最大化模型性能提升。文中提到了基于池的采样等策略。

观点二：数据质量（Data Quality）的挑战与解决方案。 传感器噪声等导致的数据质量问题会阻碍模型学习。文章介绍了以下方法： * 蒙特卡洛丢弃法（Monte Carlo Dropout）： 一种在训练和推理阶段都使用随机丢弃神经元的技术，其本质是学习一个随机模型，通过多次前向传播并聚合结果来近似预测分布，从而量化模型不确定性。这对于在噪声数据下学习并改进不确定性下的控制器设计非常有价值。 * 协同教学法（Co-teaching）： 一种创新方法，同时训练两个神经网络，在每轮小批量训练中，每个网络挑选损失小的样本（认为更“干净”）交给另一个网络用于更新权重。这种方法通过利用对等网络的视角，有效降低了噪声数据的影响。 * Lipschitz约束神经网络： 通过约束网络的Lipschitz常数，设计本质上对输入扰动不敏感的鲁棒模型。例如，使用谱归一化（Spectral Normalization）和GroupSort激活函数等技术，可以使网络在存在噪声或对抗性干扰时表现更稳定。

观点三：其他关键实践挑战。 文章还简要概述了其他在工业规模应用ML-MPC时不可避免的挑战： * 维度灾难（Curse of Dimensionality）： 对于大规模系统，数据维度的增加会导致数据需求指数级增长，降低ML算法效率。需要有效的方法来捕获复杂高维系统的动态。 * 模型不确定性（Model Uncertainty）与计算效率（Computational Efficiency）： 模型失配和过程扰动不可避免，同时ML模型（特别是深度网络）可能带来沉重的计算负担，影响MPC的在线求解速度。需要研究加快计算和提高控制器鲁棒性的方法。 * 安全性（Safety）： 这是一个贯穿ML-MPC开发所有阶段的全局性关切，包括安全数据收集、安全建模和安全实施，以确保在ML-MPC下的操作安全。 * 可解释性（Interpretability）： 黑箱模型决策过程缺乏透明度，会阻碍用户（尤其是在安全性至关重要的控制应用中）的信任。增强模型可解释性是获得工业认可的关键一步。

论文的价值与意义 这篇教程综述具有重要的学术价值和实践指导意义。在学术层面，它将机器学习理论（如泛化误差分析）、控制理论（如Lyapunov稳定性、MPC）和化工过程系统工程紧密结合，为研究者提供了一个清晰的研究现状地图和理论分析框架。特别是对ML-MPC稳定性的概率化理解以及对各类实践挑战的系统性分类，有助于引导该领域的未来研究方向。在应用层面，文章不仅指出了工业应用的瓶颈，还系统地总结了当前最新的应对技术（如PIML、TL等），并通过非线性化工过程示例和开源代码提供了实践入口，对工程师和科研人员在实际项目中设计和实施可靠的ML-MPC系统具有极高的参考价值。文章最后还展望了ML-MPC的未来研究方向，为进一步的探索指明了道路。