分享自:

基于无限宽贝叶斯神经网络相关函数的分层克里金多保真度代理建模

期刊:IEEE AccessDOI:10.1109/access.2025.3559167

本研究由南华大学机械工程学院的何有为(Youwei He)和崔江硕(Jiangshuo Cui)完成,发表于 IEEE Access 期刊,2025年4月9日在线发布,卷号为13,文章编号为10.1109/ACCESS.2025.3559167。

本研究属于代理模型(surrogate model)与多保真度建模(multi-fidelity modeling)领域。在工程设计与分析中,高保真度数值仿真(如计算流体力学CFD、有限元分析FEA)计算成本极高,代理模型被广泛用于替代昂贵的仿真过程。多保真度代理模型通过同时利用大量廉价低保真度样本和少量昂贵高保真度样本,在保证预测精度的同时降低建模成本。其中,分层克里金(hierarchical kriging, HK)模型因其结构简单、精度接近协同克里金(co-kriging)而受到关注。然而,当输入变量维度超过1000时,传统HK模型面临“维度灾难”:存储空间距离矩阵需要巨大内存,频繁求逆大规模相关矩阵带来极高计算负担,且相关函数超参数的数量随维度线性增加,导致似然函数最大化优化问题难以求解。本文的目标是提出一种高效的HK建模方法,使其能够处理超过1000维输入变量的问题。

研究的核心工作流程围绕无限宽贝叶斯神经网络(infinite-width Bayesian neural network, IBNN)相关函数的推导及其在HK模型中的集成展开。首先,作者从单隐层贝叶斯神经网络与高斯过程(Gaussian process, GP)的关系出发,指出当网络宽度趋于无穷时,网络输出收敛为高斯过程。基于这一理论,作者将多层无限宽贝叶斯神经网络的协方差函数作为HK模型的相关函数。该IBNN相关函数通过递归方式计算,使用ReLU激活函数时具有闭合形式表达式,其计算不依赖于欧氏距离或曼哈顿距离,因此不需要存储维度距离矩阵。更重要的是,当网络层数l、方差参数σ²_b和σ²_w固定后,IBNN相关函数没有任何需要调优的超参数,从而避免了对似然函数的反复最大化优化,相关矩阵只需求逆一次。建模流程为:设定l、σ²_b和σ²_w;生成低保真度和高保真度样本点并运行仿真获得响应;利用观测样本点建立相关矩阵;计算测试点与观测点之间的相关向量;最后先用公式(2)估计低保真度预测,再通过公式(1)将其输入高保真度预测模型得到最终结果。

为验证方法性能,作者采用了4个解析测试问题和9个工程问题(共18个感兴趣量)。解析问题包括Forrester、10维多项式等,样本量从几十到几百不等,通过11次独立运行获得统计结果。工程问题维度覆盖2到1512维,包括NACA0012翼型升力系数预测(2维,40个低保真样本和5个高保真样本训练,20个高保真样本测试)、飞机阻力系数预测(2维,40个低保真和15个高保真样本训练,25个测试)、斗轮堆取料机臂架最大变形预测(5维,12个高保真和20个低保真样本训练,20个测试)、10.5级压气机可调导叶性能预测(5维,50个低保真和10个高保真样本训练,10个测试)、微型飞行器机身结构性能预测(6维,36个低保真和12个高保真样本训练,6个测试)、加筋圆柱壳稳定性预测(9维,50个低保真和10个高保真样本训练,10个测试)、Rotor37叶片几何变形气动性能预测(31维,296个低保真和164个高保真样本训练,285个测试)、3级压气机叶片变形气动性能预测(144维,1168个低保真和520个高保真样本训练,384个测试)以及10.5级压气机叶片变形的1512维问题(15120个低保真和7560个高保真样本训练,3024个测试)。对比方法包括多保真神经网络(MFNN)、克里金(Krig)、分层克里金(HK)和采用IBNN的克里金(Krig-IBNN)。评估指标为决定系数R²、均方根误差RMSE、最大绝对误差MAE和建模时间。所有实验在个人笔记本电脑上完成,MFNN在配备NVIDIA GTX 4090 GPU的工作站上训练。

实验结果显示,在解析问题上,HK-IBNN的R²在0.9731到0.9937之间,优于MFNN(0.5474到0.9646)且与HK接近。在工程问题上,HK-IBNN在多个问题上取得最优或次优精度:在NACA0012-cl、aircraft-cd、10stgvgv-η等6个问题上R²最高;在其余问题上与HK精度相近,优于MFNN、Krig和Krig-IBNN。对于1512维问题,传统HK因需要超过1000 GB内存构建距离矩阵而无法运行,MFNN在三个气动性能指标上表现波动且耗时超过6700秒,而HK-IBNN在约40到54秒内完成建模并取得最高R²(例如压力比π的R²为0.9612)。建模效率方面,HK-IBNN在144维问题上建模时间仅0.0894秒,而HK为13.06秒,MFNN为797.98秒;在1512维问题上,HK-IBNN约40到54秒,MFNN约6723到6801秒。参数敏感性分析表明,层数l从1到5、σ²_w从5到15、σ²_b从1.2到2.0对HK-IBNN精度的影响很小,R²和MAE变化幅度通常在0.02以内,说明无需通过似然函数最大化来搜索超参数组合。在更高维度的合成实验中,HK-IBNN在4000维问题上建模时间为342.48秒,5000维时为1140.81秒。

研究的结论指出,HK-IBNN能够高效处理超过1000维输入变量的问题。与MFNN相比,HK-IBNN在精度上更具竞争力且显著优于MFNN;与HK相比,精度接近且在效率上具有数量级优势。在1512维10.5级压气机叶片变形气动性能预测中,HK-IBNN在个人笔记本电脑上约50秒内用15120个低保真和7560个高保真样本构建出最精确的模型。此外,该方法对层数和方差参数的设定不敏感,进一步简化了实际应用中的模型配置。

本研究的亮点在于:提出了一种不依赖空间距离且无超参数的IBNN相关函数,从根本上规避了高维问题中的距离矩阵存储和似然函数最大化计算负担;将IBNN相关函数嵌入HK框架,使多保真度代理模型首次能够高效处理超过1000维的问题;通过1512维真实工程压气机气动性能预测验证了方法的有效性和效率,建模时间从传统HK的内存不可行和MFNN的数千秒降低到约50秒,同时保持高精度。应用价值在于为高维涡轮机械气动优化设计、不确定性量化和贝叶斯优化提供了可行的多保真度代理建模手段。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com