分享自:

基于Transformer-GNN融合与梯度手术的电力价格预测

期刊:Scientific ReportsDOI:10.1038/s41598-026-54787-4

本研究由Bingxiang Wu(南瑞集团有限公司,NARI Group Corporation)、Pengcheng Yang(南瑞集团有限公司)、Yiming He(国网河北省电力有限公司,State Grid Hebei Electric Power Co., Ltd)及Huayang Liang(国网河北省电力有限公司)共同完成,发表于 Scientific Reports 期刊,文章编号为 (2026) 16:26830。该研究聚焦于短期电力价格预测,提出了一种融合Transformer编码器、图神经网络(graph neural network, GNN)以及投影冲突梯度(projecting conflicting gradients, PCGrad)梯度手术机制的混合预测框架,旨在同时建模电力市场价格序列中的长程时间依赖与源自电网拓扑约束的空间相关性。

研究背景方面,准确的短期电力价格预测对于市场参与者优化报价策略、采购决策以及运营规划至关重要,也有助于波动性可再生能源的高效并网。区域电价受负荷波动、天气条件、电网拓扑、发电结构与政策变化等复杂因素综合影响,具有显著的时空耦合特征。既有方法中,传统机器学习模型如支持向量回归(support vector regression, SVR)依赖人工特征工程,难以处理强非线性与长时依赖;长短期记忆网络(long short-term memory, LSTM)与卷积神经网络(convolutional neural network, CNN)等深度模型虽能自动提取时间特征,但往往忽略电网拓扑与空间关系;图神经网络虽能编码网络结构,但如何将其与时间模型有效融合并保持训练稳定仍是挑战。为此,该研究提出将Transformer时间编码器与GNN空间编码器相结合,并引入PCGrad以缓解来自异构模态的梯度冲突,提升联合训练的收敛稳定性与泛化能力。

在方法设计上,该框架由五个核心模块构成:数据预处理、时间编码器、空间编码器、多模态融合层以及冲突感知优化模块。数据方面,研究使用了两个时间对齐但功能不同的数据流:其一是来自PJM市场的2010年1月至2020年12月逐小时电力市场数据,包含节点边际电价(locational marginal price, LMP)及系统负荷、发电出力与燃料价格指标等市场协变量;其二是基于IEEE 39节点基准系统动态仿真生成的同步PMU(phasor measurement unit)数据流,提供电压幅值、相角与线路潮流等物理测量特征。两类数据在逐小时窗口层面进行对齐,并在表示层面融合,以检验物理结构化的辅助信息是否能提升市场价格预测性能。值得注意的是,研究明确将IEEE 39节点系统视为物理信息辅助模态而非PJM实际电网拓扑的替代,以进行跨域时空融合的方法学验证。PMU原始信号首先经过Butterworth低通滤波器去噪,随后在每小时窗口内聚合成均值、标准差、最小值、最大值及滞后值等汇总特征,并与对应PJM小时标签对齐。预处理中,PJM缺失值在窗口生成前进行插补,异常值经四分位距分析过滤,所有归一化与缩放参数仅在训练集上拟合后应用于验证与测试集,以避免数据泄漏。训练、验证、测试按时间顺序划分:2010年1月至2017年12月为训练集,2018年全年为验证集,2019年1月至2020年12月为测试集。

时间编码模块采用Transformer编码器架构,输入为历史电价序列。各标量电价首先经可学习嵌入矩阵投影至高维向量,并与正弦位置编码相加,以保留序列顺序信息。随后通过多层多头自注意力机制捕捉任意时间步之间的直接依赖关系,并结合前馈网络与残差连接构建深层表示。最终输出为上下文感知的时间嵌入序列。空间模块基于IEEE 39节点系统构建固定无向拓扑图,节点对应母线,边表示电气连接。多层GNN通过聚合邻居节点特征更新节点表示,采用对称归一化邻接矩阵稳定训练。空间模块还可建模跨时间窗口的时空相关性,通过组合当前图卷积与历史时间窗口的时序关联矩阵实现多跳依赖学习。融合层使用基于注意力的特征融合策略,对目标区域i在时刻t的动态融合特征由时间嵌入与相邻节点空间嵌入经注意力系数加权求和得到,再输入两层全连接网络进行非线性变换与回归,最终输出预测电价。

优化机制方面,研究定义了三个相关目标:时间分支基于Transformer表示产生辅助预测损失lt,空间分支基于GNN表示产生辅助损失ls,融合表示通过最终预测头产生主预测损失lf。三者均对照同一真实电价,但监督不同的表示通路。对共享参数分别计算梯度gt、gs、gf,随后PCGrad通过计算成对梯度余弦相似度检测冲突,若余弦相似度为负,则通过投影操作去除gi中与gj冲突的分量。经过成对投影后的梯度被聚合用于参数更新。实验通过在训练中记录负余弦相似度的小批量占比(冲突比例)及验证损失跨运行方差来量化PCGrad的必要性。

实验结果表明,训练动态方面,Transformer-only、GNN-only与所提完整模型均能降低训练损失,但所提模型在验证损失上具有更平滑稳定的曲线,抖动更小,表明PCGrad有效缓解了异构时间与空间学习目标间的梯度冲突,提升了泛化能力。消融实验中,标准联合训练、加权损失训练、分阶段训练三种方案的MSE分别为0.1628±0.0056、0.1549±0.0049、0.1507±0.0045,而PCGrad方案MSE为0.1439±0.0041,95%置信区间更窄([0.1388, 0.1490]),验证损失标准差最低(0.0071±0.0007),且相对其他方案p值小于0.05,表明其不仅在平均误差上最优,运行稳定性也显著改善。模态鲁棒性分析显示,完全移除PMU分支时MSE升至0.1548,部分掩蔽PMU特征时MSE为0.1486,而部分掩蔽PJM协变量时MSE升至0.1635,说明PJM市场时间信息仍是主导预测源,但物理辅助模态的引入可提供额外上下文信息且缺失时退化温和。

在预测性能基准中,所提模型在融合数据设置下取得平均最优性能(MSE=0.1439,MAE=0.1384,RMSE=0.3793,R²=0.9076)。相对最强多模态基线LSTM+GCN(相同PJM+PMU设置)的MSE从0.1619降至0.1439,两者95%置信区间不重叠,成对双侧t检验p=0.0038,提升具有统计稳健性。而相对PJM-only基线的较大差距应理解为架构改进与额外模态信息共同作用的结果。计算成本比较显示,所提模型训练时间为6.1小时,推理延迟73毫秒,模型大小36.1 MB,前向GFLOPs为39.2,是计算负担最重的方法,但作者谨慎指出该成本权衡在离线训练与逐小时预测场景下可接受,在资源受限或超低延迟部署中需采用轻量化方案。

结论部分指出,该研究为跨域多模态融合的概念验证,并非对PJM实际拓扑的逐节点重构。所提框架将时间市场信号与物理辅助描述符相融合,为短期电价预测提供了一种有价值的方法学路径。研究价值体现在三个方面:其一,提出了统一建模时间与空间依赖的混合架构;其二,引入冲突感知优化策略以缓解多源数据训练的梯度干扰;其三,通过消融与鲁棒性实验验证了该策略在降低误差与提升稳定性方面的有效性。未来工作将聚焦物理匹配的电网-市场数据集、更强的外生条件建模以及面向部署的轻量化变体研究。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com