本文提出了一种名为TransGraph-opt的区域电价预测模型，该研究由东北电力大学自动化工程系的韩林成和王建国完成，发表于Alexandria Engineering Journal第128卷，于2025年4月15日被接收，2025年5月23日在线发表。该研究属于电力市场预测与深度学习交叉领域，旨在解决现有电价预测模型难以同时捕捉电价复杂时间依赖与空间依赖的问题。研究整合了Transformer用于时序特征提取、图神经网络（Graph Neural Network, GNN）用于空间依赖建模，并引入梯度手术（PCGrad）优化机制，以缓解多模态数据融合过程中出现的梯度冲突。

在学术背景方面，区域电价预测对于优化能源交易、提高市场效率以及促进可再生能源合理调度具有重要意义。然而区域电价受负荷需求、气象变化、电网拓扑结构及能源政策等众多复杂因素影响，其非线性关联与复杂时空依赖为准确预测带来巨大挑战。传统统计方法如差分自回归移动平均模型（ARIMA）及传统机器学习方法如支持向量机和随机森林，往往依赖人工特征工程，难以建模复杂非线性关系和长期依赖。深度学习方法如长短期记忆网络（LSTM）虽能捕捉时间序列中的长期依赖，但往往仅侧重时间特征，忽略了电网节点间的空间依赖。此外，多模态数据整合过程中的梯度冲突也限制了模型性能的进一步提升。针对这些问题，本研究提出结合Transformer与GNN，并辅以PCGrad优化机制的TransGraph-opt模型，以实现时空特征的有效融合与建模。

在研究方法与工作流程方面，TransGraph-opt模型由五个关键模块组成：数据输入模块、时序建模模块、空间依赖建模模块、特征融合模块和优化模块。数据输入模块处理来自电力市场的多模态数据，包括历史价格、负荷需求、天气条件及电网拓扑信息。数据经过预处理后被分别送入时序建模模块和空间依赖建模模块。时序建模模块采用Transformer网络分析电价时间序列，通过自注意力机制有效捕捉长期依赖关系。输入电价序列首先通过嵌入层转换为低维表示，并加入位置编码以提供时间步的相对顺序信息。随后通过查询、键、值的线性变换计算注意力权重，经过多层自注意力层后输出预测电价。空间依赖建模模块使用GNN对电网拓扑进行建模，其中节点代表不同区域，边代表区域间的电力传输关系。通过图卷积层聚合邻居节点信息，模型能够学习电网拓扑中的空间依赖关系。为了捕捉全局拓扑信息，还引入了全局图卷积操作，使用归一化邻接矩阵进行信息传播。此外，时空卷积操作使得模型能够同时捕捉跨时间和空间的动态变化。

特征融合模块将Transformer模块提取的时间特征与GNN模块提取的空间特征通过加权求和进行融合，得到统一的特征表示。该融合过程使模型能够同时考虑电价波动的时间动态特性和区域间的空间相互依赖。融合后的特征经过多层全连接网络进行非线性变换，最终输出区域电价预测值。优化模块引入PCGrad机制以解决多模态数据融合中的梯度冲突问题。PCGrad通过计算不同任务梯度之间的余弦相似度来判断梯度方向的一致性，当梯度方向相似时进行正常梯度更新，当存在显著冲突时依据调整公式对梯度进行裁剪，从而减少梯度之间的干扰，实现更协调的优化过程。该机制在时序建模和空间建模模块的协同训练中起到关键作用，使得模型能更稳定地训练并提升泛化能力。

在实验部分，研究使用了两个公开数据集：PJM互联电力市场数据和IEEE 39节点电力系统模型的同步相量测量单元（PMU）测量数据。PJM数据集包含2010年至2020年的小时级电价、负荷和发电数据，PMU数据集包含秒级同步相量数据，涵盖电压、功率和相角等动态电网特性。数据预处理包括缺失值插值、异常检测与修正、数值特征归一化、数据去噪与时间同步以及窗口划分。模型超参数设置为Adam优化器，学习率0.001，批大小64，训练轮数100，损失函数为均方误差。评估指标包括均方误差（MSE）、平均绝对误差（MAE）、决定系数（R²）和均方根误差（RMSE）。

实验结果显示，在PJM数据集上，TransGraph-opt取得了MSE为0.3121、MAE为0.2483、RMSE为0.5592以及R²为0.7903的最优性能，优于LSTM、GRU、CNN、GCN、Transformer、DeepAR、SVR、随机森林以及LSTM+GCN等对比模型。在PMU数据集上，该模型同样获得了最低的MSE（0.1452）、MAE（0.1321）、RMSE（0.3821）和最高的R²（0.8942）。损失曲线表明，引入PCGrad优化后，验证损失的下降更加平滑，波动更小，说明PCGrad能够有效缓解梯度冲突，提升模型的泛化能力。在计算效率方面，TransGraph-opt的训练时间为6.3小时，推理时间为70毫秒，模型大小为35.4 MB，计算复杂度为40.0 GFLOPs。虽然其训练时间略长于部分简单模型，但在高精度预测的前提下，其计算开销被认为是合理的。

消融实验表明，移除GNN模块后模型性能显著下降，说明GNN在捕捉电网空间依赖方面至关重要；移除Transformer模块同样导致RMSE和R²明显恶化，证明Transformer在建模电价时间特征中的核心作用；移除PCGrad优化后MSE和RMSE略有上升，表明PCGrad对提升模型稳定性和减少梯度冲突具有贡献。此外，对不同图构建策略的消融研究显示，静态图、K近邻图、历史相关图、学习图以及完整模型之间的性能差异显著，完整模型在所有指标上均取得最佳结果，说明Transformer、GNN和PCGrad的组合能够更全面地处理时间序列数据和电网空间依赖。

本研究的主要结论是，TransGraph-opt模型通过结合Transformer与GNN并引入PCGrad优化机制，能够有效捕捉电价的时序特征和电网的空间依赖，显著提升区域电价预测的准确性。该研究提出了一种高效的异构数据集成框架，能够同时处理时间序列数据和电网拓扑信息，在智能电网实时电价预测和能源交易系统优化决策中具有重要的应用价值。未来工作将引入更多外部特征如天气数据和政策变化数据，探索更紧密的时空交织架构，以及深化节点多样性和负采样策略的研究。