《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 设计应用 > LSTM与Transformer融合模型在时间序列预测中的应用研究
LSTM与Transformer融合模型在时间序列预测中的应用研究
网络安全与数据治理
王首晨1,王利民2
1.河北建筑工程学院信息工程学院; 2.河北建筑工程学院理学院
摘要: 随着可再生能源的快速发展,风电功率预测对于电网稳定运行和能源管理具有重要意义。风电功率预测是一个复杂的非线性问题,涉及多种气象因素和环境条件。提出了一种基于长短期记忆网络(LSTM)、自适应稀疏自注意力机制(ASSA)和Transformer的融合模型,用于发电功率的时间序列预测。该模型结合了LSTM在捕捉时间序列长期依赖性方面的优势、ASSA在处理局部特征交互稀疏性方面的高效性以及Transformer在捕捉全局依赖性方面的强大并行处理能力。通过实验验证,该模型在发电功率预测任务中表现出色,尤其是在极端波动或拐点处的预测精度上有所提高。与传统方法相比,该模型能够更准确地捕捉风电功率变化的复杂性和动态性,为风电场的运营管理提供了有力的决策支持。
中圖分類號:TP391文獻標識碼:ADOI:10.19358/j.issn.2097-1788.2025.03.005
引用格式:王首晨,王利民. LSTM與Transformer融合模型在時間序列預(yù)測中的應(yīng)用研究[J].網(wǎng)絡(luò)安全與數(shù)據(jù)治理,2025,44(3):27-31,38.
Research on the application of LSTM and Transformer fusion model in time series prediction
Wang Shouchen1, Wang Limin2
1. School of Information Engineering,Hebei University of Architecture; 2. Faculty of Science,Hebei University of Architecture
Abstract: With the rapid development of renewable energy, wind power prediction is of great significance for the stable operation of the power grid and energy management. Wind power prediction is a complex nonlinear problem that involves multiple meteorological factors and environmental conditions. This article proposes a fusion model based on Long Short-Term Memory Network (LSTM), Adaptive Sparse Self-Attention Mechanism (ASSA), and Transformer for time series prediction of power generation. This model combines the advantages of LSTM in capturing long-term dependencies of time series, the efficiency of ASSA in handling local feature interaction sparsity, and the powerful parallel processing capability of Transformer in capturing global dependencies. Through experimental verification, the model performs well in power generation prediction tasks, especially in improving prediction accuracy at extreme fluctuations or inflection points. Compared with traditional methods, this model can more accurately capture the complexity and dynamics of wind power changes, providing strong decision support for the operation and management of wind farms.
Key words : Adaptive Sparse Self-Attention Mechanism (ASSA);LSTM;Transformer;time series;power prediction

引言

隨著全球?qū)稍偕茉葱枨蟮牟粩嘣鲩L,風電作為一種清潔能源,其發(fā)電量預(yù)測的準確性對于電網(wǎng)的穩(wěn)定運行和能源管理具有重要意義。風電場發(fā)電功率的時間序列預(yù)測是一個復(fù)雜的非線性問題,它涉及多種氣象因素和環(huán)境條件。如果能對風電場的發(fā)電功率進行準確預(yù)測,電力調(diào)度部門就可通過預(yù)先安排調(diào)度計劃,從而有效降低風電波動的不利影響。因此,提高風電功率預(yù)測精度具有重要意義[1]。目前,風電功率預(yù)測方法主要分為物理方法、統(tǒng)計方法和機器學習方法。物理方法基于數(shù)值天氣預(yù)報,通過預(yù)測未來風速和風向,結(jié)合風電機組的“風速-功率”曲線得到風功率預(yù)測值。然而,風速和風向預(yù)測的誤差會傳遞到功率預(yù)測中,導致精度受限。統(tǒng)計方法則依賴于歷史數(shù)據(jù),通過建立統(tǒng)計學習模型進行預(yù)測,但難以捕捉復(fù)雜的非線性關(guān)系。

預(yù)測風電場主要通過分析風的歷史時間序列,并對其進行統(tǒng)計為預(yù)測風力發(fā)電功率提供指導,同時采用時變解釋模型變量預(yù)判和評價風力發(fā)電功率。傳統(tǒng)的預(yù)測方法,如物理模型和統(tǒng)計模型,雖然在一定程度上能夠提供預(yù)測結(jié)果,但往往難以捕捉風電功率變化的復(fù)雜性和動態(tài)性[2]。近年來,機器學習方法因其強大的非線性映射能力得到了廣泛應(yīng)用。其中,深度學習模型,如卷積神經(jīng)網(wǎng)絡(luò)(CNN)、長短期記憶網(wǎng)絡(luò)(LSTM)和門控循環(huán)單元(GRU)等,因其在處理時間序列數(shù)據(jù)方面的優(yōu)勢,成為風電功率預(yù)測的主流方法[3-4]。研究者們不斷探索新的方法以提高風電功率預(yù)測的精度。例如,Liu[5]等提出了一種結(jié)合LSTM和LightGBM的混合模型,用于澳大利亞陸上風電功率的短期預(yù)測。Sun[6]等提出了一種基于時空相關(guān)性和Transformer神經(jīng)網(wǎng)絡(luò)的短期多步風電功率預(yù)測方法,展示了Transformer在處理長序列數(shù)據(jù)中的潛力。此外,還有一些研究通過改進參數(shù)優(yōu)化算法來提高模型的預(yù)測性能。然而,這些方法在處理非常長的序列時仍面臨挑戰(zhàn)。LSTM作為一種循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的變種,因能夠有效地捕捉時間序列數(shù)據(jù)中的長期依賴關(guān)系而被廣泛用于風電功率預(yù)測[7]。然而,LSTM在處理非常長的序列時可能會遇到梯度消失或爆炸的問題。為了解決這一問題,研究者們開始探索結(jié)合LSTM和Transformer模型的方法。Transformer模型通過自注意力機制能夠處理序列數(shù)據(jù)中的長距離依賴問題,且不受序列長度的限制[8]。

為了克服LSTM和Transformer各自的局限性并發(fā)揮各自的優(yōu)勢,本文在兩者結(jié)合的基礎(chǔ)上引入自適應(yīng)稀疏自注意力機制(ASSA)[9],通過減少注意力計算中的冗余,使得模型能夠更加專注于序列中的關(guān)鍵信息。結(jié)合LSTM、ASSA和Transformer的模型展現(xiàn)出了優(yōu)異的性能。通過LSTM捕捉長期依賴性,ASSA和Transformer處理復(fù)雜的時空關(guān)系,該模型能夠提供更準確的風電功率預(yù)測。


本文詳細內(nèi)容請下載:

http://www.ihrv.cn/resource/share/2000006374


作者信息:

王首晨1,王利民2

(1.河北建筑工程學院信息工程學院,河北張家口075000;

2.河北建筑工程學院理學院,河北張家口075000)


Magazine.Subscription.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。