基于輕量化Transformer模型的多變量風(fēng)電功率預(yù)測

打開文本圖片集

摘  要：風(fēng)電功率預(yù)測對電力調(diào)度和新能源管理極為重要。為準(zhǔn)確高效預(yù)測多變量風(fēng)電功率，提出一種基于輕量化Transformer（Light Transformer）的風(fēng)電功率預(yù)測方法。首先，采用滾動序列建模方法，確定輸入數(shù)據(jù)，然后采用Transformer預(yù)測模型，改進(jìn)和精簡原始結(jié)構(gòu)，在前饋網(wǎng)絡(luò)模塊中使用GeLU激活函數(shù)來代替?zhèn)鹘y(tǒng)的ReLU激活函數(shù)，提升模型的質(zhì)量，輕量化網(wǎng)絡(luò)結(jié)構(gòu)，利用多頭注意力機(jī)制，加快模型訓(xùn)練速度，提升預(yù)測模型精度。（剩余7773字）