PAGE2基于深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的地區(qū)電網(wǎng)負(fù)荷預(yù)測(cè)模型仿真研究摘要電網(wǎng)負(fù)荷預(yù)測(cè)是電網(wǎng)規(guī)劃部署以及正常運(yùn)行維護(hù)的關(guān)鍵，負(fù)荷預(yù)測(cè)的準(zhǔn)確性是保證電網(wǎng)穩(wěn)定運(yùn)行、地區(qū)經(jīng)濟(jì)穩(wěn)定發(fā)展的前提。但由于預(yù)測(cè)算法不夠成熟，預(yù)測(cè)模型不夠精確，導(dǎo)致負(fù)荷預(yù)測(cè)結(jié)果與實(shí)際數(shù)據(jù)存在很大誤差。因此，優(yōu)化現(xiàn)有算法，提出新的算法，以及將不同算法整合起來，取長(zhǎng)補(bǔ)短，各取所需，建立新的復(fù)合模型來提高負(fù)荷預(yù)測(cè)的精確度，是非常具有意義的。本文具體工作如下：查閱傳統(tǒng)電網(wǎng)負(fù)荷預(yù)測(cè)的資料，發(fā)現(xiàn)傳統(tǒng)的預(yù)測(cè)方式存在較大的誤差，因此本文基于深度學(xué)習(xí)算法，在電網(wǎng)負(fù)荷預(yù)測(cè)中引入深度學(xué)習(xí)的相關(guān)模型，力求提高負(fù)荷預(yù)測(cè)的準(zhǔn)確度。選用河北秦皇島地區(qū)三個(gè)月內(nèi)每小時(shí)的負(fù)荷數(shù)據(jù)，然后求和匯總，再通過查詢當(dāng)?shù)氐南嚓P(guān)氣溫，取24小時(shí)的氣溫值，再代入當(dāng)時(shí)具體的節(jié)假日信息，對(duì)選用的數(shù)據(jù)進(jìn)行預(yù)處理，通過Matlab仿真尋求平均氣溫、具體日期對(duì)負(fù)荷預(yù)測(cè)的影響，最終獲得了實(shí)驗(yàn)用數(shù)據(jù)集。利用BP神經(jīng)網(wǎng)絡(luò)、小波神經(jīng)網(wǎng)絡(luò)、LSTM神經(jīng)網(wǎng)絡(luò)三種模型進(jìn)行了實(shí)驗(yàn)數(shù)據(jù)集的預(yù)測(cè)，并對(duì)結(jié)果進(jìn)行了對(duì)比分析。為了進(jìn)一步減小誤差，提出了一種新的組合模型CNN-LSTM，將LSTM神經(jīng)網(wǎng)絡(luò)與CNN-LSTM模型的負(fù)荷預(yù)測(cè)結(jié)果作了對(duì)比，發(fā)現(xiàn)CNN-LSTM模型的預(yù)測(cè)結(jié)果更精確。關(guān)鍵詞：負(fù)荷預(yù)測(cè)，深度學(xué)習(xí)，LSTM，CNN-LSTM目錄1 緒論 11.1 背景意義 11.2負(fù)荷預(yù)測(cè)研究歷程 11.2.1傳統(tǒng)電網(wǎng)負(fù)荷預(yù)測(cè)方法 11.2.2基于神經(jīng)網(wǎng)絡(luò)的方法 21.2.3基于深度學(xué)習(xí)的方法 41.3課題研究?jī)?nèi)容和章節(jié)安排 51.3.1課題研究?jī)?nèi)容 51.3.2章節(jié)安排 62 課題相關(guān)理論及技術(shù) 72.1短期電網(wǎng)負(fù)荷預(yù)測(cè) 72.1.1短期電網(wǎng)負(fù)荷預(yù)測(cè)定義 72.1.2短期電網(wǎng)負(fù)荷預(yù)測(cè)步驟 72.2BP神經(jīng)網(wǎng)絡(luò)模型 82.2.1模型結(jié)構(gòu) 82.2.2訓(xùn)練過程 82.3小波神經(jīng)網(wǎng)絡(luò) 92.3.1小波變換 92.3.2DB型小波 92.4深度學(xué)習(xí) 112.4.1深度學(xué)習(xí)的基本原理 112.4.2深度學(xué)習(xí)的訓(xùn)練過程 112.4.3深度學(xué)習(xí)的優(yōu)缺點(diǎn) 122.5本章小結(jié) 123 模型仿真數(shù)據(jù)處理 133.1負(fù)荷數(shù)據(jù)提取 133.2負(fù)荷影響因素分析 153.3實(shí)驗(yàn)數(shù)據(jù)的預(yù)處理 173.4本章小結(jié) 184基于LSTM模型的短期電網(wǎng)負(fù)荷預(yù)測(cè) 194.1總體架構(gòu) 194.2數(shù)據(jù)獲取 194.3數(shù)據(jù)處理 194.4模型建立 204.5負(fù)荷預(yù)測(cè) 234.6本章小結(jié) 245基于CNN-LSTM的短期電網(wǎng)負(fù)荷預(yù)測(cè) 255.1總體架構(gòu) 255.2數(shù)據(jù)獲取 255.3數(shù)據(jù)處理 255.4模型建立 265.5負(fù)荷預(yù)測(cè) 275.6本章小結(jié) 286實(shí)例分析 297結(jié)論 347.1工作總結(jié) 347.2展望 34參考文獻(xiàn) 36緒論背景意義智能電網(wǎng)是能夠?qū)崿F(xiàn)可持續(xù)發(fā)展的前提，而高精度的電網(wǎng)負(fù)荷預(yù)測(cè)是智能電網(wǎng)得以存在的前提，準(zhǔn)確預(yù)測(cè)電網(wǎng)負(fù)荷有利于降低發(fā)電成本，節(jié)能減損，保證電網(wǎng)安全穩(wěn)定運(yùn)行。因此，近年來電網(wǎng)負(fù)荷預(yù)測(cè)技術(shù)已經(jīng)成為熱門的科學(xué)研究課題。地區(qū)電網(wǎng)負(fù)荷預(yù)測(cè)的定義為：依據(jù)電網(wǎng)系統(tǒng)實(shí)際運(yùn)轉(zhuǎn)狀態(tài)，結(jié)合地區(qū)政治與經(jīng)濟(jì)環(huán)境、社會(huì)活動(dòng)類型和氣候種類等因素，完成歷史數(shù)據(jù)的分析工作，尋找該地區(qū)負(fù)荷變動(dòng)和各個(gè)影響因素間所存在的聯(lián)系，從而建立相應(yīng)的模型。采取恰當(dāng)?shù)姆绞酵瓿傻貐^(qū)未來某一階段用電需求的預(yù)測(cè)工作，并對(duì)地區(qū)電網(wǎng)發(fā)展走勢(shì)進(jìn)行科學(xué)分析與判斷。當(dāng)我們需要在未來幾個(gè)星期、幾天或者一天的時(shí)間內(nèi)對(duì)電網(wǎng)負(fù)荷情況進(jìn)行預(yù)測(cè)時(shí)，就需要考慮使用短期電網(wǎng)負(fù)荷預(yù)測(cè)方法。通過引入大量的氣象資料等，可以更好地提高負(fù)荷預(yù)測(cè)結(jié)果的精度。1.2負(fù)荷預(yù)測(cè)研究歷程1.2.1傳統(tǒng)電網(wǎng)負(fù)荷預(yù)測(cè)方法早在20世紀(jì)80年代，世界上許多發(fā)達(dá)國(guó)家的相關(guān)研究人員就已經(jīng)初步針對(duì)負(fù)荷預(yù)測(cè)(loadforecasting，LF)這個(gè)主要問題進(jìn)行深入研究。負(fù)荷平均值一般指的就是一個(gè)特定工作時(shí)間的地點(diǎn)或者一個(gè)特定時(shí)間段的一個(gè)供電系統(tǒng)，其能量或者供電功率的平均采樣。最初對(duì)于負(fù)荷預(yù)測(cè)問題的理論研究主要是基于1976年前Box等一些人成功提出的一種關(guān)于特定時(shí)間負(fù)荷序列的功率預(yù)測(cè)計(jì)算方法，被人們稱為Box-jenkins。該計(jì)算分析方法對(duì)不同負(fù)荷預(yù)測(cè)分析模型的數(shù)據(jù)輸入和輸出的可靠性要求相對(duì)較低，因此無法充分考慮不同歷史數(shù)據(jù)，不同時(shí)間周期序列中的輸入是否符合預(yù)期，也沒有辦法充分考慮一些可能會(huì)直接影響負(fù)荷變化的其他影響因素。該模型很難實(shí)現(xiàn)不同負(fù)荷預(yù)測(cè)輸入數(shù)據(jù)都能達(dá)到更高要求的目的。為此，文獻(xiàn)1給大家提供了一種稱為系統(tǒng)負(fù)荷強(qiáng)度峰值模型的系統(tǒng)設(shè)計(jì)，這種峰值模型首次把天氣、溫濕度等外部環(huán)境條件因素作為考察負(fù)荷的重要因素[1]?；贏ubox-jenkins的基本預(yù)測(cè)模型的方法，文獻(xiàn)2中作者提出了一種自定義回歸式滑動(dòng)平均預(yù)測(cè)模型的基本預(yù)測(cè)[2]。Juberias等人通過數(shù)學(xué)設(shè)計(jì)和研究建立自定義回歸滑動(dòng)積分的一種滑動(dòng)負(fù)載平均預(yù)測(cè)模型，用來深入研究如何有效實(shí)現(xiàn)對(duì)積分負(fù)載的滑動(dòng)預(yù)測(cè)[3]。之后，Haida等人把多種可能影響負(fù)荷預(yù)測(cè)的主要因素綜合考慮到負(fù)荷預(yù)測(cè)的范圍內(nèi)，提出了多元線性回歸分析法，建立了對(duì)負(fù)荷預(yù)測(cè)的模型[4]。1.2.2基于神經(jīng)網(wǎng)絡(luò)的方法機(jī)器學(xué)習(xí)(machinelearning)的支持方法被廣泛應(yīng)用于對(duì)輸入負(fù)荷的測(cè)量及預(yù)測(cè)，文獻(xiàn)5提出利用負(fù)荷支持模型向量機(jī)的支持方式對(duì)其模型進(jìn)行輸入負(fù)荷測(cè)量及預(yù)測(cè)[5]。2005年，Niu等人將ANN與S-SVM相互作用結(jié)合一起來對(duì)其模型進(jìn)行了輸入負(fù)荷的測(cè)量及預(yù)測(cè)，建立的支持模型在其可以預(yù)測(cè)的負(fù)荷精度和計(jì)算出的速率上均已經(jīng)得到了大幅度的提升[6]。2013年，Wei等人通過相互結(jié)合模型主要的成分負(fù)荷分析和最小二維相乘負(fù)荷支持模型向量機(jī)(LS-SVM)的支持方法對(duì)其模型進(jìn)行了輸入負(fù)荷測(cè)量及預(yù)測(cè)，該支持模型能夠有效地降低負(fù)荷預(yù)測(cè)支持模型進(jìn)入輸出負(fù)荷的維數(shù)，提高了機(jī)器學(xué)習(xí)的預(yù)測(cè)速度和計(jì)算準(zhǔn)確性[7]。自20世紀(jì)90年代以來，有關(guān)函數(shù)ANN在負(fù)荷預(yù)測(cè)等領(lǐng)域的基礎(chǔ)研究逐步得到加強(qiáng)，許多先進(jìn)的函數(shù)優(yōu)化分析算法、數(shù)學(xué)分析理論模型及計(jì)算模型已經(jīng)廣泛應(yīng)用于新的函數(shù)ANN中。下面將簡(jiǎn)單介紹幾種主要被應(yīng)用于負(fù)荷預(yù)測(cè)的典型無線神經(jīng)網(wǎng)絡(luò)處理模型及其基于該網(wǎng)絡(luò)模型持續(xù)優(yōu)化后的新型改進(jìn)模型[8-11]。在眾多的ANN延遲算法中，Rumelhart等人首先提出的疊加誤差反向信號(hào)來傳遞延遲數(shù)據(jù)的算法(backpropagation，BP)最為常見，然而ANN和BP等算法同樣存在著迭加交替延遲時(shí)間短、收斂延遲時(shí)間快、周期長(zhǎng)和速度慢等諸多復(fù)雜問題[12]。2005年，馬建偉等人將我國(guó)人工應(yīng)用魚群預(yù)測(cè)算法與BP應(yīng)用魚群算法技術(shù)進(jìn)行了有機(jī)結(jié)合，將其應(yīng)用到我國(guó)電網(wǎng)系統(tǒng)預(yù)測(cè)中短期負(fù)荷預(yù)測(cè)和超負(fù)載的魚群預(yù)測(cè)。人工應(yīng)用魚群預(yù)測(cè)算法能夠有效率地克服一些局部最優(yōu)，獲得一個(gè)新的全局最優(yōu)值[13]。文獻(xiàn)14中首次提出了共軛功率梯度式的BP神經(jīng)算法，應(yīng)用于對(duì)各種峰值功率負(fù)載的梯度預(yù)測(cè)[14]。2013年，Khan等學(xué)者首次成功提出了一種通過遞歸應(yīng)用笛卡爾定義遺傳規(guī)律的新型人工神經(jīng)網(wǎng)絡(luò)(RCGPANN)，該神經(jīng)網(wǎng)絡(luò)被廣泛應(yīng)用于對(duì)周期峰值功率負(fù)載的分析預(yù)測(cè)，能夠準(zhǔn)確地分析和預(yù)測(cè)一年中各個(gè)季節(jié)不同周期峰值功率負(fù)載的變化模式[15]。2014年，何川等人針對(duì)目前網(wǎng)絡(luò)自動(dòng)預(yù)測(cè)分析模型中由于數(shù)據(jù)輸入的成分變量依據(jù)數(shù)目太多，而導(dǎo)致的訓(xùn)練工作效率低下的現(xiàn)象，將分別采用獨(dú)立的成分量數(shù)據(jù)分析(ICA)和主要的成分變量分析(PCA)這兩種方法對(duì)其中的變量數(shù)據(jù)權(quán)值進(jìn)行二次降維，提高BP神經(jīng)網(wǎng)絡(luò)中自動(dòng)預(yù)測(cè)分析模型的技術(shù)訓(xùn)練工作效率，并大幅提高了網(wǎng)絡(luò)預(yù)測(cè)的準(zhǔn)確性[16]。2018年，張鳳林等人研究利用動(dòng)態(tài)域分析算法對(duì)其在BP中利用到的神經(jīng)網(wǎng)絡(luò)模型中的數(shù)據(jù)權(quán)值進(jìn)行參數(shù)分析，將這種網(wǎng)絡(luò)預(yù)測(cè)分析模型廣泛運(yùn)用并推廣到我國(guó)新一代電動(dòng)智能車和電動(dòng)汽車網(wǎng)絡(luò)并網(wǎng)預(yù)測(cè)技術(shù)中，取得了很大的經(jīng)濟(jì)效益[17]。傳統(tǒng)PSO模型算法在進(jìn)行性能優(yōu)化之后，使用神經(jīng)網(wǎng)絡(luò)訓(xùn)練構(gòu)建傳統(tǒng)預(yù)測(cè)模型，其性能遠(yuǎn)遠(yuǎn)地要優(yōu)于使用BP算法神經(jīng)網(wǎng)絡(luò)的傳統(tǒng)預(yù)測(cè)模型[18，19]。文獻(xiàn)20中已經(jīng)首次明確提出了一種新型MPSOBP算法和兩種BPSO算法相互作用結(jié)合的新型MPSO-BP算法預(yù)測(cè)分析模型，通過與不同實(shí)驗(yàn)室的分析結(jié)果進(jìn)行精密對(duì)比，該預(yù)測(cè)模型大幅度改善了兩種BP算法神經(jīng)網(wǎng)絡(luò)的應(yīng)用廣泛性和分析精確度，該預(yù)測(cè)模型預(yù)測(cè)分析準(zhǔn)確率和預(yù)測(cè)可靠性高，對(duì)于各類電網(wǎng)系統(tǒng)的短期負(fù)荷預(yù)測(cè)和連續(xù)長(zhǎng)時(shí)間的供電負(fù)載都具有十分良好的技術(shù)預(yù)測(cè)和分析意義[20]。1.2.3基于深度學(xué)習(xí)的方法深度學(xué)習(xí)的數(shù)據(jù)模型最早起源于國(guó)際相關(guān)學(xué)術(shù)文獻(xiàn)[21]，它最早是由"深度學(xué)習(xí)之父"Hintont所提出的，能夠?qū)⒍鄠€(gè)可以被正確表征或者多個(gè)無法被正確表征的數(shù)據(jù)建立中間層，從而達(dá)到對(duì)各種數(shù)據(jù)資源進(jìn)行綜合挖掘和綜合分析的重要功能。深度泛化模型通過利用機(jī)器人深度學(xué)習(xí)非線性性能結(jié)構(gòu)分析的技術(shù)應(yīng)用，來直接自動(dòng)實(shí)現(xiàn)對(duì)復(fù)雜變量函數(shù)的深度逼近，達(dá)到預(yù)期非線性性能預(yù)測(cè)的效果，具有很好的深度泛化分析能力和高度自動(dòng)的適應(yīng)處理能力。目前科學(xué)研究中的深度學(xué)習(xí)基本網(wǎng)絡(luò)方法主要領(lǐng)域有：深度學(xué)習(xí)置信神經(jīng)網(wǎng)絡(luò)(deepbeliefnetwork，DBN)，循環(huán)深度神經(jīng)網(wǎng)絡(luò)(recurrentneuralnetwork，RNN)以及卷積循環(huán)神經(jīng)網(wǎng)絡(luò)(convolutionalneuralnetwork，CNN)。深度學(xué)習(xí)置信神經(jīng)網(wǎng)絡(luò)(deepbeliefnetwork，DBN)理論是目前基于深度置信神經(jīng)網(wǎng)絡(luò)置信模型的一個(gè)重要典型理論代表，并已應(yīng)用于電網(wǎng)負(fù)荷預(yù)測(cè)領(lǐng)域。眾所周知，DBN由多臺(tái)受限的玻爾茲曼機(jī)器組合堆疊而成，通過這種無監(jiān)督的數(shù)據(jù)處理方式對(duì)大量數(shù)據(jù)進(jìn)行了預(yù)處理，傳統(tǒng)DBN的局部權(quán)值進(jìn)行微調(diào)方式就是通過基于梯度上升和下降的逆向傳遞網(wǎng)絡(luò)(back-propagation，BP)來實(shí)現(xiàn)完成，在訓(xùn)練的過程中陷入到局部最優(yōu)時(shí)，大量的迭代計(jì)算容易導(dǎo)致收斂速度過慢。鑒于此，DBN在預(yù)測(cè)領(lǐng)域表現(xiàn)出的非線性逼近性能并不令人滿意[24-26]。循環(huán)深度神經(jīng)網(wǎng)絡(luò)(recurrentneuralnetwork，RNN)網(wǎng)絡(luò)是一種通過對(duì)神經(jīng)序列中的數(shù)據(jù)進(jìn)行構(gòu)造三維模型的動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)，神經(jīng)元具備了自身的反饋處理功能，可以自動(dòng)處理任意一定時(shí)間長(zhǎng)度的神經(jīng)序列。一個(gè)隱藏層輸入序列現(xiàn)在的送入輸出與之前的送出輸入也都有相互間的關(guān)聯(lián)，具體表現(xiàn)在這里就是底層循環(huán)的一個(gè)神經(jīng)網(wǎng)絡(luò)，在系統(tǒng)中它會(huì)將之前的所有輸入輸出信息都進(jìn)行綜合記憶，并將其廣泛地應(yīng)用到現(xiàn)在所有的輸出輸入計(jì)算當(dāng)中，即兩個(gè)進(jìn)入隱藏層之間的每個(gè)節(jié)點(diǎn)幾乎是沒有相互連接的，并且每一個(gè)進(jìn)入隱藏層的輸出不僅僅是要求它們都必須包含底層上一個(gè)特定的中間時(shí)刻，它就是一個(gè)隱藏在底層的現(xiàn)在輸出[27]。卷積深度神經(jīng)網(wǎng)絡(luò)(convolutionalneuralnetworks，CNN)是一類主要被應(yīng)用于進(jìn)行包含卷積神經(jīng)計(jì)算并且同時(shí)具有特定深度神經(jīng)結(jié)構(gòu)的反向前饋深度神經(jīng)網(wǎng)絡(luò)(feedforwardneuralnetworks)，它們已經(jīng)是目前廣泛應(yīng)用于各種深度學(xué)習(xí)技術(shù)領(lǐng)域最具國(guó)際代表性的神經(jīng)算法。卷積型人工神經(jīng)網(wǎng)絡(luò)由于它不僅具有強(qiáng)大的生理表征和深度學(xué)習(xí)處理功能，并且它幾乎可以按生理邏輯和功能階級(jí)化的結(jié)構(gòu)對(duì)所有直接輸入的神經(jīng)信息都分別進(jìn)行了一個(gè)平移不變的合理分類，因此也被我們經(jīng)常統(tǒng)稱為"一種平移型的不變?nèi)斯ど窠?jīng)網(wǎng)絡(luò)(shift-invariantartificialneuralnetworks，SIANN)"[28-30]。2016年，Ryu等人認(rèn)為在企業(yè)負(fù)荷性能預(yù)測(cè)這一技術(shù)應(yīng)用領(lǐng)域中，我們應(yīng)將需求側(cè)重到能源管理這一關(guān)鍵技術(shù)因素[22]，提出了基于負(fù)荷深度測(cè)量神經(jīng)網(wǎng)絡(luò)(deepneuralnetworks，DNN)的企業(yè)負(fù)荷性能預(yù)測(cè)深度模型，通過與其他傳統(tǒng)的衡量方法深度進(jìn)行對(duì)比，平均絕對(duì)百分比誤差(meanabsolutepercentageerror，MAPE)和均勻平方根誤差(rootmeansquareerror，RMSE)已經(jīng)得到了有效地降低。MAPE和RMSE都已經(jīng)是企業(yè)負(fù)荷性能預(yù)測(cè)中廣泛用于衡量和分析企業(yè)預(yù)測(cè)電網(wǎng)系統(tǒng)負(fù)荷性能的重要衡量指標(biāo)，文獻(xiàn)23主要是將美國(guó)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的方法運(yùn)用到目前我國(guó)大型智能城市電網(wǎng)建設(shè)中，并且介紹各種負(fù)荷預(yù)測(cè)網(wǎng)絡(luò)技術(shù)相關(guān)領(lǐng)域推廣的一篇學(xué)術(shù)綜述[23]，搜集整理了2014-2016年的一些美國(guó)相關(guān)學(xué)術(shù)文獻(xiàn)，并對(duì)目前我國(guó)應(yīng)用深度學(xué)習(xí)技術(shù)中的各種預(yù)測(cè)網(wǎng)絡(luò)方法模型進(jìn)行了逐一的詳細(xì)介紹。當(dāng)時(shí)有關(guān)美國(guó)深度學(xué)習(xí)網(wǎng)絡(luò)方法在我國(guó)負(fù)荷預(yù)測(cè)網(wǎng)絡(luò)技術(shù)相關(guān)領(lǐng)域中的研究應(yīng)用相關(guān)文獻(xiàn)比較少，近兩年來這一發(fā)展趨勢(shì)的變化更加明顯。1.3課題研究?jī)?nèi)容和章節(jié)安排1.3.1課題研究?jī)?nèi)容本課題的主要任務(wù)是尋求可以更加準(zhǔn)確地預(yù)測(cè)地區(qū)電網(wǎng)系統(tǒng)負(fù)荷的方法，應(yīng)用深度學(xué)習(xí)這種機(jī)器學(xué)習(xí)算法對(duì)該預(yù)測(cè)問題進(jìn)行求解。本課題需要建立以深度學(xué)習(xí)算法為主的電網(wǎng)系統(tǒng)負(fù)荷預(yù)測(cè)模型，充分挖掘負(fù)荷多影響因素，在一定環(huán)境條件下，實(shí)現(xiàn)超高精度的預(yù)測(cè)。與傳統(tǒng)預(yù)測(cè)算法不同的是，深度學(xué)習(xí)算法可以充分考慮電網(wǎng)負(fù)荷的時(shí)序性和非線性，能深入挖掘電網(wǎng)用戶側(cè)數(shù)據(jù)特征，解決了傳統(tǒng)預(yù)測(cè)模型難以處理大數(shù)據(jù)，且預(yù)測(cè)精度無法滿足智能電網(wǎng)發(fā)展的現(xiàn)狀。與此同時(shí)，根據(jù)不同的預(yù)測(cè)時(shí)間，深度學(xué)習(xí)算法能提供合適的模型，減小實(shí)際誤差，提高負(fù)荷預(yù)測(cè)的精度。1.3.2章節(jié)安排第一章介紹了當(dāng)前電網(wǎng)系統(tǒng)負(fù)荷預(yù)測(cè)的背景，以及一些預(yù)測(cè)方法。第二章介紹了短期負(fù)荷預(yù)測(cè)原理，以及深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的模型結(jié)構(gòu)。第三章對(duì)負(fù)荷數(shù)據(jù)進(jìn)行預(yù)處理，分別從氣溫，星期，節(jié)假日三個(gè)因素來考究負(fù)荷的變化，分析負(fù)荷值波動(dòng)的原因。第四章建立了一種基于長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)的模型，處理之前已經(jīng)整理好的數(shù)據(jù)集，分析該模型下負(fù)荷預(yù)測(cè)的誤差范圍。第五章對(duì)之前的網(wǎng)絡(luò)模型進(jìn)行優(yōu)化，通過算法結(jié)合，達(dá)到提高精度的目的，再對(duì)比之前的算法，進(jìn)一步減小誤差。第六章對(duì)已建立的幾個(gè)模型進(jìn)行分析對(duì)比，通過比較RMSE來分析模型的適用性以及準(zhǔn)確性。

課題相關(guān)理論及技術(shù)2.1短期電網(wǎng)負(fù)荷預(yù)測(cè)2.1.1短期電網(wǎng)負(fù)荷預(yù)測(cè)定義負(fù)荷預(yù)測(cè)是一種主要根據(jù)某一地區(qū)的用電能源系統(tǒng)的運(yùn)作特性、自然環(huán)境條件等各種多維度、不同方面的因素作用和影響，在一定精度的要求下，對(duì)某特定時(shí)刻用電能耗進(jìn)行預(yù)測(cè)，幫助調(diào)節(jié)該地區(qū)用電能耗的工具。本文主要從短期電網(wǎng)負(fù)荷預(yù)測(cè)入手，通過訓(xùn)練輸入數(shù)據(jù)來預(yù)測(cè)之后某一日的負(fù)荷，再與該日的實(shí)際負(fù)荷作對(duì)比，考究模型的預(yù)測(cè)能力。2.1.2短期電網(wǎng)負(fù)荷預(yù)測(cè)步驟負(fù)荷預(yù)測(cè)具體步驟為：（1）明確目標(biāo)：通過現(xiàn)有的數(shù)據(jù)集容量來確定負(fù)荷預(yù)測(cè)的鄰域，依據(jù)主要目的來確定預(yù)測(cè)時(shí)間。（2）數(shù)據(jù)收集：通過現(xiàn)有的歷史負(fù)荷數(shù)據(jù)，增加訓(xùn)練輸入，多方面考慮各種可能會(huì)影響負(fù)荷波動(dòng)的因素。（3）數(shù)據(jù)處理：對(duì)現(xiàn)有的原始數(shù)據(jù)進(jìn)行統(tǒng)計(jì)并預(yù)處理，從中選取可用數(shù)據(jù)（4）變量因素分析：通過深入了解該地區(qū)的經(jīng)濟(jì)狀況，發(fā)展趨勢(shì)等可能會(huì)造成電力負(fù)荷發(fā)生變化的因素，分析目標(biāo)地區(qū)的用電模式，用電習(xí)慣。（5）預(yù)測(cè)模式選擇：考慮當(dāng)?shù)氐母鞣N條件，通過各種預(yù)測(cè)模型的比較，選擇最合適的預(yù)測(cè)模型。（6）進(jìn)行負(fù)荷預(yù)測(cè)：綜合考慮所選擇的預(yù)測(cè)模型是否為最優(yōu)。2.2BP神經(jīng)網(wǎng)絡(luò)模型2.2.1模型結(jié)構(gòu)誤差逆向傳播前饋神經(jīng)網(wǎng)絡(luò)中最典型的一種，其基本結(jié)構(gòu)可分為一個(gè)單層或者多層的疊加結(jié)構(gòu)，如框圖2-1所示。多層BP型神經(jīng)網(wǎng)絡(luò)的組成部分包括一個(gè)輸入層、輸出層與若干個(gè)隱含層，各個(gè)層內(nèi)遵循實(shí)際問題設(shè)置數(shù)目不等的神經(jīng)元，各神經(jīng)元之間的連接是通過不同的權(quán)值系數(shù)進(jìn)行的。圖2-1BP神經(jīng)網(wǎng)絡(luò)模型2.2.2訓(xùn)練過程作為一種基于誤差反向傳播的算法，BP算法的訓(xùn)練過程包括兩個(gè)環(huán)節(jié)，第一個(gè)環(huán)節(jié)為信息正向傳播，第二個(gè)環(huán)節(jié)為誤差反向傳播，上述兩者在訓(xùn)練過程中互相交替，網(wǎng)絡(luò)的各項(xiàng)相關(guān)參數(shù)便隨運(yùn)行情況進(jìn)行調(diào)整。（1）信息的正向傳遞環(huán)節(jié)：將多個(gè)數(shù)據(jù)輸入，輸出數(shù)據(jù)接收到信息數(shù)據(jù)中，并向多個(gè)信息隱含輸入層數(shù)據(jù)傳遞信息，多個(gè)信息輸入隱含層數(shù)據(jù)進(jìn)行逐步讀入處理后，將一個(gè)信息正向輸入傳送到一個(gè)輸出隱含層，再進(jìn)行反向輸入。需要將輸出的數(shù)據(jù)同期望數(shù)據(jù)相比較，若數(shù)據(jù)的精確度沒有滿足既定要求，將進(jìn)入誤差反向傳播環(huán)節(jié)。（2）誤差的反向傳播環(huán)節(jié)：將預(yù)期數(shù)據(jù)和真實(shí)輸出數(shù)據(jù)的差值作為誤差數(shù)據(jù)，將該數(shù)據(jù)按與步驟(1)相反的路徑進(jìn)行反向傳輸。為保證泛化水平滿足要求且盡量減少誤差，該環(huán)節(jié)中要酌情對(duì)各隱層節(jié)點(diǎn)的闕值和權(quán)值進(jìn)行修改。2.3小波神經(jīng)網(wǎng)絡(luò)2.3.1小波變換小波變換是傅立葉變換的一種展現(xiàn)形式，被應(yīng)用在實(shí)踐生活中的多個(gè)領(lǐng)域。它可以在時(shí)域和頻域上通過改變信號(hào)的分辨率來進(jìn)行分析。設(shè)函數(shù)φ(t)∈L2(R)，其中L2(R)代表在實(shí)數(shù)R2φa，bt=其中，a為尺度參數(shù)，是與頻率相對(duì)應(yīng)的伸縮因子，b為時(shí)間參數(shù)，是與時(shí)間對(duì)應(yīng)的平移因子。小波基函數(shù)指的是母小波在波內(nèi)經(jīng)過了多次縮波回放和小波平移之后所發(fā)出的一系列發(fā)射小波。由于小波變換就是將一個(gè)個(gè)母小波發(fā)射信號(hào)經(jīng)過兩個(gè)函數(shù)內(nèi)部相互乘積的運(yùn)算方式對(duì)在波基運(yùn)算函數(shù)上的值進(jìn)行小波投影，因此小波基運(yùn)算函數(shù)的正確性和對(duì)它的選取也是小波分析的一個(gè)重點(diǎn)操作環(huán)節(jié)，直接影響了小波分解的結(jié)果和后續(xù)分析的效果。此外，我們希望同時(shí)將一個(gè)分解后的大型小波功率系數(shù)盡可能地集中應(yīng)用到其他各個(gè)方面，所以我們必須要求一個(gè)分解后的小型大波基本上應(yīng)該同時(shí)具有盡可能高的功率消失矩和功率矩；而在重構(gòu)時(shí)，盡量不要讓我們量化小波誤差的大小影響平滑。根據(jù)小波負(fù)載功率序列非平穩(wěn)型信號(hào)的線性特征，需要充分考慮如何選用，才能最大化的利用模型。2.3.2DB型小波DB型小波具有正交性、緊支性、高正則性、高消失矩和具有Mallat快速算法等特點(diǎn)，是一個(gè)小波系列，即通常所說的DB(N)。隨著支集長(zhǎng)度N的增加，小波的分頻能力明顯增強(qiáng)，計(jì)算量也同時(shí)增大。DB4小波相對(duì)于其他小型具有最短的時(shí)窗和最高的時(shí)間分辨率，應(yīng)用在非平穩(wěn)信號(hào)的時(shí)間定位分析中，可以同時(shí)取得較好的分析效果。cj+1=其中，設(shè)c0為一個(gè)等效于進(jìn)行分解的原始離散濾波信號(hào)，根據(jù)它的Mallat和待分解后的算法得H和G分別被我們稱為低通濾波器和高通濾波器，cj+1和以及dj+1是原始信號(hào)在不同頻域的成分，分別是在分辨率2?(j+1)下的低頻和高頻離散信號(hào)；J則表示等待分解的信號(hào)層數(shù)，最終把這些進(jìn)行過分解的離散信號(hào)通過ccj=H(3)式為經(jīng)過小波三次分解后的對(duì)偶信號(hào)三次重構(gòu)。其中，H?和G?分別是H和G的對(duì)偶算子，這種重構(gòu)方式重構(gòu)小波分解信號(hào)時(shí)，信號(hào)數(shù)目得到增加。對(duì)一個(gè)d1，d2，?，dj和S=D1圖2-2為小波分解的示意圖。原始信號(hào)輸入端的信號(hào)值為S，經(jīng)過一個(gè)高頻低通信號(hào)濾波器和低通濾波器的混合濾波之后，得到A和D兩個(gè)不同特征的信號(hào)。其中，D代表信號(hào)的細(xì)節(jié)部分，A代表信號(hào)的近似部分。圖2-2DB4小波分解示意圖2.4深度學(xué)習(xí)深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)重要組成部分，在當(dāng)前機(jī)器學(xué)習(xí)熱潮中，深度學(xué)習(xí)以其更優(yōu)的預(yù)測(cè)算法引領(lǐng)機(jī)器學(xué)習(xí)的走向，它是機(jī)器學(xué)習(xí)走向人工智能必須要經(jīng)歷的過程，深度學(xué)習(xí)本質(zhì)上是將數(shù)據(jù)按特征分層，再對(duì)這些不同層次的數(shù)據(jù)提取特征因子，加以學(xué)習(xí)，再運(yùn)用在模型當(dāng)中，更靈活，更智能。在經(jīng)過多次提取學(xué)習(xí)之后，把提取出來的特征組合成更高層次的特征，構(gòu)建多層神經(jīng)網(wǎng)絡(luò)模型，實(shí)現(xiàn)對(duì)數(shù)據(jù)或?qū)嶋H對(duì)象的抽象表達(dá)。2.4.1深度學(xué)習(xí)的基本原理假設(shè)深度學(xué)習(xí)要處理的信息是“水流”，而處理數(shù)據(jù)的深度學(xué)習(xí)網(wǎng)絡(luò)是一個(gè)由管道和閥門組成的巨大水管網(wǎng)絡(luò)。網(wǎng)絡(luò)的入口是若干管道開口，網(wǎng)絡(luò)的出口也是若干管道開口。這個(gè)水管網(wǎng)絡(luò)有許多層，每一層由許多個(gè)可以控制水流流向與流量的調(diào)節(jié)閥。根據(jù)不同任務(wù)的需要，水管網(wǎng)絡(luò)的層數(shù)、每層的調(diào)節(jié)閥數(shù)量可以有不同的變化組合。對(duì)復(fù)雜任務(wù)來說，調(diào)節(jié)閥的總數(shù)可以成千上萬甚至更多。水管網(wǎng)絡(luò)中，每一層的每個(gè)調(diào)節(jié)閥都通過水管與下一層的所有調(diào)節(jié)閥連接起來，組成一個(gè)從前到后，逐層完全連通的水流系統(tǒng)。深度學(xué)習(xí)型神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與其他傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)一樣有著諸多類似之處，網(wǎng)絡(luò)中包括有輸入、輸出層與多個(gè)隱含層，該層的神經(jīng)元之間沒有連接，層層之間無縫連接，其網(wǎng)絡(luò)模型的基本結(jié)構(gòu)形式如下圖2-3所示。圖2-3深度學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu)深度學(xué)習(xí)就是一個(gè)用人類的數(shù)學(xué)知識(shí)與計(jì)算機(jī)算法構(gòu)建起來的整體架構(gòu)，再結(jié)合盡可能多的訓(xùn)練數(shù)據(jù)以及計(jì)算機(jī)的大規(guī)模運(yùn)算能力去調(diào)節(jié)內(nèi)部參數(shù)，盡可能逼近問題目標(biāo)的半理論、半經(jīng)驗(yàn)的建模方式。2.4.2深度學(xué)習(xí)的訓(xùn)練過程相對(duì)于傳統(tǒng)機(jī)器學(xué)習(xí)來說，在數(shù)據(jù)準(zhǔn)備和預(yù)處理方面，兩者是很相似的。他們都可能對(duì)數(shù)據(jù)進(jìn)行一些操作：（1）數(shù)據(jù)清洗；（2）數(shù)據(jù)標(biāo)簽化；（3）歸一化；（4）去噪；（5）降維。傳統(tǒng)的機(jī)器學(xué)習(xí)需要先對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，再對(duì)數(shù)據(jù)進(jìn)行特征提取。傳統(tǒng)機(jī)器學(xué)習(xí)的特征提取主要依賴人工，針對(duì)特定簡(jiǎn)單任務(wù)的時(shí)候人工提取特征會(huì)簡(jiǎn)單有效，但是并不能通用，因?yàn)椴煌娜蝿?wù)所需要的人工提取步驟是不一樣的。其次，簡(jiǎn)單任務(wù)只能解決一般問題，復(fù)雜問題需要耗費(fèi)大量人力來提取特征，這是不符合人工智能發(fā)展規(guī)劃的。最后，在提取完特征之后，需要選擇數(shù)據(jù)分類器，將數(shù)據(jù)按層分類。深度學(xué)習(xí)首先也要對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，再通過現(xiàn)有的算法設(shè)計(jì)相應(yīng)的模型，最后直接代入數(shù)據(jù)訓(xùn)練。深度學(xué)習(xí)的特征提取并不依靠人工，而是機(jī)器自動(dòng)提取的。這也是為什么大家都說深度學(xué)習(xí)的可解釋性很差，因?yàn)橛袝r(shí)候深度學(xué)習(xí)雖然能有很好的表現(xiàn)，但是我們并不知道他的原理是什么。2.4.3深度學(xué)習(xí)的優(yōu)缺點(diǎn)優(yōu)點(diǎn)：（1）學(xué)習(xí)能力非常強(qiáng)，表現(xiàn)非常好；（2）神經(jīng)網(wǎng)絡(luò)很多，覆蓋的范圍很廣泛，在理論層面上可以映射各種函數(shù)，所以它能解決很多復(fù)雜的問題；（3）對(duì)數(shù)據(jù)有很強(qiáng)的依賴性，數(shù)據(jù)越多，數(shù)據(jù)集越龐大，它的表現(xiàn)力就越好，在某些方面已經(jīng)超越了人類的表現(xiàn)，而且潛力也很強(qiáng)，可以通過不斷調(diào)節(jié)參數(shù)來優(yōu)化性能，進(jìn)一步來提升模型的適用上限。（4）介于深度學(xué)習(xí)得優(yōu)異表現(xiàn)，有很多框架可以使用，這些框架可以兼容很多平臺(tái)。缺點(diǎn)：（1）深度學(xué)習(xí)在使用中需要大量的數(shù)據(jù)，對(duì)數(shù)據(jù)數(shù)量的要求非常高，同時(shí)大數(shù)據(jù)的背后需要大算力的支持，因此成本很高；（2）由于需要強(qiáng)大的算力，普通的CPU已經(jīng)無法滿足深度學(xué)習(xí)的要求了，主流的深度學(xué)習(xí)算力都是通過使用GPU和TPU，這就使得對(duì)硬件要求很高，成本自然也很高。（3）深度學(xué)習(xí)主要依靠模型來表現(xiàn)其功能，但是設(shè)計(jì)一個(gè)模型是非常復(fù)雜的，需要投入大量的人力和物力，大部分都只能使用現(xiàn)有模型，或者將現(xiàn)有的模型進(jìn)行組合，各取所長(zhǎng)，補(bǔ)齊短板，在一定程度上是很有成效的；（4）由于深度學(xué)習(xí)依賴數(shù)據(jù)，并且可解釋性不高。在訓(xùn)練數(shù)據(jù)不平衡的情況下會(huì)讓人不知道如何更改。輕微的參數(shù)調(diào)整就會(huì)使得得到的結(jié)果相差很多。2.5本章小結(jié)本章介紹了短期電網(wǎng)負(fù)荷預(yù)測(cè)的基本知識(shí)、預(yù)測(cè)步驟以及BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程、模型結(jié)構(gòu)原理、模型的優(yōu)缺點(diǎn)，并且詳細(xì)闡述深度學(xué)習(xí)的基本理論，訓(xùn)練過程以及主要神經(jīng)網(wǎng)絡(luò)方法。

模型仿真數(shù)據(jù)處理3.1負(fù)荷數(shù)據(jù)提取通過現(xiàn)有的資料，統(tǒng)計(jì)了河北省秦皇島地區(qū)2016年3月1日至6月11日每小時(shí)的總負(fù)荷值，以下展示了部分日期每小時(shí)總的負(fù)荷值。表3-12016年3月1日至6月11日每小時(shí)總負(fù)荷值再通過軟件WheatA，查詢當(dāng)時(shí)的氣溫。WheatA是一款免費(fèi)純凈、簡(jiǎn)潔易用的科學(xué)大數(shù)據(jù)系統(tǒng)。它整合了農(nóng)業(yè)、市場(chǎng)、氣象、土壤和海洋等多板塊內(nèi)容，覆蓋全球各國(guó)六十余種農(nóng)產(chǎn)品的生產(chǎn)貿(mào)易數(shù)據(jù)，逐年、逐月、逐日、逐時(shí)的氣象數(shù)據(jù)，土壤海洋等科研數(shù)據(jù)以及近五年全國(guó)期現(xiàn)貨報(bào)價(jià)數(shù)據(jù)?？梢酝ㄟ^可視化的站點(diǎn)選擇相應(yīng)的氣象數(shù)據(jù)，包括溫度，氣候，風(fēng)速等。圖3-1氣象監(jiān)測(cè)站點(diǎn)分布圖本實(shí)驗(yàn)通過列表版查到河北省秦皇島地區(qū)擁有三個(gè)氣象監(jiān)測(cè)站，分別是秦皇島市昌黎縣監(jiān)測(cè)站，秦皇島市撫寧縣監(jiān)測(cè)站，秦皇島市青龍滿族自治縣監(jiān)測(cè)站。圖3-2氣象監(jiān)測(cè)站點(diǎn)列表版3.2負(fù)荷影響因素分析圖3-3總負(fù)荷趨勢(shì)圖將每日負(fù)荷匯總在一起，通過趨勢(shì)圖可以發(fā)現(xiàn)總負(fù)荷近乎是以一個(gè)月為周期呈近似正弦函數(shù)的變化，說明大家總的用電高峰是在一個(gè)月的中旬，但是又不完全是，因?yàn)樵轮袝?huì)有幾次比較大的波動(dòng)，單從用電需求來分析，首先一點(diǎn)便是溫度。圖3-4平均氣溫趨勢(shì)圖從平均氣溫趨勢(shì)圖可以看出，總的氣溫是在上升的，這是符合常理的。從圖中可以看出四月氣溫波動(dòng)有些大，這會(huì)影響到電器的使用情況，氣溫會(huì)直接影響到人們使用家電比如空調(diào)，制冷器一類的，說明氣溫是影響負(fù)荷波動(dòng)的一大因素。可以通過下面的數(shù)據(jù)對(duì)比看出：表3-2總負(fù)荷與平均氣溫對(duì)比圖在同為節(jié)假日，且星期相同的前提下，氣溫升高是會(huì)對(duì)負(fù)荷值產(chǎn)生影響的。其次清明節(jié)假期以及五一假期結(jié)束之后出現(xiàn)了一段負(fù)荷小低谷，說明節(jié)假日對(duì)負(fù)荷預(yù)測(cè)也存在一定影響，通過對(duì)比發(fā)現(xiàn)：表3-3總負(fù)荷與節(jié)假日因素對(duì)比圖在氣溫幾乎屬于同一層級(jí)的前提下，是否是節(jié)假日對(duì)負(fù)荷值也是會(huì)產(chǎn)生影響的。3.3實(shí)驗(yàn)數(shù)據(jù)的預(yù)處理將秦皇島地區(qū)三個(gè)氣象監(jiān)測(cè)站獲取的氣溫整合成一個(gè)平均值，算作一個(gè)訓(xùn)練輸入，此時(shí)算四個(gè)訓(xùn)練輸入。表3-4秦皇島地區(qū)三個(gè)測(cè)溫站平均氣溫匯總圖將節(jié)假日因素導(dǎo)入訓(xùn)練集中，當(dāng)為節(jié)假日時(shí)（國(guó)家法定節(jié)假日），判斷為0，非節(jié)假日判斷為1。再將星期作為因素導(dǎo)入訓(xùn)練集（為方便記錄設(shè)置成1，2，3，4，5，6，7），將其用二進(jìn)制表示。3.4本章小結(jié)本章對(duì)現(xiàn)有的負(fù)荷數(shù)據(jù)進(jìn)行了預(yù)處理，通過負(fù)荷數(shù)據(jù)的波動(dòng)變化，引入了影響負(fù)荷變化的幾個(gè)主要因素。通過使用控制變量法，發(fā)現(xiàn)平均氣溫與負(fù)荷值是正相關(guān)的，當(dāng)天氣越熱時(shí)，制冷設(shè)備的使用會(huì)影響負(fù)荷變化；是否為節(jié)假日也是造成負(fù)荷波動(dòng)的一個(gè)重要因素。在節(jié)假日中，人們離開工作崗位，大型工廠以及商務(wù)區(qū)的用電情況下降，娛樂設(shè)施被大量使用，這就造成了負(fù)荷突然激增；與此同時(shí)，工作日和休息日時(shí)的負(fù)荷變化，使負(fù)荷波動(dòng)更大，有時(shí)工作日的負(fù)荷高于休息日，有時(shí)休息日高于工作日，這對(duì)負(fù)荷預(yù)測(cè)來說無疑又增加了難度。

4基于LSTM模型的短期電網(wǎng)負(fù)荷預(yù)測(cè)4.1總體架構(gòu)LSTM神經(jīng)網(wǎng)絡(luò)就是為了處理梯度消失這一問題而開發(fā)和創(chuàng)建的，結(jié)構(gòu)類似于RNN。它的一個(gè)計(jì)算子程序的節(jié)點(diǎn)包括輸入門，輸出窗口，遺忘門及Cell。Cell作為一個(gè)數(shù)據(jù)庫(kù)和計(jì)算節(jié)點(diǎn)的核心，用于實(shí)現(xiàn)對(duì)當(dāng)前時(shí)刻的記錄；輸入窗口用來控制對(duì)信息的輸入；遺忘門可以用來控制人類細(xì)胞的歷史狀況信息；輸出閥門是用于控制信息的輸出。門可以通過使用一個(gè)sigmoid函數(shù)作為被激活的函數(shù)，使得這個(gè)被遺忘門的輸入值大約是在[0，1]之間。當(dāng)遺忘門的輸出設(shè)置為0時(shí)，表示把上一個(gè)狀態(tài)下所有的數(shù)據(jù)信息都完全放棄；例如，當(dāng)一個(gè)遺忘門的輸入值變化為1時(shí)，則代表上一種狀態(tài)下所有的信息都被全部保存。4.2數(shù)據(jù)獲取LSTM要代入兩種數(shù)據(jù)集，第一種是上述第三章介紹的河北秦皇島地區(qū)的3個(gè)多月的綜合數(shù)據(jù)；第二種是國(guó)外電網(wǎng)系統(tǒng)的負(fù)荷數(shù)據(jù)加氣象數(shù)據(jù)，兩種數(shù)據(jù)集都是小時(shí)級(jí)的，由于CNN-LSTM組合模型所需要的數(shù)據(jù)集極為龐大，之前原有的秦皇島地區(qū)負(fù)荷數(shù)據(jù)已經(jīng)不再滿足需求，所以從負(fù)荷數(shù)據(jù)共享平臺(tái)獲得了歐洲輸電系統(tǒng)電網(wǎng)負(fù)荷數(shù)據(jù)，拓寬數(shù)據(jù)集的深度，從2003年3月1日到2009年6月17日共有1048576條數(shù)據(jù)，包括了當(dāng)時(shí)的氣溫，運(yùn)用此數(shù)據(jù)集，測(cè)試LSTM的預(yù)測(cè)能力以及性能。4.3數(shù)據(jù)處理將現(xiàn)有的秦皇島負(fù)荷數(shù)據(jù)分為兩個(gè)部分，第一個(gè)部分是2016年3月到5月的數(shù)據(jù)，這部分?jǐn)?shù)據(jù)將作為訓(xùn)練輸入，放到模型當(dāng)中；第二部分是2016年6月的數(shù)據(jù)，作為對(duì)比數(shù)據(jù)。在模型當(dāng)中設(shè)定預(yù)測(cè)2016年的6月的數(shù)據(jù)，將預(yù)測(cè)之后的數(shù)據(jù)與對(duì)比數(shù)據(jù)作對(duì)比，進(jìn)而可以研究預(yù)測(cè)的準(zhǔn)確性。而國(guó)外輸電系統(tǒng)的負(fù)荷數(shù)據(jù)已經(jīng)放到模型當(dāng)中使用過了，所以只做個(gè)簡(jiǎn)單的預(yù)處理即可直接使用。4.4模型建立對(duì)于一個(gè)給定的輸入時(shí)間序列x=(x1，?，xT)?t=S(Wyt=W式中：Wx?、W??、W?y可以分別被用來表示由一個(gè)連接輸入端與層內(nèi)部連接兩端到另一個(gè)連接隱含端兩層、輸入端與層內(nèi)部、隱含端與層外部連接到另一個(gè)連接輸出端兩層的各種類型網(wǎng)絡(luò)偏移權(quán)重密度系數(shù)；b?、by分別被可以用來用于表示連接隱藏層和連接輸出端兩層之間的網(wǎng)絡(luò)偏移密度矢量；LSTM是一種特殊類型的循環(huán)神經(jīng)網(wǎng)絡(luò)，主要依靠經(jīng)過精心設(shè)計(jì)的"門"結(jié)構(gòu)來實(shí)現(xiàn)，從而通過去除或者停止使用更多的神經(jīng)信息從而進(jìn)入人體細(xì)胞正常狀態(tài)的一種功能。LSTM門是否互通意指如何讓用戶信息可以自由選擇性流通的這種管理方法，LSTM擁有3個(gè)門，用于保護(hù)和控制細(xì)胞狀態(tài)，分別為：輸入門、輸出門和遺忘門。圖4-1給出了一個(gè)典型的LSTM長(zhǎng)短期記憶模塊的結(jié)構(gòu)。圖4-1LSTM網(wǎng)絡(luò)的長(zhǎng)短期記憶模塊結(jié)構(gòu)圖4-1中所示的細(xì)胞狀態(tài)神經(jīng)元即是標(biāo)準(zhǔn)循環(huán)神經(jīng)網(wǎng)絡(luò)中隱含層的神經(jīng)元，該細(xì)胞狀態(tài)神經(jīng)元的激發(fā)輸出ct函數(shù)可由式(3)表示ct=f式中：ct?1賦值代替了第t到t-1個(gè)神經(jīng)細(xì)胞控制狀態(tài)下的一個(gè)神經(jīng)元網(wǎng)絡(luò)輸出；ft和it分別是被用來用于表示當(dāng)前遺忘輸入門和當(dāng)前輸入窗口的網(wǎng)絡(luò)激發(fā)和控制輸出計(jì)算結(jié)果；WXc用來表示從當(dāng)前輸入網(wǎng)絡(luò)進(jìn)出輸入模塊層向當(dāng)前輸入模塊網(wǎng)絡(luò)輸入的輸出網(wǎng)絡(luò)計(jì)算權(quán)重對(duì)比系數(shù)；W?c用來表示從t-1個(gè)輸入模塊的網(wǎng)絡(luò)輸出輸入到第t輸入門主要是依據(jù)上個(gè)輸出?t?1和當(dāng)前的輸入xt來決定需要更新哪些屬性以及新屬性的信息，式(4)給出了輸入門的激發(fā)輸出it=s(W式中：S（·）函數(shù)可以直接用來表示logisticsigmoid中的函數(shù)；WXi則表示從當(dāng)前一個(gè)網(wǎng)絡(luò)模塊輸入門的層閥門開始到當(dāng)前一個(gè)模塊網(wǎng)絡(luò)輸入門的一個(gè)網(wǎng)絡(luò)偏移權(quán)重對(duì)比系數(shù)；W?i則表示從第t-1個(gè)模塊網(wǎng)絡(luò)長(zhǎng)短期的網(wǎng)絡(luò)記憶點(diǎn)在模塊被網(wǎng)絡(luò)送出后開始得到當(dāng)前一個(gè)模塊輸入層閥門的一個(gè)網(wǎng)絡(luò)偏移權(quán)重對(duì)比系數(shù)；Wci輸出門主要是依據(jù)上個(gè)輸出?t?1和當(dāng)前的輸入xt決定現(xiàn)在要輸出什么，式(5)給出了輸出門的激發(fā)輸出ot=s(W式中：WXo分別表示從當(dāng)前記憶網(wǎng)絡(luò)直接輸入輸出層閥門到當(dāng)前一個(gè)模塊網(wǎng)絡(luò)輸出層閥門的長(zhǎng)度網(wǎng)絡(luò)偏差權(quán)重矢量系數(shù)；W?o分別表示從第t或t-1個(gè)處于網(wǎng)絡(luò)長(zhǎng)短期的長(zhǎng)度記憶網(wǎng)絡(luò)模塊被直接送入閥門到當(dāng)前一個(gè)模塊輸出層閥門的長(zhǎng)度網(wǎng)絡(luò)偏差權(quán)重矢量系數(shù)；Wco分別表示從第t或t-1個(gè)處于細(xì)胞活動(dòng)狀態(tài)的網(wǎng)絡(luò)神經(jīng)元送入到當(dāng)前一個(gè)模塊輸出層閥門的長(zhǎng)度網(wǎng)絡(luò)偏差權(quán)重矢量系數(shù)；bo表示當(dāng)前輸出門的偏差向量。遺忘門則主要是根據(jù)上個(gè)輸出?t?1ft=s(W式中：WXf表示從網(wǎng)絡(luò)輸入層到當(dāng)前模塊遺忘門的網(wǎng)絡(luò)權(quán)重系數(shù)；W?f分別表示從第t-1個(gè)長(zhǎng)短期記憶模塊輸出到當(dāng)前遺忘門的網(wǎng)絡(luò)權(quán)重系數(shù)；Wcf分別表示從第t最終，長(zhǎng)短期記憶模塊的輸出h_t可由式(7)求取。 ?t=o4.5負(fù)荷預(yù)測(cè)（1）河北秦皇島地區(qū)綜合數(shù)據(jù)集圖4-2訓(xùn)練進(jìn)度實(shí)時(shí)跟蹤圖將迭代次數(shù)設(shè)置為250次，學(xué)習(xí)率為0。001，經(jīng)過簡(jiǎn)單的訓(xùn)練之后，可以看到RMSE降到了很低，而損失從第100次之后就是幾乎為0的狀態(tài)，說明LSTM具有很好的不失真表現(xiàn)，不過訓(xùn)練出來的誤差還是差強(qiáng)人意。（2）國(guó)外輸電系統(tǒng)綜合數(shù)據(jù)集圖4-3訓(xùn)練進(jìn)度實(shí)時(shí)跟蹤圖在LSTM上使用國(guó)外輸電系統(tǒng)的數(shù)據(jù)之后，發(fā)現(xiàn)LSTM雖然可以保持?jǐn)?shù)據(jù)不失真，但是卻免不了誤差抖動(dòng)，在超大數(shù)據(jù)集里面無法自學(xué)習(xí)去處理無效數(shù)據(jù)，導(dǎo)致最終得到的結(jié)果不盡人意。4.6本章小結(jié)鑒于預(yù)測(cè)電網(wǎng)傳輸負(fù)載的傳統(tǒng)時(shí)間預(yù)測(cè)序列模型具備了一定的非線性、波動(dòng)性及易于可視化預(yù)測(cè)時(shí)限等技術(shù)特點(diǎn)，傳統(tǒng)的時(shí)間預(yù)測(cè)模型普遍不準(zhǔn)確，實(shí)際上在應(yīng)用中的效果也并不理想。為此，本章研究了基于LSTM神經(jīng)網(wǎng)絡(luò)的電網(wǎng)負(fù)載波動(dòng)預(yù)測(cè)分析計(jì)算法和方法，并使用了兩套數(shù)據(jù)集。通過對(duì)比發(fā)現(xiàn)，在使用了該模型之后，預(yù)測(cè)數(shù)據(jù)與實(shí)際數(shù)據(jù)的差值縮小了很多，和基于傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)，小波神經(jīng)網(wǎng)絡(luò)分別進(jìn)行了分析比較，驗(yàn)證結(jié)果后得出基于LSTM神經(jīng)網(wǎng)絡(luò)的電網(wǎng)負(fù)荷預(yù)測(cè)算法，相比來說預(yù)測(cè)精度更高，實(shí)際的對(duì)比分析在后面的第六章有具體分析。

5基于CNN-LSTM的短期電網(wǎng)負(fù)荷預(yù)測(cè)5.1總體架構(gòu)本文主要是通過綜合研究最新提出的一維CNN-LSTM網(wǎng)絡(luò)組合計(jì)算模型，充分利用一維卷積記憶神經(jīng)網(wǎng)絡(luò)和長(zhǎng)短期卷積記憶神經(jīng)網(wǎng)絡(luò)在一維時(shí)間向量序列數(shù)據(jù)預(yù)測(cè)計(jì)算技術(shù)應(yīng)用中的各種綜合應(yīng)用優(yōu)勢(shì)，本文通過研究借鑒了我國(guó)現(xiàn)代自然語言處理計(jì)算技術(shù)及其發(fā)展演化過程研究其中傳統(tǒng)單詞法和嵌入式的數(shù)據(jù)表示計(jì)算法，將某一瞬間或者更多時(shí)刻的歷史節(jié)點(diǎn)特征負(fù)荷和其數(shù)值與其密切相關(guān)的各個(gè)歷史節(jié)點(diǎn)的特征負(fù)荷串聯(lián)在一起來對(duì)其進(jìn)行構(gòu)建并轉(zhuǎn)換形成一個(gè)全新的時(shí)間向量表示，進(jìn)而形成一個(gè)全新的時(shí)間向量序列數(shù)據(jù)，每一時(shí)刻的歷史負(fù)荷均由與其相關(guān)的特征共同表示，然后利用一維卷積的平移不變性，使用滑動(dòng)窗口表示形式依次將所有歷史用戶在計(jì)算機(jī)中輸入的各個(gè)歷史特征向量進(jìn)行預(yù)測(cè)的數(shù)據(jù)逐一地產(chǎn)生并轉(zhuǎn)換形成一張具有歷史特征的流程圖，然后通過綜合地利用一維LSTM神經(jīng)網(wǎng)絡(luò)針對(duì)其功能和特點(diǎn)進(jìn)行訓(xùn)練，最后預(yù)測(cè)電網(wǎng)負(fù)荷，與其它模型進(jìn)行對(duì)比。5.2數(shù)據(jù)獲取通過之前在負(fù)荷數(shù)據(jù)分享平臺(tái)得到的數(shù)據(jù)，從2003年3月1日到2009年6月17日共有1048576條數(shù)據(jù)，包括了當(dāng)時(shí)的氣溫，干濕度，運(yùn)用此數(shù)據(jù)集，測(cè)試CNN-LSTM的預(yù)測(cè)能力以及性能。5.3數(shù)據(jù)處理現(xiàn)有的數(shù)據(jù)已經(jīng)被使用過了，只做簡(jiǎn)單的預(yù)處理即可。5.4模型建立本文分析研究人員提出的一維網(wǎng)絡(luò)cnn-LSTM神經(jīng)網(wǎng)絡(luò)的多層組合堆疊模型及其結(jié)果結(jié)構(gòu)如下如上圖圖示所示，主要由兩個(gè)大部分神經(jīng)網(wǎng)絡(luò)共同堆疊組成：一維網(wǎng)絡(luò)CNN與LSTM，一維卷積神經(jīng)網(wǎng)絡(luò)分別處理每個(gè)輸入序列段，一維卷積神經(jīng)網(wǎng)絡(luò)的架構(gòu)與二維卷積神經(jīng)網(wǎng)絡(luò)相同，它是經(jīng)過Conv1D層和MaxPooling1D層的堆疊，最后我們可以直接得到一個(gè)完整的網(wǎng)絡(luò)全局池和優(yōu)化層或者說Flatten層。在LSTM網(wǎng)絡(luò)部分，通過循環(huán)層堆疊，增加網(wǎng)絡(luò)容量，進(jìn)一步提高模型預(yù)測(cè)能力，增加了每層丟失神經(jīng)元的組合參考值總數(shù)或者是新增的各層的組合參考值總數(shù)，本次模擬實(shí)驗(yàn)共分別累計(jì)設(shè)置3層每個(gè)LSTM網(wǎng)絡(luò)層，各層的丟失神經(jīng)元組合參考值的數(shù)量依次分別設(shè)定為32，64，128，在每層每個(gè)LSTM網(wǎng)絡(luò)層間加入隨機(jī)Dropout，在每次訓(xùn)練迭代過程中，會(huì)隨機(jī)地在神經(jīng)網(wǎng)絡(luò)中放棄25%的神經(jīng)元，以便于訓(xùn)練避免被模擬化組合迭代過度。圖5-1網(wǎng)絡(luò)組合模型圖5.5負(fù)荷預(yù)測(cè)圖5-2網(wǎng)絡(luò)數(shù)據(jù)實(shí)時(shí)匯報(bào)圖此為CNN-LSTM的模型以及每個(gè)模塊對(duì)應(yīng)的參數(shù)變化。圖5-3訓(xùn)練進(jìn)度實(shí)時(shí)跟蹤圖可以看到，通過CNN-LSTM組合模型預(yù)測(cè)之后，有效的減少了RMSE的波動(dòng)，且損失更少了。5.6本章小結(jié)本章提出了一種新的負(fù)荷預(yù)測(cè)組合模型，基于一維卷積記憶神經(jīng)網(wǎng)絡(luò)與長(zhǎng)短期二維記憶神經(jīng)網(wǎng)絡(luò)相互作用結(jié)合，綜合考慮了歷史負(fù)荷值，氣溫平均值，日期信息等多種因素對(duì)短期電力負(fù)荷預(yù)測(cè)的作用以及影響，在代入相同數(shù)據(jù)集之后，訓(xùn)練時(shí)間更久，但訓(xùn)練結(jié)果也更加貼合實(shí)際值，說明優(yōu)化過后的LSTM模型會(huì)更加符合當(dāng)前人們的用電習(xí)慣。

6實(shí)例分析1．建立簡(jiǎn)單的BP模型并對(duì)其進(jìn)行訓(xùn)練，可以得到簡(jiǎn)單的負(fù)荷預(yù)測(cè)曲線，預(yù)測(cè)值與實(shí)際值相差還是比較大的。6-1BP神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)誤差圖2．小波神經(jīng)網(wǎng)絡(luò)是一種以BP神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)為基礎(chǔ)的神經(jīng)網(wǎng)絡(luò)。它把小波基函數(shù)作為隱含層節(jié)點(diǎn)的傳遞函數(shù)，具有先向前傳播信號(hào)，再反向傳播誤差的特點(diǎn)。相對(duì)于BP來說，可以將之前的誤差反向給到前向的信號(hào)，但是還是需要借助誤差來控制誤差，因此可以從圖中看出，訓(xùn)練出來的精度有所提高，但是還是存在一些誤差比較突兀的無效數(shù)據(jù)，這種數(shù)據(jù)在代入訓(xùn)練之前應(yīng)該要被剔除的。6-2小波神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)誤差圖3．通過使用MATLAB建立LSTM長(zhǎng)短期記憶網(wǎng)絡(luò)對(duì)負(fù)荷進(jìn)行預(yù)測(cè)，將迭代次數(shù)設(shè)定為250次，可以看到其預(yù)測(cè)值與實(shí)際值的差別進(jìn)一步縮小，RMSE進(jìn)一步減少。6-3LSTM神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)誤差圖以上三種數(shù)據(jù)使用的為一個(gè)數(shù)據(jù)集，可以看出，單從RMSE而言，實(shí)際誤差是慢慢縮小的，對(duì)于預(yù)測(cè)短期負(fù)荷而言是可以肯定的。但是也有可能是數(shù)據(jù)集太小的緣故，單從這方面來看是遠(yuǎn)遠(yuǎn)不夠的；或者是因?yàn)楝F(xiàn)有模型不夠完美，單一的LSTM存在一定的局限性。因此決定延長(zhǎng)數(shù)據(jù)量，增加訓(xùn)練數(shù)據(jù)的縱向深度，并且引入了一個(gè)新型的模型，將CNN與LSTM結(jié)合起來，尋求更小的誤差。6-4LSTM神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)誤差圖6-5CNN-LSTM神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)誤差圖最終得到負(fù)荷預(yù)測(cè)曲線圖，可以看出，在引入CNN處理了訓(xùn)練數(shù)據(jù)后，預(yù)測(cè)值與實(shí)際值的差別是減小的，且很多情況下，都是無限逼近的。6-6LSTM神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)誤差曲線圖6-7CNN-LSTM神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)誤差曲線圖7結(jié)論7.1工作總結(jié)本文以秦皇島地區(qū)的歷史負(fù)荷數(shù)據(jù)作為主數(shù)據(jù)集，通過分析現(xiàn)有的幾種模型，對(duì)比不同模型之間的精度，改進(jìn)現(xiàn)有的算法來構(gòu)建組合模型，對(duì)地區(qū)電網(wǎng)負(fù)荷進(jìn)行預(yù)測(cè)。負(fù)荷預(yù)測(cè)是電網(wǎng)系統(tǒng)一項(xiàng)基礎(chǔ)性和關(guān)鍵性的工作，其預(yù)測(cè)的準(zhǔn)確度對(duì)供電可靠性有重要意義。具體工作如下：1.在綜合分析目前廣泛應(yīng)用的預(yù)測(cè)模型之后，考慮到深度學(xué)習(xí)算法是一種深層非線性網(wǎng)絡(luò)結(jié)構(gòu)，具備非常強(qiáng)大的自主學(xué)習(xí)能力，因此把深度學(xué)習(xí)模型運(yùn)用到電網(wǎng)負(fù)荷預(yù)測(cè)上。2.負(fù)荷預(yù)測(cè)的訓(xùn)練輸入數(shù)據(jù)有歷史負(fù)荷數(shù)據(jù)、氣溫?cái)?shù)據(jù)、日期數(shù)據(jù)。在實(shí)際的負(fù)荷預(yù)測(cè)中，引入時(shí)間序列，以河北秦皇島地區(qū)2016年3-5月的歷史數(shù)據(jù)作為訓(xùn)練輸入數(shù)據(jù)，對(duì)2016年6月氣溫負(fù)荷數(shù)據(jù)采用BP神經(jīng)網(wǎng)絡(luò)以及小波神經(jīng)網(wǎng)絡(luò)算法進(jìn)行粗略預(yù)測(cè)。以影響負(fù)荷的三類數(shù)據(jù)建立數(shù)據(jù)集，作為負(fù)荷預(yù)測(cè)模型的輸入單元。將預(yù)測(cè)日的輸出日平均負(fù)荷作為輸出單元構(gòu)建負(fù)荷預(yù)測(cè)模型，發(fā)現(xiàn)其準(zhǔn)確性欠佳。單一的算法已經(jīng)無法滿足負(fù)荷預(yù)測(cè)準(zhǔn)確性的要求。3.為了提高負(fù)荷預(yù)測(cè)的準(zhǔn)確率，提出了基于一維卷積神經(jīng)網(wǎng)絡(luò)與長(zhǎng)短期記憶網(wǎng)絡(luò)結(jié)合的短期電網(wǎng)負(fù)荷預(yù)測(cè)模型，對(duì)電網(wǎng)負(fù)荷數(shù)據(jù)進(jìn)行異常值修正與缺失值填補(bǔ)。對(duì)所有的負(fù)荷、溫度數(shù)據(jù)進(jìn)行預(yù)處理，對(duì)樣本數(shù)據(jù)進(jìn)行重構(gòu)。實(shí)驗(yàn)結(jié)果表明，CNN-LSTM模型與其他單一模型在負(fù)荷預(yù)測(cè)的精度上相比，有很大提高。7.2展望本文從數(shù)據(jù)并行和模型并行兩個(gè)方面出發(fā)，分析了不同模型之間的差異，相同模型之間數(shù)據(jù)集容量對(duì)模型的影響。可以發(fā)現(xiàn)，通過現(xiàn)有的知識(shí)分析數(shù)據(jù)、構(gòu)建多算法融合電網(wǎng)短期負(fù)荷預(yù)測(cè)模型，只是做了一個(gè)淺入的了解，整體上對(duì)深度學(xué)習(xí)算法的應(yīng)用還處于初級(jí)階段，因此下一步的改進(jìn)方向如下：1.因?yàn)楝F(xiàn)有的數(shù)據(jù)比較少，希望之后能夠增加數(shù)據(jù)列表的深度和層次的廣度，通過大量的訓(xùn)練輸入，來提高負(fù)荷預(yù)測(cè)的準(zhǔn)確性。2.在建立深度學(xué)習(xí)的負(fù)荷預(yù)測(cè)模型過程中，本文已經(jīng)確定了隱含層最后一層神經(jīng)元的個(gè)數(shù)，希望后面嘗試確定中間層神經(jīng)元個(gè)數(shù)，提升負(fù)荷預(yù)測(cè)的精確度。參考文獻(xiàn)［1］CORPENINGSL，REPPENND，RINGLEERJ．Ex-periencewithweathersensitiveloadmodelsforshortandlong－termforecasting［J］．IEEETransactionsonPowerApparatusSystems，1973，92(6)：1966－1972．［2］HAGANMT，BEHRSM．Thetimeseriesapproachtoshorttermloadforecasting［J］．PowerSystemsIEEETransactionson，1987，2(3)：785－791．［3］JUBERIASG，YUNTAR，MORENOJG，etal．AnewARIMAmodelforhourlyloadforecasting［C］//TransmissionandDistributionConference．IEEE，1999：314－319．［4］HAIDAT，MUTOS．Regressionbasedpeakloadfore-castingusingatransformationtechnique［J］．IEEETransactionsonPowerSystems，2002，9(4)：1788－1794．［5］CHENBJ，CHANGMW，LINCJ．LoadforecastingusingsupportvectorMachines：astudyonEUNITEcompetition2001［J］．IEEETransactionsonPowerSystems，2004，19(4)：1821－1830．［6］NIUDX，QIANGW，LIJC．Shorttermloadforecas-tingmodelusingsupportvectormachinebasedonarti-ficialneuralnetwork［C］//InternationalConferenceonMachineLearningandCybernetics．IEEE，2005：4260－4265．［7］WEIRR，WEIZZ，RONGR，etal．ShorttermloadforecastingbasedonPCAandLS－SVM［J］．AdvancedMaterialsResearch，2013，756－759：4193－4197．［8］ZHANGY，ZHOUQ，SUNC，etal．RBFneuralnet-workandANFIS－basedshort-termloadforecastingap-proachinreal-timepriceenvironment［J］．IEEETransactionsonPowerSystems，2008，23(3)：853－858．［9］KOCN，LEECM．Short－termloadforecastingusingSVR(supportvectorregression)-basedradialbasisfunctionneuralnetworkwithdualextendedKalmanfilter［J］．Energy，2013，49(49)：413－422．［10］陸寧，周建中，何耀耀．粒子群優(yōu)化的神經(jīng)網(wǎng)絡(luò)模型在短期負(fù)荷預(yù)測(cè)中的應(yīng)用［J］．電網(wǎng)系統(tǒng)保護(hù)與控制，2010，38(12)：65－68．［11］師彪，李郁俠，于新花，等．基于改進(jìn)粒子群－徑向基神經(jīng)網(wǎng)絡(luò)模型的短期電網(wǎng)負(fù)荷預(yù)測(cè)［J］．電網(wǎng)技術(shù)，2009，33(17)：180－184．［12］RUMELHARTDE，MCCLELLANDJL．ParallelDis-tributedProcessing［M］//Paralleldistributedprocessing/．T