前言：中文期刊網精心挑選了神經網絡常用算法范文供你參考和學習，希望我們的參考范文能激發你的文章創作靈感，歡迎閱讀。
神經網絡常用算法范文1
1基于貝葉斯算法的BP神經網絡
1.1貝葉斯算法基于貝葉斯算法的BP神經網絡是基于貝葉斯定理而發展出來的用于解決統計問題的方法，即任意一個待求量都可以看作是一個隨機變量，因此可以通過概率分布來對待求量進行描述，這個概率是在抽樣前就有的關于待求量的先驗概率分布。貝葉斯理論正是在沒有樣本信息時，只根據先驗概率分布來求解待求量。而在有樣本后，則可根據總體、樣本和先驗信息的聯合分布來對未知量進行判斷。后驗分布π（θ|x）是反映人們在抽樣后對隨機變量θ的認識，其與先驗分布即樣本x的差異是由于樣本出現后人們對θ的調整，即后驗分布π（θ|x）為抽樣信息對先驗分布π（θ）調整的結果[6]。
1.2貝葉斯算法BP神經網絡基于貝葉斯算法的BP神經網絡是一種以神經網絡基本原理為構架，通過引入貝葉斯推理有效地控制網絡模型的復雜度，進而更好地解決非線性問題及其不確定性[7]。在BP神經網絡中，訓練樣本集為D（xm，Om），xm為輸入信號，Om為輸出節點，在一定的網絡結構A與網絡參數W下，可以得到網絡的輸出由網絡的輸入D唯一的確定。網絡訓練的目標函數為誤差函數ED（D|W，A），則有。采用貝葉斯算法BP神經網絡步驟如下：（1）確定網絡結構A，初始化超參數α，β，對網絡參數W進行賦值。（2）以最終目標函數為M（W）最小為原則，對BP神經網絡進行訓練，尋找最優可能網絡參數W。（3）尋找最優可能參數α，β。（4）采用不同初始網絡參數尋找最優網絡參數。（5）對不同網絡結構A，尋找最優網絡參數。
2貝葉斯算法的BP神經網絡量化結果分析
2.1訓練樣本與測試樣本在對管道進行磁化的過程中，最常用的方法是沿管道軸向進行磁化，提取缺陷處沿軸向變化的漏磁場與沿周向變化的漏磁場，缺陷的長度信息主要由沿軸向變化漏磁場反應，缺陷的寬度信息主要由沿周向變化的漏磁場反應，而缺陷的深度信息則是由這兩個量共同反應[9]。本文采用實驗的方法獲取網絡所需樣本，這里以對陡壁缺陷的分析為例，研究貝葉斯算法的BP神經網絡對陡壁缺陷量化的有效性。分別制作缺陷長度為3，3.5，4，4.5，5，5.5倍管道壁厚，寬度為0.5，1，1.5，2倍管道壁厚，深度為0.1，0.15，0.2，0.25倍管道壁厚，共得到96組測量結果，取其中80個缺陷特征作為網絡的訓練樣本，剩余的16個缺陷特征作為測試樣本。
2.2長度的量化采用統計分析的方法選取與缺陷長度關系密切的特征量作為神經網絡的輸入信號，將缺陷長度作為網絡的輸出信號來對網絡進行訓練。所選取主要特征有漏磁場軸向分量的靜態閾值截取長度、一階微分信號極小值的位置與周向變化漏磁場動態閾值截取長度。分別對基本的BP神經網絡與貝葉斯算法的BP神經網絡進行訓練，當均方誤差小于10-3時停止訓練，得到兩種網絡的訓練與學習過程如圖1所示。比較兩種算法訓練過程可以看出貝葉斯算法的BP神經網絡總共進行了331次訓練，而基本的BP神經網絡總共進行了1789次訓練，可見貝葉斯算法的BP神經網絡的收斂速率更快。用16組測試數據對兩種網絡長度的量化誤差進行比較，得到量化后缺陷最大相對誤差與最小相對誤差如表1所示，對應貝葉斯算法BP神經網絡量化的缺陷如表2所示。從表2中可以看出，采用貝葉斯算法的BP神經網絡量化得到的缺陷長度與設計值的誤差明顯小于基本的BP神經網絡，最大相對誤差僅為0.05%。
2.3寬度的量化與缺陷長度的量化相似，采用統計分析的方法選取與缺陷寬度關系密切的特征量作為神經網絡的輸入信號，將缺陷寬度作為網絡的輸出信號來對網絡進行訓練。所選取主要特征有軸向變化漏磁場峰谷值、周向變化漏磁場波形面積、波形能量、靜態閾值截取長度。分別對基本的BP神經網絡與貝葉斯算法的BP神經網絡進行訓練，當均方誤差小于10-3時停止訓練，得到兩種網絡的訓練與學習過程如圖2所示。比較兩種算法訓練過程可以看出貝葉斯算法的BP神經網絡總共進行了269次訓練，而基本的BP神經網絡總共進行了2248次訓練，可見引入貝葉斯算法后的BP神經網絡的收斂速率大幅提升。與之前相同，用16組測試數據對兩種網絡寬度的量化誤差進行比較，得到量化后缺陷誤差如表3所示，貝葉斯算法BP神經網絡量化達到誤差的缺陷見表4。在對缺陷寬度進行量化的過程中，盡管量化得到的最大相對誤差仍較大，采用貝葉斯算法的BP神經網絡量化得到的缺陷寬度與設計值的誤差明顯小于基本的BP神經網絡。
2.4深度的量化在對缺陷的深度進行量化時，采用統計分析的方法選取了缺陷的長度、寬度以及軸向變化漏磁場的兩個峰谷值、波形面積、周向變化漏磁場峰值、峰谷值作為神經網絡的輸入信號，將缺陷深度作為網絡的輸出信號來對網絡進行訓練。對基本的BP神經網絡與貝葉斯算法的BP神經網絡進行訓練，得到兩種網絡的訓練與學習過程如圖3所示。貝葉斯算法BP神經網絡總共進行了4152次訓練，基本的BP神經網絡總共進行了8763次訓練，盡管引入貝葉斯算法BP神經網絡的訓練過程仍舊較長，但比基本BP神經網絡的收斂速率有所提升。用16組測試數據對兩種網絡深度的量化誤差進行比較，得到量化后缺陷誤差如表5所示，貝葉斯算法BP神經網絡量化達到誤差的缺陷見表6。從對缺陷深度量化結果可以看出，采用貝葉斯算法的BP神經網絡對缺陷深度進行量化，得到的缺陷深度與設計值的誤差小于基本的BP神經網絡。
3結束語
神經網絡常用算法范文2
關鍵詞：聲音識別；粒子群優化；BP神經網絡；MFCC；差分MFCC
中圖分類號：TP311.5文獻標識碼：A文章編號：16727800（2013）004012002
基金項目：浙江省科技廳公益性項目（2011C31045）
0引言
人工神經網絡作為一種最近幾十年才興起的意在模仿人類大腦結構和功能的智能信息處理系統，由于它具有良好的自適應、聯想記憶和并行處理等特點已經在很多領域有著廣泛的應用。將神經網絡應用于聲音信號的處理，可以解決高維空間和非線性模式等方面的識別問題，適用于對多個信號、特征量維數多的復雜聲音的識別。而BP神經網絡作為一種常用的多層神經網絡，具有很好的泛化能力，并且隱含層的個數越多，系統的預測誤差就越小，但同時在運行系統時所需要花費的時間也較多。本文結合聲音信號的特點對常用的BP神經網絡進行分析，針對常用的多層BP神經網絡所具有的學習記憶不穩定以及收斂速度慢等方面的缺點，選用三層的BP神經網絡來對聲音信號進行識別處理，同時選用粒子群算法對BP神經網絡進行優化處理。
1異常聲音識別系統總體設計
異常聲音識別系統主要包括聲音信號采集模塊、聲音信號MFCC和差分MFCC特征量提取模塊和基于神經網絡的特征量識別模塊3部分。其中聲音信號采集模塊主要是通過高靈敏度監控拾音頭來對聲音信號進行采集；聲音信號MFCC特征量提取模塊主要是對采集到的聲音信號先進行預處理，然后再對信號進行MFCC特征量的提取；基于神經網絡的MFCC特征量識別模塊主要是先用樣本MFCC特征量對神經網絡進行訓練，保存訓練好的權值和閾值，然后再通過現場采集的聲音信號的MFCC特征量和差分MFCC特征量進行在線測試，最后給出識別結果。
2異常聲音信號采集及MFCC特征量和差分MFCC特征量提取
本實驗所使用的數據來自于各種影視劇剪輯所得和人工現場實時采集。將數據庫的異常聲音分成兩組，其中一組是訓練樣本，另外一組是測試樣本。在用訓練樣本訓練好神經網絡后，在現場播放測試樣本。
MFCC（Mel頻率倒譜系數）就是根據人們耳朵聽到的聲音音調的高低和它的頻率沒有成線性正比關系的特點，用Mel頻率尺度來模擬人耳的聽覺特點。提取MFCC特征量的具體步驟如下：
（1）先對采集到的聲音信號進行預處理，主要是分幀加窗處理。由于聲音信號是一種非平穩信號，一般要通過加窗分幀進行處理。聲音信號的分幀主要是加權處理許多可以移動的具有固定長度的窗口，此處采用的窗口是漢明窗，窗函數表示如下：
3改進的神經網絡
3.1BP神經網絡
BP神經網絡包括輸入層、隱含層和輸出層3部分。輸入層通常表示各種聲音信號的特征向量，輸出層表示各種聲音的類型。而隱含層就是學習輸入層傳遞的信息，保存神經網絡的連接權值和每個節點的閾值。隱含層一般分為單隱含層和多隱含層，隱含層數越多，網絡拓撲結構越復雜；雖然這時系統的輸出值更加接近真實值，但運行系統所要花費的時間也會大大增加。一般情況下單隱含層都能滿足系統要求，因此本系統采用的是單隱含層。隱含層的節點數m通常按如下關系選擇：
m=[KF（]k*l[KF）]（5）
其中k是輸入層的節點數，l是輸出層的節點數。
3.2粒子群算法
從表1中可以看出，使用MFCC_D特征量來識別8種異常聲音比單獨使用MFCC的識別率要高，同樣PSO優化后的BP神經網絡比沒有優化的神經網絡要高。
5結語
本文提出了基于PSO優化的BP神經網絡的異常聲音識別系統的設計，同時采用12階MFCC和12階差分MFCC來識別聲音。經過實驗驗證該系統的識別率明顯高于文中討論的其它方法。由于本文討論的聲音都是在理想環境下獲得的，在今后的研究中，要嘗試在不同噪音背景下對所獲得的聲音進行處理。
參考文獻：
＼[1＼]閻平凡，張長水.人工神經網絡與模擬進化計算＼[M＼].北京：清華大學出版社，2001.
＼[2＼]武寧，肖星星，馮瑞.家用機器人的說話識別系統＼[J＼].計算機工程，2012（2）.
＼[3＼]欒少文，龔衛國.公共場所典型異常聲音的特征提?。躘J＼].計算機工程，2011（7）.
神經網絡常用算法范文3
摘要:
針對水文時間序列的非平穩性特征，以長江三峽宜昌站1904～2003年年平均流量為例，分別建立了小波分析(WA)與BP神經網絡和徑向基函數神經網絡(RBF)耦合的預測模型，探究了兩種組合模型的預測效果，并與傳統的單一人工神經網絡模型對比;并采用5種常見的預測性能評價指標分析預測效果。結果表明:組合模型預測成果的精度較單一模型顯著提高;組合和單一模型中RBF網絡模型均優于BP網絡模型;小波徑向基函數神經網絡組合模型具有較優的預測精度和泛化能力，是提高預測精度的有效方法，在徑流預測中具有可行性。
關鍵詞:
ATrous小波分析;BP神經網絡;徑向基函數神經網絡;預測模型;水文預報
中長期水文預報是根據已知水文與氣象要素信息對未來一定時期內的水文狀態作出定性和定量的預測。目前，通常預報的水文要素有流量、水位、冰情和旱情等［1］。水文時間序列預測對防汛、抗旱、水資源開發利用等具有重大的實用意義，然而水文系統是一個高度復雜的非線性系統，在由降雨經過蒸散發、下滲、截留、填洼形成徑流的過程中，還受到流域地形地貌、氣候變化、人類活動等因子的干預，因此，水文時間序列表現出極大的復雜性，給預測帶來一定困難。傳統的中長期水文預報大多采用回歸分析法和時間序列分析方法［2］。常用的回歸分析法主要有一元線性回歸分析法、多元線性回歸分析法、逐步回歸分析法、最小二乘回歸分析法、聚類分析法和主成分分析法等［2］，其因建模簡單、易于實現的優點成為了徑流中長期預報應用最早也是最廣的方法［3］，但回歸分析法中存在因子個數合理性的選擇、預報成果取均值而忽略了極大與極小值情況等問題;時間序列分析法常用自回歸序列(AR)模型、滑動平均序列(MA)模型、自回歸滑動平均序列(ARMA)模型、求和自回歸滑動平均序列(ARIMA)混合模型、門限自回歸序列(TAR)模型等［4］。
該方法能夠很好地分析和處理具有季節性、趨勢性的水文預報問題，但在建模過程中存在模型參數估計和合理定階等問題［2］。隨著計算機技術的發展，一些智能新方法被廣泛應用于中長期水文預測中，主要包括模糊分析、人工神經網絡、灰色系統分析、混沌理論、投影尋蹤、小波分析等方法［5］，然而目前還沒有一種水文預報模型能夠對所有水文序列具有完全適應性。近年來，小波分析和人工神經網絡組合模型成為中長期徑流預測的研究熱點［6－7］。利用小波變換可將徑流序列的趨勢項、周期項和隨機項成分較好地分離，為克服水文時間序列成因復雜、難以詳盡表述其變化規律等困難提供了一種便利的分析技術［8］，再將不同頻率下的小波變換成分輸入神經網絡進行預測，能夠較好地提高預測精度。只有選擇合適的小波神經網絡組合模型的結構，才能得到精度更高的預報結果。本文提出將小波分析與不同類型的神經網絡組合，分別建立小波分析與加動量的BP神經網絡相結合、小波與RBF網絡相結合的徑流預報模型，對兩種組合模型及傳統單一的神經網絡模型的模擬效果進行對比分析。
1模型結構及原理
1．1小波分析對水文時間序列進行小波分析時，使用連續小波變換或離散小波變換得到的小波變換系數冗余，因此常用快速的小波變換算法計算，不涉及具體的小波函數，主要有Mallat算法和ATrous算法。相比原始時間序列，Mallat算法重構后的時間序列因其二進抽取、插值處理，容易出現相位失真［9－11］，并會發生一定的偏移，而ATrous算法為無抽取離散小波變換，具備平移時不變性的特性，它只是對濾波器組進行內插補零，其每級分解系數和原始時間序列的長度保持一致，因此本文小波分析采用ATrous算法。
1．2BP神經網絡BP神經網絡的拓撲結構圖如圖1所示［12］。BP神經網絡預測模型，運用了神經網絡可以任意逼近非線性函數的特性，輸入與輸出間的復雜關系表示具有非線式的特點，其適用性明顯高于一般顯式線性預測模型［12］。水文時間序列是受多因子復雜影響的一種非穩定性的時間序列，并非可用單一的線性或非線性函數計算所得。BP神經網絡相當于一個“黑箱”模式，不需要知道輸入與輸出數據間的函數關系，僅通過對輸入輸出數據進行訓練學習，獲得誤差達到最優的一種映射關系，就可將訓練好的模型用于預測，它具有自學習、計算簡單、容錯性較好、泛化能力較強的特點。
1．3徑向基函數神經網絡徑向基函數神經網絡(RBF，RadialBasisFunc-tion)是一種能夠以任意精度逼近任意非線性函數的神經網絡結構，具有單隱層的3層向前網絡［12］，其中隱層函數為徑向基函數。RBF神經網絡僅對輸入空間的某一局部區域存在少數的神經元，用來決定網絡的輸出，且RBF網絡中的重要參數中心向量和寬度向量是根據樣本集中的訓練模式來試算確定或者初始化的，因此，RBF神經網絡具有避免陷入局部極小值的解域中的優點。RBF神經網絡的拓撲結構圖如圖2所示［12］。
2預測性能評價指標
為了對預測模型的適應性進行分析，需用預測成果的精度來度量。本文采用常用的3種誤差評定方法和預測值的相對誤差小于10%和20%的合格率，來評價模型的預測精度［13－14］。NMSE和MRE反映出實測值和預測值之間的偏差，NMSE和MAE越小，表明預測值越接近于實測值，即預測的效果越好。DVS以百分比形式表示正確預測目標值變化方向，其值越大，表明預測效果越好。以預測值相對誤差滿足小于10%和小于20%的合格率來反映預測值與實測值之間的逼近程度，其值越大，預測效果越好。
3模型仿真
長江宜昌水文站是長江上游出口的唯一控制站，且三峽工程位于其上游約44km處，對宜昌站年徑流量的預測具有重要的實踐意義。本文利用宜昌站1904～2003年為期100a的實測年均流量資料，采用MATLAB編程，利用小波神經網絡組合模型對其預測，選取兩種不同神經網絡模型對比分析。
3．1小波變換本文選取宜昌站100a年均徑流量，利用ATrous算法進行分解尺度為3的小波變換，求取徑流序列的細節系數W1、W2、W3和近似系數C3，用作神經網絡輸入。小波分析成果見圖3。
3．2基于小波變換的BP模型構建一個3層雙隱層的BP神經網絡模型，可以以任意精度逼近給定的非線性函數，而雙隱層可以提高模型的逼近精度。小波BP網絡模型即將BP神經網絡模型中對徑流量直接輸入預測替換為對小波變換系數的預測。小波分析將具有復雜非穩定性特征的徑流量分解成不同頻率的高頻細節序列和低頻概貌序列，因此可以更好地利用神經網絡模擬成因復雜、具有時－頻特征的徑流量序列的形態變化特征和趨勢。構建一個4－10－8－1結構的3層雙隱層BP模型，隱含層函數選用transig，輸出層函數選用purelin，采用有動量加自適應lr梯度下降法選擇參數，設置最大訓練次數為5000、訓練要求精度0．00001、學習速率0．01。利用Matlab軟件進行網絡訓練，對預測結果進行反歸一化處理，得到最終預測結果，成果見表1。
3．3基于小波變換的RBF模型與小波BP網絡模型類似，將歸一化后的前90a的年均徑流量小波變換系數作為RBF網絡模型訓練樣本的輸入，Q(t+T)作為訓練樣本輸出，預見期為2a，后10a的資料作為測試。不同于BP神經網絡的初始權值選取對于網絡訓練的精度影響很大這一特點，RBF神經網絡只需用試錯法調整參數SPREAD。在Matlab平臺上，調用RBF模型，調用方式為net=newrb(P，T，GOAL，SPREAD，MN，DF)，SPREAD為徑向基層的擴展速度常數，其取值會影響神經網絡的運算速度和精度［10］。通過試算得SPREAD的最優解為67．3。將訓練好的模型用來預測后10a的年均徑流量，成果見表1。
3．4單一人工神經網絡模型直接將實測的年均徑流量作為模型的輸入，預見期為2a。因徑流的成因復雜及形成過程具有較多干擾因素，單一的人工神經網絡模型不一定能較好地模擬其內部的變化特征，本文分別采用單一的BP神經網絡和RBF網絡對后10a的年均徑流量進行預測，預測成果見表1。
4模型適用性分析
根據三峽宜昌站100a徑流量資料，建立不同組合的小波神經網絡模型，利用Matlab軟件平臺對模型進行網絡學習，分別調試不同模型得到最優預測徑流量，成果見表1。為了判斷4種預測模型的預測結果是否保持實測序列的主要統計特性和變化特征，采用以下5種常見的預測性能評價指標驗證模型的適用性，成果詳見表2。(1)由宜昌站1994～2003年年均流量的預測值與實測值比較計算得NMSE、MRE、DVS、合格率e＜10%和合格率e＜20%的5種誤差評定參數。從預測整體NMSE和MRE上看，小波人工神經網絡組合模型預測精度明顯高于傳統單一的人工神經網絡模型，而組合模型中，小波RBF網絡模型預測效果更優，單一神經網絡模型中RBF網絡預測精度也高于BP網絡。這表明，組合模型用于長江徑流預測是合理可行的，具有較好的預測精度和泛化能力，是提高模型預測精度的有效方法。但BP神經網絡存在收斂速度較慢、易陷入局部極值、易發生“過擬合”或“欠擬合”情形等缺陷［15］，而RBF神經網絡以對點徑向對稱且衰減的非負非線性函數為傳遞函數［16］，能夠避免BP網絡產生的缺點，具有更好的逼近能力。(2)小波RBF神經網絡DVS表明，預測目標值方向的正確率高達88．89%，單一的BP網絡的DVS指標卻只有33．33%。這表明，小波神經網絡組合模型較單一神經網絡模型能更準確地預測目標值變化方向，RBF神經網絡在模式識別能力方面也優于BP神經網絡。(3)多數小波神經網絡組合模型成果的預測相對誤差小于10%，而單一神經網絡合格率則只接近半數，其中無論組合模型還是單一模型，RBF模型預測值的合格率都要高于BP神經網絡模型。由表2可知，4種模型預測精度基本達到(合格率e＜20%)，即人工神經網絡由于其較強的非線性映射能力、魯棒性、容錯性和自適應、自組織、自學習等特性［17］，對于水文徑流量預測具有可行性，而進行小波分析處理后再建立神經網絡模型能提高預測的精度，選擇合適的神經網絡模型則能優化預測成果。
5結語
筆者提出小波分析與不同人工神經網絡耦合的預測模型。組合模型可將高度復雜的非穩定年徑流序列分頻率提取的成分輸入人工神經網絡進行預測，巧妙地避開了單一預測模型預測精度不高的問題;而不同的小波神經網絡組合模型則進一步探討了小波分析和不同人工神經網絡耦合的密切程度，得到預測精度較高的小波神經網絡模型的組合結構。本文以宜昌水文站100a實測年均徑流量序列為例，進行實例對比驗證。對比分析模型模擬成果表明，小波神經網絡組合模型對徑流預測的適應性強于人工神經網絡模型，而小波RBF網絡模型比小波BP網絡模型具有更優適應性，小波RBF網絡模型能更好地揭示水文隨機序列的變化特性且提高了預測精度和速率，為水文工作提供了有效可行的預報方法，對水文資料的預測和插補延長具有實際意義。
參考文獻:
［1］包為民．水文預報［M］．北京:中國水利水電出版社，2009．
［2］宋一凡，郭中小，盧亞靜．基于遺傳算法優化的小波神經網絡在中長期水文預報中的應用———以三門峽為例［J］．中國水利水電科學研究院學報，2014，12(4):337－343．
［3］宋荷花，胡國華，李正最．湘江流域中長期水文預報［D］．長沙:長沙理工大學，2008．
［4］鐘登華，王仁超，皮鈞．水文預報時間序列神經網絡模型［J］．水利學報，1995，(2):69－74．
［5］王麗學，楊軍，孫靚，等．基于灰色系統與RBF神經網絡的中長期水文預報［J］．人民長江，2015，46(17):15－17．
［6］BatesJM，GrangerCWJ．Thecombinationofforecasts［J］．Opera-tionalResearchQuarterly，1969，20(1):451－468．
［7］王文圣，丁晶，李躍清．水文小波分析［M］．北京:化學工業出版社，2005．
［8］LiZuoyong．Progressofstudyonhydrologywaterresourceandwaterenvironment［J］．JournalofSichuanUniversity:EngineeringScienceEdition，2002，34(2):1－4．
［9］孫延奎．小波分析及其應用［M］．北京:機械工業出版社，2005．
［10］李賢彬，丁晶，李后強．基于子波變換序列的人工神經網絡組合預測［J］．水利學報，1999，(2):1－4．
［11］MATLAB中文論壇．MATLAB神經網絡30個案例分析［M］．北京:北京航空航天大學出版社，2010．
［12］楊淑瑩．模式識別與智能計算:Matlab技術實現［M］．北京:電子工業出版社，2008．
［13］汪麗娜，陳曉宏，李艷．不同徑流尺度的小波神經網絡預測［J］．華南師范大學學報:自然科學版，2013，45(2):104－106．
［14］SL250－2000水文情報預報規范［S］．
［15］崔東文，金波．改進BP神經網絡模型在小康水利綜合評價中的應用［J］．河海大學學報:自然科學版，2014，42(4):306－313．
［16］黃劍竹．改進RBF－Adadoost模型及其在年徑流預測中的應用［J］．人江，2015，45(1):32－36．
神經網絡常用算法范文4
關鍵詞:負荷預測;神經網絡;唐山電網;電力系統;電力負荷
中圖分類號:TM714文獻標識碼:A文章編號:1009-2374 (2010)13-0124-02
一、預測意義
唐山是具有百年歷史的沿海重工業城市,是河北省經濟中心,同時也是中國經濟發展前景最好的城市之一。特別是最近幾年,隨著國家產業結構與河北戰略布局的調整,重大項目紛紛在唐山興建,預計在未來幾年唐山地區經濟仍將快速增長。根據唐山電網用電情況統計數據,唐山電網2001年用電量158.266億千瓦時,2008年用電量538.509億千瓦時,平均年增長17.9%。綜合考慮唐山地區經濟發展與用電量增長因素,預計未來幾年唐山電網電力負荷將保持較高的增長。中長期電力負荷預測是電力系統規劃的基礎,它在電力系統規劃、新發電廠和發配電系統的建立過程中起到重要的指導作用。為了滿足唐山電網負荷不斷增長的需要,增加供電可靠性,對該地區進行科學合理的電力系統規劃勢在必行。因此,對唐山電網中長期的電力負荷進行預測具有重要意義。
二、預測方法選擇
目前,電力負荷預測的研究已經十分成熟,許多方法和模型被引用到電力負荷預測中,其中比較常用的預測方法有以下幾種:回歸分析法、時間序列法、指數平滑法、神經網絡法、灰色模型法、優選組合預測法、小波分析預測技術等。以上負荷預測的方法都有自身的優缺點以及適用范圍。電力系統專家經過長期負荷預測實踐,建議中長期電力負荷預測使用時間序列法與灰色模型法。由于未來幾年唐山市將投產幾個重大項目,唐山電網負荷將呈現不規則的跳躍式增長。因此,按照常規的預測方法對唐山電網的用電負荷進行預測將無法獲得較滿意的數據擬合度。神經網絡算法能夠實現較復雜的非線性映射,對大量的非結構性、非準確性規律具有自適應能力,應用于電力系統負荷預測,能夠得到比傳統預測方法更好的效果。因此,本文嘗試使用神經網絡算法預測唐山電網的用電負荷。
三、預測模型的建立
(一)確定神經網絡輸入量
輸入層是神經網絡結構的第一層次,該層次輸入量的確定關系到神經網絡訓練的效率。特征量取得太少,則不能起到區分判斷作用;取得太多則影響網絡的訓練速度。因此,合理地選擇輸入量,能提高網絡的訓練速度和預測精度。為了簡化模型的結構,提高預測的精度,本文綜合考慮中長期電力負荷預測的相關因素以及唐山電網的用電特點,確定以下五種影響電力負荷的經濟因素作為神經網絡的輸入量即:“唐山地區的生產總值(GDP);第一產業用電量占總用電量的比重;第二產業用電量占總用電量的比重;第三產業用電量占總用電量的比重;生活用電量占總用電量的比重。”
(二)構造神經網絡結構
本文應用的神經網絡是由輸入層、輸出層和隱含層三層網絡結構構成。理論研究已證明對于任何在閉區間上連續的函數,只要隱含層神經元數目足夠多,就可以用只含一個隱含層的網絡結構以任意精度來逼近,所以本文隱含層只取一層。第一層為輸入層,神經網絡的輸入神經元為五種影響唐山電網用電負荷的經濟因素,因此該層的神經元個數為5個;第二層是隱含層,隱含層神經元數根據下式求得:
或或h=lg2n (1)
其中k為樣本數,n為輸入層神經元數,m為輸出神經元數,h為隱含層神經元數,a為1～10之間的常數。第三層是輸出層,因為輸出結果只有一個指標即唐山電網某年的用電量,所以輸出神經元的個數是1。從而確定本文的神經網絡結構為5×3×1。
(三)神經網絡的訓練算法
由于標準BP算法中,人為憑經驗選取學習率和動量因子,往往會對網絡學習速度產生較大影響,甚至會因為學習率選取不當而導致學習中發生振蕩而不能收斂,這些缺點將影響整個預測的精度。本文采用改進的批處理式Vogl快速算法,進行網絡訓練。在網絡訓練過程中根據訓練的實際情況自適應改變學習率η及動量因子α的大小:當前的誤差梯度修正正確,則增大學習率,加入動量項;否則減少學習率,甩掉動量項。這樣初始η值就可以相對隨意的選取,避免上述缺點。自適應改變η及α的修正公式如下:
(2)
上式中ΔE=E(J)-E(J-1),表示神經網絡前后相鄰兩次學習過程中誤差函數的變化量。φ略大于1,β略小于1。E (J)為神經網絡第J次訓練過程中的誤差函數:
(3)
式中:pt',和Ot分別表示神經網絡對應于第t個輸入向量的期望輸出和實際輸出。
(四)預測實施
唐山電網2001～2008年用電量、生產總值以及各產業用電占比情況的歷史數據見表1:
表12001～2008年唐山電網用電情況統計
年份 生產總值
/萬元 用電量
/億千瓦時 一產用電
/% 二產用電
/% 三產用電
/% 生活用電
/%
2001年 9150473 158.266 3.8 83.4 5.5 7.2
2002年 9993543 180.420 3.3 84.6 5.5 6.6
2003年 11022878 233.638 2.2 87.7 4.8 5.3
2004年 17616311 290.260 1.7 89.1 4.5 4.7
2005年 20276374 358.800 2.4 89.1 4.0 4.5
2006年 23621410 432.752 2.1 89.3 4.2 4.5
2007年 27794190 520.020 1.3 90.5 4.1 4.1
2008年 36132447 538.509 1.2 90.0 4.4 4.4
根據2001～2008年唐山電網用電量的歷史數據,分別使用時間序列法、灰色預測模型與神經網絡算法對唐山電網的用電量進行預測。使用2001～2006年的歷史數據預測2007年、2008年的用電量,并將預測結果與真實數據做對比,以分析三種預測方法的誤差。通過
Matlab軟件計算,三種預測方法的預測結果及誤差情況,見表2:
表2用電量預測值及誤差表
序號 年份 用電量 灰色模型 時間序列法 神經網絡
預測值 誤差 預測值 誤差 預測值 誤差
1 2007年 520.020 501.1 3.64% 487.9 6.41% 531.7 2.25%
2 2008年 538.509 512.4 4.85% 503.9 6.75% 559.4 3.88%
通過上表我們可以看出以上三種預測方法的誤差除了時間序列法的誤差較高外,都在允許的范圍內。灰色模型與神經網絡算法都可以較準確的預測出唐山電網的用電量。相比而言,神經網絡算法預測對于歷史數據的擬合度更高,神經網絡算法更適用于唐山電網中長期的電力負荷預測。因此,本文使用神經網絡算法對唐山電網未來五年的用電負荷進行預測,通過Matlab軟件計算,預測結果見表3:
表3唐山電網用電負荷預測
序號 年份 年用電量(億千瓦時) 年最大負荷(MW)
1 2009 584.282 7637.677
2 2010 625.182 8172.314
3 2011 665.819 8703.514
4 2012 725.077 9478.127
5 2013 781.633 10217.42
四、結論
本文研究了神經網絡算法在唐山電網中長期電力負荷預測中的應用。研究結果表明,應用神經網絡算法比時間序列法、灰色模型有更高的預測精度,神經網絡算法可以較準確的預測唐山電網中長期的電力負荷。
參考文獻
[1]于之虹,郭志忠.數據挖掘與電力系統[J].電網技術,2001,25(8).
神經網絡常用算法范文5
Abstract： In the view of the shortage of the Wavelet Neural Network Algorithm， adapt Adaptive Inertia Weight Particle Swarm Optimization Algorithm（AIW-PSO） as a study algorithm， build the AIW-PSO Wavelet Neural Network Model to predict the Shanghai stock Index.， and make a comparison between the results of improved algorithm prediction model with results of traditional Wavelet Neural Network Model. The results show that the AIW-PSO Wavelet Neural Network Prediction Model has better prediction results on the Shanghai Stock Index.
關鍵詞： 自適應慣性權重粒子群優化算法；小波神經網絡；上證指數預測
Key words： Adaptive Inertia Weight Particle Swarm Optimization；Wavelet Neural Network；Shanghai Stock Index Prediction
中圖分類號：F832.5；F224 文獻標識碼：A 文章編號：1006-4311（2014）08-0006-03
0 引言
股票市場預測是一個非線性函數值估計和外推問題，隨著股市預測問題的復雜性增高，僅僅依靠傳統的預測方法或是單一的人工智能模型已經不足以達到人們所期望的要求。近年來，學者們試圖將多種股市預測技術結合，使它們優劣互補，從而達到更加理想的股市預測效果。殷光偉、藺玉佩[1]應用小波理論對混沌模型預測的結果予以重構，實現對原始收益率的預測，結果有了更高的精度。王剛[2]等利用小波將股指數據進行去噪處理，然后利用BP神經網絡進行預測分析，試驗結果精準度相對于BP神經網絡方法更高、效果更好。劉海珗[3]等將AR模型、RBF和GRNN神經網絡模型進行比較，結果表明若神經網絡選擇恰當的學習算法時，對上證指數預測結果會更優越。肖冬榮等[4]采用PSO算法訓練神經網絡對股市進行預測，實證結果表明改進算法易實現且預測精度高。文獻[5、6]提出了將遺傳算法與BP神經網絡相結合對股市價格進行預測，實證仿真結果證實該改進模型的優越性。Yoshinori[7]等將小波系數作為特征量輸入于多階段模糊推理系統中，并價格漲落進行預測。Taeksoo[8]等利用遺傳算法和神經網絡將小波系數加權后作為特征量預測匯率，效果同樣相對較好。而隨著小波神經網絡快速發展，這些年來其優越的性能使其得到了廣泛的應用，但其學習算法的一些缺陷對其在股市預測中的應用得到了限制。而本文所提出的一種自適應粒子群優化算法尋優等能力突出、簡單易實現等優勢會克服原有缺陷，而將AIW-PSO算法與小波神經網絡結合后的新技術將會成為一種全新的、更優越的股票市場預測方法。
1 自適應慣性權重粒子群優化算法
自從粒子群算法被提出以來不少學者也是提出各種各樣的改進算法來克服其收斂快、容易陷入局部極小值等缺點。如通過產生多子群、增加自適應變異、魚群算法中聚群行為、混沌理論等去改進粒子群，但在這么多改進算法中必然會存在一些如相互結合的算法之間的性能相互抵消及相互影響等情況，從而導致改進算法在做預測時的結果出現一種“假”的精度高等現象。故本文結合文獻[9、10]中所提出的一種自適應慣性權重粒子群優化算法，選擇該方法作為小波神經網絡的學習算法，來指導小波神經網絡的模型擬合。
由PSO算法的基本原理中粒子的位置和速度方程可知，其中ω是為非負數的慣性權重，它使粒子保持運動慣性，使其具有擴展收縮空間的趨勢，有助于新區域的搜索。設ωmax為最大慣性權重，ωmin為最小慣性權重，k為當前迭代次數，kmax為算法迭代總次數，則自適應慣性權重ω的方程如下：
ω=ωmax-k（ωmax-ωmin）/kmax
根據個體粒子的尋優能力，給出自適應慣性權重來調整全局搜索能力和局部開發能力。每一維每個粒子在每次迭代時都有不同的慣性權重，這對于提高收斂精度上有較好的效果。而實際應用中常將慣性因子ωmax和ωmin分別設為0.9和0.4。
2 基于AIW-PSO小波神經網絡預測模型
由上述AIW-PSO算法原理及算法流程，本小節試圖將AIW-PSO算法的尋優機制作為學習策略添加到小波神經網絡訓練過程中，構建AIW-PSO小波神經網絡，令小波神經網絡和AIW-PSO算法相互取長補短。對于小波神經網絡結構問題，輸入層節點數為m，隱含層節點數為n，輸出層節點數為k，則優化維度D=n×m+k×n+n+n。假設1：輸入層到隱含層的權值矩陣為Wkj，隱含層和輸出層的權值矩陣Wji；假設2：小波基函數平移系數bj，向量為B1=（b1，b2，…，bj）；小波基函數伸縮系數aj，向量為B2=（a1，a2，…，aj）；故單個粒子在維度上的順序編碼為包括以上假設1和假設2中的矩陣和向量中的所有元素的一行或一列的向量x=（W11，…，Wkj，W11，…，Wji b1，…，bj，a1，…，aj）。
優化單隱層小波神經網絡結構的主要步驟和基本流程為：
步驟1：對小波神經網絡的權值、小波基函數平移系數和伸縮系數進行結構編碼，使其對應于AIW-PSO算法中的個體；
步驟2：將權值和小波基函數平移系數和伸縮系數的取值區間賦予AIW-PSO算法的種群，隨機初始化種群；
步驟3：結合問題，設定網絡類型、結構、小波基函數及初始化各項參數，生成新的網絡模型；
步驟4：分別將種群的維度信息解碼為網絡模型各項參數，對網絡進行仿真輸出，計算均方誤差MSE作為算法的適應度；
步驟5：按照AIW-PSO算法的尋優方式進行迭代，直到某一個體的適應度滿足要求，或達到最大迭代步數則終止算法；
步驟6：將算法的最優解解碼給小波神經網絡，得到經過優化后的WNN模型，進行預測。
AIW-PSO算法訓練小波神經網絡模型的基本流程如圖1所示。
3 應用分析
股票指數時間序列是一個很不穩定的動態變化過程，其影響因素眾多，其中包括如宏觀、微觀、政治、經濟等因素。如何在上述眾多的影響因素中選取主要影響指標作為上證指數預測模型的輸入變量將會是一個十分關鍵的問題。根據文獻中和現實股票市場情況，輸出變量選為第t 日的收盤價，而影響指標選取為上證指數第t-1日的開盤價、最低價、最高價、收盤價和交易量信息共五個。實驗數據選取多少應看所預測的指數。過多會增加收集，過少則可能導致結果偏差。故本文所采集的數據是從2010年8月6日至2011年8月6日的一年的共243組上證指數序列，其中前195組用來訓練，后48 組用來預測。為了消除數據之間的影響，本文利用歸一化函數將原始數據的序列歸一化到[-1，1]之間，再利用反歸一化函數將模擬結果還原到上證指數的時間序列。本文選取的WNN隱含層激勵函數為最常用的具有良好的時頻局部性的Morlet小波，而各層神經元數根據預測的上證指數和影響指標個數設為：輸入層為5，輸出層為1。根據經驗公式及反復測試后隱含層小波基函數個數取10，此時AIW-PSO算法中粒子維度D為80，粒子個數S=40，粒子個體參數初始為（-1，1）的數值，常數c1=c2=2，本文中常將粒子最大速度Vmax初始化為0.5，粒子位置的最大值Xmax 確定為1，最大迭代次數kmax為500。
為了而體現改進算法預測的優越性，固將AIW-PSO小波神經網絡預測模型與傳統小波神經網絡預測模型進行對比。兩種預測模型程序在matlab2012a工具環境下分別進行5次測試，測試結果如表1所示。
由實驗各項結果可知，基于小波神經網絡的模型結果不太穩定，波動較大，MAPE值在1.53%-9.03%之間。為了體現AIW-PSO小波神經網絡的優越性，在此我們取該模型最好的預測結果，即預測誤差百分比MAPE為1.53%，此時訓練樣本的均方誤差MSE指標為0.0163，測試樣本的預測結果見圖2。對于AIW-PSO小波神經網絡預測模型預測結果來說，無論是在預測結果穩定性和預測精度方面都較小波神經網絡有明顯提高，5次測試中MAPE值都在0.99%-1.25%之間，足以說明該預測模型的優越性，測試樣本的預測結果見圖3。
4 結語
用自適應慣性權重粒子群優化算法訓練小波神經網絡能夠起到很好的網絡權值和系數優化效果，而兩種算法預測模型結果對比分析表明，本文所建立AIW-PSO小波神經網絡預測模型無論是在測試MAPE、預測穩定性、預測精度上都相對傳統小波神經網絡優越。說明AIW-PSO小波神經網絡預測模型具有更加優越的性能，將會是成為股市預測的一種新型混合算法預測工具。
參考文獻：
[1]殷光偉，鄭丕諤.基于小波與混沌集成的中國股票市場預測[J].系統工程理論方法應用，2004，13（6）：554-547.
[2]王剛，許曉兵.基于小波分析與神經網絡時間序列的股票預測方法[J].金融經濟，2013，4（12）：161-162.
[3]劉海珗，白艷萍.時間序列模型和神經網絡模型在股票預測中的分析[J].數學的實踐與認識，2011，3（2）：14-19.
[4]肖冬榮，楊子天.基于粒子群訓練的神經網絡股票預測模型[J].統計與決策，2009，12（2）：20-22.
[5]孟祥澤，劉新勇，車海平，袁著祉.基于遺傳算法的模糊神經網絡股市建模與預測[J].信息與控制，1997，13（10）：388-392.
[6]歐陽林群.GA神經網絡在證券市場預測中的應用研究[J].湖北武漢理工大學學報（信息與管理工程版），2006，28（11）：160-163.
[7]Yoshinori K， Shozo.T. Prediction of Stock Trends by Using the Wavelet Transform and the Multi-stage Fuzzy Inferenle System Optimized by the GA[J]. IEICE Trams Fundamentals， 2000， 83（2）： 357-366.
[8]Taeksoo S，Ingoo H. Optimal signal multi-resolution by genetic algorithm to Support Artificial neural network for exchange rate forecasting[J]. Expert System with Applications， 2000， 18（4）： 257-269.
神經網絡常用算法范文6
隨著科技的不斷進步，國內外各領域專家學者相互努力共同打造了智能機器人。模糊神經網絡理論通過自身所擁有的歸納等能力，有效地幫助了人們更好地控制機器人。使其具備自我學習和聯想能力，通過蟻群算法優化的模糊神經網絡理論能夠更好地控制特種機器人，有效地應對工作中隨機出現的變化問題。
關鍵詞：
特種機器人；蟻群算法；人工智能控制；模糊神經網絡
1創建機器人的數學模型
任何機械物體的運動都需要理論與實踐的支持，而特種機器人的研究也是如此，對特種機器人進行操控就需要對它的各個運動構件的方位、位置、速度等建立一個合理有序的關系。而機器人的空間坐標、運動等可以通過數學模型來呈現。
1.1特種機器人的空間坐標
首先，描述特種機器人的空間坐標，可以用X,Y,Z軸方向的向量表示。其次，對于機器人的運動和操作，方位的準確明了非常關鍵。而特種機器人的方位也可用坐標系來表示。設一直角坐標系{B}與此剛體固接，坐標系{B}的三個主軸方向的單位矢量XB、YB、ZB相對于坐標系{A}的方向余弦組成的3×3矩陣稱為ABR旋轉矩陣：ABR=[AxBAyBAzB]=r11r12r13r21r22r23r31r32r33333333333333333333（1）式中，R的上標A和下標B表示R是{B}相對于{A}的關系；r為矢量矩陣的單位向量。而剛體{A}的位姿可通過上述所說的坐標系{B}在坐標系{A}中的各個方位和位置來闡述，進而{B}的原點根據其在坐標系{B}、{A}中的方位，分別表示了剛體在其中的位置和方向，式（2）表示{B}的位置矢量，用ABR和APBORG來描述坐標系{B}，其中APBORG是確定坐標系{B}的位置矢量，建立公式（2）：{B}={ABR，APBORG}（2）
1.2機器人運動方程
連桿坐標系、動力學方程、運動學方程都是操控機器人運動所需要的。特種機器人中的機械臂系統是一種涉及各桿、各關節、機械臂末端相對于絕對坐標的位姿、運動等的多剛體系統。其中，連桿坐標系的建立則為更好地操控機器人，使其高效長久地運動、工作做出了巨大的貢獻，圖1則為連桿坐標圖。雖然建立了連桿坐標系，但是其中的桿與桿的關系則要建立一個齊次變換陣來連接。通過這個矩陣，機器人末端連桿在笛卡爾坐標系里的位置和位姿便可得出。
1.3機器人動力學方程
機械臂系統的運動學模型建立以后，還需建立動力學模型來控制。而動力學解決的問題是2種相對問題：若已知關節的施加力或力矩，求其速度、位移、加速度等；反之，則求力或矩陣。牛頓的歐拉方程等都是為了更好地操控特種機器人而建立的動力學。
2模糊神經網絡理論研究
機器人系統功能多且復雜，對于各種生產運作過程中出現的一些問題很難控制。對此，模糊控制和神經網絡相結合而成的模糊神經網絡具備了解決一些問題的特別優勢。模糊控制系統主要通過語言的描述控制機器人的運動，而語言描述能夠充分地將專家的經驗、知識轉化為控制規則，模糊控制器由以下幾個高功能的部分構成。
2.1神經網絡理論
用于控制特種機器人的神經網絡是根據人類大腦的思維模式和構造而設計，其中，神經元是大腦組織、信息處理的基本單位，而人工制作的神經網絡則會根據企業、國家、個人的不同需求進行設計和分類，前饋網絡和遞歸神經網絡是其中的兩大類。前饋網絡不但層次感強，其常用的感知器、BP網絡也能非常有針對性地解決一些問題；遞歸神經網絡包含積分、反饋等功能，反饋機制是其在信息傳輸中的一大特點。
2.2模糊神經網絡控制系統系統的輸入及各種運作
實驗證明：模糊系統與神經網絡之間具有很多相似點，可以相互轉化。模糊神經網絡系統使其對數據的計算等更快并且更加正確，通過模糊控制也使其自身的容錯力增強。模糊神經網絡（FNN）模型的設計經過專家利用各種經驗和知識的打造，能夠更好地通過BP網絡、建立樣本等方式控制特種機器人的運作。
3蟻群算法優化訓練的模糊神經網絡
特種機器人控制螞蟻算法是模仿生物界中蟻群通過交流、協作、共同搜尋獲取實物活動的仿生優化算法。在螞蟻工作的過程中，他們通過一種“信息素”交流。
3.1蟻群算法的本質
螞蟻算法是通過分析、實踐、探索螞蟻群體活動得出的，是一種隨機算法。螞蟻算法分適應階段和調解階段，在這2個階段中他們不斷地優化自身的機構、積累需要的信息、尋求最佳解。螞蟻算法中的人工螞蟻不但有自組織性，還有協作、競爭的關系，在這過個程中，需要不斷地協作、改進、更新。
3.2蟻群算法優化模糊神經網絡
螞蟻算法具有全局優化的特點，可以有效地訓練FNN，避免了BP的缺陷。它在模糊控制系統和神經網絡系統結合后，不但提高了整體優勢，也增加了一些功能和特點。這些優化的改變，使某些工作的計算更加便捷。同時BP的缺陷及一些神經網絡系統無法解決的問題，它也能很好地解決。而螞蟻算法通過螞蟻群體機智有效的協作，總結并融合了一些思想，通過這些思想，特種機器人能夠自我選擇方便、快捷、有效的工作路徑[1]。螞蟻算法為進一步控制特種機器人提供了更加合理有效的措施，也優化了各種運作系統。
3.3蟻群算法優化的結果
通過各種實驗結果表明，螞蟻算法優化的模糊神經網絡系統更加穩定，也更加高效快速。通過實驗比較發現：在普通的模糊神經網絡中，把基本臂和期望主臂的軌跡長度比較后發現，被螞蟻算法優化的模糊神經網絡控制系統運行的軌跡更短效果更好更明顯。
4結語
隨著人類文明的發展，機械的運用與不斷的創新隨處可見，這個時代對特種機器人的需求也在不斷增加。而國內外對特種機器人的研發也在不斷地創新和投入，對此，涌現了大批的類型、功能不一的特種智能機器人。被螞蟻算法優化過的系統很好地解決了一些問題，能夠全面地優化各個方面，這種算法，為人類更好地發展特種機器人研究機器人做出了巨大的貢獻。
參考文獻：
