前言：中文期刊網精心挑選了神經網絡前向傳播算法范文供你參考和學習，希望我們的參考范文能激發你的文章創作靈感，歡迎閱讀。
神經網絡前向傳播算法范文1
關鍵字神經網絡，BP模型，預測
1引言
在系統建模、辨識和預測中，對于線性系統，在頻域，傳遞函數矩陣可以很好地表達系統的黑箱式輸入輸出模型；在時域，Box-Jenkins方法、回歸分析方法、ARMA模型等，通過各種參數估計方法也可以給出描述。對于非線性時間序列預測系統，雙線性模型、門限自回歸模型、ARCH模型都需要在對數據的內在規律知道不多的情況下對序列間關系進行假定?？梢哉f傳統的非線性系統預測，在理論研究和實際應用方面，都存在極大的困難。相比之下，神經網絡可以在不了解輸入或輸出變量間關系的前提下完成非線性建模[4，6]。神經元、神經網絡都有非線性、非局域性、非定常性、非凸性和混沌等特性，與各種預測方法有機結合具有很好的發展前景，也給預測系統帶來了新的方向與突破。建模算法和預測系統的穩定性、動態性等研究成為當今熱點問題。目前在系統建模與預測中，應用最多的是靜態的多層前向神經網絡，這主要是因為這種網絡具有通過學習逼近任意非線性映射的能力。利用靜態的多層前向神經網絡建立系統的輸入/輸出模型，本質上就是基于網絡逼近能力，通過學習獲知系統差分方程中的非線性函數。但在實際應用中，需要建模和預測的多為非線性動態系統，利用靜態的多層前向神經網絡必須事先給定模型的階次，即預先確定系統的模型，這一點非常難做到。近來，有關基于動態網絡的建模和預測的研究，代表了神經網絡建模和預測新的發展方向。
2BP神經網絡模型
BP網絡是采用Widrow-Hoff學習算法和非線性可微轉移函數的多層網絡。典型的BP算法采用梯度下降法，也就是Widrow-Hoff算法?，F在有許多基本的優化算法，例如變尺度算法和牛頓算法。如圖1所示，BP神經網絡包括以下單元：①處理單元(神經元)（圖中用圓圈表示），即神經網絡的基本組成部分。輸入層的處理單元只是將輸入值轉入相鄰的聯接權重，隱層和輸出層的處理單元將它們的輸入值求和并根據轉移函數計算輸出值。②聯接權重(圖中如V,W)。它將神經網絡中的處理單元聯系起來，其值隨各處理單元的聯接程度而變化。③層。神經網絡一般具有輸入層x、隱層y和輸出層o。④閾值。其值可為恒值或可變值，它可使網絡能更自由地獲取所要描述的函數關系。⑤轉移函數F。它是將輸入的數據轉化為輸出的處理單元，通常為非線性函數。
2.1基本算法
BP算法主要包含4步，分為向前傳播和向后傳播兩個階段：
1）向前傳播階段
（1）從樣本集中取一個樣本（Xp，Yp），將Xp輸入網絡；
（2）計算相應的實際輸出Op
在此階段，信息從輸入層經過逐級的變換，傳送到輸出層。這個過程也是網絡在完成訓練后正常運行時的執行過程。
2）向后傳播階段
（1）計算實際輸出Op與相應的理想輸出Yp的差；
（2）按極小化誤差的方式調整權矩陣。
這兩個階段的工作受到精度要求的控制，在這里取作為網絡關于第p個樣本的誤差測度，而將網絡關于整個樣本集的誤差測度定義為。圖2是基本BP算法的流程圖。
2.2動態BP神經網絡預測算法
在經典的BP算法以及其他的訓練算法中都有很多變量，這些訓練算法可以確定一個ANN結構，它們只訓練固定結構的ANN權值（包括聯接權值和結點轉換函數）。在自動設計ANN結構方面，也已有較多的嘗試，比如構造性算法和剪枝算法。前一種是先隨機化網絡，然后在訓練過程中有必要地增加新的層和結點；而剪枝法則正好相反。文獻[2]中提出了演化神經網絡的理念，并把EP算法與BP進行了組合演化；也有很多學者把遺傳算法和BP進行結合，但這些算法都以時間復雜度以及空間復雜度的增加為代價。根據Kolmogorov定理,對于任意給定的L2型連續函數f:[0,1]nRm,f可以精確地用一個三層前向神經網絡來實現，因而可以只考慮演化網絡的權值和結點數而不影響演化結果?；诖?，在BP原有算法的基礎上，增加結點數演化因子，然后記錄每層因子各異時演化出的結構，最后選取最優的因子及其網絡結構，這樣就可以避免由于增加或剪枝得到的局部最優。根據實驗得知，不同的預測精度也影響網絡層神經元的結點數，所以可根據要求動態地建立預測系統。具體步驟如下：
（1）將輸入向量和目標向量進行歸一化處理。
（2）讀取輸入向量、目標向量，記錄輸入維數m、輸出層結點數n。
（3）當訓練集確定之后，輸入層結點數和輸出層結點數隨之而確定，首先遇到的一個十分重要而又困難的問題是如何優化隱層結點數和隱層數。實驗表明，如果隱層結點數過少，網絡不能具有必要的學習能力和信息處理能力。反之，若過多，不僅會大大增加網絡結構的復雜性（這一點對硬件實現的網絡尤其重要），網絡在學習過程中更易陷入局部極小點，而且會使網絡的學習速度變得很慢。隱層結點數的選擇問題一直受到神經網絡研究工作者的高度重視。Gorman指出隱層結點數s與模式數N的關系是：s＝log2N；Kolmogorov定理表明，隱層結點數s＝2n＋1（n為輸入層結點數）；而根據文獻[7]：s＝sqrt（0.43mn＋0.12nn＋2.54m＋0.77n＋0.35）＋0.51[7]。
（4）設置結點數演化因子a。為了快速建立網絡，可以對其向量初始化，并從小到大排序[4，7]。
（5）建立BP神經網絡。隱含層傳遞函數用tansig，輸出層用logsig，訓練函數采用動態自適應BP算法，并制訂停止準則：目標誤差精度以及訓練代數。
（6）初始化網絡。
（7）訓練網絡直到滿足停止判斷準則。
（8）用測試向量對網絡進行預測，并記錄誤差和逼近曲線，評估其網絡的適應性。其適應度函數采取規則化均方誤差函數。
（9）轉到（5），選取下一個演化因子，動態增加隱含層結點數，直到最后得到最佳預測網絡。
3基于神經網絡的預測原理[4]
3.1正向建模
正向建模是指訓練一個神經網絡表達系統正向動態的過程，這一過程建立的神經網絡模型稱為正向模型，其結構如圖3所示。其中，神經網絡與待辨識的系統并聯，兩者的輸出誤差用做網絡的訓練信號。顯然，這是一個典型的有導師學習問題，實際系統作為教師，向神經網絡提供算法所需要的期望輸出。當系統是被控對象或傳統控制器時，神經網絡多采用多層前向網絡的形式，可直接選用BP網絡或它的各種變形。而當系統為性能評價器時，則可選擇再勵學習算法，這時網絡既可以采用具有全局逼近能力的網絡（如多層感知器），也可選用具有局部逼近能力的網絡（如小腦模型控制器等）。3.2逆向建模
建立動態系統的逆模型，在神經網絡中起著關鍵作用，并且得到了廣泛的應用。其中，比較簡單的是直接逆建模法，也稱為廣義逆學習。其結構如圖4所示，擬預報的系統輸出作為網絡的輸入，網絡輸出與系統輸入比較，相應的輸入誤差用于訓練，因而網絡將通過學習建立系統的逆模型。但是，如果所辨識的非線性系統是不可逆的，利用上述方法將得到一個不正確的逆模型。因此，在建立系統時，可逆性應該先有所保證。
4應用實例分析
以我國西南某地震常發地區的地震資料作為樣本來源，實現基于動態神經網絡的地震預報。根據資料，提取出7個預報因子和實際發生的震級M作為輸入和目標向量。預報因子為半年內M>=3的地震累計頻度、半年內能量釋放積累值、b值、異常地震群個數、地震條帶個數、是否處于活動期內以及相關地震區地震級。在訓練前，對數據進行歸一化處理。由于輸入樣本為7維的輸入向量，一般情況下輸入層設7個神經元。根據實際情況，輸出層神經元個數為1。隱含層神經元的傳遞函數為S型正切函數，輸出層也可以動態選擇傳遞函數。實例數據來自文獻[4]，將數據集分為訓練集、測試集和確定集。表1中的7×7數組表示歸一化后的訓練向量，第一個7表示預報因子數，第二個7表示樣本數。
表1歸一化后的訓練向量
在不同神經元數情況下，對網絡進行訓練和仿真，得到如圖5所示的一組預測誤差曲線。其中，曲線A表示隱層結點數為6時的預測誤差曲線，曲線B表示隱含層結點數為3時的預測誤差曲線，曲線C表示隱含層結點數為5時的預測誤差曲線，曲線D表示隱含層結點數為4時的預測誤差曲線。將五種情況下的誤差進行對比，曲線C表示的網絡預測性能最好，其隱含層神經元數為5，圖中曲線E表示的是隱含層結點數為15時的預測誤差曲線（文獻[4]中的最好結果）。同時也證明，在設計BP網絡時，不能無限制地增加層神經元的個數。若過多，不僅會大大增加網絡結構的復雜性，網絡在學習過程中更易陷入局部極小點，而且會使網絡的學習速度、預測速度變得很慢。
5結論
本文針對基本的BP神經網絡，提出了可動態改變神經元數（與精度相關）的BP神經網絡預測方法，可以根據實際情況建立預測系統。用此種方法可以建立最好的神經網絡，不會有多余的神經元，也不會讓網絡在學習過程中過早陷于局部極小點。
參考文獻
[1]YaoX,LiuY.FastEvolutionaryProgramming.inEvolutionaryProgrammingⅤ:Proc.5thAnnu.Conf.EvolutionaryProgram,L.Fogel,P.AngelineandT.Bäck,Eds.Cambridge,MA:MITPress,1996,451-460
[2]XinYao,YongLiu,ANewEvolutionarySystemforEvolvingArtificialNeuralNetworksIEEETRANSACTIONSONNEURALNETWORKS,VOL8,NO.31997，694-714
[3]潘正君，康立山，陳毓屏.演化計算[M].北京:清華大學出版社，1998
[4]飛思科技產品研發中心.神經網絡理論與實現.北京:電子工業出版社，2005
[5]蔡曉芬，方建斌.演化神經網絡算法.江漢大學學報，第33卷第3期，2005.9
神經網絡前向傳播算法范文2
【關鍵詞】人工神經網絡 路徑規劃 移動機器人
1 引言
在移動機器人導航技術應用過程中，路徑規劃是一種必不可少的算法，路徑規劃要求機器人可以自己判定障礙物，以便自主決定路徑，能夠避開障礙物，自主路徑規劃可以自動的要求移動機器人能夠安全實現智能化移動的標志，通常而言，機器人選擇的路徑包括很多個，因此，在路徑最短、使用時間最短、消耗的能量最少等預定的準則下，能夠選擇一條最優化的路徑，成為許多計算機學者研究的熱點和難點。
2 背景知識
神經網絡模擬生物進化思維，具有獨特的結構神經元反饋機制，其具有分布式信息存儲、自適應學習、并行計算和容錯能力較強的特點，以其獨特的結構和信息處理方法，在自動化控制、組合優化領域得到了廣泛的應用，尤其是大規模網絡數據分析和態勢預測中，神經網絡能夠建立一個良好的分類學習模型，并且在學習過程中優化每一層的神經元和神經元連接的每一個節點。1993年，Banta等將神經網絡應用于移動機器人路徑規劃過程中，近年來，得到了廣泛的研究和發展，morcaso等人構建利用一個能夠實現自組織的神經網絡實現機器人導航的功能，并且可以通過傳感器訓練網絡，取得更好的發展，確定系統的最佳路徑。神經網絡拓撲結構模型可以分為：
2.1 前向網絡
網絡中各個神經元接受前一級的輸入，并輸出到下一級，網絡中沒有反饋，可以用一個有向無環路圖表示。這種網絡實現信號從輸入空間到輸出空間的變換，它的信息處理能力來自于簡單非線性函數的多次復合。網絡結構簡單，易于實現。反傳網絡是一種典型的前向網絡。
2.2 反饋網絡
網絡內神經元間有反饋，可以用一個無向的完備圖表示。這種神經網絡的信息處理是狀態的變換，可以用動力學系統理論處理。系統的穩定性與聯想記憶功能有密切關系。Hopfield網絡、波耳茲曼機均屬于這種類型。
3 基于人工神經網絡的移動機器人路徑規劃算法
神經網絡解決移動機器人路徑規劃的思路是：使用神經網絡算法能夠描述機器人移動環境的各種約束，計算碰撞函數，該算法能夠將迭代路徑點集作為碰撞能量函數和距離函數的和當做算法需要優化的目標函數，通過求解優化函數，能夠確定點集，實現路徑最優規劃。神經網絡算法在移動機器人路徑規劃過程中的算法如下：
（1）神將網絡算法能夠初始化神經網絡中的所有神經元為零，確定目標點位置的神經元活性值，并且能夠神經網絡每層的神經元連接將神經元的值傳播到出發點；
（2）動態優化神經網絡，根據神經網絡的目標節點和障礙物的具置信息，在神經網絡拓撲結構中的映射中產生神經元的外部輸入；
（3）確定目標值附件的神經元活性值，并且使用局部側的各個神經元之間，連接整個神經網絡，并且在各個神經元中進行傳播。
（4）利用爬山法搜索當前鄰域內活性值最大的神經元，如果鄰域內的神經元活性值都不大于當前神經元的活性值，則機器人保持在原處不動；否則下一個位置的神經元為鄰域內具有最大活性值的神經元。
（5）如果機器人到達目標點則路徑規劃過程結束，否則轉步驟（2）。
4 基于人工神經網絡的移動機器人路徑規劃技術展望
未來時間內，人工神經在機器人路徑規劃過程中的應用主要發展方向包括以下幾個方面：
4.1 與信息論相融合，確定神經網絡的最優化化目標解
在神經網絡應用過程中，由于經驗值較為難以確定，因此在神經網絡的應用過程中，將神經網絡看做是一個貝葉斯網絡，根據貝葉斯網絡含有的信息熵，確定神經網絡的目標函數的最優解，以便更好的判斷機器人移動的最佳路徑。
4.2 與遺傳算法想結合，確定全局最優解
將神經網絡和遺傳算法結合起來，其可以將機器人的移動環境設置為一個二維的環境，障礙物的數目、位置和形狀是任意的，路徑規劃可以由二維工作空間一系列的基本點構成，神經網絡決定機器人的運動控制規則，利用相關的神經元的傳感器作用獲未知環境的情況，將障礙信息和目標點之間的距離作為神經網絡的輸入信息，使用遺傳算法完成神經網絡的權值訓練，神經網絡的輸出作為移動機器人的運動作用力，實現一個可以在未知環境中進行的機器人運動路徑規劃。
4.3 與蟻群算法相結合，降低搜索空間，提高路徑規劃準確性
為了提高神經網絡的搜索準確性和提高效率，可以將蟻群算法與神經網絡相互結合，蟻群算法的路徑規劃方法首先采用柵格法對機器人工作環境進行建模，然后將機器人出發點作為蟻巢位置，路徑規劃最終目標點作為蟻群食物源，通過螞蟻間相互協作找到一條避開障礙物的最優機器人移動路徑。
5 結語
隨著移動機器人技術的發展，路徑規劃作為最重要的一個組成部分，其得到了許多的應用和發展，其在導航過程中，也引入了許多先進的算法，比如神經網絡，更加優化了移動的路徑。未來時間內，隨著神經網絡技術的改進，可以引入遺傳算法、信息論、蟻群算法等，將這些算法優勢結合，將會是路徑規劃更加準確和精確。
參考文獻
[1]朱大奇,顏明重,滕蓉. 移動機器人路徑規劃技術綜述[J].控制與決策,2010,25(7): 961-967.
[2]劉毅.移動機器人路徑規劃中的仿真研究[J].計算機仿真,2011,28(6): 227-230.
[3]熊開封,張華.基于改進型 FNN 的移動機器人未知環境路徑規劃[J].制造業自動化,2013,35(22): 1-4.
[4]柳長安,鄢小虎,劉春陽.基于改進蟻群算法的移動機器人動態路徑規劃方法[J].電子學報,2011,39(5).
[5]范浩鋒,劉俊.基于 BP 神經網絡的紅外目標識別技術[J].計算機與數字工程,2013,41(4): 559-560.
神經網絡前向傳播算法范文3
關鍵詞：發電燃料；供應預測；BP神經網絡；預測方法
中圖分類號：TM 762 文獻標示碼：A
0 引言
發電燃料的供應受到能源政策、供需形勢、資源分布、供應價格、交通運輸、市場博弈等多種復雜因素的影響，長期以來缺乏合理有效的供應預測方法和技術手段，尤其是廠網分離后鮮見相關的研究工作。
文獻1《遼寧火電廠燃料管理信息系統的開發與研制》開發和研制了覆蓋遼寧全體直屬電廠燃料公司并同東電局進行廣域網數據交換，同時能進行審核管理和業務信息方便傳輸的燃料綜合管理信息系統。
文獻2《電力系統燃料MIS系統開發研究》探討了燃料管理信息系統的組成、功能、結構及開發應用，為綜述性理論研究。
以上文獻均未對發電燃料供應提供較有效的預測方法。本文提出一種基于BP神經網絡的發電燃料供應量預測方法，利用神經網絡原理，通過數據收集、數據修正和神經網絡結構選擇建立起基于BP神經網絡的發電燃料供應預測模型。通過MATLAB實際仿真，證明該預測方法預測較準確，并具有靈活的適應性。
基金項目：中國南方電網有限責任公司科技項目（K-ZD2013-005）
1 預測方法
按預測方法的性質不同，預測可分為定性預測和定量預測。常用的定性預測方法有主觀概率法、調查預測法、德爾菲法、類比法、相關因素分析法等。定量方法又可以分為因果分析法和時間序列分析法等，因果分析法也叫結構關系分析法。它是通過分析變化的原因，找出原因與結果之間的聯系方式，建立預測模型，并據此預測未來的發展變化趨勢及可能水平。時間序列分析法也叫歷史延伸法。它是以歷史的時間序列數據為基礎，運用一定的數學方法尋找數據變動規律向外延伸，預測未來的發展變化趨勢。由于時間序列模型無法引入對負荷影響的其它變量，所以，單純應用時間序列模型進行供應預測精度難以提高。
運用人工神經網絡技術進行預測，其優點是可以模仿人腦的智能化處理過程，對大量非結構性、非精確性規律具有自適應功能，具有信息記憶、自主學習、知識推理和優化計算的特點，特別是其自學習和自適應功能是常規算法和專家系統所不具備的，因此，預測是人工神經網絡的最有潛力的應用領域之一，有非常廣泛的前途。
2 BP神經網絡模型
2.1 人工神經網絡概述
人工神經網絡是由神經元以一定的拓撲結構和連接關系組成的信息表現、儲存和變換系統，是模仿人腦結構的一種信息系統，可較好地模擬人的形象思維能力。它是對自然界中生物體神經系統進行抽象和改造，并模擬生物體神經系統功能的產物。神經網絡的重要特點是具有記憶和學習能力，經過一定訓練之后，能夠對給定的輸入做出相應處理。
人工神經網絡適用于處理實際中不確定性、精確性不高等引起的系統難以控制的問題，映射輸入輸出關系。人工神經網絡優于傳統方法在于：
1）實現了非線性關系的隱式表達，不需要建立復雜系統的顯示關系式；
2）容錯性強，可以處理信息不完全的預測問題，而信息不完全的情況在實際中經常遇到；
3）由于神經網絡具有一致逼進效果，訓練后的神經網絡在樣本上輸出期望值，在非樣本點上表現出網絡的聯想記憶功能；
4）由于大規模并行機制，故預測速度快；
5）動態自適應能力強，可適應外界新的學習樣木，使網絡知識不斷更新。
圖1是一個人工神經元的典型結構圖。
圖1 神經元典型結構圖
它相當于一個多輸入單輸出的非線性閾值器件。，表示該神經元的輸入向量；為權值向量；θ為神經元的閾值，如果神經元輸入向量加權和大于0，則神經元被激活；f表示神經元的輸入輸出關系函數，即傳輸函數。因此，神經元的輸出可以表示為：
其中傳輸函數是神經元以及網絡的核心。網絡解決問題的能力與功效除了與網絡結構有關，在很大程度上取決于網絡所采用的傳輸函數。
幾種常見的傳輸函數如圖2所示：
（1）為閾值型，將任意輸入轉化為0或1輸出，其輸入/輸出關系為：
（2）為線性型，其輸入/輸出關系為：
（3）、（4）為S型，它將任意輸入值壓縮到（0，1）的范圍內，此類傳遞函數常用對數（logsig）或雙曲正切（tansig）等一類S形狀的曲線來表示，如對數S型傳遞函數的關系為：
而雙曲正切S型曲線的輸入/輸出函數關系是：
（1） （2）
（3） （4）
圖2 常見的傳遞函數圖形
2.2 BP神經網絡概述
神經網絡的魅力在于它超強的映射能力，單層感知器可實現性分類，多層前向網絡則可以逼近任何非線性函數?？梢詫P網絡視為從輸入到輸出的高度非線性映射，而有關定理證明BP神經網絡通過對簡單的非線性函數進行數次復合，可以近似任何復雜的函數。
在人工神經網絡的實際應用中，80%-90%的人工神經網絡模型是采用BP網絡和它的變化形式，它也是前向網絡的核心，體現了人工神經網絡最精華的部分。在人們掌握反向傳播網絡的設計之前，感知器和自適應線性元件都只能適用于對單層網絡模型的訓練，只是后來才得到進一步拓展。
BP神經網絡主要應用有：
（1）函數逼近：用輸入矢量和相應的輸出矢量訓練一個網絡逼近一個函數。
（2）模式識別：用一個特定的輸出矢量將它與輸入矢量聯系起來。
（3）分類：把輸入矢量以所定義的合適方式進行分類。
（4）數據壓縮：減少輸出矢量維數以便于傳輸或存儲。
2.3 誤差反向傳播算法原理
BP神經網絡是一種多層前饋神經網絡，名字源于網絡權值的調整規則，采用的是誤差反向傳播算法（Error Back-Propagation Training Algorithm）即BP算法。BP神經網絡是單向傳播的多層前向神經網絡。除輸入輸出節點之外，有一層或多層的隱藏節點，同層節點之間無任何連接。典型的BP網絡是三層前饋階層網絡，即：輸入層、隱含層（中間層）和輸出層，各層之間實行全連接。BP神經網絡結構如圖3所示：
圖3 BP神經網絡結構示意圖
BP網絡學習過程包括誤差正向傳播和反向傳播兩個過程。在正向傳播過程中，輸入樣本從輸入層傳入，經各隱含逐層處理后，傳向輸出層，每一層神經元的狀態只影響下一層神經元的狀態。若輸出層的實際輸出與期望的輸出不符，則轉入誤差的反向傳播階段。誤差反傳是將輸出誤差的某種形式通過隱含層向輸入層逐層反傳，并將誤差分攤給各層的所有單元，從而獲得各層單元的誤差信號，此誤差信號即作為修正各神經元之間權值的依據。這種信號正向傳播與誤差反向傳播的各層權值調整過程，是周而復始地進行的。權值不斷調整的過程，也就是網絡學習訓練的過程。此過程一直進行到網絡輸出的誤差減小到可接受的程度，或進行到預先設定的學習次數為止。
BP神經元與其他神經元類似，不同的是，由于BP神經元的傳遞函數必須是處處可微的，它不能采用二值型{0，1}或符號函數{-1，1}，所以其傳遞函數為非線性函數，最常用的函數S型函數，有時也采用線性函數。本文采用S型（Sigmoid）函數作為激發函數：
式中，為網絡單元的狀態：
則單元輸出為：
其中，為單元的閥值。在這種激發函數下，有：
故對輸出層單元：
對隱層單元：
權值調節為：
在實際學習過程中，學習速率對學習過程的影響很大。是按梯度搜索的步長。越大，權值的變化越劇烈。實際應用中，通常是以不導致振蕩的前提下取盡量大的值。為了使學習速度足夠快而不易產生振蕩，往往在規則中再加一個“勢態項”，即：
式中，是一個常數，它決定過去權重的變化對目前權值變化的影響程度。
圖4為BP算法流程圖。
圖4 BP算法流程圖
3 發電燃料供應預測BP神經網絡模型建立
3.1 數據的收集與整理
發電燃料供應是一個龐大的系統，其中的數據資料紛繁復雜。在進行模型的搭建之前，需要進行歷史資料的整理，提取出所需的數據。本模型中，選取與燃料供應有關的數據作為影響因素，如電廠發電量、能源政策、能源供需形勢、交通運輸狀況、燃料價格和機組能耗等。
3.2 數據的修正
如果在數據采集與傳輸時受到一定干擾，就會出現資料出錯或數據丟失的情況，此時都會產生影響預測效果的壞數據，這些壞數據將會掩蓋實際模型的規律，直接影響模型的效果與精度。據此，需對樣本數據進行預處理，以確保在建模和預測過程中所運用的歷史數據具有真實性、正確性和同規律性。一般樣本數據預處理方法主要有經驗修正法、曲線置換法、插值法、20%修正法、數據橫向縱向對比法、小波分析去噪法等。對于簡單問題，采用數據的橫向縱向對比即可實現壞數據的剔除。
3.3 BP神經網絡的結構選擇
理論證明，3層前向式神經網絡能夠以任意精度實現任意函數，所以，本模型中采用3層前向網絡。同時，當有N個影響時， 3層BP神經網絡的輸入層節點數為N個，隱含層節點數一般為2N ～ 4N，最佳取值可根據實際問題試湊得，輸出層為1個節點， 因此可以取其平均結構為N - 3N - 1型， 輸入層激發函數為線性函數， 中間層和輸出層的激發函數為S型函數。
3.4 BP神經網絡模型建立
對于實際的燃料供應模型，數據的選擇要有針對性，結構要合適，這在預測過程中是重中之重。為便于模型選擇、結果對比，可同時采用幾種不同的數學模型進行預測。在完成對恰當的預測模型的選擇后，利用提取自歷史資料的訓練數據對建立好的預測數學模型進行參數訓練。當模型的參數訓練好以后，即可利用此模型進行預測。
具體操作步驟如下：
（1）對訓練樣本與預測樣本進行歸一化預處理，公式表示如式（1）。
（1）
其中表示經過歸一化后的值，表示實際值，，分別是訓練集中數據的最大值和最小值，k表示輸入向量的維數，i表示有作用因素的個數。
（2）對預測的數據樣本進行提取，并分別列出訓練與測試的樣本集合。
（3）對BP神經網絡的輸入層、隱含層、輸出層的節點進行定義，對網絡的權重、閾值進行初始賦值。
（4）利用訓練樣本對BP神經網絡進行訓練，建立符合實際問題的模型。
（5）利用事先預備的測試樣本對訓練好的網絡進行測試，若效果不佳，則重新訓練，若效果好則繼續下一步。
（6）利用預測樣本及訓練好的模型進行預測。
具體流程圖如圖5所示：
圖5 模型建立流程圖
4 基于BP神經網絡模型的發電燃料供應預測
（1）樣本數據的選擇
以各類影響耗煤的因素作為輸入 。
（2）進行歸一化處理
避免量綱對模型的影響。同時，降低數據的數量級，可以提高BP網絡的訓練的速度，避免飽和。
（3）確定BP神經網絡的結構
3層BP神經網絡的輸入層節點為1個（可根據實際情況調整），對應于輸入樣本，隱含層節點為15，輸出層節點為1，對應于輸出樣本。網絡初始連接權及神經元初始閾值采用隨機賦值方式。神經元的激發函數為S函數，最大迭代次數為400，學習步長為0.001，學習誤差為0.00001。
（4）利用訓練樣本進行網絡的訓練
（5）利用測試樣本進行模型的測試
人為選定5%相對誤差為模型訓練好壞的判別標準。若測試樣本的測試結果的相對誤差在5%以內，則進行下一步，否則重新訓練。
（6）利用預測樣本和已訓練好的模型進行預測
南方電網全網發電燃料供應量預測結果值與實際值的對比如圖6所示：
圖6 南網全網發電燃料供應預測值與實際值對比圖
5 結論
隨著廠網分離的實施，電網公司和電力調度機構對發電燃料供應的掌握嚴重不足，已經不能滿足電力供應工作的要求，尤其是在來水偏枯、電力供應緊張的時期，發電燃料供應的預測對緩解電力供需矛盾、有序做好發用電管理起著舉足輕重的作用，因此，迫切需要開展發電燃料供應影響因素及預測方法的研究工作。
本文在收集、掌握發電燃料供應來源、價格、運輸等情況的基礎上，基于BP神經網絡研究建立發電燃料供應量的預測模型和預測方法。通過MATLAB仿真預測，對預測結果值和實際值進行了對標分析，證明該預測方法預測較準確，并具有靈活的適應性。本文的研究有利于提升發電燃料的管理水平和掌控力度，為合理有序做好電力供應工作提供有力支持。
參考文獻：
[1]孫長青.基于OSGI的發電集團燃料管控系統設計與實現[D].導師：陳有青.中山大學，2011.
[2]史新梅，裴珍.遼寧火電廠燃料管理信息系統的開發與研制[J].安徽工業大學學報，2001，（04）：359-362+366.
[3]付民慶.基于J2EE架構燃料管理信息系統的研究與實現[D].導師：申曉留.華北電力大學（北京），2008.
[4]魏學軍.DF電廠燃料管理信息系統的研究與應用[D].導師：胡立德；戴鶴.重慶大學，2008.
[5]孫文君.發電企業燃料自動監管系統設計及應用[D].導師：張慶超；關萬祥.天津大學，2010.
神經網絡前向傳播算法范文4
關鍵詞：神經網絡；Adaboost算法；強預測器；迭代算法；稅收預測
中圖分類號： TP183
文獻標志碼：A
Tax forecasting based on Adaboost algorithm and BP neural network
LI Xiang*， ZHU Quan-yin
Faculty of Computer Engineering， Huaiyin Institute of Technology， Huai’an Jiangsu 223003， China
Abstract：
In view of the lower accuracy of traditional tax forecasting models， the authors put forward a method of combining the Adaboost algorithm with BP neural network to forecast revenue. Firstly， the method performed the pretreatment for the historical tax data and initialized the distribution weights of test data； secondly， it initialized the weights and thresholds of BP neural network， and used BP neural network as a weak predictor to train the tax data repeatedly and adjust the weights； finally， it made more weak predictors of BP neural network to form new strong predictors by Adaboost algorithm and forecasted. The authors also carried out simulation experiment for the tax data of China from 1990 to 2010. The results show that this method has reduced the relative value of mean error from 0.50% to 0.18% compared to the traditional BP network， has effectively reduced the effect when single BP gets trapped in local minima， and has improved the prediction accuracy of network.
英文關鍵詞 Key words：
neural network； Adaboost algorithm；strong predictor；iterative algorithm； tax forecasting
0 引言
稅收是實施財政政策的重要工具，也是聯系宏微觀經濟的一種紐帶。作為國家宏觀調控體系的重要組成部分，稅收也是國家駕馭市場經濟最主要、最有效、最常用的手段之一[1]。因此，稅收預測的科學性和準確性具有重要的研究價值。
稅收數據是一種動態、非線性的時間序列數據，受到政治、經濟、文化等因素影響，稅收數據的預測精度主要取決于預測算法。國內外學者當前對稅收預測的研究方法，主要集中于基于線性回歸方法、時間序列分析方法和神經網絡預測方法。文獻[2]采用線性回歸方法對稅收進行預測，由于影響稅收預測的因素較多，且這些因素之間表現出較強的非線性特征，所以線性回歸模型預測的精度不高。文獻[3-4]中提出使用反向反饋傳播（Back Propagation，BP）神經網絡進行稅收預測，但該方法沒有克服傳統BP神經網絡存在的缺陷，容易陷入局部極小值，算法收斂速度較慢。文獻[5-6]中提出使用Elman神經網絡進行稅收預測，取得了比傳統BP神經網絡更高的預測精度。但由于Elman神經網路的學習過程與前饋神經網絡類似，也會出現收斂速度慢和易收斂到局部極小的缺陷，導致預測結果不穩定[7]。
本文針對上述問題，提出基于Adaboost算法和BP神經網絡的稅收預測方法，并將該方法應用于我國1990—2010年稅收數據仿真實驗，證明了本文方法的有效性。
1 BP神經網絡與Adaboost算法
1.1 BP神經網絡原理
BP網絡是典型的前饋神經網絡，其權值訓練中采用誤差逆向傳播的方式，具有非線性連續有理函數的逼近功能[8]。在信號前向傳遞過程中，輸入信號從輸入層進入，經過隱含層處理，到達輸出層。每一層的神經元狀態只影響下一層的神經元狀態。判斷輸出層的結果是否為期望輸出，如果不是，則轉入反向傳播，然后根據預測誤差調整網絡權值和閾值，從而使BP神經網絡預測輸出不斷逼近期望輸出[9]。由于結構簡單，可調參數多，訓練算法多，操控性好，BP 神經網絡獲得了廣泛的實際應用[10]。BP神經網絡的拓撲結構如圖1所示。
神經網絡前向傳播算法范文5
[關鍵詞] 船舶供應商 評價體系 遺傳算法 神經網絡
選擇合適的供應商直接關系到船舶企業降低成本、提高企業競爭力。現有的平價方法在確定指標權重時存在主觀隨意性，評價結果缺乏客觀與公正。BP神經網絡具有容錯性、自適應性等特點，解決了評價過程中指標權重隨意性和人為因素。本文構建了BP神經網絡的船舶供應商評價模型，并針對BP神經網絡收斂速度慢的缺點，采用遺傳算法對構建的BP神經網絡模型進行優化，從而構建評價船舶供應商遺傳神經網絡模型。
一、船舶供應商評價指標體系的構建
原材料供應商和船舶配套企業的產品質量性能以及管理水平等都會對船舶企業的正常運行帶來重大影響，直接關系到企業的盈利能力。因此，構建科學的合理的供應商評價體系，是船舶制造企業綜合評價供應商的依據。
周期長、成本高等特點決定了船舶是一種特殊的產品，需要結合船舶自身的特點來構建船舶供應商評價指標體系。綜合學者的研究成果與船舶公司實際狀況，本文認為應該從質量、成本、交貨、柔性、財務與信譽狀況以及服務與管理水平6個方面構建船舶供應商的評價指標體系。
二、基于遺傳神經網絡的船舶供應商評價模型
1.BP神經網絡在船舶供應商評價中的應用
BP神經網絡模型是一個分層型網絡，具有輸入層、中間層和輸出層。供應商評價指標由輸入層到輸出層的傳遞是一個前向傳播的過程，若輸出結果與期望結果的誤差超過允許范圍，則誤差反向傳播，并根據各層誤差的大小來調節權值,尋找最佳權集，實現正確輸出?；贐P神經網絡的船舶供應商評價模型結構及學習原理如圖2所示。
2.基于遺傳算法改進的BP神經網絡模型
BP算法是沿梯度下降(平方誤差函數)來指導搜索的，學習過程收斂速度慢，易陷入局部極小點。而遺傳算法對于全局搜索具有較強的魯棒性和較高的效率，克服了BP網絡的局限性。將遺傳算法與BP網絡相結合,可以達到全局尋優和快速高效的目的。
遺傳算法改進BP神經網絡模型的步驟是:（1)確定網絡參數；（2）設定的種群規模N，產生初始種群;（3)求N組網絡權系數,得到具有相同結構的N個網絡;（4)求N組網絡權值對應的N個網絡輸出;（5）網絡性能評價;（6)若不滿足評價條件，由對染色體進行遺傳選擇、變異和交叉操作，產生新的染色體，直到滿足評價函數;（7)選擇一個最優染色體作為網絡權重，進行網絡的訓練和評價。其工作流程如圖3所示。
三、應用仿真算例
以中船公司的25家供應商數據為基礎，采用matlab7.0編程，建立三層遺傳神經網絡模型。
將前15家供應商作為訓練集，訓練該網絡；其余10家供應商作為測試集，模擬待評價的對象。設置誤差精度為0.00001。首先用遺傳算法，經過450次優化，得到全局最優的網絡權值。然后以前15家供應商的二級評價指標為樣本，經過BP神經網絡4700次訓練，得出對應的6個一級評價指標的訓練樣本;再以所得出的輸出值為樣本，經過BP神經網絡4450次訓練,訓練出最終的遺傳神經網絡模型，并用于綜合評價工作。輸入后10家供應商二級評價指標值，得到其一級評價指標的輸出值,以該輸出值為輸入，計算出10家供應商的綜合評價結果。見表。
四、結束語
基于遺傳神經網絡的船舶供應商評價模型借助BP神經網絡的容錯性和自適應自學習能力克服了傳統評價方法在指標權重賦值時存在的主觀隨意性問題，并用遺傳算法的優化解決了BP存在的收斂速度慢的問題，為評價船舶供應商提供了一條新的途徑。
參考文獻:
[1]金朝光 紀卓尚 林 焰:船舶企業選擇供應商的策略研究[J]. 計算機集成制造系統,2003,9(10):886～890
[2]馬士華 林 勇 陳志祥:供應鏈管理[M].北京:機械工業出版,2004
神經網絡前向傳播算法范文6
【關鍵詞】遺傳算法；BP神經網絡；柴油機；故障診斷
柴油機缸蓋振動信號中包含著豐富的工作狀態信息，在對其現代診斷技術中，基于振動信號分析的診斷方法顯示出了其優越性，利用缸蓋振動信號診斷柴油機故障是一種有效方法。故障特征的提取和故障類型的識別是利用振動信號分析法在對柴油機進行故障診斷過程中兩個最為重要的過程。根據提取的故障特征識別柴油機的故障類型是一個典型的模式識別問題，對柴油機故障類型識別采用恰當的模式識別方法就尤為重要。神經網絡作為一種自適應的模式識別技術，其通過自身的學習機制自動形成所要求的決策區域，而不需要預先給出有關模式的經驗知識和判斷函數；它可以充分利用狀態信息，對來自于不同狀態的信息逐一進行訓練而獲得某種映射關系。鑒于其自身特性，在故障模式識別領域中有著越來越廣泛的應用。而據統計，有80%～90%的神經網絡模型都是采用了BP網絡或者是它的變形。BP網絡是前向網絡的核心部分，是神經網絡中最精華、最完美的部分。但是它也存在一些缺陷，例如學習收斂速度、不能保證收斂到全局最小點、網絡結構不易確定。遺傳算法是一種基于生物自然選擇與遺傳機理的隨機搜索算法。其基本操作是選擇、交叉和變異，核心內容是參數編碼、初始群體的設定、適應度函數的設計、遺傳操作設計和控制參數的設定。遺傳算法通過種群隨機搜索，對數據進行并行處理，將結果收斂到全局最優解。因此，將遺傳算法與BP神經網絡結合應用于柴油機故障診斷中，可以提高網絡的性能，避免網絡陷入局部極小解，進而實現對設備故障的識別。
1 BP神經網絡
1.1 BP神經元模型在柴油機故障診斷中的應用
BP神經網絡是一種多層前饋型神經網絡，其神經元的傳遞是S型函數，輸出量為0至1之間的連續量，它可以實現從輸入到輸出的任意非線性映射。由于權值的調整采用反向傳播學習算法，因此也稱為其為BP網絡。
圖1 BP神經元模型
上圖給出一個基本的BP神經元模型，它具有R個輸入，每個輸入都通過一個適當的權值和ω下一層相連，網絡輸入可表示為：
a=f（wp+b）
f就是表示輸入/輸出關系的傳遞函數。
BP神經網絡的結構與所有影響齒輪故障的特征因素有關。柴油機運動部件多而復雜，激勵源眾多且其頻率范圍寬廣，加之噪聲的融入，使得柴油機表面振動信號極為復雜?；谶@種特點，可以確定用于柴油機故障診斷的BP神經網絡的輸入層、輸出層隱含層以及節點數等。由小波包提取各柴油機故障的特征值作為輸入節點，輸出節點數目與柴油機故障類別的數目有關。
1.2 BP神經網絡與遺傳算法
BP神經網絡又稱為反向傳播算法，其算法數學意義明確、步驟分明，是神經網絡中最為常用、最有效、最活躍的一種網絡模型。常用方法梯度下降法和動量法，但是梯度下降法訓練速度較慢，效率比較低，訓練易陷入癱瘓，而且其實質是單點搜索算法，不具有全局搜索能力；動量法因為學習率的提高通常比單純的梯度下降法要快一些，但在實際應用中速度還是不夠；BP神經網絡學習訓練開始時網絡的結構參數是隨機給定的，因此結果存在一定的隨機性。
遺傳算法（Genetic Algorithm，GA）是模擬達爾文的遺傳選擇和自然淘汰的生物進化過程的計算模型，它是由美國密歇根大學的J.Holland 教授于1975年首先提出來的，遺傳算法具有很強的宏觀搜索能力和良好的全局優化性能，因此將遺傳算法與BP神經網絡結合，訓練時先用遺傳算法對神經網絡的權值進行尋找，將搜索范圍縮小后，再利用BP網絡來進行精確求解，可以達到全局尋找和快速高效的目的，并且可以避免局部極小點問題。該算法不僅具有全局搜索能力，而且提高了局部搜索能力，從而增強了在搜索過程中自動獲取和積累搜索空間知識及自應用地控制搜索的能力，從而使結果的性質得以極大的改善。
2 基于遺傳算法的BP神經網絡
遺傳算法優化BP神經網絡主要分為：BP神經網絡結構確定、遺傳算法優化權值和閥值、BP神經網絡訓練及預測。其中，BP神經網絡的拓撲結構是根據樣本的輸入/輸出個數確定的，這樣就可以確定遺傳算法優化參數的個數，從而確定種群個體的編碼長度。因為遺傳算法優化參數是BP神經網絡的初始權值和閥值，只要網絡結構已知，權值和閥值的個數就已知了。神經網絡的權值和閥值一般是通過隨機初始化為[-0.5，0.5]區間的隨機數，這個初始化參數對網絡訓練的影響很大，但是又無法準確獲得，對于相同的初始權重值和閥值，網絡的訓練結果是一樣的，引入遺傳算法就是為了優化出最佳的初始權值和閥值。
2.1 基于遺傳算法的BP神經網絡在柴油機故障診斷中的應用
通過基于遺傳算法的BP神經網絡建立小波包特征量與故障之間的對應關系。表1為柴油機常見故障在不同頻段的能量分布，構成了人工神經網絡的訓練樣本。表2為網絡輸出樣本，“0”代表沒有故障，“1”代表發生故障。利用表1中的訓練樣本對基于遺傳算法的BP神經網絡進行訓練，經1000次訓練達到了理想訓練效果。
表1 訓練樣本
表2 網絡理想輸出
表3 待診斷的故障樣本
表4 診斷結果
將表3中的待診斷的故障樣本輸入到已經訓練好的BP神經網絡，得到診斷結果如表4所示。第1組待診斷的信號第1個輸出節點接近1，可以根據訓練樣本結果判斷該組數據故障為供油提前角晚；第2組待診斷的信號第4個輸出節點接近1，根據訓練樣本結果可以判斷該組數據故障類型為供油提前角早；第3組待診斷的信號第7個數據節點接近1 ，可以判斷故障類型為針閥卡死，其診斷結果和現場勘查結果一致。
3 結語
遺傳算法優化BP神經網絡的目的是通過遺傳算法得到更好的網絡初始值和閥值。通過以上研究可以看出，遺傳算法和BP算法有機的融合，可以有效地彌補BP神經網絡結構、權值和閥值選擇上的隨機性缺陷，充分利用了遺傳算法的全局搜索能力和BP神經網絡的局部搜索能力，克服了傳統的BP神經網絡柴油機故障診斷的缺點，提高了柴油機故障診斷的精度。
【參考文獻】
