前言：中文期刊網精心挑選了神經網絡反向傳播公式范文供你參考和學習，希望我們的參考范文能激發你的文章創作靈感，歡迎閱讀。
神經網絡反向傳播公式范文1
關鍵詞：身體素質；專項成績；跳高；遞歸神經網絡
中圖分類號：G804.2文獻標識碼：A文章編號：1007-3612(2008)02-0202-03
隨著我國體育事業的蓬勃開展，特別是2008年奧運會的成功申辦，大幅提高各項體育運動水平已成為體育管理部門、教練員和運動員關注的焦點。在以往的奧運會中，我國的跳高運動員的成績并不理想，與世界一流水平還存在一定差距。為了縮小差距，更快地提高我國跳高運動員的專項成績，爭取在2008年奧運會上取得較大進步，準確建立起反映運動員專項成績與身體素質相關關系的數學模型是必要的也是必須的。為了更準確地建立起映射專項成績與身體素質函數關系的數學模型，本文利用遞歸神經網絡強大的動態映射能力，在不需要事先確定模型數學表達形式的條件下，通過遞歸神經網絡對訓練樣本的學習，建立了世界優秀男子跳高運動員的神經網絡模型。
1研究對象與方法
1.1研究對象通過查閱有關文獻資料，收集世界前15名男子跳高運動員的專項成績與身體素質訓練水平的歷史數據（表1）。根據這些數據，分析優秀男子跳高運動員的專項成績與身體素質訓練指標之間的相關關系，建立起映射身體素質訓練水平與專項成績相關關系的遞歸神經網絡模型。
1.2研究方法人工神經網絡（Artificial Neural Network－ANN）是為模仿人腦的工作方式而設計的一種機器，是一種具有分布式存儲、平行處理和自適應學習的信息處理系統。自從20世紀50年代Rosenblatt首次將單層感知器應用于模式分類學習以來，已經有了30多年的研究歷史。近年來，隨著神經網絡理論水平的發展和應用領域的拓寬，神經網絡強大的映射能力已得到人們的公認，并在許多應用領域中取得了豐碩的成果。其中，遞歸神經網絡（Recurrent Neural Network，RNN）因其具有動態映射能力而受到青睞。80年代末，國際上一些神經網絡專家，如Jordan、Pineda、Williams和Elman等提出了遞歸神經網絡。遞歸神經網絡的本質特征是在神經元之間既具有內部的反饋連接又有前饋連接。從系統觀點看，它是一個反饋動力系統。在計算過程中它體現出動態特性，比BP前饋神經網絡具有更強的動態行為和計算能力。本文采用遞歸神經網絡來建立數學模型可以擬合跳高運動員的專項成績與身體素質訓練之間的任何一種函數關系，真正反映出它們的內在特征，從而克服多元回歸模型和灰色模型的不足。目前，國際上有10種左右的遞歸神經網絡模型，應用最廣泛的是Elman網絡，其結構見圖1。它具有輸入層、隱層、輸出層以及反饋層，反饋層用來保存隱層單元前一時刻的輸出狀態。Elman型遞歸神經元網絡的特點是隱藏層的輸出通過反饋層的延遲、存儲，自聯到隱藏層的輸入，這種自聯方式使其對歷史狀態的數據具有敏感性，內部反饋網絡的加入增加了網絡本身處理動態信息的能力，有利于動態過程的建模。
圖1Elman遞歸神經網絡當遞歸神經網絡的結構確定以后，便需進行神經網絡的學習，在遞歸神經網絡的學習算法中，最基本也是最重要的學習算法為動態反向傳播算法（Dynamic Back Propagation）。該學習算法由正向傳播和反向傳播組成。在正向傳播過程中，輸入信號從輸入層通過作用函數，逐層向隱含層、輸出層以及反饋層傳播。如果在輸出層得不到期望的輸出，則轉入反向傳播，將誤差信號沿原來的連接通路返回，通過修改各層神經元的連接權值，使得輸出誤差信號最小。此學習過程不斷地反復進行，直到輸出誤差信號小于某一給定數值，這樣便獲得了映射輸入與輸出信號的一組連接權值，得到訓練好的神經網絡模型。
2運動員的Elman遞歸神經網絡模型
2.1身體素質訓練指標的選取
依據15名跳高運動員7項身體素質訓練指標與專項成績的歷史數據，進行身體素質訓練指標與專項成績之間的相關分析和關聯分析，其相關系數和關聯度見表2。從表2可以看出，100m跑、立定三級跳遠、助跑手摸高、4-6步助跑高、后拋鉛球、高抓杠鈴和深蹲杠鈴這7項身體素質訓練與專項成績的相關系數和關聯度均較高。經專家評定，確認這7項素質訓練指標與跳高運動員的專項成績關系密切。
2.2神經網絡模型Elman神經網絡模型的建立一般可分為2個步驟：步驟1為確定神經網絡模型的結構，步驟2為采用動態反向傳播算法對訓練樣本進行學習，獲得最優的連接權值。
2.2.1神經網絡結構的確定選取神經網絡的輸入神經元數為7，分別對應7項身體素質訓練指標；輸出神經元數為1，代表專項成績。神經網絡的隱層數取1層，隱層神經元數目為10個。隱含層神經元的傳遞函數采用Sigmoid函數，輸出層神經元的傳遞函數采用線性函數。
2.2神經網絡的學習以7項素質訓練指標與專項成績對應的15組歷史數據作為神經網絡的訓練樣本，15組訓練樣本的數據見表3。
將以上訓練樣本進行歸一化處理，變換成之間的數據。采用Levenberg-Marquardt動態反向傳播算法對15組訓練樣本進行學習，從而獲得最優的神經網絡權值。這里，我們運用Matlab 6.5軟件中的神經網絡開發工具，方便和簡單地實現了Elman神經網絡的學習。整個學習過程耗時0.3 s（計算機的為，內存為），動態反向傳播算法的學習過程曲線見圖2。學習之后的神經網絡模型，即神經網絡的連接權值見表4，它映射出運動員素質訓練與專項成績之間的函數關系。
2.3神經網絡模型的擬合精度將7項素質訓練指標的數據代入神經網絡模型中，獲得專項成績的預測值，計算結果見表5。采用多元線性回歸模型，通過利用最小二乘法來擬合身體素質訓練指標與專項成績之間的15組數據，獲得的數學模型為：
利用該數學公式，同樣計算出運動員的專項成績，計算結果見表5。
比較兩種數學模型的擬合精度。從表5可以看出，神經網絡模型的擬合精度要高于多元線性回歸模型，即遞歸神經網絡模型更好地映射出運動員身體素質訓練水平與專項成績之間的函數關系，為運動員訓練提供了更為合理的數學模型。
2.4神經網絡模型的應用在建立了運動員神經網絡模型之后，便可根據運動員的實際情況，設定運動員身體素質訓練水平的變化范圍。并利用遞歸神經網絡模型，計算出在該訓練水平范圍內的專項成績。假定運動員1的深蹲杠鈴成績在之間變化，而其它素質訓練指標取表1中的數據，運動員1的跳高專項成績與深蹲杠鈴成績的相關曲線見圖3。
同樣，可繪制其它素質訓練指標與專項成績之間的關系曲線。利用這些曲線，教練員和運動員可以分析出素質訓練對運動員專項成績的影響程度。最后依據此分析結果來科學安排運動員的訓練計劃，為運動員創造優異成績提供理論依據。
3結論
利用遞歸神經網絡強大的動態映射能力，本文建立起世界優秀跳高運動員身體素質訓練水平與專項成績相關關系的遞歸神經網絡模型，該模型克服了多元回歸模型和灰色模型的缺點，不需要事先確定數學模型的數學表達形式，更為客觀地反映了跳高運動員的身體素質訓練水平與專項成績之間的函數關系，從而獲得了更高的擬合精度。教練員和運動員利用該神經網絡模型，可以更為準確地掌握運動員專項成績的發展趨勢，從而安排出更為科學的運動員訓練計劃。
參考文獻：
［1］ 范秦海,周越,周健.跳高運動員專項身體素質與專項成績相關關系的研究［J］.中國體育科技,2002,38(2):35-38.
［2］ 劉嘉津.運用GM(1,h)模型規劃田徑訓練的量化方法［J］.西安體育學院學報,2003,20(6):57-58.
［3］ 張乃堯,閻平凡.神經網絡與模糊控制［M］.北京:清華大學出版社,1998：53-150.
神經網絡反向傳播公式范文2
關鍵詞：BP算法 訓練樣本 小車自動尋徑
中圖分類號：TP273.3 文獻標識碼：A 文章編號：1007-9416（2013）07-0102-02
1 引言
隨著生產技術的發展和自動化程度的提高，在自動化領域中，許多復雜性操作或對人體有害的工作都由機器自動完成，為了實現這一工作，機器就必須具有智能性。
人工神經網絡是由人工神經元（簡稱神經元）互連組成的網絡，以大規模模擬并行處理為主，具有很強的魯棒性和容錯性自學習能力，是一個大規模自適應非線性動力系統；具有集體運算的能力。多層前向神經網絡（BP網絡）是神經網絡結構形式中應用較多的自學設計方法之一。BP算法可以通過已知數據訓練網絡模型，應用于對未知數據的預測[3]。因此能很好的應用于小車自動尋徑，使小車具有智能性。
2 BP算法神經網絡
BP神經網絡（Back-Propagation networks）包括三個層次：輸入層、隱含層、輸出層[2]。
2.1 BP算法流程簡述
BP神經網絡的本質是誤差反向傳輸的多層前饋網絡，BP算法的基本思想是，學習過程由信號的正向傳播與誤差的反向傳播兩個過程組成。正向傳播時，先自行對權重進行初始化，輸入樣本從輸入層傳入，經各隱層逐層處理后，傳向輸出層，如圖1為BP神經網絡模型[3]，若輸出層的實際輸出與期望的輸出（理想輸出）不符，則轉入誤差的反向傳播階段。
2.2 隱層神經元個數的確定
一般情況下，隱層神經元個數是根據網絡收斂性能的好壞來確定的，在總結大量網絡結構的基礎上，在單隱層神經網絡中，得出以下經驗公式：
其中，為輸入層神經元個數，為輸出層神經元個數。
3 創建BP神經網絡模型
3.1 問題描述
隨機的繪制一張彩色地圖，地圖中有各種顏色的建筑和一條貫穿的公路（白色），引入BP神經網絡，使該小車具有一定的智能，可以自動地判斷前方是否為公路，進而沿著公路從地圖的一端走到另一端。本次實驗所用的地圖如圖2所示（地圖及小車由本人按照一定的比例用電腦的畫圖工具所畫）：
3.2 地圖及小車圖片的灰度化
由于Matlab默認為rgb模式打開圖片，故為了更簡單的解決問題，必須對圖片進行灰度處理，處理之后地圖及小車分別為520*1100和20*25維矩陣。
3.3 地圖及小車圖片的二值化
為了BP網絡更好的收斂，需對相應圖片進行二值化處理，如圖3所示。由于本次實驗公路為白色，小車為黑色。故將地圖中除公路以外的部分的像素值置為0，公路上的像素值置為255，小車的像素值置為255。
所以，在小車的“眼里”，世界是黑白的。如下圖：
3.4 小車的視野
小車必須有一定的視野，可以“看到”前方的路況，否則當小車發現情況不妙準備轉彎的時候就已經撞到路邊了。本次實驗取的小車的視野為小車前方和左右方30像素范圍，這樣小車可以“預感到”自己前方和左右方向上的路況，進而及早調整方向。
3.5 訓練BP神經網絡
訓練樣本作為BP網絡的輸入數據集，對于網絡的訓練具有重要的作用[4]，本文建立單隱層BP神經網絡，訓練樣本選取為小車在地圖上某個方位的對應位置的差矩陣，共20個樣本，其中10個是對的樣本（即小車在公路上），10個為錯的樣本（即小車的車體不完全在路面上）。這樣輸入的樣本矩陣的大小即為小車圖片對應的像素矩陣的大小，為20*25，故輸入層神經元個數取為500。輸出層只有兩種情況，在公路上為對，不在公路上為錯，故輸出層神經元個數為2。
由式（2）可得隱層神經元的個數為42，選取誤差精度10-4，初始學習速率0.5，初始權值為（-1，1）區間內隨機值。
經過245次訓練以后，總體期望誤差達到了給定范圍，網絡訓練過程中的誤差變化曲線[15]如圖4所示。
4 實驗結果
所有算法均在MATLAB R2009a中運行，微機配置為Core Processor 4000+2.10GHz，內存為2G。
用前面選出的訓練樣本對BP神經網絡進行訓練，訓練之后小車即具有了一定的智能，可以識別前方和左右方的路況，實驗結果表明，小車可以很好的沿著公路從地圖的一側行駛到另一側。
5 結論
通過對BP神經網絡訓練后，小車可以正確地沿著公路地圖的一側行駛到另一側，說明BP神經網絡可以很好地應用于路徑識別和自動駕駛領域。
參考文獻
[1] 楊國才，王建峰，王玉昆.基于Web的遠程自學型教學系統的設計與實現[J].計算機應用， 2000，20（4）：61-63.
[2] 安淑芝.數據倉庫與數據挖掘[M].北京：清華大學出版社， 2005：100-101.
[3] 蔡自興，徐光佑.人工智能及其應用[M].北京：清華大學出版社， 2003.
神經網絡反向傳播公式范文3
伴隨著人民生活水平的提高，汽車已經成為了人民生活中重要組成部分。但是伴隨著的汽車自身某些故障的產生，使得汽車故障的研究成為了人們研究的重點，文獻[1]指出計算機和信息化技術的廣泛運用到汽車中，其中傳感器逐步應用到汽車控制中，它能夠對汽車信息進行感知，采集，轉換和處理。將感知的信息轉換其他需要的信息輸出。汽車傳感器是汽車電子控制的關鍵部件，也是汽車電子技術的核心部分。文獻[2-3]提出一種基于數據驅動的多模型傳感器故障軟閉環容錯控制方法，并對非線性系統中卡死、恒增益、恒偏差等常見傳感器故障進行了研究。文獻[4]指出目前傳感器控制主要是分布是針對衡秤體下方，通過傳感器輸出來完成故障傳感器輸出信號，但容易偏離中心，影響估計精度。文獻[5]指出數字稱重傳感器可以實現不間斷工作，能夠在短時間內獲得故障信號，但缺點是價格昂貴。文獻[6]提出基于結構振動響應特性利用改進的模態濾波方法對陣列式傳感器系統進行故障診斷。
本文主要BP神經網絡的基礎上引入靜態模糊控制，對汽車傳感器控制的故障進行有效、準確的分類。并針對汽車傳感器的故障準確的進行診斷和恢復，從而可以有效的來保證汽車傳感器的正常的運作。
1.汽車傳感器控制故障模型矩陣
汽車傳感器的輸出信號主要是電壓信號，當汽車傳感器與（傳感器與發動機控制裝置）之間的接線發生斷路的時候，電壓信號就會超出正常范圍從而引起故障。通常設定汽車傳感器器的輸出信號電壓的正常范圍為，如果實際輸入ECU信號電壓大于或小于，則認為該信號不可靠，表示傳感器有故障。只有傳感器信號持續一定時間后，才會判斷為有故障。假設車輛傳感器網絡中傳感器節點個數為，每個節點在數據采集過程進行次采樣，單節點數據長度為。單個節點采集數據作為矩陣的列，則網絡數據可表示為
為便于表述，將各節點數據以此銜接，網絡數據可寫為向量形式
（1）
其中，。
網絡數據的測量過程可由如下的矩陣向量形式表示：
其中，，測量矩陣。（2）
2.改進的BP神經網絡在汽車傳感器診斷
2.1汽車靜態模糊函數構建
汽車傳感器網絡故障具有一定的隨機性，是一種典型的非線性結構，而靜態模糊函數可以很好找到傳感器故障中的死亡節點。靜態模糊基函數構造如下：
（3）
通過將汽車節點傳感器能量（設定為）輸入公式（3）中，得到相應的改進節點能量如下：
（4）
在公式（6）中，其中表示傳感器節點的個數。為固定參數，通過在模糊函數中構造靜態函數如下：
（5）
在公式5）中，為模糊變量，表示參考參考模糊變量集。其中設定為0-1之間的實數，表示的可能性是；該準則設定的含義是當達到的時候，的可能性則是。設定用mamdani蘊涵表示，通過采用mamdani來進行推理得出。使用公式（8）對進行自學習得到，其中的精度遠大于。
（6）
將公式（4），（5）和（6）進行三者結合，得到針對汽車傳感器的靜態控制節點的自學習能力函數，從而能夠快速的對汽車傳感器節點能量損失進行判斷。
2.2BP神經網絡
BP神經網絡是一種單向傳遞的網絡，通常是由輸入層，隱含層，輸出層組成。它將信號進行前向傳遞和反向傳播。其中反向傳播時權值按Delta學習規則進行調整。在前向傳遞中依次按式（9）計算各層的輸入輸出直到輸出層。當輸出層得不到期望的輸出則進行反向傳播，根據期望與實際輸出之間的誤差調整權值和閾值。權值的調整公式見式（10）。
（7）
在公式（1）中為第層節點的激活值，為閾值，為輸入信號，為第節點與第節點的連接權系數，為節點的輸出值。
（8）
在公式（8）中，為神經網絡期望輸出與實際輸出的誤差。
2.3本文算法的描述
本文首先通過自學習中的靜態模糊函數來確定汽車傳感器故障的支撐集，然后通過BP神經網絡算法來針對傳感器的故障進行快速分類，從而縮短檢測時間，提高檢測效率。通過求解以為自變量的目標函數的極小值
：（9）
其中對。正則化參數、分別對變換系數和生成矩陣的稀疏度進行加權。為便于表述，不妨假設，稀疏度量使用1范數。
3.試驗仿真與分析
本文選取本公司下屬的汽車修理廠中的汽車故障100組數據，每組分為為50組數據，前30組用于訓練，余下20組用于測試。然后通過靜態模糊函數來分類進行故障樣本，同時設計1個BP神經網絡分類器，以此來驗證靜態模糊函數自學習的作用。兩組BP神經網絡分類器診斷結果比較如表1所示。選取沖擊傳感器故障下的三組數據如表2所示，BP神經網絡分類器的實際輸出數據如表3所示。
從表1-3中發現利用改進的BP網絡算法對汽車傳感器故障樣本數據進行處理后，神經網絡的輸入層從20個減少為8個，訓練次數大幅度減少為100次顯然CPU的耗時明顯縮短。并且基本保持故障識別率不變。通過采用靜態模糊函數保證識別率的同時，簡化了BP神經網絡的結構，提高了診斷速度，是實現增加BP神經網絡對故障樣本分類實時性的行之有效的方法。
4.結束語
本文提出了基于BP網絡神經中引入靜態模糊控制的方法對故障進行快速分類，首先對故障樣本的輸入數據運用靜態模糊函數進行數據收集，再對神經網絡的輸出結果進行數據數據分類。同時具體的實驗數據表明本文的算法在保證故障準確率的同時簡化了神經網絡結構，提高了故障診斷速度。
參考文獻：
[1]趙炯等.基于傳感器融合技術的電動汽車自動駕駛系統的開發[J].制造業自動化，2013.35（5）：43-46
[2]李煒，張婧瑜.多模型傳感器故障軟閉環容錯控制研究[J].計算機應用研究，2015，32（2）：447-450
[3]王千等.K-means聚類算法研究綜述[J].電子設計工程，2012，20（7）：40-43
[4]BLISSD，STICKELC，BENTZJW.Loadcelldiagnosticsandfailurepredictionweighingapparatusandprocess[P].UunitedStatePatent：728638，2000
[5]PENGXF.Applicationofdigitalloadcells[J].IndustrialMeasurement，2008，（01）：62-63
[6]JIANMINGL，YonggonL，SCOTTDS，etal.Selforganizingradialbasisfunctionnetworkforreal-timeapproximationofcontinuous-timedynamicalsystems[J].IEEETrans.NeuralNetworks，2008，19（3）：460-474
神經網絡反向傳播公式范文4
關鍵詞：BP神經網絡；經濟評價；石油項目；經濟預測
中圖分類號： TP319
文獻標識碼： A
文章編號： 16727800（2017）004014503
0引言 在石油項目前期評估中，需判斷其可行性并對項目經濟效益進行評價。人工神經網絡 （Artificial Neural Network，ANN）[13] 利用大量非線性并行處理關系模擬眾多神經網絡，通過自學習找出輸入值與輸出值之間的關系，能輕松處理非線性問題，是一種基于黑箱原理的處理系統。針對傳統經濟評價決策方法中存在的問題，將神經網絡應用到石油經濟評價中。將多個石油項目的經濟評價指標作為ANN的輸入值，通過相應訓練樣本的學習，使基于人工神經網絡的石油經濟評價系統更接近人類思維模式，對項目作出更合理的決策。1BP神經網絡 反向傳播（Back Propagation，BP）神經網絡是一個多層前饋神經網絡[45]，是當前應用較多且較為成熟的神經網絡模型之一，其基本網絡包含3層：輸入層、隱含層和輸出層，隱藏層可以是單層或多層。典型的BP網絡結構如圖1所示，為一個單隱層BP神經網絡結構，學習過程由正向傳播信號和反向傳播誤差組成，輸入信號由輸入層向前傳播經過激發函數作用由隱藏節點傳到輸出節點，如果輸出層輸出數值與期望不符，則將誤差作為調整信號按照原路逐層反向傳播，并對連接各層神經元之間的權重和閾值進行調整，逐漸縮小誤差值，直至誤差小于一個可接受的范圍方停止學習。同時，也是一個監督學習，因為每個訓練樣本都帶有標簽，這些訓練樣本預先確定了經過BP網絡訓練后的輸出值。經過多次學習，就能將該神經網絡逼近某個函數，這個訓練好的網絡就能用于評價預測，學習過程其實就是將n維映射成m維，為了獲得正確的映射需要經過反復學習即調整相關參數（權重和閾值）。
2石油項目經濟評價指標體系構建2.1石油投資經濟效益指標 對于石油項目的經濟效益評價，可借助經濟指標反映石油項目在未來項目壽命期內的經濟效益。鑒于石油項目的復雜性，單一的評價指標無法對項目作出全面的評價。根據文獻[6]-[7]選擇采用多個相互聯系且相對獨立的評價指標，如圖2所示，包括：凈現值、費用現值、凈現值指數、投資收益率、內部收益率和動態投資回收期。
一個項目首先要判斷是否可行，主要考慮凈現值（NPV），NPV表示現金流入與流出的差額，當NPV≥0時表示項目可行，此時項目到達或超過基準收益率標準，能給投資者帶來利潤，否則項目不可行，會損壞投資者價值。而在多個項目方案比較選擇中，一般凈現值最大的項目是最佳項目。凈現值指數指標對于項目評價的準則與凈現值一樣，這個指標是凈現值與凈投資現值的比值，比起凈現值還考慮到最初投資額的大小。投資收益率是一個靜態指標，是指單位投資可獲得的利潤，值越大越好，當它的值超過標準投資收益率時意味著該項目可行。內部收益率是指當凈現值為零時的貼現率，即在整個項目壽命期內，現金流入剛好完全抵補現金流出，是項目經濟評價重要指標之一。費用現值是指在項目壽命期內只考慮現金流出，也就是費用支出，包含總投資和成本費用，代表成本的值肯定越小越好。投資回收期是指項目的累計凈現值抵補全部投資的返本年限，即累計利潤達到零的時間期限，只是一個輔指標，選用動態投資回收期這一指標，是因為比起靜態回收期，此標準考慮到資金的時間價值。2.2石油經濟評價指標計算模型 上述指標經過下列計算模型計算后，可作為人工神經網絡輸入層的輸入數據，計算模型參考文獻[8]，具體如下：
3石油項目前期經濟效益評價3.1石油項目經濟評價指標歸一化將上述6個石油項目的經濟評價指標作為BP神經網絡的輸入數據，這些數據具有不可共度性，也就是說衡量這些數值的單位不相同，有些是百分數，有些以時間為單位，無法進行比較。石油項目中關于項目費用和盈利的指標的數值是非常大的，這會導致BP神經網絡學習緩慢，收斂慢，有時數值太大，經神經網絡作用后，偏差也會很大；而且對于神經網絡中所應用的激活函數來說，有些函數是有值域的，數據太大或太小都會影響網絡學習效果。為了解決這些問題，一般在訓練樣本數據前要對數據進行預處理，進行歸一化后的數據收斂性更強，參考文獻[9]～[11]采用最值法作為數據歸一化方法。但是費用現值和動態投資回收期的值對于石油項目來說越小越好，而剩下4個指標體現石油項目收益，這些指標值越大越好，因此對上述分成收益型指標和成本型指標兩類數據歸一化，費用現值和動態投資回收期為成本型指標，其余皆為效益型指標。假設有n個訓練樣本，每個訓練樣本含6個指標數值，按以下公式將每個樣本的6個指標進行數據歸一化，限制在[0，1]區間內。 （1）收益型指標，包括凈現值、凈現值指數、投資收益率和內部收益率。
式中yij和xij分別表示第i組訓練樣本的第j個指標歸一化后和歸一化前的數值，而ximax和ximin分別表示第i組訓練樣本中的最大和最小值。3.2BP人工神經網絡設計對于石油項目經濟效益評價問題，就是利用BP人工神經網絡將其轉換為6個項目經濟評價指標與最終評價值之間的非線性映射。實驗選用三層BP神經網絡，輸入層節點數為6個，對應6個石油項目經濟評價指標。激活函數選用單極性Sigmoid函數（雙曲線正切函數），公式如下：
對于隱藏層節點數確定，最常用的方法是試湊法[1213]，以公式（3）、（4）來設置較多的隱節點，對于每個隱節點數進行一次BP網絡的訓練，通過比較每次訓練誤差的大小，選定誤差最小的作為該BP網絡的隱藏層節點個數。
其中，m表示隱藏層節點個數，n表示輸入層節點個數，l表示輸出層節點個數，α取1～10之間的常數，此處設計的BP網絡層是6個輸入節點，1個輸出節點，根據取值范圍，隱藏層節點數取值范圍是4～13。根據最終項目評價結果為可行與不可行來分為兩類，對于BP神經網絡，可行項目期望輸出值為1，不可行項目期望輸出值為0.5，如表1所示的部分訓練樣本。將大量的石油項目相關數據通過BP網絡訓練，得出該BP網絡隱藏層節點數為9個。
3.3石油項目前期經濟效益評價過程 如圖3所示，用戶可以創建石油項目，錄入最初的原始數據，比如相關基礎數據、成本費用、營業稅金及附加、融資方案等。提交該項目后，生成財務報表，初步反映該石油項目在項目壽命期內的經濟情況。根據初步計算進行不確定性分析，以盈虧平衡分析和敏感性分析為主，以表格和圖像的形式呈現投資項目的風險和不確定性，提高投資決策的可靠性。利用計算模型計算BP神經網絡的輸入數據，經過神經網絡學習能力對石油項目進行終極評價，為最終審核提供可靠的建議。3.4實驗結果與分析 通過石油項目經濟評價系統獲取不同項目的經濟效益評價數據，將經過歸一化后的數據作為訓練好的BP神經網絡輸入端。如圖4所示，通過樣本訓練后，所有輸出期望值都圍繞在0.5和1附近，輸出值output=0.5時，代表該石油項目是不可行的，輸出值output=1，代表該石油項目是可行的。
為了驗證此BP神經網絡對于石油項目經濟效益評價預測的準確性，將表2中有代表性的測試數據通過神經網〖HJ*3〗絡預測獲得最終的期望值輸出。第一個石油項目凈現值大于0，成本低，投資回收期短，投資回報率高，是一個非常好的投資項目，與其輸出值含義相符合。相反，第二個項目凈現值小于0，收益率低，完全符合輸出值0.5，是一個不可行項目。項目3雖然凈現值大于0，不會虧本，但是投資大，資本回收期長，并且回報率低，這并不是一個好的項目，故該系統判定為不可行項目。
4結語 本文通過模擬實驗驗證將BP神經網絡應用于石油項目經濟評價的有效性，克服傳統評價的缺陷和局限性。
結果表明經過大量真實數據訓練的神經網絡能更準確地為用戶提供基于項目數據的判斷，能準確描述代表石油項目經濟效益的6個指標與項目可行性之間的非線性關系。當然BP神經網絡也有其缺陷，對于隱藏層數及其節點數的確認并沒有完整的理論指導，后期將引入深度學習對其進行經濟效益預測，以使預測更加精確。
參考文獻：[1]蔡自興，徐光v.人工智能極其應用[M].第四版.北京：清華大學出版社，2011.
[2]C M BISHOP.Neural network and theirapplications[J].Revi.Scie.Instr，1994（156）：18031832.
[3]胡金濱，唐旭清.人工神經網絡的BP算法及其應用[J].信息技術，2004 （4）：14.
[4]L K HANSEN，P SALAMON.Neural network ensembles[J].IEEE trans pattern analysis and machine intelligence，1990（12）：9931001.
[5]WANG P，ZHAO T，FAN Y，et al.Study of Chinese farmers income forecast model based on BP neural network[J].Computer and Applications，2014（56）：508511.
[6]董蔚P，單守會.未開發石油儲量評價及經濟分類方法[J].石油與天然氣地質，1993，14（3）：251256.
[7]李敏杰.海外石油投資經理評價指標淺析[J].西安財經學院學報，2007，20（1）：7619.
[8]游達明，劉亞錚.技術經濟與項目經濟評價[M].北京：清華大學出版社，2009：6290.
[9]Q SONG，Q JIANG，Z SONG.Economic evaluation of CO2EOR industry chain in refineries[J].Shiyou Xuebao Shiyou Jiagong/acta Petrolei Sinica，2015.
[10]L XIAOKE.Analysis of the misunderstanding in investment project economic appraisal theory[C].Business Management and Electronic Information （BMEI），2011：196198.
[11]楊偉，倪黔東，吳軍基.BP神經網絡權值初始值與收斂性問題研究[J].電力系統及自動化學報，2002，14（1）：2022.
神經網絡反向傳播公式范文5
[關鍵詞] BP神經網絡；巖性識別；改進BP神經網絡
[DOI] 10.13939/ki.zgsc.2015.24.063
1 主要研究內容
根據國內外研究現狀，利用目前研究最透徹的人工神經網絡技術-BP（ Back Propagation）人工神經網絡，以C#.NET為軟件工具，通過合理地編寫程序，針對低阻、高放射等非常規儲層進行識別與判別。主要利用常規測井資料，以實際的巖心、巖屑觀察、物性等分析測試資料、試油試產資料為測井參數約束的標準，針對儲層的巖性進行預測、判斷。從而得出BP人工神經網絡方法在測井數據處理與解釋中的優勢所在，并指出其缺陷與不足之處。
2 BP神經網絡
2.1 基本BP神經網絡的設計
基本BP算法包括兩個方面：信號的前向傳播和誤差的反向傳播。即計算實際輸出時按從輸入到輸出的方向進行，而權值和閾值的修正從輸出到輸入的方向進行。
2.2 BP神經網絡算法步驟
（1） 初始化網絡權值，閾值，及有關參數（如學習因子）。
3 BP神經網絡在巖性識別上的應用
3.1 地層特征
在儲層測井響應特征方面，本文研究油區的泥巖與砂質泥巖均以高自然伽馬、正自然電位幅度、微電極無差異或差異幅度小為特征、并且有電阻率相對偏低和高聲波時差值的特征，較純的泥巖層往往還出現井徑擴大現象。粉砂巖、泥質砂巖以中.高自然伽馬和中一低負異常幅度自然電位及微電極差異幅度小或無差異為特征。視電阻率變化較大。細砂巖為主要儲集層，以自然電位高負異常幅度低自然伽馬值及微電極差異幅度大為特征。部分儲油砂層的自然伽馬值偏高。細砂巖含油后一般電阻率較高。
3.2 基本BP網絡的構建與實現
3.2.1 測井數據的處理
由于各種測井數據量綱不一致，進入網絡之前，無論是學習樣本或預測數據，都需先進行歸一化處理，將它們置于統一的數值量綱范圍內，如在[0，1]之間。對于具有近似線性特征的信息，可以采用線性歸一化公式：處理。
3.2.2 巖性參數的設置
由于在做巖性識別時，我們設置了相應的參數。其中有聚類參數、自然加碼、井的深度等。其中聚類設置表示，自然加碼的設置是判斷輸入數據的合法性，井的深度和間隔有利于模仿底層結構。
3.3 改進的BP網絡（動量-自適應）的實現
3.3.1 增加動量項
附加動量法使網絡在修正其權值時，不僅考慮誤差在梯度上的作用，且考慮在誤差曲面上變化趨勢的影響。在沒有附加動量的作用下，網絡可能陷入淺的局部極小值，利用附加動量的作用有可能滑過這些極小值。
帶有附加動量因子的權值和閾值調節公式為：
根據附加動量法的設計原則，當修正的權值在誤差中導致太大的增長結果時，新的權值應被取消而不被采用，并使動量作用停止下來，以使網絡不進入較大誤差曲面；當新的誤差變化率超過一個事先設定的最大誤差變化率時，也得取消所計算的權值變化。其最大誤差變化率可以是任何大于或等于1的值。典型的取值取1.04。所以，在進行附加動量法的訓練程序設計時，必須加進條件判斷以正確使用其權值修正公式。
訓練程序設計中采用動量法的判斷條件為：
3.3.2 自適應調節學習率
對于一個特定的問題，要選擇適當的學習速率不是一件容易的事情。通常是憑經驗或實驗獲取，但即使這樣，對訓練開始初期功效較好的學習速率，不見得對后來的訓練合適。為了解決這個問題，人們自然想到在訓練過程中，自動調節學習速率。通常調節學習速率的準則是：檢查權值是否真正降低了誤差函數，如果確實如此，則說明所選學習速率小了，可以適當增加一個量；若不是這樣，那么就應該減少學習速率的值。下式給出了一個白適應學習速率的調整公式：
3.3.3 引入陡度因子
誤差曲面上存在平坦區域，權值調整進入平坦區的原因是神經元輸出進入了變換函數的飽和區，如果調整進入平坦區沒法壓縮神經元的凈輸入，就使其輸出退出變換函數的飽和。
3.3.4 動量-自適應學習速率調整算法
當采用前述的動量法時，BP算法可以找到全局最優解，而當采用自適應學習速率時，BP算法可以縮短訓練時間，采用這兩種方法也可以用來訓練神經網絡，該方法稱為動量-自適應學習速率調整算法。
神經網絡反向傳播公式范文6
關鍵詞：科技型創業企業；信用評價；BP神經網絡
中圖分類號：F27
文獻標識碼：A
文章編號：16723198（2015）23006203
1 引言
目前，科技型創業企業已成為推動國民經濟持續健康發展的重要動力之一，然而在其發展和壯大過程中也最容易出現制約其發展的問題。由于科技型創業企業需要大量的資金投入，融資問題已成為影響其是否取得成功的關鍵因素。在國內企業取得融資的有限渠道中，銀行和金融市場起著至關重要的作用，但往往由于市場信息的不對稱以及企業信息不透明等因素的限制，出于規避高昂的監督成本和收益的高度不確定性等風險，銀行和金融機構在放貸額度中給予科技型創業企業的融資額度相對有限。由于科技型創業企業的研發周期長，在缺乏有效的外部融資的狀況下，即使項目有大好投資前景，企業也有較大的失敗風險，最終無法發揮出科技型創業企業對企業技術創新的促進作用。因此，對國內科技型創業企業進行信用評價，建立適合其特征的信用評價模型，來提高其信用水平、財務信息透明度、拓寬其融資渠道十分必要。目前國內針對企業信用評價的研究有了一定的發展，但統一的主要針對科技型創業企業信用評價的指標體系和評價模型尚未形成。
傳統的企業信用評價模型主要有專家打分法、信用評級方法和信用評分方法等，現代的信用評價模型主要有：KMV模型、財務比率分析模型、Logit回歸模型、神經網絡模型、模糊綜合評價法和AHP（Analytical Hierarchy Process）法。由于企業的信用風險與反映企業信用風險狀況的各項指標變量之間通常具有非線性的關系，而上述企業信用評價方法都不能有效解決變量之間的非線性關系，也不能有效解決指標變量存在的非正態分布問題。由于神經網絡模型在解決變量間的非線性關系問題中具有優越性，在Odom（1990年）運用神經網絡模型解決企業信用評價問題之后，神經網絡模型逐漸獲得了相關實踐者和學者的極大關注。Tam（1991）、Kiang（1992）、Datta（1991）和Shekhar（1992）將神經網絡模型用于銀行破產預測，Altman（1994）將其用于對意大利企業經營成敗狀況進行預測，取得了比多元判別分析模型預測結果更加準確的結果。根據小微型科技企業信用狀況的特點，何躍、蔣國銀（2005）運用人工神經網絡原理構建了三層BP神經網絡信用評價模型，該模型的優點是具有較強的自學習和非線性處理能力，針對小微型科技企業信用狀況的預測具有較高的預測結果。國內許多學者（鮑盛祥、殷永飛，2009；龐素琳，2012）認為，在變量之間是非線性關系的情況下，人工神經網絡模型的精度優于傳統的統計方法。
2 BP神經網絡概述
BP神經網絡具有準確性高、誤差小、收斂速度快的顯著優勢，相比其他企業信用評價方法，BP神經網絡模型的自學習能力和自聯想功能較強，也不要求樣本數據呈正態分布、滿足先驗概率已知以及協方差相等要求，同時也具有能夠有效解決非線性分類問題、對樣本數據容量不做具體要求等優勢，是處理企業信用評價問題的理想方法。因此，本文使用BP神經網絡來建立適合科技型創業企業的信用評價模型。
神經網絡內部依次為輸入層、隱含層、輸出層，BP神經網絡屬于前向反饋神經網絡，BP神經網絡的學習算法包含了正向和反向傳播兩個過程，正向傳播過程即為：指標變量信息由輸入層經隱含層各神經元傳向輸出層，前層神經元的處理結果只對后層神經元的結果產生影響，如果最后輸出層產生的結果與期望輸出不符，則自動轉變為反向傳播過程。反向傳播即為：將輸出誤差經隱含層神經元向輸入層逐層反饋，在此過程中，網絡會將誤差均攤給各層的每一個神經元，從而網絡可以取得各層神經元傳來的誤差信號，網絡將其作為修正各神經元權值的依據，經過權值的不斷調整使網絡完成訓練。權值的調整過程持續到預先設定的學習次數或輸出誤差減小到可接受程度為止。三層前饋BP神經網絡的結構如圖1所示。其中，X=（x1，x2，……，xn）代表輸入向量，Y=（y1，y2，……，ym）代表輸出向量，n和m分別代表輸入和輸出向量的維數。不同層間的神經元屬于全互聯接，每層次內的神經元沒有任何連接。
來衡量其信用的高低。反映科技型創業企業經營和財務狀況的財務指標具體包括償債能力、盈利能力、營運能力和成長能力等方面。本文在借鑒現有企業信用評價研究成果并結合科技型創業企業的特征，選擇出16項可以有效反映科技型創業企業特點的財務指標。為解決某些財務指標變量間高度的相關性問題，本文通過SPSS 19.0軟件，使用因子分析法對這些指標變量進行分析和整理，在刪除那些與科技型創業企業信用狀況不相關或與其他指標高度相關的指標后，本文最終確定了包含12項指標變量的指標體系作為下文對科技型創業企業的信用狀況進行評價的指標體系（如圖1所示）。但由于保留的指標變量間還可能存在多重共線性問題，為保證評價結果的準確性、可靠性，本文再次對其進行因子分析來提取公因子，以特征根大于1且累計方差貢獻率大于80%作為提取公因子的標準，通過分析本文提出了5個能夠體現原始變量的主要信息的公因子，它們即為下文評價模型中的輸入變量。
由于選取的樣本企業的各項財務指標包含了不同的量綱和數量級，本文首先將各指標變量進行標準化處理，從而使各個指標變量都具有共同的數值特性。本文運用的標準化方法如下式所示：
Xij=xij-xjσj，其中，Xj為原始數據的均值，Xj=1ni=1xi，σj為原始數據的標準差，σj=1nni=1（xij-xj）。
4 科技型創業企業信用評價實證分析
4.1 BP神經網絡的設計
BP神經網絡可以根據實際情況來設置一個或者多個隱含層，當樣本較多時，增加一個隱含層可以顯著減小網絡規模。由于包含單個隱含層網絡可以通過適當調增神經元個數來實現任意非線性映射，所以，包含單個隱含層的神經網絡即可解決大部分場合下問題。因此本文建立的BP神經網絡模型包含單個隱含層。
（1）輸入層和輸出層神經元個數。輸入層神經元個數等于輸入變量的個數，由于本文得到了5個公因子，因此輸入層神經元數n=5。輸出層神經元的個數m取決于科技型創業企業信用評價結果類別。本文用輸出“1”表示中小企業信用正常，用輸出“0”表示中小企業信用較差，因此本文建立的模型的輸出層神經元的個數為1。
（2）隱含層神經元個數。隱含層神經元個數的確定目前還沒有一個理想的解析式，通常根據經驗公式來確定。
常用的經驗公式為：n1=n+m+a，其中m為輸出層個數，n為輸入層個數，a為[1，10]之間的常數，有上文可知，m=1，n=5，代入公式可知隱含層個數的取值范圍為（3，13），經過實際對比分析，當隱含層選10時，訓練誤差較小，因此，本文設定隱含層個數為10。
（3）訓練函數的選擇。本文建立的BP神經網絡模型的輸入層和輸出層函數均為Sigmoid函數，并設定最大訓練步長epoch=1500。
（4）樣本原始數據來源。本文選擇了100家在創業板和新三板上市的科技型創業企業的財務數據作為實證樣本數據進行訓練，各項數據取自于瑞思數據庫和東方財富Choices數據庫。為了確保能夠得到可靠、準確的訓練結果，樣本企業行業的選取包含了電子、化工、制藥、家電、生物科技、機械制造、金屬加工等多個行業部門，能夠反映科技型創業企業的特征。
4.2 實證分析與結果輸出
本文運行Matlab2014a版本并運用編寫的程序將100家企業各自的5項主因子作為輸入變量，對網絡進行訓練和檢驗并對訓練樣本進行了仿真。本文將前90家企業數據作為訓練樣本來訓練網絡，將后10家企業數據作為檢驗樣本代入網絡以檢驗網絡的預測精度。對于得出的預測結果設定以0.5為分界值，如過大于05，則將公司判定為信用好的企業，反之則判定為信用差的企業。由圖2可知網絡可以以較快的速度實現收斂。
為了抵消隨機因素的影響，本文取相同的訓練參數和測試樣本代入網絡重復運算20次，統計正確率和迭代次數（如圖3所示），20次訓練結果如表2。
由網絡20次訓練結果（表2）可知，使用BP神經網絡模型對實證樣本數據進行預測的結果和期望輸出對比后，模型的平均正確率達到83%，預測精度較高，適合作為預測科技型創業企業信用狀況的評價模型。實證結果表明，利用BP神經網絡對科技型創業企業進行信用評價，具有較高的可操作性和準確性。
5 結論
本文在借鑒國內外現有的企業信用評價理論和相關研究成果的基礎上，結合科技型創業企業的特點構建了適合對其進行信用評價的指標體系，然后在運用因子分析提取反映企業信用狀況的公因子作為代入模型的指標變量，據此建立了BP神經網絡信用評價模型，通過對國內100家在創業板和新三板上市公司的實際數據進行分析，得出的實證結果表明使用BP神經網絡對科技型創業企業進行信用評價的平均正確率可以達到83%，具有較高的準確率和可操作性。因此，金融機構可以據此加強對科技型創業企業的信用評價，篩選優秀的科技型創業企業借款人以降低信用風險，同時也可改善科技型創業企業與金融機構之間的信息不對稱程度，使科技型創業企業能夠獲得更多的融資機會，促使其能夠以健康的方式持續的發展，進而充分發揮出其促進企業技術創新的作用。
參考文獻
[1]龐素琳.信用評價與股市預測模型研究及應用統計學、神經網絡與支持向量基方法[M].北京：科學出版社，2005.
[2]遲國泰，章穗，齊菲.小企業貸款信用評價模型及實證研究―基于最優組合賦權視角[J].財經問題研究，2012，（9）：5357.
[3]李菁苗，吳吉義，章劍林等.電子商務環境下中小企業信用評價[J].系統工程理論與實踐，2012，（3）：555560.
[4]劉湘勤，龍海雯.銀行結構、信用環境與中小企業發展：基于中國跨省數據的實證分析[J].西北大學學報（哲學社會科學版），2007，（6）：159161.
[5]譚慶美，吳金克，趙黎明.基于BP神經網絡的中小企業信用評價研究[J].西北農林科技大學學報（社會科學版），2009，（5）：5762.
[6]邢樂成，梁永賢.中小企業融資難的困境與出路[J].濟南大學學報（社會科學版），2013，（2）：17.
