前言：中文期刊網精心挑選了神經網絡的訓練流程范文供你參考和學習，希望我們的參考范文能激發你的文章創作靈感，歡迎閱讀。
神經網絡的訓練流程范文1
關鍵詞：神經網絡；邊坡；穩定性
引言
邊坡的穩定性是目前巖土工程界研究的重大課題，在礦山工程、水利工程以及建筑工程等諸多領域都涉及到邊坡的穩定性問題。邊坡工程是一個動態開放的、復雜的、非線性的系統問題，影響邊坡穩定性的因素不但有地質和工程因素，而且還具有不確定性。目前，評價邊坡穩定性的方法有層次分析法、灰色理論法、極限平衡法、有限元法等方法，但是這些方法難以擺脫人為因素的影響，計算復雜，具有一定的局限性。本文將人工神經網絡的知識應用到邊坡穩定性的預測中，結合人工神經網絡在結構上的分布式存儲和并行處理的特點，使人工神經網絡具有較好的容錯性、高度非線性映射、以及自適應、自組織學習的能力，從而能夠捕捉邊坡穩定性與影響邊坡穩定因素之間的相關規律，彌補傳統方法在預測邊坡穩定性上面的不足，實現對邊坡穩定性的可靠預測。
1 神經網絡原理
人工神經網絡ANN（artificial neural network）是屬于人工智能（artificial intelligence）范疇的一種計算技術，它根據人們對生物神經網絡的研究成果設計出來，具有良好的數學描述，可以方便地用計算機程序加以模擬。
目前，最常用的人工神經網絡模型有線性神經網絡、RBF神經網絡、BP神經網絡等，本文采用誤差信號反向傳播的BP神經網絡對邊坡的穩定性進行研究。BP神經網絡在訓練時，由信號的正向傳播和信號的反向傳播共同構成神經網絡的學習過程，其訓練流程示意圖如圖 1 所示。
圖1 基于 BP 算法的神經元網絡結構訓練流程圖
2 神經網絡模型建立及訓練
2.1 輸入樣本和輸出樣本的選擇
基于BP人工神經網絡的邊坡穩定性預測模型的建立，首先是確定神經網絡模型各層的節點個數。本文采用某礦山的邊坡工程實例進行 BP 神經網絡模型的有效檢驗，選取影響邊坡穩定性的6個主控因素為輸入樣本，即：確定輸入變量為 D1—邊坡高度指標，D2—重度指標，D3—內聚力指標，D4—摩擦角指標，D5—邊坡角指標，D6—孔隙壓力比指標。
輸出向量是邊坡穩定性狀態代碼，將邊坡穩定性狀態代碼分為兩種類型：即1代表邊坡穩定性狀態為破壞，0代表邊坡穩定性狀態為穩定。
2.2 模型的訓練和預測
本文通過編寫程序語言，結合Matlab7.0來實現邊坡穩定性的預測，應用人工神經網絡工具箱中的newff函數來建立一個前饋型的邊坡穩定性預測網絡模型，在進行網絡樣本訓練時，其中各參數的設定情況為：學習效率設為0.5，網絡訓練的最大迭代次數為15000次，其收斂精度設置為0.001，采用隨機賦值的方法設定網絡訓練中權值和閾值的初始值。網絡的輸入層和隱含層均采用對數型S型函數作為傳遞函數。通過BP神經網絡信號誤差反向傳播算法所建立的邊坡穩定性預測網絡模型，在樣本訓練的過程中，當網絡訓練達到所設置的目標精度或者滿足最大迭代次數時，自動停止訓練。
本文收集整理了國內外各類礦山及巖土工程中潛在或滑動破壞模式為圓弧形滑落的穩定邊坡和失穩破壞邊坡實例共10個（破壞4，穩定6）。根據提供信息包括邊坡結構參數，巖土體的物理力學性質參數，邊坡穩定狀態及極限平衡法計算安全系數（表1）。輸入層的6個神經元分別對應參數：重度、粘聚力、摩擦角、邊坡角、邊坡高度、孔隙壓力比。將10個樣本提供網絡學習，經922次迭代后網絡收斂。訓練樣本的神經網絡的計算結果見表2。網絡訓練誤差曲線圖如圖2所示。
根據以上預測結果可知，預測精度達到了預定的要求0.001，預測結果與邊坡穩定性的實際情況相符，本文建立的BP神經網絡邊坡穩定性預測模型預測效果較好，預測精度較高，能夠滿足實際工作的需要，輸出結果與現場情況吻合。
3 結論
人工神經網絡將制約和影響邊坡穩定的可直接取實測數據的定性因素包括邊坡結構參數（高度、角度等）以及巖土體的物理力學性質（粘聚力、摩擦角、干容重等）納入模型參與穩定性評價，借助計算軟件MATLAB編制計算程序加以實現。
實際應用表明，神經網絡模型由于具有很強的自學習、自組織的能力和高度非線形動態處理能力，用來評價邊坡的穩定性有較好的適用性，可以加以推廣應用。
參考文獻
[1] 飛思科技產品研發中心. 神經網絡理論與MATLAB7實現[M]. 北京： 電子工業出版社， 2005： 97-116.
[2] 李春輝. 基于BP神經網絡的煤與瓦斯突出危險性預測的研究[D]. 昆明：昆明理工大學， 2010： 40-58.
[3] 劉勇， 江成玉. 基于BP神經網絡的煤與瓦斯突出危險性的預測研究[J]. 潔凈煤技術，2011（1）： 97-100.
[4] 馮夏庭， 王泳嘉， 盧世宗. 邊坡穩定性的神經網絡估計[J].工程地質學報，1995（4）： 54-61
[5] 侯殿昆， 宋秀琴， 劉景凡. 基于神經網絡的多參數露天邊坡穩定性分析[J]. 遼寧工程技術大學學報， 2007， 26（5）： 649-651.
[6] 鄒義懷， 江成玉， 李春輝. 人工神經網絡在邊坡穩定性預測中的應用[J]. 礦 冶， 2011， 20（4）： 38-41.
神經網絡的訓練流程范文2
關鍵詞：發電燃料；供應預測；BP神經網絡；預測方法
中圖分類號：TM 762 文獻標示碼：A
0 引言
發電燃料的供應受到能源政策、供需形勢、資源分布、供應價格、交通運輸、市場博弈等多種復雜因素的影響，長期以來缺乏合理有效的供應預測方法和技術手段，尤其是廠網分離后鮮見相關的研究工作。
文獻1《遼寧火電廠燃料管理信息系統的開發與研制》開發和研制了覆蓋遼寧全體直屬電廠燃料公司并同東電局進行廣域網數據交換，同時能進行審核管理和業務信息方便傳輸的燃料綜合管理信息系統。
文獻2《電力系統燃料MIS系統開發研究》探討了燃料管理信息系統的組成、功能、結構及開發應用，為綜述性理論研究。
以上文獻均未對發電燃料供應提供較有效的預測方法。本文提出一種基于BP神經網絡的發電燃料供應量預測方法，利用神經網絡原理，通過數據收集、數據修正和神經網絡結構選擇建立起基于BP神經網絡的發電燃料供應預測模型。通過MATLAB實際仿真，證明該預測方法預測較準確，并具有靈活的適應性。
基金項目：中國南方電網有限責任公司科技項目（K-ZD2013-005）
1 預測方法
按預測方法的性質不同，預測可分為定性預測和定量預測。常用的定性預測方法有主觀概率法、調查預測法、德爾菲法、類比法、相關因素分析法等。定量方法又可以分為因果分析法和時間序列分析法等，因果分析法也叫結構關系分析法。它是通過分析變化的原因，找出原因與結果之間的聯系方式，建立預測模型，并據此預測未來的發展變化趨勢及可能水平。時間序列分析法也叫歷史延伸法。它是以歷史的時間序列數據為基礎，運用一定的數學方法尋找數據變動規律向外延伸，預測未來的發展變化趨勢。由于時間序列模型無法引入對負荷影響的其它變量，所以，單純應用時間序列模型進行供應預測精度難以提高。
運用人工神經網絡技術進行預測，其優點是可以模仿人腦的智能化處理過程，對大量非結構性、非精確性規律具有自適應功能，具有信息記憶、自主學習、知識推理和優化計算的特點，特別是其自學習和自適應功能是常規算法和專家系統所不具備的，因此，預測是人工神經網絡的最有潛力的應用領域之一，有非常廣泛的前途。
2 BP神經網絡模型
2.1 人工神經網絡概述
人工神經網絡是由神經元以一定的拓撲結構和連接關系組成的信息表現、儲存和變換系統，是模仿人腦結構的一種信息系統，可較好地模擬人的形象思維能力。它是對自然界中生物體神經系統進行抽象和改造，并模擬生物體神經系統功能的產物。神經網絡的重要特點是具有記憶和學習能力，經過一定訓練之后，能夠對給定的輸入做出相應處理。
人工神經網絡適用于處理實際中不確定性、精確性不高等引起的系統難以控制的問題，映射輸入輸出關系。人工神經網絡優于傳統方法在于：
1）實現了非線性關系的隱式表達，不需要建立復雜系統的顯示關系式；
2）容錯性強，可以處理信息不完全的預測問題，而信息不完全的情況在實際中經常遇到；
3）由于神經網絡具有一致逼進效果，訓練后的神經網絡在樣本上輸出期望值，在非樣本點上表現出網絡的聯想記憶功能；
4）由于大規模并行機制，故預測速度快；
5）動態自適應能力強，可適應外界新的學習樣木，使網絡知識不斷更新。
圖1是一個人工神經元的典型結構圖。
圖1 神經元典型結構圖
它相當于一個多輸入單輸出的非線性閾值器件。，表示該神經元的輸入向量；為權值向量；θ為神經元的閾值，如果神經元輸入向量加權和大于0，則神經元被激活；f表示神經元的輸入輸出關系函數，即傳輸函數。因此，神經元的輸出可以表示為：
其中傳輸函數是神經元以及網絡的核心。網絡解決問題的能力與功效除了與網絡結構有關，在很大程度上取決于網絡所采用的傳輸函數。
幾種常見的傳輸函數如圖2所示：
（1）為閾值型，將任意輸入轉化為0或1輸出，其輸入/輸出關系為：
（2）為線性型，其輸入/輸出關系為：
（3）、（4）為S型，它將任意輸入值壓縮到（0，1）的范圍內，此類傳遞函數常用對數（logsig）或雙曲正切（tansig）等一類S形狀的曲線來表示，如對數S型傳遞函數的關系為：
而雙曲正切S型曲線的輸入/輸出函數關系是：
（1） （2）
（3） （4）
圖2 常見的傳遞函數圖形
2.2 BP神經網絡概述
神經網絡的魅力在于它超強的映射能力，單層感知器可實現性分類，多層前向網絡則可以逼近任何非線性函數。可以將BP網絡視為從輸入到輸出的高度非線性映射，而有關定理證明BP神經網絡通過對簡單的非線性函數進行數次復合，可以近似任何復雜的函數。
在人工神經網絡的實際應用中，80%-90%的人工神經網絡模型是采用BP網絡和它的變化形式，它也是前向網絡的核心，體現了人工神經網絡最精華的部分。在人們掌握反向傳播網絡的設計之前，感知器和自適應線性元件都只能適用于對單層網絡模型的訓練，只是后來才得到進一步拓展。
BP神經網絡主要應用有：
（1）函數逼近：用輸入矢量和相應的輸出矢量訓練一個網絡逼近一個函數。
（2）模式識別：用一個特定的輸出矢量將它與輸入矢量聯系起來。
（3）分類：把輸入矢量以所定義的合適方式進行分類。
（4）數據壓縮：減少輸出矢量維數以便于傳輸或存儲。
2.3 誤差反向傳播算法原理
BP神經網絡是一種多層前饋神經網絡，名字源于網絡權值的調整規則，采用的是誤差反向傳播算法（Error Back-Propagation Training Algorithm）即BP算法。BP神經網絡是單向傳播的多層前向神經網絡。除輸入輸出節點之外，有一層或多層的隱藏節點，同層節點之間無任何連接。典型的BP網絡是三層前饋階層網絡，即：輸入層、隱含層（中間層）和輸出層，各層之間實行全連接。BP神經網絡結構如圖3所示：
圖3 BP神經網絡結構示意圖
BP網絡學習過程包括誤差正向傳播和反向傳播兩個過程。在正向傳播過程中，輸入樣本從輸入層傳入，經各隱含逐層處理后，傳向輸出層，每一層神經元的狀態只影響下一層神經元的狀態。若輸出層的實際輸出與期望的輸出不符，則轉入誤差的反向傳播階段。誤差反傳是將輸出誤差的某種形式通過隱含層向輸入層逐層反傳，并將誤差分攤給各層的所有單元，從而獲得各層單元的誤差信號，此誤差信號即作為修正各神經元之間權值的依據。這種信號正向傳播與誤差反向傳播的各層權值調整過程，是周而復始地進行的。權值不斷調整的過程，也就是網絡學習訓練的過程。此過程一直進行到網絡輸出的誤差減小到可接受的程度，或進行到預先設定的學習次數為止。
BP神經元與其他神經元類似，不同的是，由于BP神經元的傳遞函數必須是處處可微的，它不能采用二值型{0，1}或符號函數{-1，1}，所以其傳遞函數為非線性函數，最常用的函數S型函數，有時也采用線性函數。本文采用S型（Sigmoid）函數作為激發函數：
式中，為網絡單元的狀態：
則單元輸出為：
其中，為單元的閥值。在這種激發函數下，有：
故對輸出層單元：
對隱層單元：
權值調節為：
在實際學習過程中，學習速率對學習過程的影響很大。是按梯度搜索的步長。越大，權值的變化越劇烈。實際應用中，通常是以不導致振蕩的前提下取盡量大的值。為了使學習速度足夠快而不易產生振蕩，往往在規則中再加一個“勢態項”，即：
式中，是一個常數，它決定過去權重的變化對目前權值變化的影響程度。
圖4為BP算法流程圖。
圖4 BP算法流程圖
3 發電燃料供應預測BP神經網絡模型建立
3.1 數據的收集與整理
發電燃料供應是一個龐大的系統，其中的數據資料紛繁復雜。在進行模型的搭建之前，需要進行歷史資料的整理，提取出所需的數據。本模型中，選取與燃料供應有關的數據作為影響因素，如電廠發電量、能源政策、能源供需形勢、交通運輸狀況、燃料價格和機組能耗等。
3.2 數據的修正
如果在數據采集與傳輸時受到一定干擾，就會出現資料出錯或數據丟失的情況，此時都會產生影響預測效果的壞數據，這些壞數據將會掩蓋實際模型的規律，直接影響模型的效果與精度。據此，需對樣本數據進行預處理，以確保在建模和預測過程中所運用的歷史數據具有真實性、正確性和同規律性。一般樣本數據預處理方法主要有經驗修正法、曲線置換法、插值法、20%修正法、數據橫向縱向對比法、小波分析去噪法等。對于簡單問題，采用數據的橫向縱向對比即可實現壞數據的剔除。
3.3 BP神經網絡的結構選擇
理論證明，3層前向式神經網絡能夠以任意精度實現任意函數，所以，本模型中采用3層前向網絡。同時，當有N個影響時， 3層BP神經網絡的輸入層節點數為N個，隱含層節點數一般為2N ～ 4N，最佳取值可根據實際問題試湊得，輸出層為1個節點， 因此可以取其平均結構為N - 3N - 1型， 輸入層激發函數為線性函數， 中間層和輸出層的激發函數為S型函數。
3.4 BP神經網絡模型建立
對于實際的燃料供應模型，數據的選擇要有針對性，結構要合適，這在預測過程中是重中之重。為便于模型選擇、結果對比，可同時采用幾種不同的數學模型進行預測。在完成對恰當的預測模型的選擇后，利用提取自歷史資料的訓練數據對建立好的預測數學模型進行參數訓練。當模型的參數訓練好以后，即可利用此模型進行預測。
具體操作步驟如下：
（1）對訓練樣本與預測樣本進行歸一化預處理，公式表示如式（1）。
（1）
其中表示經過歸一化后的值，表示實際值，，分別是訓練集中數據的最大值和最小值，k表示輸入向量的維數，i表示有作用因素的個數。
（2）對預測的數據樣本進行提取，并分別列出訓練與測試的樣本集合。
（3）對BP神經網絡的輸入層、隱含層、輸出層的節點進行定義，對網絡的權重、閾值進行初始賦值。
（4）利用訓練樣本對BP神經網絡進行訓練，建立符合實際問題的模型。
（5）利用事先預備的測試樣本對訓練好的網絡進行測試，若效果不佳，則重新訓練，若效果好則繼續下一步。
（6）利用預測樣本及訓練好的模型進行預測。
具體流程圖如圖5所示：
圖5 模型建立流程圖
4 基于BP神經網絡模型的發電燃料供應預測
（1）樣本數據的選擇
以各類影響耗煤的因素作為輸入 。
（2）進行歸一化處理
避免量綱對模型的影響。同時，降低數據的數量級，可以提高BP網絡的訓練的速度，避免飽和。
（3）確定BP神經網絡的結構
3層BP神經網絡的輸入層節點為1個（可根據實際情況調整），對應于輸入樣本，隱含層節點為15，輸出層節點為1，對應于輸出樣本。網絡初始連接權及神經元初始閾值采用隨機賦值方式。神經元的激發函數為S函數，最大迭代次數為400，學習步長為0.001，學習誤差為0.00001。
（4）利用訓練樣本進行網絡的訓練
（5）利用測試樣本進行模型的測試
人為選定5%相對誤差為模型訓練好壞的判別標準。若測試樣本的測試結果的相對誤差在5%以內，則進行下一步，否則重新訓練。
（6）利用預測樣本和已訓練好的模型進行預測
南方電網全網發電燃料供應量預測結果值與實際值的對比如圖6所示：
圖6 南網全網發電燃料供應預測值與實際值對比圖
5 結論
隨著廠網分離的實施，電網公司和電力調度機構對發電燃料供應的掌握嚴重不足，已經不能滿足電力供應工作的要求，尤其是在來水偏枯、電力供應緊張的時期，發電燃料供應的預測對緩解電力供需矛盾、有序做好發用電管理起著舉足輕重的作用，因此，迫切需要開展發電燃料供應影響因素及預測方法的研究工作。
本文在收集、掌握發電燃料供應來源、價格、運輸等情況的基礎上，基于BP神經網絡研究建立發電燃料供應量的預測模型和預測方法。通過MATLAB仿真預測，對預測結果值和實際值進行了對標分析，證明該預測方法預測較準確，并具有靈活的適應性。本文的研究有利于提升發電燃料的管理水平和掌控力度，為合理有序做好電力供應工作提供有力支持。
參考文獻：
[1]孫長青.基于OSGI的發電集團燃料管控系統設計與實現[D].導師：陳有青.中山大學，2011.
[2]史新梅，裴珍.遼寧火電廠燃料管理信息系統的開發與研制[J].安徽工業大學學報，2001，（04）：359-362+366.
[3]付民慶.基于J2EE架構燃料管理信息系統的研究與實現[D].導師：申曉留.華北電力大學（北京），2008.
[4]魏學軍.DF電廠燃料管理信息系統的研究與應用[D].導師：胡立德；戴鶴.重慶大學，2008.
[5]孫文君.發電企業燃料自動監管系統設計及應用[D].導師：張慶超；關萬祥.天津大學，2010.
神經網絡的訓練流程范文3
本方法作為水質分析評價的方法，比起其他方法，具有算法簡單，運算速度快，受外界影響小等特點。
關鍵詞：人工神經網絡Matlab水質評價BP
中圖分類號： TN711文獻標識碼：A 文章編號：
“人口、資源、環境”是當今世界面臨的三大難題。人類的生存與發展從根本上依賴于水的獲取和對水的控制。
天津市蘊藏著豐富的中、低溫地下水資源。同時，天津市作為華北地區嚴重缺水的城市，地下水資源對天津市的經濟發展具有極其重要的作用。地下水水質的分析評價，為資源管理提供了水質判別的依據，是資源管理系統中重要的一部分。
目前，天津市的地下水水資源的分析管理工作中，水質分析評價采用的比較多的是內梅羅指數公式法、模糊綜合評判法、國標法等。
1 BP人工神經網絡簡介
BP (Back Propagation)神經網絡是一種神經網絡學習算法，全稱是基于誤差反向傳播算法的人工神經網絡。它的學習過程，由信息的正向傳播和誤差的反向傳播兩個過程組成。輸入層各神經元負責接收來自外界的輸入信息，并傳遞給中間層各神經元；中間層是內部信息處理層，負責信息變換；最后一個隱層傳遞到輸出層各神經元的信息，經進一步處理后，完成一次學習的正向傳播處理過程，由輸出層向外界輸出信息處理結果。
BP神經網絡相對比其他的神經網絡，具有運算速度快，疊加性好等特點。
2分析方法模型建立
2.1 分析標準選擇
參照《中華人民共和國地下水質量標準》，結合天津市水資源的實際取樣和檢測經驗，形成下述指標：
表1水質評價的要素表（單位：mg/L）
2.2 分析方法建立
分析方法基本流程如圖
圖1基本流程圖
隱含層采用正切S型神經元，輸出層采用線性神經元，輸入向量的維數是16，所以輸入層節點數確定為16個。輸出層節點數由輸出向量的維數決定，這里輸出節點數為1。據經驗以及反復訓練, 隱含層節點數定為5。這樣就形成了一個16×5×1神經網絡。
圖2BP神經網絡結構
輸入向量為2-1，地下水質量分類指標，共有項目16，分為五個級別。輸出結果為一列。
2.3 平臺選擇
本文使用的開發平臺為MATLAB7.8(R2009a)。
2.4 算法選擇
本文選擇動量批梯度下降函數（traingdm）來訓練算法。它實現的是一種批處理的前饋神經網絡訓練算法，它不但具有更快的收斂速度，而且引入了一個動量項，有效地避免了局部最小問題在網絡訓練中的出現。
2.5 學習訓練和模擬
網絡的訓練學習，分為如下幾步：
首先，采用指令 net=newff(minmax(p),[5,1],{'tansig','purelin'},'traingdm') 建立網絡。
newff()為建立BP神經網絡的函數，minmax(p)表示網絡輸入p的取值范圍（0～1），[5,1]表示隱層節點數是5，輸出層節點數是1，{'tansig','purelin'}表示隱含層中的神經元采用tansig轉換函數，輸出層采用purelin函數，'traingdm'表示選擇的學習算法。
權重和閾值初始化 net=init(net);給各連接權重IW{1,1}、LW{2,1}及閾值b{1}、b{2}賦予（-1,+1）間的隨機值。
然后，采用指令[net,tr]=train(net,p,t)進行訓練；訓練次數1000，誤差限為10-8。采用水質標準歸一化后的數值作為訓練向量。訓練結果如下：
圖3 網絡訓練誤差圖
采用指令 a= sim(net,p)模擬；
訓練結果：1.0001 1.9998 3.0001 4.0000 5.0000
這說明網絡已經訓練完畢，可以使用進行實際應用。
根據訓練好的網絡及輸入向量進行模擬網絡輸出，輸入層P為16×n的數組，將監測數據，進行評價歸一化后，根據訓練好的模型進行仿真采用指令out= sim(net,p1)，得到的結果為1×n的向量。即為樣本的評價值。然后將評價值根據大小分為不同的等級（I,II,III,IV,V），輸出為rank數組。
3實驗結果
3.1 小量樣本對比實驗
選取3個地點，使用不同方法進行評價，水質評價可以用礦化度和硬度這兩項指標來簡單的評價，因為這兩個指標可以說明水質各組分濃度大小。比較結果如下：
表2小量樣本結果
從上表中可以看出，3號樣本的礦化度和硬度這兩項指標遠小于其他兩個樣本，水質情況明顯好于其他兩個樣本。這個結論與BP神經網絡的評價結果是一致的，其他兩種方法不能將這3個樣本的水質情況區分開。
從小量樣本的結果看，BP神經網絡法的評價與實際的符合度較好。
3.2 大量樣本對比實驗
分析方法是否科學，是否符合實際工作的需要，僅有小量樣本的實驗是遠遠不夠的，還需要使用較大規模的數據樣本進行實驗。
大量樣本實驗選取多年地下水監測數據中隨機抽取的200組數據，代入模型，結果如下：
表3大量樣本結果
與往年數據進行比較，結果如下：
圖4 地下水歷年評價結果對比圖
由上圖可以看出，使用BP神經網絡法對水質進行分析評價，結果比較合理，與往年的數據相符合，結果可信。
4結論
天津市地下水資源的管理，到現在已經走過了20幾年的時間，積累了大量的監測數據，為了更好的整理分析這些數據，便于管理工作的進行，水質分析評價就成為了一個很好的工具?；贐P人工神經網絡的水質分析評價模型，為水質分析評價工作提供了一個新的方向。與傳統的方法不同，BP神經網絡法進行水質分析評價，更為簡單，快捷，結果也與真實情況相符合。
水質分析評價是一項長期、枯燥、嚴謹而又非常重要的工作。使用BP網絡法評價，現階段同樣存在著不足，比如不同的評價對象具有不同的影響因子，對于不同的評價對象，評價因子需進一步更改。
本文對于地下水水質評價方法提出一個新的研究方向，希望能夠拋磚引玉，供大家借鑒思考。
參考文獻：
[1]郝華.我國城市地下水污染狀況與對策研究[J].水利發展研究，2004，(3):23-25+49.
[2]盧新衛.基于人工神經網絡的水質污染綜合評價方法[J].工程勘察，1997，(6):25-26.
神經網絡的訓練流程范文4
關鍵詞：BP算法 訓練樣本 小車自動尋徑
中圖分類號：TP273.3 文獻標識碼：A 文章編號：1007-9416（2013）07-0102-02
1 引言
隨著生產技術的發展和自動化程度的提高，在自動化領域中，許多復雜性操作或對人體有害的工作都由機器自動完成，為了實現這一工作，機器就必須具有智能性。
人工神經網絡是由人工神經元（簡稱神經元）互連組成的網絡，以大規模模擬并行處理為主，具有很強的魯棒性和容錯性自學習能力，是一個大規模自適應非線性動力系統；具有集體運算的能力。多層前向神經網絡（BP網絡）是神經網絡結構形式中應用較多的自學設計方法之一。BP算法可以通過已知數據訓練網絡模型，應用于對未知數據的預測[3]。因此能很好的應用于小車自動尋徑，使小車具有智能性。
2 BP算法神經網絡
BP神經網絡（Back-Propagation networks）包括三個層次：輸入層、隱含層、輸出層[2]。
2.1 BP算法流程簡述
BP神經網絡的本質是誤差反向傳輸的多層前饋網絡，BP算法的基本思想是，學習過程由信號的正向傳播與誤差的反向傳播兩個過程組成。正向傳播時，先自行對權重進行初始化，輸入樣本從輸入層傳入，經各隱層逐層處理后，傳向輸出層，如圖1為BP神經網絡模型[3]，若輸出層的實際輸出與期望的輸出（理想輸出）不符，則轉入誤差的反向傳播階段。
2.2 隱層神經元個數的確定
一般情況下，隱層神經元個數是根據網絡收斂性能的好壞來確定的，在總結大量網絡結構的基礎上，在單隱層神經網絡中，得出以下經驗公式：
其中，為輸入層神經元個數，為輸出層神經元個數。
3 創建BP神經網絡模型
3.1 問題描述
隨機的繪制一張彩色地圖，地圖中有各種顏色的建筑和一條貫穿的公路（白色），引入BP神經網絡，使該小車具有一定的智能，可以自動地判斷前方是否為公路，進而沿著公路從地圖的一端走到另一端。本次實驗所用的地圖如圖2所示（地圖及小車由本人按照一定的比例用電腦的畫圖工具所畫）：
3.2 地圖及小車圖片的灰度化
由于Matlab默認為rgb模式打開圖片，故為了更簡單的解決問題，必須對圖片進行灰度處理，處理之后地圖及小車分別為520*1100和20*25維矩陣。
3.3 地圖及小車圖片的二值化
為了BP網絡更好的收斂，需對相應圖片進行二值化處理，如圖3所示。由于本次實驗公路為白色，小車為黑色。故將地圖中除公路以外的部分的像素值置為0，公路上的像素值置為255，小車的像素值置為255。
所以，在小車的“眼里”，世界是黑白的。如下圖：
3.4 小車的視野
小車必須有一定的視野，可以“看到”前方的路況，否則當小車發現情況不妙準備轉彎的時候就已經撞到路邊了。本次實驗取的小車的視野為小車前方和左右方30像素范圍，這樣小車可以“預感到”自己前方和左右方向上的路況，進而及早調整方向。
3.5 訓練BP神經網絡
訓練樣本作為BP網絡的輸入數據集，對于網絡的訓練具有重要的作用[4]，本文建立單隱層BP神經網絡，訓練樣本選取為小車在地圖上某個方位的對應位置的差矩陣，共20個樣本，其中10個是對的樣本（即小車在公路上），10個為錯的樣本（即小車的車體不完全在路面上）。這樣輸入的樣本矩陣的大小即為小車圖片對應的像素矩陣的大小，為20*25，故輸入層神經元個數取為500。輸出層只有兩種情況，在公路上為對，不在公路上為錯，故輸出層神經元個數為2。
由式（2）可得隱層神經元的個數為42，選取誤差精度10-4，初始學習速率0.5，初始權值為（-1，1）區間內隨機值。
經過245次訓練以后，總體期望誤差達到了給定范圍，網絡訓練過程中的誤差變化曲線[15]如圖4所示。
4 實驗結果
所有算法均在MATLAB R2009a中運行，微機配置為Core Processor 4000+2.10GHz，內存為2G。
用前面選出的訓練樣本對BP神經網絡進行訓練，訓練之后小車即具有了一定的智能，可以識別前方和左右方的路況，實驗結果表明，小車可以很好的沿著公路從地圖的一側行駛到另一側。
5 結論
通過對BP神經網絡訓練后，小車可以正確地沿著公路地圖的一側行駛到另一側，說明BP神經網絡可以很好地應用于路徑識別和自動駕駛領域。
參考文獻
[1] 楊國才，王建峰，王玉昆.基于Web的遠程自學型教學系統的設計與實現[J].計算機應用， 2000，20（4）：61-63.
[2] 安淑芝.數據倉庫與數據挖掘[M].北京：清華大學出版社， 2005：100-101.
[3] 蔡自興，徐光佑.人工智能及其應用[M].北京：清華大學出版社， 2003.
神經網絡的訓練流程范文5
關鍵詞：徑向基神經網絡（RBFN）； 超高壓； 繼電保護； LLS； 梯度下降法
中圖分類號：TN911-34; TP332 文獻標識碼：A
文章編號：1004-373X(2011)20-0196-04
Algorithm of EHV Relaying Protection Based on RBF Neural Network
ZHANG Dong1, WANG Tao2
(1. Inner Mongolia Electric Power Group, Hohhot 010080, China;
2. School of Electronics and Information Engineering, Soochow University, Suzhou 215021, China)
Abstract： An algorithm of EHV (extra high voltage) relaying protection based on RBFN (radial basis function neural network) is proposed. The algorithm can conduct the training according to the existing relaying data sample set because the RBFN has learning ability, find the internal relations of fault detection, fault location, self-adaptive automatic reclosing technology, differential protection and distance protection by analysis, and realize the self-adaptive control over the future relaying protection data samples. The highlight of this algorithm is that the factors of both predicting precision and training time of RFBN are taken into consideration in the process of construction. The linear least squares (LLS) and the gradient descent method are employed for MATLAB simulation experiment to obtain a more accurate result of prediction.
Keywords： RBFN; EHV; relaying protection; LLS; gradient descent
0 引 言
隨著電力工業的不斷發展，現代電力系統已成為┮桓齦囈追竅咝?、高竻矀蝙o拇笙低常人們對系統運行的可靠性、持續性和穩定性要求也越來越高，這就使得電力系統中問題的解決越來越困難。
繼電保護的任務就是檢測故障信息，識別故障信號，進而決定保護是否跳閘。傳統的繼電保護和故障診斷方法自適應能力有限，不能適應各種運行方式和診斷復雜故障。
徑向基神經網絡（RBFN）具有很強的自適應能力、學習能力、非線性映射能力和容錯能力，并且魯棒性好，應用在電力系統繼電保護有很大優勢，很多難以列出方程式或難以求解的復雜的非線性問題，應用徑向基神經網絡（RBFN）方法都可以得到很好的解決。
1 人工神經網絡概述
1.1 人工神經網的概念
人工神經網絡（Artificial Neural Networks，ANNs）也簡稱為神經網絡（NNs）或稱作連接模型（Connectionist Model），它是一種模范動物神經網絡行為特征，進行分布式并行信息處理的算法數學模型。這種網絡依靠系統的復雜程度，通過調整內部大量節點之間相互連接的關系，從而達到處理信息的目的。人工神經網絡具有自學習和自適應的能力，可以通過預先提供一批相互對應的輸入-輸出數據，分析掌握兩者之間潛在的規律，最終根據這些規律，用新的輸入數據來推算輸出結果，這種學習分析的過程被稱為“訓練”。
人工神經網絡是一門模擬人腦生物過程的人工智能技術,是根據大腦神經元電化學活動抽象出來的一種多層網絡結構，它是由大量的神經元互聯形成的復雜的非線性系統。神經元結構如圖1所示。所有輸入M通過一個權重K進行加權求和后加上閾值d，再經傳遞函數f的作用后即為該神經元的輸出a，且有：
Иa=f(MK+d)(1)И
1.2 徑向基神經網絡理論
徑向基神經網絡(RBFN)是一個三層的前饋神經網絡，包括一個輸入層、一個徑向基層(即隱含層)和┮桓鍪涑霾恪F浠本原理是以徑向基函數作為隱層單元的基，構成隱含層空間，隱含層對輸入矢量進行變換將低維的模式輸入數據變換到高維空間內，使得在低維空間內的線性不可分問題在高維空間內線性可分。徑向基函數它模擬了人腦中局部調整、相互覆蓋感受野(Receptive Field)，因此是一種局部逼近網絡，科學界已經證明它能以任意精度逼近任意函數，其拓撲結構如圖2所示。
圖1 人工神經元模型
圖2 RBF網絡結構圖
輸入層節點獲取輸入向量后，傳遞輸入向量到隱含層。隱含層節點由徑向基函數構成，徑向基函數可采取多種形式(通常采用Gaussian函數)。隱含層執行非線性變換，將輸入空間映射到一個新的空間。輸出層通常是簡單的線性函數。隱含層節點和輸出層節點以不同的權重完全連接。隱含層節點的激活函數對輸入激勵產生一個局部響應，輸入向量越靠近基函數的中心，隱含層節點做出的響應越大。隱含層第j結點的輸出響應為：
ИGj(x)=exp－x－μj2σ2j （2）И
式中：x= ［ X1,X2,…,Xn ］ 為輸入向量；μj,σj分別為第j個神經元的中心和大小；c為神經元的個數。
輸出層為隱含層各個單元的加權和:
И=f(x)=∑cj=1wjGj(x)（3）И
式中：wj為第j 個神經元對應的權值。
2 基于RBF的超高壓繼電保護算法
2.1 訓練數據的樣本采集
訓練所需要的樣本數據，直接關系到訓練出來經驗函數精度的優劣，所以一組好的訓練樣本是經驗函數精度的保證。本文采用內蒙古電力集團公司超高壓局近幾年對繼電保護數據記錄，其中樣本數據繁多，從中選取了5 000個有效數據作為樣本，用其中4 000來訓練經驗函數，后1 000個用來檢測訓練效果。
2.2 RBF神經網絡混合學習算法
RBF網絡的學習分為兩個過程。第一個過程：根據所有輸入向量確定各隱含層節點的高斯函數的中心值cj。第二個過程：在確定了隱含層j的參數后，根據樣本，利用最小二乘法原則求出輸出層的權值wjt。建立RBF神經網絡的關鍵問題是根據給定的訓練樣本確定徑向基函數的中心。因為一旦確定了徑向基函數的中心cj，則對于所有的訓練樣本而言Gj和預期輸出yt 是已知的，輸出權值`jt可以通過最小二乘法求出。
2.2.1 調整隱層神經元中心及寬度
梯度下降法的構造過程中首先定義誤差函數：
ИE=12∑Nn=1En（4）И
式中：N為樣本個數；En為輸入第nЦ鲅本是的誤差定義為：
ИEn=∑sk=1(tnk－ynk)2， n=1,2,…,N(5)И
要使誤差函數最小化，則參數的修正量應與其負梯度成正比則有：ЕCj=－η1ECj和Δσj=－η2E鄲要j Т入后得：
ИЕCj=2η1∑Nn=1∑sk=1(tnk－ynk)•Rnjwn(k,j)•pn－cnj(σnj)2(6)
Δσj=2η2∑Nn=1∑sk=1(tnk－ynk)•Rnjwn(k,j)pn－cnj2(σnj)3(7)И
當所有樣本輸入完成后，運用迭代的方法對參數進行調整，如下所示：
ИCj(m+1)=Cj(m)+ΔCj(8)
σj(m+1)=σj(m)+Δσj(9)И
式中:Cj是中心的學習速率；σj是高斯寬度的學習速率；m為迭代次數。為了保證分類器的泛化性能，采用的高斯寬度的學習速率通常大于中心的學習速率，因為小的學習速率使算法收斂過慢，而過大的學習速率可能會導致算法變得不穩定。
2.2.2 RBF網絡的權值確定
首先設定輸入矩陣為：M∈Rr×N，隱層輸入矩陣為：P∈Ru×N；輸出層矩陣為：K∈Rs×N；其中n為訓練樣本。若RBF網絡的待定輸出層權值W∈Rs×u，其三者關系為：
ИK=W×P（10）И
樣本的目標輸出為：T=(t1,t2,…,ts)T∈Rs×N，在這里采用線性最小二乘法(LLS)來使得目標輸出與網絡實際輸出之間的誤差達到最小,運用R的R+來求得W為R+T。
2.2.3 經驗函數訓練流程圖
本文所訓練的經驗函數的算法流程圖分為兩個階段，第一階段是樣本處理，由于樣本具有重復性，在經過樣本處理后，就保證了存儲在樣本庫中的樣本都具有代表性，消除重復訓練，提高訓練速率；第二階段是訓練經驗函數。訓練過程如圖3所示。
圖3 經驗函數的算法流程圖
3 實驗結果與分析
該研究采用Matlab 7.0.0來做仿真實驗,針對關注的5個重要的超高壓繼電保護指標分別進行預測，實驗數據來自內蒙古電力集團公司超高壓局近幾年對繼電保護數據記錄，實驗采用大量超高壓繼電保護值來訓練RBF神經網絡，當網絡訓練達到誤差平方和目標0.01時，網絡訓練結束。
圖4~圖8分別為故障檢測、故障定位，自適應自動重合閘技術、差動保護以及距離保護的預測值與實際值之間的比較(其中橫軸均為時間序列，縱軸為超高壓繼電保護的相應指標值)。
通過仿真結果可以看出：曲線的擬合度較好，說明通過RBF神經網絡短期預測超高壓繼電保護取得了較好的效果。但是長期的預測則需要考慮超高壓繼電保護各衡量指標的突變情況，此時RBF神經網絡無法對其做出準確的預測。
4 結 語
本文將RBF神經網絡及其相關算法應用到超高壓繼電保護預測上，可以更好、更快地動態預測繼電保護的工作狀態。在其中RBF網絡大大提高了訓練的速度，節省了時間且預測精度更高，在局部的短期預測中占有優勢。怎樣進一步改進優化預測算法是RBF神經網絡預測超高壓繼電保護的下一步研究方向。
參考文獻
［1］馬銳.人工神經網絡原理\.北京：機械工業出版社,2010.
［2］劉學軍.繼電保護原理\.北京：中國電力出版社,2007.
［3］賀張萍.深度探討繼電保護裝置狀態檢修需求及應用難點\.科技資訊,2010(32):120-122.
［4］黃懿.繼電保護可靠運行的控制分析\.中國科技博覽,2010(3):61-64.
［5］MOHAMED E A, TALAAT H A; KHAMIS E A. Fault diagnosis system for tapped power transmission lines \. Source: Electric Power Systems Research, 2010, 80 (5): 599-613.
［6］Eissa M M, Sowilam G M A, Sharaf A M. A new protection detection technique for high impedance fault using neu-ral network \// Proceedings of 2006 Large Engineering Systems Conference on Power Engineering. \: \, 2006: 146-151.
［7］DUTTA A A, KADU A N. Pattern recognition method for detecting fault in EHV transmission lines \// Proceedings of2nd International Conference on Mechanical and Electrical Technology. \: ICMET, 2010: 24-27.
［8］劉田田,燕潔.人工神經網絡在電力系統繼電保護中的應用\.電力學報,2007(2):190-192.
［9］呂衛勝.人工智能技術在電力系統繼電保護中的應用\.山東電力技術,2006(1):61-63.
［10］KHORASHADI-ZADEH H, EBRAHIMI M R A. AN ANN based approach to improve the distance relaying algorithm \// Proceedings of the 2004 IEEE Conference on Cybernetics and Intelligent Systems. Singapore: IEEE, 2004:1374-1379.
［11］曾曉林,薛建輝,洪剛.粒子群優化神經網絡在高壓斷路器機械故障診斷中的應用\.電網與清潔能源，2010,26(6):57-61.
［12］李風光,楊志.基于BP網絡的自適應接地保護研究\.電網與清潔能源，2010,26(10):31-34.
神經網絡的訓練流程范文6
關鍵詞：神經網絡；過程控制；模糊控制
我國礦石“貧、細、雜”，礦石成分復雜，性質波動嚴重，因而造成了我國浮選過程控制水平不高，浮選藥劑消耗量大，產品質量波動大，精礦回收率低，經濟效益差的現狀，嚴重影響了我國鋼鐵工業的國際競爭力。因此急需能夠滿足我國浮選工藝現狀的檢測設備及先進控制算法，以提高我國浮選過程控制水平，以穩定產品質量，為后序煉鐵工序提供更好的原料。
對于浮選工藝過程控制，藥劑控制是根本性的。以反浮選為例，如果給藥量過少，無用礦物成分就不能充分浮選，則會導致精礦品位降低，不能滿足產品質量要；如果藥劑量過多，不但藥劑費用大，而且會導致返回的中礦量增加和尾礦品位增高，回收率降低，經濟效益不理想。
本文根據影響浮選藥劑用量的因素確定了RBF神經網絡模型的結構。針對RBF神經網絡參數難以確定的缺點，提出一種基于蟻群算法RBF神經網絡優化方法。并通過仿真結果證明了該算法的有效性。
1 藥劑量控制模型結構確定
目前傳統的藥劑添加方法是以給礦流量為參考，在應用比例控制的方法的基礎上根據操作工經驗來控制藥劑流量。但由于浮選過程的嚴重非線性、干擾因素眾多且系統存在大滯后。這種簡單的控制方法難以保證浮選最終精礦品位的穩定，同時影響了精礦回收率。即使在浮選槽出口安裝上價值昂貴的在線精礦品位檢測儀表，由于浮選過程的大滯后特性，常規的閉環控制方法也難以達到目的。所以本章主要通過應用浮選生產過程中積累的大量生產數據，根據相應的浮選工藝參數，使用RBF神經網絡技術對浮選過程進行建模。然后根據初始生產條件，應用建立好的數學模型預測所需的藥劑用量，從而克服系統的大滯后、非線性特性，穩定浮選生產過程。
通過現場調研，我們知道原礦性質和藥劑用量與浮選槽出口精礦品位有直接關系。最后我們依據工藝機理和現場操作工經驗知識，最終確定給礦品位、給礦流量、給礦粒度、給礦濃度、精礦品位5個變量對藥劑流量影響最大。
因此本文將給礦品位、給礦流量、給礦粒度、給礦濃度和精礦品位5個變量作為浮選藥劑量控制模型的輸入變量，將浮選藥劑流量作為模型輸出變量，從而建立一個5輸入、1輸出的RBF神經網絡模型，模型結構如圖1所示。
圖1 浮選藥劑量控制模型結構圖
2 基于蟻群算法的網絡泛化能力優化
我們應用處理后的樣本數據對網絡性能進行了測試（這里我們使用了700組樣本數據作為網絡訓練數據，50組數據作為網絡性能測試數據，網絡訓練停止條件是網絡訓練誤差小于網絡訓練停止誤差或者超過最大訓練次數。我們把網絡最大訓練次數規定為5000次），測試中發現了兩個問題。一是值得大小對網絡測試誤差的影響很大；二是網絡的訓練停止誤差（訓練次數）大小也影響測試誤差的大小。有時網絡訓練停止誤差越小，反而網絡的性能越差。下面給出了仿真測試曲線：
圖2 不同r值下的模型預測曲線
3 蟻群算法優化RBF神經網絡參數
從網絡性能測試結果和上面關于神經網絡泛化能力的相關知識我們可以知道，要提高本文RBF神經網絡模型的泛化能力。在網絡訓練過程中，我們所能做的就是在確定一個合適的r值（確定合理網絡結構），并且判定合理的網絡訓練停止誤差（也可以是學習次數）。
[圖3 蟻群算法優化RBF神經網絡參數流程圖]
但是由于r值和網絡訓練停止誤差是兩個參數，只有在兩個參數都合適的情況下才能獲得最好的網絡性能。這樣如何尋找這兩個參數的最優組合就成了問題的關鍵點。采用手動試驗的方式由于兩個參數的不同組合太多而難以實施。因而本文決定采用目前流行的蟻群優化算法對上述兩個參數進行優化，來提高RBF神經網絡的性能。本文應用蟻群算法優化RBF神經網絡參數的流程如圖3所示。
這里我們將樣本數據分成3個部分：一部分為訓練樣本集；一部分為內部測試樣本集；一部分為外部測試樣本集。蟻群算法優化RBF神經網絡參數的工作過程如下：
Step1：蟻群算法參數。
Step2：隨機選定r值和網絡訓練停止誤差。
Step3：采用文中的網絡中心和權值訓練方法，應用訓練樣本集訓練RBF網絡。訓練結束后，應用內部測試樣本集測試網絡泛化誤差。
Step4：根據泛化誤差計算蟻群算法適應度函數，適應度函數值滿足要求或蟻群算法迭代次數超過目標次數則停止算法，并給出參數優化結果。否則進行蟻群算法操作重新搜索r值和網絡訓練停止誤差后返回Step3。
通過蟻群算法的優化，我們最后得到r=1.37，網絡訓練停止誤差為6.3×10-4。此時RBF神經網絡仿真結果如下：
[圖4 蟻群算法優化后的模型預測曲線]
