前言：中文期刊網精心挑選了神經網絡回歸算法范文供你參考和學習，希望我們的參考范文能激發你的文章創作靈感，歡迎閱讀。
神經網絡回歸算法范文1
【關鍵詞】BP神經網絡；預測；誤差
1.引言
許多金融學家和計量學家對發達國家成熟市場的波動性進行了廣泛的研究，但是在對股市的預測上，由于人們在知識、能力、經驗上存在著較大的差異，加之問題本身又具有很大的隨機性和高度的非線性，即使是一些金融專家、炒股高手對出現的同一復雜行情進行分析，往往也會得出不同的結論。此外，傳統方法還要事先知道各種參數，以及這些參數在什么情況下應作怎樣的修正。這都給預測股市帶來一定的困難。
基于以上股市預測的困難性，本文提出了人工神經網絡的預測方法。隨著計算機、人工智能尤其是專家系統的發展，人工神經網絡技術逐漸成熟并開始應用于各個領域。人工神經網絡（ANN，簡稱神經網絡）作為一種由大量簡單神經元廣泛相互聯接而成的非線性映射或自適應動力系統，恰好能有效解決股市預測處理中常見的困難，因此它很快在股市預測分析與處理領域得到了廣泛的應用。
2.BP神經網絡介紹
2.1 BP 網絡算法的基本原理
2.1.1 標準的BP 網絡算法的基本原理
BP(Back Propagation)網絡是反向傳播的多層前饋式網絡，是目前使用最為廣泛的一種人工神經網絡。它的核心是BP算法，一種對于多基本子系統構成的大系統進行微商計算的嚴格而有效的方法，采用最小均方差學習方式。BP 神經網絡的原理說到底就是給它一些輸入變量，然后就有一個輸出，輸出值的情況與實際的情況進行比較，差多少，然后再進行網絡的內部調整，屬于有導師的學習規則，使得網絡輸出與實際逼近。
神經網絡能學習和存貯大量的輸入―輸出模式映射關系，而無需事前揭示描述這種映射關系的數學方程。人工神經網絡由非線性函數組成，而由一系列不同權重的線性過濾器組合而成：
2.1.2 BP網絡算法的優化
由于常用的BP算法主要缺點為收斂速度慢，局部極值，難以確定隱含層和隱含層的個數，使得在實際應用中BP算法很難應用，因此，出現了許多改進算法。BP算法的改進主要有兩種途徑，一種是采用啟發式學習方法；另一種則是采用更有效的優化算法，本文采用了動量法和學習率自適應調整的策略，從而提高了學習速度并增加了算法的可靠性。動量法降低了網絡對于誤差曲面局部極值的敏感性，有效地抑制了網絡陷于局部極小。
2.2 BP神經網絡的模型識別及步驟
模式通常指對事物的一種定量描述或結構描述，“識別”是指對客觀事物按其物理特征進行分類。模式識別的基本原理就是從待識別對象和理想標本之間若干特征的相似性推斷它們之間總體的相似性。BP神經網絡模式識別過程分為訓練階段和模式分類階段，分為初始化、數據與處理、網絡訓練以及模式分類四個步驟。以下利用實證分析來進行著四個步驟。
3.實例分析
下面以上證的某股600個交易日的股票價格收盤指數作為原始樣本數據，對上述神經網絡模型進行求解，預測20天的收盤價，與實際收盤價進行比較，并求出其誤差：
式中，表示第日的實際收盤指數，表示第日的預測值，表示誤差。主要按照如下幾部分來處理：（1）準備600個數據的時間序列，進行歸一化。BP神經網絡中每個神經元的輸出值由傳遞函數Sigmoid函數來計算，其輸出值的范圍是（0，1）；（2）留出最后20個數據，作為預測檢驗使用；（3）繪制圖像，包括實際值和預測值，能量函數；（4）分析實際和預測兩曲線的趨勢。
采用I-J-K學習模型，該模型是輸入層I個神經元，隱層J 個神經元，輸出層K個神經元。利用BP神經網絡模型訓練500次、800次、1000次的輸出值和期望值以及能量函數（或者叫誤差函數）E，結果見圖1到圖3。
通過上面的圖示，可以看到用BP神經網絡預測的效果比較明顯，這說明該模型適用于短期預測嗎，股市的波動在很多地區都是非常劇烈的，各種因素的綜合作用也使得長期股指的變動具有極大的不確定性，使得預測變得很困難。而BP網絡的算法原理和自學習的特點使其能夠充分挖掘出隱含在樣本數據中的規律性，實現從輸入空間到輸出空間的非線性映射，對樣本數據進行精確的擬合。從而BP神經網絡的方法對于股市上的一些很難看出規律的數據列的預測而言，無疑是一個比較精確的預測方法。
4.結論
本文介紹了股市的特點以及股市預測的困難性，提出了利用BP神經網絡的方法來解決股市預測問題。文章介紹了BP神經網絡算法的基本原理，BP神經網絡算法的優化，BP神經網絡模型識別及步驟，最后后以上海證券交易所每日股票價格收盤指數為分析對象，把原理應用于實際，利用BP神經網絡對股票價格收盤指數進行了短期預測，并計算出預測值和實際值的誤差。通過實驗發現該模型收斂速度快，預測精度非常高，對預測短周期內股指波動具有較強的適用性。
參考文獻
[1]高琴.人工神經網絡在股市預測模型中的應用[J].微電子學與計算機,2007年第24卷第11期.
[2]周翠紅,路邁西.線性回歸與人工神經網絡預測煤炭發熱量[J].煤炭科學技術,第37卷第12期.
[3]尹慶雙,奉瑩.人工神經網絡在第三產業就業分析中的應用[J].人口與經濟,2009年第6期.
[4]鄒文安,劉寶,姜波,楊春生.基于Excel 技術平臺人工神經網絡BP模型及應用[J].水文,第30卷第1期.
[5]康進,劉敬偉.非參數回歸估計與人工神經網絡方法的預測效果比較[J].統計與決策,2009年第23 期.
[6]楊本昭,田耕.基于人工神經網絡的客戶價值分類研究[J].科技管理研究,2007年第12期.
神經網絡回歸算法范文2
>> 基于MATLAB的BP神經網絡算法在多元非線性系統建模中的應用 改進的求解非線性方程組的迭代神經網絡算法 基于非線性粒子群算法與神經網絡的天氣預測 演化算法在非線性方程求解方面的應用 基于BP神經網絡的非線性函數擬合 非線性倒立擺系統的神經網絡辨識 基于遺傳小波神經網絡的非線性動態自治網絡故障診斷仿真算法 一種基于正交基神經網絡的非線性衛星信道預失真補償算法 神經網絡在電路故障診斷方面的應用 神經網絡在鋼鐵企業質量預測方面的應用 BP神經網絡在坐標轉換方面的應用 人工神經網絡在電渦流傳感器非線性補償中的應用研究 基于神經網絡的通用非線性神經自適應控制研究 基于BP神經網絡的非線性網絡流量預測 改進的基于神經網絡的非線性多元回歸分析 基于徑向基神經網絡的非線性系統辨識 基于OBF神經網絡的溫度傳感器非線性補償方法 基于RBF神經網絡的非線性控制系統 群智能算法優化神經網絡在網絡安全的應用 淺談基于BP神經網絡的水源熱泵在建筑節能方面的應用 常見問題解答 當前所在位置：中國 > 教育 > 神經網絡算法非線性優化方面的應用 神經網絡算法非線性優化方面的應用 雜志之家、寫作服務和雜志訂閱支持對公帳戶付款！安全又可靠！ document.write("作者： 方達 胡忠剛")
申明:本網站內容僅用于學術交流，如有侵犯您的權益，請及時告知我們，本站將立即刪除有關內容。 摘 要：文章通過神經網絡算法對一類非線性優化方面的問題進行了分析，得到了應用神經網絡非線性優化算法求解該類問題的具體步驟和算法方案，并給出了實例進行驗證，證明了神經網絡非線性優化算法是有效的，具有理論意義和實用價值。 關鍵詞：：神經網絡算法;MTLAB;非線性優化最優化
中圖分類號：G622 文獻標識碼：B 文章編號：1002-7661（2014）22-002-01
人工神經網絡是由簡單的處理單元所組成的大量并行分布的處理機，這種處理機具有儲存和應用經念知識的自然特性，它與人腦的相似之處概括兩個方面：一是通過學習過程利用神經網絡從外部環境中獲取知識;二是內部神經元（突觸權值）用來存儲獲取的知識信息。
一、神經網絡非線性優化求解鐵路空車調度組合優化問題
目前鐵路局對空車調度計劃是利用表上作業法，采用計算機輔助統計，要經過分局管內各主要站和各區段的車種別空車調度，分局間分界站車種別交接空車數的確定;局間分界站車種別交接空車數的確定來編制整個鐵路局的空車調度計劃.下面用神經網絡優化方法解決該問題。
空車調度問題一般指的是：設有個空車發送站，個空車到達站數的距離為，設空車產生站 到空車需求站的空車數為，由發出的空車數為，則應滿足
空車需求站接受到的空車數為，則應滿足
假設空車產生數等于空車的需求數，即平衡運輸，則
總的空車走行公里數為
由于神經元的輸出值在之間，而空車數目是大于1的數，則將（ ）作為實際空車數，這樣就可以保證在（ ）之間，求為在中所占的百分比，為了用Hopfield神經網絡求解空車調度問題，建立能量函數如下
式中
表示空車發送站的空車數應等于的約束，當且僅當發車數為時，該項為0; 表示空車到達站所需的空車數應等于的約束，當且僅當到達的空車數為時，該項為0;
表示對空車調度的總體約束;
表示對目標項的約束;
表示懲罰項系數，為目標項系數.
當計算能量函數 達到最小時，對應于空車調整計劃的一個最佳計劃方案.其算法如下
則動態迭代過程為
其中 ，分別代表迭代次數，選取0.001.
二、結束語
神經網絡回歸算法范文3
Abstract: The technology of affecting the output accuracy of artificial neural network model has affected widespread ettention,and influence researches of sample quality to neural network output accuracy are very few,and the majority of these researcher about neural network structure. This paper analyses the influence of the sample to the output of artificial neural network,having important significance to improve accuracy of neural network output.
關鍵詞: 人工神經網絡;局部影響;BP神經網絡;算法
Key words: artificial neural networks;local influence;BP neural network;algorithm
中圖分類號:TP393.092 文獻標識碼:A文章編號:1006-4311(2010)07-0144-02
0引言
神經網絡應用到預測有許多問題需要解決, 其中最為突出的問題就是沒有一個確定的最合適的神經網絡結構的標準方法,由于影響神經網絡預測能力的參數很多,本文針對最為常用的BP神經網絡,對影響神經網絡預測精度的樣本質量進行了詳細分析和研究, 并在此基礎上,給出優化樣本后的具體例子。
1樣本質量對網絡的影響
用于神經網絡的樣本分為訓練樣本和測試樣本,訓練樣本的質量在一定程度上決定著預測精度。首先,訓練樣本和待預測樣本的均值存在較大差異, 預測誤差會隨著長時間的訓練而增大。其次,訓練誤差會隨著訓練樣本和待預測樣本均值間差異的增大而增大。再次,訓練誤差會隨著訓練樣本和待預測樣本方差間差異的增大而增大[1]。下面是文獻[1]對樣本質量分析的方法。
文獻[1]的人工神經網絡預測誤差為e=em+et+er,其中,e為預測誤差;em為模型誤差,它由所建回歸模型與實際系統的差異引起的;et為最終的訓練誤差;er為人工神經網絡訓練和預測過程中引入的隨機誤差。et和er的存在是不可避免的,而em為:em=ef+ed,式中ef為實際輸出值與預測輸出值之間的誤差,它反映了樣本質量;為由不正確的嵌入維數引起的誤差, 它可通過選擇合適的輸入神經元數來消除。
為了評價訓練樣本質量,根據ef提出“一致度”的指標。文獻[1]定義了偽距離DCTP-D,但計算偽距離是相當復雜的,難于實現對樣本質量的分析和應用。下面用協方差比統計量分析訓練樣本對預測精度的影響。
設訓練樣本為θ,是神經網絡的輸出,i是從θ中剔除第i個數據點的神經網絡輸出。則剔除第i個數據點的協方差比統計量CR=cv()cv()表明了剔除第個數據點對神經網絡輸出精度的影響,從精度方面刻畫了第i個數據點的重要程度。CRi-1的值越大,對預測精度(神經網絡輸出)的影響越大。在使用PB神經網絡預測時先對訓練樣本進行篩選,剔除對網絡輸出結果影響小的樣本點。
樣本精簡:矩陣初等行變換能保持矩陣列向量之間的線性關系,利用這個結論我們可以用來進行樣本數據的精簡,這樣精簡后的樣本數據能夠保持各屬性字段之間的線性關系。神經網絡的訓練實際上是一個通過給定樣本實時調整網絡連接權重的過程,樣本預處理的結果對于網絡訓練的收斂性起到關鍵的作用。
2實例分析
本文采用麻省理工大學林肯實驗室的測試數據KDDCUP99,它是專門用來進行入侵檢測評估的。我們采用數據集上的一個子集10%作為實驗數據源,它一共包含有494021條網絡連接,其中正常連接97277 條,異常連接396744條。
下面我們針對DOS攻擊類型數據(DOS攻擊類型編碼為“0 0 0 1”)進行分析。
設A為樣本數據矩陣,其中每一行向量表示一條樣本數據,則該行向量含34個數據,假設有a條樣本,則A為a行34列矩陣;由于每條樣本數據輸入網絡后都會有一條對應的輸出,加上本實例為DOS攻擊類型以編碼“0 0 0 1”表示,則期望輸出矩陣B為a行4列矩陣(暫時先不考慮閾值,只考慮權重問題)。本文BP神經網絡的輸入節點數為34個,隱含層節點數為15個,輸出層節點數為4個雖然神經網絡的連接權重可以用一個實數串進行表示,但在進行網絡的訓練時,還需要將實數串分為兩部分,設輸入層到隱含層的連接權重矩陣為W1,則W1為34行15列矩陣;同理,隱含層到輸出層的連接權重矩陣W2為15行4列矩陣。于是我們可以得到公式(1)。
AWW=B(1)
如式(2)所示,A和B是系數矩陣 ,C是增廣矩陣。經過帶約束初等行變換后如式(3)所示。
C=[AB](2)
C=[AB]A′B′C D(3)
式(3)中,C、D為零矩陣,經過處理以后,由原先的A對應輸出B變成了現在的A′對應輸出B′,通過這樣的處理,我們就可以將大樣本變為小樣本,從而使計算更加快速,樣本數據更加精簡。 為了能使樣本應用于本文提出的分類檢測器同步檢測模型,我們將樣本數據先進行歸類合并,分別構造出DOS、PROBE、U2R、R2L四大類攻擊樣本數據集,這樣四個檢測器分別檢測四大類攻擊。為了降低可疑攻擊數,即四大攻擊類型數據集之間的重疊記錄數要少。精度過大會增加計算量,從而會降低學習速度;精度過小,會使記錄重疊數增加,從而造成可疑攻擊數增加,影響訓練結果。
對訓練樣本用上述方法進行優化后,利用矩陣初等行變換能保持矩陣列向量之間的線性關系這個結論,我們可以進一步對樣本數據的精簡,這樣精簡后的樣本數據能夠保持各屬性字段之間的線性關系。神經網絡的訓練實際上是一個通過給定樣本實時調整網絡連接權重的過程,樣本預處理的結果對于網絡訓練的收斂性起到關鍵的作用。
3結論
(1)分析神經網絡進行非線性預測多變量預測的優越性以及神經網絡用于預測的缺點所在。
(2)提出了影響網絡預測能力的五個重要參數:樣本質量、樣本歸一化、輸人層節點數、隱層節點數及網絡訓練允許誤差目標值。
(3)在一定允許訓練誤差的情況下,研究了無個參數對網絡預測精度的影響,發現存在一個最優的樣本、輸入層節點數和隱層節點數,這樣的網絡具有較強的預測能力。
(4)本文用遺傳算法構造了同時優化影響神經網絡預測精度的參數(輸入層節點數、隱層節點數及樣本允許訓練誤差)的算法, 得到了較優的網絡預測模型最后, 用算例驗證了本文分析結果的正確性。
參考文獻:
[1]陳果.神經網絡模型的預測精度影響因素分析[J].北京: 模式識別與人工智能,2005,18(5):528-533.
[2]蔣林,陳濤,屈梁生.訓練樣本質量對人工神經網絡性能的影響[J].北京:中國機械工程,1979,8(2):50-53.
[3]李敏強,徐博藝,寇紀淞.遺傳算法與神經網絡的結合[J].北京:系統工程理論與實踐,1999(2).
[4]吳懷宇,宋玉階.非線性回歸分析中的神經網絡方法[J].武漢:武漢冶金科技大學學報,1998,21(1):90-93.
神經網絡回歸算法范文4
關鍵詞：徑向基函數網絡;功能分析;應用
1前言
在我們的生活中，我們遇見的很多事情都不是非常的清晰，較為復雜。我們可以解決的大多數問題是一些線性的，清晰的問題，而另外的一種類型，就是所謂的模糊不清，不好解決的問題了。這類問題涉及到了所謂的模糊系統，模糊系統可以建立起很多非線性控制問題的模型，那行模糊不清、不好解決的問題就可以根據模糊系統的應用從而進行解決。而徑向基函數網絡與模糊系統的聯系尤為緊密，他們在功能上極為相似，但是徑向基函數網絡對于模糊系統來說，在功能與算法速度上有著更為優秀的表現效率更高。
2徑向基函數網絡概述
徑向基函數網絡(RadialBasisFunction，RBF)是一種前向網絡，這是一種多維空間插值技術，可以根據生物神經元具有局部相應這種特性，將徑向基函數直接引入到神經網絡設計中，從而產生徑向基函數神經網絡，因此徑向基函數網絡也被成為是為一種局部逼近的神經網絡。徑向基函數網絡不但能夠逼近任意的非線性函數，也能夠處理大多數系統內難以解析的規律性，具有良好的泛化能力，并且學習收斂速度非?？?，現在已經成功應用于非線性函數逼近、時間序列分析、數據分類、模式識別、信息處理、圖像處理、系統建模、控制和故障診斷等方面。在新型算法的支持下，徑向基函數網絡的收斂速度和辨識能力得到了更大的提升，可以更快更好的解決問題，提高了工作效率。
3回歸模型
對于徑向基函數網絡的回歸模型，我們一般都會選擇具有一定代表性的非線性系統模型，而我們就選擇了非線性的離散時間模型系統作為我們的代表來進行討論。y(t)=f(y(t－1)，y(t－2)，…，y(t－ny)，u(t－1)，u(t－2)，…，u(t－nu))+e(t)，這些式子是一個非線性映射，在式子里u(t)，y(t)，e(t)3個分別代表著系統的輸入、輸出和噪聲干擾項，e(t)則是白噪聲序列，正整數nu，ny分別是輸入u(t)和輸出y(t)的最大延遲。對于這種情況，我們就要建立相應的回歸模型來進行逼近，我們可以利用核函數來建立模型。模型需要有相應的矩陣來表現，根據誤差向量、核矩陣和權向量，可以得到輸出向量?；貧w模型的最終要求是找到最好的核矩陣的線性組合，從而得到回歸模型的最小均方誤差。從上面得到的回歸模型可以代表相應的徑向基函數網絡的結果，用來解決我們遇到的問題。
4IRBF算法的實現
在現行的徑向基函數網絡在設計時主要以三種方法來進行的:根據經驗來選擇固定的基函數中心，這具有很強的隨機性，準確性很難得到保證;廣義徑向基函數網絡;聚類法得到的基函數中心。不過這三種網絡構造算法都有很大限制，又可能會無法得到核函數的中心和寬度的網絡的最優結果，對于徑向基函數網絡服務的系統性能造成影響。因此，基函數中心的選取就尤為重要，而這是由算法決定的，可以看到徑向基網絡的算法對于網絡的性能的影響之重?，F在的算法中以免疫進化算法為優，免疫徑向基函數網絡算法(IRBF)，這個算法是通過提取徑向基函數網絡提供的核函數寬度作為疫苗來充作免疫算子，進而達到縮小普通算法的搜索范圍的目的，進一步提高算法的收斂速度。我們使用免疫徑向基函數網絡算法來訓練神經網絡，減少了約束條件，更易得到最好的結果。對于免疫徑向基函數網絡算法的實現，我們可以先對于徑向基函數中的隱層節點的核函數中心、寬度和輸出層的線性權值進行編碼;然后提取疫苗;注射疫苗，從而減小搜索范圍，提高收斂速度。在免疫徑向基函數網絡中，寬度是作為疫苗來進行注射的，因此寬度對于網絡的性能的影響非常大。選擇一個合適的核函數寬度是徑向基函數網絡得到最優結果的關鍵。
5仿真實驗
對于徑向基函數網絡的仿真實驗，我們可以就聲納信號進行模擬來進行實驗，檢驗其辨識結果。聲納即聲音導航與測距，是一種利用聲波在水下的傳播特性，通過電聲轉換和信息處理，從而進行探測、定位和通訊的電子器械。聲納主要可以分為主動式和被動式兩大類。在利用徑向基函數網絡對聲納信號進行模擬時，徑向基函數網絡的輸入層與輸出層的神經元個數多少是根據需要模擬的調制信號的識別參數和等待調制類型的數量來決定的。其中調制信號的識別參數主要是電磁波、相位、頻率、功率和幅度五個方面中取得的，所以我們在徑向基函數網絡中的輸入層就需要采用五個神經元，輸入五種對應的特征參數，來對其進行模擬以及監控。我們通過采用相同的頻率，分別對廣義徑向基函數網絡、BP神經網絡、免疫徑向基函數網絡和進化徑向基函數網絡進行仿真實驗。在不同的環境下，我們對于上述的四種神經網絡對于聲納的模擬信號的調制方式的辨識率用相同數量的樣本對神經網絡進行訓練和性能檢測。仿真實驗得到的結果顯示，BP神經網絡需要到期望誤差范圍需要的迭代收斂次數最多，廣義徑向基函數網絡需要到期望誤差范圍需要的迭代收斂次數次之，進化徑向基神經網絡需要到達期望誤差范圍的迭代收斂次數比前兩個遠遠要少，而免疫徑向基函數網絡的迭代收斂步數最少，還要優于進化徑向基函數網絡，需要的收斂步數更少，收斂速度也就更快。從仿真實驗結果來看，免疫徑向基函數網絡對于處理這類問題具有更加優越的性能。
6結語
在科技發展越來越快速的社會背景下，我們對于處理生活中出現的各種問題的效率的要求也是越來越高。對于一些模糊不清，不好解決的問題，其處于模糊系統之中，我們研究的免疫徑向基函數網絡就可以為這類問題的解決提供一個非常良好的平臺。徑向基函數網絡不但在函數逼近、分類和模式識別，動態建模等方面都能起到舉足輕重的作用，而且徑向基函數網絡分析非線性模型時收斂速度很快，辨識度較高，性能可以得到保障。在很多建設工作中，我們都要建立起三維的仿真模型，對于建設的過程進行模擬，而徑向基函數網絡則為動態模型的建立可以提供堅實的基礎。我們建立起三維仿真模型，可以進行仿真模擬，從而得到重要的實驗數據，可以對之后進行的工作進行指導，減少時間和經濟上的損失，這將對于節約能源和可持續發展也做出巨大的貢獻。
參考文獻:
神經網絡回歸算法范文5
關鍵詞：負荷預測 RBF 神經網絡 電力系統
0 引言
負荷預測是實現電力系統優化運行的基礎，對于電力系統的安全性、可靠性和經濟性都有著顯著影響。負荷預測是指從已知的經濟、社會發展和電力系統需求出發，考慮政治、經濟、氣候等相關因素，通過對歷史數據的分析和研究，探索事物之間的內在聯系和發展規律，以未來經濟和社會發展情況的預測結果為依據，對未來的電力需求做出估計和預測[1]。相關研究工作已在國內廣泛開展，其研究成果已經廣泛應用到電力系統實際運行維護當中，并取得了良好的經濟效益。
負荷預測的方法主要分為兩大類，分別是基于參數模型預測法和基于非參數模型預測方法。基于參數模型的預測方法主要有單耗法、負荷密度法、電力彈性系數法、回歸模型預測法、趨勢外推預測法、時間序列預測法等；基于非參數模型預測方法主要有專家系統法、模糊預測法、灰色預測法、人工神經網絡預測法、小波分析預測法等[2]。
RBF神經網絡具有良好的函數逼近功能，在函數回歸上表現出較好的性能，已被廣泛應用到人工智能領域。在負荷預測方面，RBF也得到了廣泛的應用。本文的主要工作是整理了主要的基于RBF的電力負荷研究內容，對存在的問題進行了分析，并對未來的發展進行了展望。
本文接下來的內容安排如下，第二章介紹了RBF神經網絡的基本原理，第三章對基于RBF的電力負荷研究進行了綜述，最后給出了總結。
1 RBF神經網絡基本原理
RBF網絡的結構與多層前向網絡類似，如圖1所示，它由三層組成：第一層為輸入層，第二層為隱含層，第三層為輸出層[3]。
假設RBF神經網絡的輸入向量為n維，學習樣本為 （X，Y），其中，X=（X1，X2，…XN），為輸入向量，Xi=（Xi1，Xi2，…，XiN）T，1≤i≤Nj；Y=（y1，y2，…，yN），為期望輸出；N為訓練樣本個數。當神經網絡輸入為Xi時，隱含層第j節點的輸出如式（1）所示[4]。
對于全體輸入學習樣本，RBF神經網絡的輸出如式（2）所示。
2 基于RBF負荷預測相關研究
文獻[4]通過建立徑向基（RBF）神經網絡和自適應神經網絡模糊系統（ANFIs）相結合的短期負荷預測模型來應對實時電價對短期負荷的影響。由于固定電價時代的預測方法在電價敏感環境下效果不理想，文章根據近期實時電價的變化應用ANns系統對RBF神經網絡的負荷預測結果進行修正，提高預測效果。
文獻[5]研究了基于RBF神經網絡的多變量系統建模。文章將正規化正交最小二乘算法引入多輸入多輸出系統，進行相關研究，建立了基于RBF神經網絡的多變量系統的模型。對電廠單元機組負荷系統進行建模仿真研究的結果表明，用該方法建立的多變量熱工系統的非線性模型是有效的，具有較高的辨識精度和較好的泛化能力。
文獻[6]提出了一種基于交替梯度算法的RBF神經網絡，并將之應用到負荷預測領域，取得較好的效果。通過使用交替梯度算法來優化RBF輸出層權值和中心與偏差值來得到改進的RBF算法。與傳統梯度下降算法相比，改進的RBF算法具有更高的預測精度和更快的收斂速度。模型綜合考慮了氣象數據、日類型等影響負荷變化的多種因素，實驗結果表明改進的RBF網絡算法具有更優的性能。
文獻[7]將RBF神經網絡和專家系統相結合，在深入研究天氣和特殊事件對電力負荷的影響的基礎上，提出了新的負荷預測模型。利用RBF神經網絡的非線性逼近能力預測出日負荷曲線，然后利用專家系統根據天氣因素或特殊事件對負荷曲線進行修正，使其在天氣突變等情況下也能達到較高的預測精度。表1為文獻[7]的實驗結果對比表。
文獻[8]將模糊聚類分析中的隸屬度應用到負荷預測應，通過隸屬度原理得到一批與預測日在樣本信息上類似的歷史日。采用模糊聚類分析獲得的樣本作為RBF神經網絡的訓練樣本，并應用改進的RBF神經網絡進行訓練，在不需大量訓練樣本的前提下實現對短期負荷的預測。
影響電網負荷預測的因素很多，而地區電網負荷易受氣象因素影響，文獻[9]針對電網負荷預測以上特點，把氣象因素作為影響負荷的主要因素，采用模糊規則控制的徑向基神經網絡（RBF）算法，對某地區電網的日負荷數據進行預測，實驗證明采用這種預測方法可以提高負荷預測的速度和精度。表2給出了文獻[9]的實驗結果表。
3 結束語
本文針對基于RBF神經網絡負荷預測進行了綜述，但由于文章篇幅的原因，不能將所有的方法列舉出來，只列舉了具有代表性的方法，希望能起到拋磚引玉的作用。
參考文獻：
[1]肖國泉，王春，張福偉.電力負荷預[M].北京：中國電力出版社，2001.
[2]李昀.電力系統中長期負荷預測方法研究與應用[D].2011.
[3]張師玲.基于RBF神經網絡與模糊控制的電力系統短期負荷預測[D].江蘇大學，2010.
[4]雷紹蘭，孫才新，周等.基于徑向基神經網絡和自適應神經模糊系統的電力短期負荷預測方法[J].中國電機工程學報，2005.
[5]劉志遠，呂劍虹，陳來九等.基于RBF神經網絡的單元機組負荷系統建模研究[J].控制與決策，2003.
[6]郭偉偉，劉家學，馬云龍等.基于改進RBF網絡算法的電力系統短期負荷預測[J].電力系統保護與控制，2008.
[7]張濤，趙登福，周琳等.基于RBF神經網絡和專家系統的短期負荷預測方法[J].西安交通大學學報，2001.
神經網絡回歸算法范文6
關鍵詞：公交車 交通擁塞 神經網絡 粒子群 流量預測
中圖分類號：TP301.6 文獻標識碼：A 文章編號：1007-9416（2013）12-0123-02
1 引言
交通擁擠、道路阻塞正越來越嚴重地困擾著世界各國的大城市[1]。傳統的交通流量預測是利用統計交通流量判斷[2]。這些方法的優勢在于實現難度低，便于操作，但是其預測精度往往難以滿足需求[3]。近年來BP網絡以其獨特的優勢被運用到交通流量與道路擁塞預測中，它針對歷史的數據不確定和非線性的特點，對未來的短期交通流量與道路擁塞進行預測，發揮了較好的作用[4]。但是，傳統的BP神經網絡算法存在學習過程收斂速度慢、算法易陷入局部極小點和魯棒性差等缺陷，對預測的效率與精度帶來一些影響[5-6]。本文引入粒子群優化算法對其進行優化和改進，通過車載GPS實驗與比較，證明了所構建的預測系統的準確度有顯著的提升，在交通流量管理方面有著很好的應用價值。
2 粒子群算法及優化
粒子群算法中，粒子就追隨當前的最優粒子在解空間中進行搜索，在每一次迭代中，粒子通過追尋兩個“極值”來更新自己的位置，用它來優化神經網絡的權值，能夠在全局范圍內以較快的速度找到最優解，收斂速度較快，并避免其陷在局部極小值。因此粒子群算法能夠很好地克服傳統神經網絡算法的弱點。
3 優化后的神經網絡結構設計
在優化算法中，將神經網絡權值視為粒子群中的“粒子”，初始化粒子的初始位置、速度、慣性權重，從而實現神經網絡性能的優化。選取的訓練樣本來自北京市某路公交車隊，該路公交車的首發時間是清晨5：30，末班車為晚上23：30，途徑32個站，全程25.9千米。每一輛公交車上均配置了GPS模塊單元，以15s為周期，自動采集公交車的位置信息與實時速度數據，由此產生18個小時的數據，以0.5小時對其分段，共計36個時刻，作為樣本數據。這些數據作為道路擁塞的數據訓練樣本集。
輸入節點共計8個，分別是上周的同一天的t-1時刻數據、t時刻數據；2天前的t-1時刻數據、t時刻數據；1天前的t-1時刻數據、t時刻數據；當天的t-2時刻數據、t-1時刻數據.結合Kolmogorov算法，隱含層為7個節點，輸出層中的神經元有1個，即8-7-1結構。以粒子群算法優化傳統的神經網絡方法，對BP網絡進行訓練，從而獲取較優的權值、閾值。
對所構建的優化神經網絡，以數個不同的速率進行初步訓練，并統計對比不同速率之下訓練之后的誤差平方和值。如果此值能夠快速減小，則證明所選擇的學習速率比較理想。而假若此值減小較慢或者出現了無法容忍的震蕩，則說明學習速率不合適。學習速率過大，會導致系統失去穩定性，過小則容易使收斂速度過于緩慢。通過反復試驗和綜合對比，并結合研究成果中學習速率區間為[0.01～0.7]的研究結論，將學習速率最終定位于0.6。
4 仿真驗證
（圖1）中，橫坐標是神經網絡的訓練次數，縱坐標為訓練誤差值。從基本BP網絡的誤差曲線可知，訓練次數超過300次時，目標誤差值10-4尚未達到，收斂較慢，性能不佳；而粒子群優化后的BP網絡則在第19次時滿足了目標誤差值，可見性能有較為明顯的提升， 經過更少的迭代次數就使網絡的性能達到了要求。
通過以上的方法，以2013年10月13-17日該路公交車數據對神經網絡進行訓練，并以完成訓練的神經網絡來預測2013年10月18日的車速?？芍A測結果十分接近于實際數據，誤差絕對值最大為3.33%，已經能夠滿通擁塞預測的需求。結果如下：
將此模型的預測值與輸出值通過數理統計進行回歸分析，獲取預測目標對BP網絡結果之間所存在的關聯系數，從而以此系數體現優化BP網絡的實際性能，最終仿真的擬合度R=0.997（最大值為1），可知相關性和仿真度均十分滿意。
5 結語
將粒子群優化的BP算法應用于公交車道路擁塞預測，克服神經網絡固有的缺陷，經仿真試驗，優化后的BP網絡性能有較為明顯的提升， 預測結果十分接近于實際數據，誤差絕對值最大為3.33%，最終仿真的擬合度R=0.997，可以滿足短期預測的需要，對提升城市公共交通服務品質具有比較好的實踐意義和理論價值。
參考文獻
[1]覃運梅.城市公交調度優化方法研究[D].合肥工業大學，2006，38-39.
[2]Goldberg D E， Genetic Algorithms in Search， Optimization and Machine Learning[J].Addison Wesley.1989.
[3]王惠南.GPS導航原理與應用[M].北京：科學出版社，2013.
[4]張飛舟.晏磊.范躍祖，孫先仿.智能交通系統中的公交車輛動態調度研究.公路交通科技，2012，10（9）：65-69.
