前言：中文期刊網精心挑選了神經網絡回歸問題范文供你參考和學習，希望我們的參考范文能激發你的文章創作靈感，歡迎閱讀。
神經網絡回歸問題范文1
本文主要介紹的模型和算法都是數據挖掘中最常見的和應用最廣泛的，在計算機科學、統計數學、和人工智能領域的科學家們已經在研究和改進這些算法方面作了大量的工作。
【關鍵詞】
數據挖掘；算法；神經網絡
1 神經網絡的應用
神經網絡近來越來越受到人們的關注，因為它為解決大復雜度問題提供了一種相對來說比較有效的簡單方法。神經網絡可以很容易的解決具有上百個參數的問題。神經網絡常用于兩類問題；分類和回歸。
在結構上，可以把一個神經網絡劃分為輸入層、輸出層和隱含層（見圖1）。輸入層的每個節點對應一個個的預測變量。輸出層的節點對應目標變量，可有多個。在輸入層和輸出層之間是隱含層，隱含層的層數和每層節點的個數決定了神經網絡的復雜度。
圖1 一個神經元網絡
除了輸入層的節點，神經網絡的每個節點都與很多它前面的節點（稱為此節點的輸入節點）連接在一起，每個連接對應一個權重Wxy，此節點的值就是通過它所有輸入節點的值與對應連接權重乘積的和作為一個函數的輸入而得到，我們把這個函數稱為活動函數或擠壓函數。如圖2中節點4輸出到節點6的值可通過如下計算得到：
W14*節點1的值+W24*節點2的值
神經網絡的每個節點都可表示成預測變量（節點1，2）的值或值的組合（節點3-6）。注意節點6的值已經不再是節點1，2的線性組合，因為數據在隱含層中傳遞時使用了活動函數。實際上如果沒有活動函數的話，神經元網絡就等價于一個線性回歸函數，如果此活動函數是某種特定的非線性函數，那神經網絡又等價于邏輯回歸。
調整節點間連接的權重就是在建立（也稱訓練）神經網絡時要做的工作。最早的也是最基本的權重調整方法是錯誤回饋法，現在較新的有變化坡度法、類牛頓法、Levenberg-Marquardt法、和遺傳算法等。
圖2 帶權重Wxy的神經元網絡
決定神經網絡拓撲結構（或體系結構）的是隱含層及其所含節點的個數，以及節點之間的連接方式。要從頭開始設計一個神經網絡，必須要決定隱含層和節點的數目，活動函數的形式，以及對權重做那些限制等。
2 傳播式神經網絡
在諸多類型的神經網絡中，最常用的是前向傳播式神經網絡，也就是我們前面圖示中所描繪的那種。我們下面詳細討論一下，為討論方便假定只含有一層隱含節點。
可以認為錯誤回饋式訓練法是變化坡度法的簡化，其過程如下：
前向傳播：數據從輸入到輸出的過程是一個從前向后的傳播過程，后一節點的值通過它前面相連的節點傳過來，然后把值按照各個連接權重的大小加權輸入活動函數再得到新的值，進一步傳播到下一個節點。
回饋：當節點的輸出值與我們預期的值不同，也就是發生錯誤時，神經網絡就要“學習”（從錯誤中學習）。我們可以把節點間連接的權重看成后一節點對前一節點的“信任”程度。學習的方法是采用懲罰的方法，過程如下：如果一節點輸出發生錯誤，那么他看他的錯
誤是受哪個（些）輸入節點的影響而造成的，是不是他最信任的節點（權重最高的節點）陷害了他（使他出錯），如果是則要降低對他的信任值（降低權重），懲罰他們，同時升高那些做出正確建議節點的信任值。對那些收到懲罰的節點來說，他也需要用同樣的方法來進一步懲罰它前面的節點。就這樣把懲罰一步步向前傳播直到輸入節點為止。
對訓練集中的每一條記錄都要重復這個步驟，用前向傳播得到輸出值，如果發生錯誤，則用回饋法進行學習。當把訓練集中的每一條記錄都運行過一遍之后，我們稱完成一個訓練周期。要完成神經網絡的訓練可能需要很多個訓練周期，經常是幾百個。訓練完成之后得到的神經網絡就是在通過訓練集發現的模型，描述了訓練集中響應變量受預測變量影響的變化規律。
由于神經網絡隱含層中的可變參數太多，如果訓練時間足夠長的話，神經網絡很可能把訓練集的所有細節信息都“記”下來，而不是建立一個忽略細節只具有規律性的模型，我們稱這種情況為訓練過度。顯然這種“模型”對訓練集會有很高的準確率，而一旦離開訓練集應用到其他數據，很可能準確度急劇下降。為了防止這種訓練過度的情況，我們必須知道在什么時候要停止訓練。
圖3中的曲線可以幫我們理解為什么利用測試集能防止訓練過度的出現。在圖中可以看到訓練集和測試集的錯誤率在一開始都隨著訓練周期的增加不斷降低，而測試集的錯誤率在達到一個谷底后反而上升，我們認為這個開始上升的時刻就是應該停止訓練的時刻。
圖3 神經網絡在訓練周期
增加時準確度的變化情況
3 神經網絡的優點
神經元網絡和統計方法在本質上有很多區別。神經網絡的參數可以比統計方法多很多。如圖1中就有13個參數（9個權重和4個限制條件）。由于參數如此之多，參數通過各種各樣的組合方式來影響輸出結果，以至于很難對一個神經網絡表示的模型做出直觀的解釋。實際上神經網絡也正是當做“黑盒”來用的，不用去管“黑盒”里面是什么，只管用就行了。在大部分情況下，這種限制條件是可以接受的。比如銀行可能需要一個筆記識別軟件，但他沒必要知道為什么這些線條組合在一起就是一個人的簽名，而另外一個相似的則不是。在很多復雜度很高的問題如化學試驗、機器人、金融市場的模擬、和語言圖像的識別等領域神經網絡都取得了很好的效果。
4 在使用神經網絡時有幾點需要注意
第一，神經網絡很難解釋，目前還沒有能對神經網絡做出顯而易見的解釋的方法學。
第二，神經網絡會學習過度，在訓練神經網絡時一定要恰當的使用一些能嚴格衡量神經網絡的方法，如前面提到的測試集方法和交叉驗證法等。這主要是由于神經網絡太靈活、可變參數太多，如果給足夠的時間，他幾乎可以記住任何事情。
第三，除非問題非常簡單，訓練一個神經網絡可能需要相當可觀的時間才能完成。當然，一旦神經網絡建立好了，在用它做預測時運行還是很快的。
第四，建立神經網絡需要做的數據準備工作量很大。一個很有誤導性的就是不管用什么數據神經網絡都能很好的工作并做出準確的預測。這是不確切的，要想得到準確度高的模型必須認真的進行數據清洗、整理、轉換、選擇等工作，對任何數據挖掘技術都是這樣，神經網絡尤其注重這一點。
【參考文獻】
熊熊，汪德馨，宋軼民.利用模糊神經網絡進行模糊數據挖掘的一種算法[J].系統工程學報，2000，3（1）：32-37.
神經網絡回歸問題范文2
論文關鍵詞：人工神經網絡(ANN)，船舶與海洋工程，海洋預報與預測，海洋資源評估，海洋環境監測
人工神經網絡是對人類大腦特性的一種描述。它是一個數學模型，可以用電子線路實現，也可以用計算機程序來模擬。是人工智能研究的一種方法。主要功能有：聯想記憶、分類識別、優化計算、非線性映射。由于其具有好的容錯性、并行處理信息、自學習性及非線性映射逼近能力等特點,因此被廣泛的應用于各個領域。
ANN在海洋領域的應用起步較晚。20世紀90年代以來，國內外掀起了應用ANN研究海洋問題的熱潮。相比傳統方法，由于ANN提高了預測的準確性，減少了對數據的要求并且便于應用，到目前為止，ANN模型的應用已經遍布海洋工程（包括港口、沿海、近海和深海工程）海洋環境監測，海洋預報與預測，海洋資源與環境等各方面，并且應用前景不斷擴大。本文通過梳理相關文獻，分析和總結了ANN在海洋領域的研究進展和主要成果，以期為相關研究提供參考。
1 船舶與海洋工程
鋼材腐蝕問題是海洋工程的重大課題。國內許多學者通過建立ANN模型考察海水環境相關參數與鋼材腐蝕速度的相關性。劉學慶等根據四層BP神經網絡分析了3C鋼腐蝕速度與海水環境參數的相關性,建立了3C鋼在海洋環境中腐蝕速度的人工神經網絡模型，證明該方法在監測與評價區域海洋環境腐蝕性方面具有實際應用價值[1]。鄧春龍等研究建立了海洋環境材料腐蝕與防護數據庫，收集和整理了大量的材料腐蝕數據。并在此基礎上建立了誤差反傳（BP）人工神經網絡預測模型和灰色GM（1,1）腐蝕預測模型。從而形成一套較完整的數據采集、處理和分析網絡系統[2]。王佳等采用電化學、人工神經網絡和數據庫方法研究了5種海洋工程鋼材在深海環境中非現場腐蝕行為評價技術。結果表明,結合采用多種非現場方法可以可靠評價深海環境鋼材的腐蝕行為[3]。劉艷俠等同樣利用三層BP神經網絡,根據已有的3C鋼在不同海水環境參數下的腐蝕速度數據,建立了3C鋼在海洋環境中腐蝕速度的人工神經網絡模型;并分析預測了海水環境參數與腐蝕速度之間的關系 [4]。
ANN在海洋工程中的應用主要是海洋平臺的抗擊性和穩定性的模擬。許亮斌等針對海洋平臺樁基模擬中存在的問題，將神經網絡應用于樁基分析 [5]。淙在引進遺傳算法的基礎上構造了工程結構優化的神經網絡模型,計算結果表明這一方法具有很好的穩定性和全局收斂性[6]。周亞軍等將經典最優控制算法與人工神經網絡相結合，采用BP神經網絡模型，實現了受隨機波浪力作用下的海洋平臺的振動主動控制[7]。由于神經網絡的優越性能，克服了傳統算法本身的時滯問題，為海洋平臺的振動控制提供了一條新的思路。
以上學者都對神經網絡進行了一定程度的改進和完善，達到了良好的模擬和預測效果，推進了海洋工程中ANN理論的發展。除此以外，針對波浪數據的完備性對于海岸海洋工程設計的關鍵作用, 人工神經網絡作為一個具有高度非線性映射能力的計算模型，在工程中具有廣泛的應用前景。在數值預測方面，它不需要預選確定樣本的數學模型海洋環境監測，僅通過學習樣本數據即可以進行預測論文格式范文。
2 海洋預報與預測
赤潮作為海洋災害的一種，對海洋經濟造成巨大影響。蔡如鈺利用人工神經網絡BP算法,建立了赤潮預報模型 。楊建強通過比較發現人工神經網絡方法在模擬和預測方面優于傳統的統計回歸模型,具有較強的模擬預測能力及實用性 。在此基礎上，為克服BP網絡訓練易陷入局部最優的缺點，王晶采用遺傳算法改進網絡訓練方法，建立赤潮生物密度與環境因子的人工神經網絡的預報模型，保證網絡達到全局最優。此外，還有部分學者將改進的人工神經網絡模型用于赤潮預報，經過實證研究，取得良好的預測效果。
潮汐預報對人類活動和降低海洋環境建筑成本是非常重要的。為了解決潮位預測中存在的時滯問題,提高預測精度，不少學者進行了初步探索，并且普遍認為BP模型應用于潮汐預報具有較高的預測精度和良好的泛化能力,它為海洋潮汐預報工作提供了一種全新的思路和方法。張韌利用人工神經網絡BP模型及其優化算法，建立起了赤道太平洋緯向風和滯后的東太平洋海溫之間的映射關系和預報模型，結果表明，這種方法可有效用于辯識和反演復雜的大氣、海洋動力系統及其預報模型.馮利華針對海洋預報問題，初步建立了基于神經網絡的預報分析系統，給出了應用實例。以我國東南沿海地區一次登陸臺風所造成的最大24小時暴雨量為例來說明ANN在海洋預報中的應用問題。羅忠輝采用人工神經網絡智能方法，建立了多參數聲速預報神經網絡模型海洋環境監測，克服了回歸擬合方法在獲得海底沉積物聲速預報中存在的不足，為海底沉積物的聲速預報提供了一條新途徑。
3 海洋資源評估
張富元等利用東太平洋CC區多波束海底地形測量、結核覆蓋率深拖系統探測、結核豐度地質采樣和地球物理地震勘探資料,運用板塊構造和沉積動力學理論,并與豐度趨勢面和神經網絡分析結果對比,對東太平洋CC區構造與多金屬結核資源效應關系進行了探討。李少波等討論了如何利用神經網絡預測天然氣水合物的合成和分解。利用了聲速、幅度、頻率來反映天然氣水合物的合成，建立了一個3層前向型網絡,通過實驗,人工神經網絡的引用取得了良好的效果。近年來人工神經網絡還越來越多地被用來預測水資源。在水資源應用中,前饋神經網絡建模技術是使用最廣泛的類型。
4 海洋環境監測
非法排放油污和海上漏油事件對海洋生態系統造成的嚴重危害，人工神經網絡可以有效的用于海水石油污染診斷。李偉認為海中懸移質是決定海洋光學性質、海洋水質,河口海岸帶演變動力過程的重要環境參數。利用模擬遙感反射比數據集建立人工神經網絡反演懸移質濃度,并利用東中國海現場同步數據對該算法進行驗證，神經網絡技術對于反演大洋水和沿岸海域中的組分濃度有一個很好的前景。劉輝等采用BP神經網絡和廣義回歸神經網絡2種方法進行訓練,建立了南海南部海區的上混合層深度人工神經網絡計算模型 。結果顯示,人工神經網絡方法精度較高,是一種切實可行的上混合層深度估算方法。
5 結語
人工神經網絡在海洋領域的應用遍布海洋工程、海洋科學技術、海洋環境資源等各個方面。國內外學者根據研究的需要設立了不同的ANN模型，隨著時間的發展，這些模型的預測和分析能力逐步完善。大量實證結果表明，很多ANN模型都取得了良好的模擬和預測效果。大部分的人工神經網絡模型對傳統的統計回歸計算、時間序列分析、模型匹配和數值方法等產生了替代或補充作用。在某些情況下，神經網絡的應用減少了對數據的要求。在未來，隨著現有模型的不斷完善和ANN模型缺陷的不斷糾正，先進和混合神經網絡結構很可能會在海洋領域更多方面得到廣泛應用。
參考文獻
[1]劉學慶,唐曉,王佳.3C鋼腐蝕速度與海水環境參數關系的人工神經網絡分析[J].中國腐蝕與防護學報, 2005,(1):11-14.
[2]鄧春龍,孫明先,李文軍等.海洋環境中材料腐蝕數據采集處理網絡系統的研究[J].裝備環境工程,2006,(3):58-62.
[3]王佳,孟潔,唐曉等.深海環境鋼材腐蝕行為評價技術[J].中國腐蝕與防護學報. 2007,(1):1-7.
[4]劉艷俠,高新琛,張國英等.BP神經網絡對3C鋼腐蝕性能的預測分析[J].材料科學與工程學報,2008,(1):94-97.
[5]許亮斌,陳國明.神經網絡在平臺樁基分析中的應用[J].中國海上油氣(工程),2001,(1):7-10.
[6]淙.海洋工程結構優化的遺傳Hopfield神經網絡算法研究[J].中國海洋平臺,2001,(5-6):58-61.
[7]周亞軍,趙德有,馬駿.基于人工神經網絡的海洋平臺振動主動控制[J].船舶力學, 2003,(5):65-69.
神經網絡回歸問題范文3
關鍵詞：Elman神經網絡；股價預測；時間序列
引言
在股市中，影響股票交易和股價波動的因素有很多。對于單支股票來說，股價不但受到該企業經營業績的影響還受到其他外界因素諸如財政政策、利率變動、經濟周期和人為操作的影響，對整個股市來說，其開盤價的波動情況就更為復雜了。因此，股票市場可以被看做是一個復雜的非線性系統。由于受到多方面的限制限制，傳統的統計建模方法并不適合這樣的復雜非線性系統，難以揭示其內在的規律。人工神經網絡的發展，為股票市場建模與預測提供了新的方法。人工神經網絡具有自組織、自適應和自學能力以及具有非線性、非局域性、非定性和非凸性等特點[1]。這些特點使其具有分類和預測的功能，常常被用來對股票系統進行預測和分析。目前在股市的預測應用中大多數采用的是靜態前饋神經網絡和RBF神經網絡[2，3]，但股票市場是動態變化的，需要采用一種動態神經網絡才可以更為有效的反映系統的動態特性。Elman回歸網絡是一種典型的動態神經元網絡，具有適應系統時變特性的能力，特別適合處理時間序列問題。
本文用Matlab工具箱建模，建立一個六個輸入，一個輸出的Elman神經網絡預測模型，利用上證股市280個交易日的開盤價作為原始數據，對Elman神經網絡進行訓練、仿真，并預測后51天的開盤價。通過計算其與實際開盤價的相對誤差，表明了本文構建的預測模型具有較好預測效果。
Elman神經網絡是Elman于1990年首先針對語音處理問題而提出來的，它是一種典型局部遞歸網絡。由于Elman神經網絡在處理貫序數據輸入輸出具有優越性，得到了廣泛的應用[4]。Elman網絡，如圖1所示是一個兩層的網絡，其隱含層神經元到輸入層神經元之間還存在一個反饋連接通道，這種反饋連接通道在神經網絡術語中稱為回歸連接。由于存在回歸連接，因此Elman網絡可以記憶過去的狀態，特別適合處理時間序列問題。
式中：k表示時刻，是輸出層的輸出向量；是n維中間層結點單元向量；是輸入層輸入向量，反饋狀態向量；是中間層到輸出層的連接權值；輸入層到中間層的連接權值；是輸出神經元的傳遞函數，采用purelin函數。是中間層神經元的傳遞函數，采用tansig函數[5]。Elman神經網絡的學習算法采用的是優化的梯度下降算法，通常使用誤差平方和函數作為學習指標函數。
2.數據的選取與預處理
本文的股價預測中，不考慮股市的其他經濟指標，而只是是采用過去的股價預測下期的股價，因此相當于一個時間序列問題，可以使用Elman神經網絡進行求解。本文選取2012年6月30日至2013年12月1日的上證開盤價進行預測分析，總共選取337條開盤價格。根據前N期的開盤價格預測下一期開盤價，其映射函數可以表示為：
對于給定的開盤價數據，先將其劃分為訓練樣本和測試樣本，使得測試樣本晚于訓練樣本，與股價的產生順序相吻合。以訓練樣本為例，抽取組成第一個樣本，其中為自變量，為目標函數值，抽取組成第二個樣本，其中為自變量，為函數值，依此類推形成網絡的訓練矩陣。為了保證網絡的性能和穩定性，還需要對數據進行歸一化處理，經過如此的處理便將原始數據構成了可供Elman網絡處理的樣本集。
3.模型預測實驗結果和數據分析
本文中利用Elman網絡進行股市開盤價預測的步驟如圖2所示：首先要進行原始數據的處理，處理方法上文已經做了詳細介紹本部分不再贅述。然后要進行Elman網絡的創建，確定輸入層，隱含層和輸出層的神經元的個數，利用訓練樣本對Elman網絡進行訓練，最后對經過訓練的網絡進行測試，完成預測過程。
利用MATLAB神經網絡工具箱中的函數，本文對2012年6月30日至2013年12月1日的上證指數開盤價進行了預測分析，創建的Elman網絡包含20個隱含神經元，最大迭代次數為2000次，誤差容限為0.0001，最多驗證失敗次數是5。
在神經網絡的訓練過程中，經過500次的訓練，網絡基本趨于穩定，基本收斂，誤差收斂過程如圖3所示。網絡訓練完成以后，就可以利用該訓練好的網絡進行股價的預測，預測的結果如圖4所示，從圖中的結果可以看到Elman網絡很好的預測了股價在未來短期的變化趨勢及變化空間。表1是測試樣本輸入到網絡后，計算得到的網絡輸出值與真實股價之間的相對誤差，從相對誤差來看得到比較理想的預測結果。
4.結束語
分析上述實驗結果可以看出，股市開盤價格也是遵循一定的規律的，在一定范圍內是可以可預測的，至少短期內的變化是可以較為準確的預測的。對于股價預測來說，長期的準確性是很難實現的，意義不大，股價在未來短期內的變化趨勢才會對投資具有參考意義。本文采用的Elman神經網絡實現了較好的短期預測效果，雖然預測股價的準確值方面還有所欠缺，但很好的預測了股價在短期內的變化趨勢，因此也具有一定的參考價值。
10.15%130.52%25-0.50%370.49%490.91%
2-1.55%142.00%26-1.55%380.57%500.07%
3-2.94%150.84%270.43%390.70%510.14%
4-1.51%16-0.39%281.51%40-0.27%
50.37%17-1.26%290.83%411.24%
6-0.43%18-1.15%301.26%42-0.78%
70.53%190.55%31-0.08%43-2.25%
80.52%20-1.40%32-1.68%44-2.54%
92.08%21-0.14%330.54%45-0.22%
10-0.60%220.33%34-0.93%460.29%
11-1.02%231.27%350.74%47-0.23%
120.23%240.71%36-0.58%480.29%
（作者單位：河北工業大學）
參考文獻：
[1]陳瑛，羅鵬飛.基于神經網絡的混沌時間序列建模及預測計算機工程與應用，2005，41（11）：77-79.
[2]禹建麗，孫增圻.基于神經網絡的股市建模與決策系統工程理論與實踐，2003，23（5）：15-19.
[3]姜靜清，梁艷春，孫延風，等.引入收益因素的RBF神經網絡及其應用吉林大學學報（信息科學版）.2002.8.68-72.
神經網絡回歸問題范文4
關鍵詞：糧食產量預測；小波分析；GM（1，1）模型；廣義回歸神經網絡
中圖分類號：TP393文獻標識碼：A文章編號：0439－8114（2011）10－2135-03
Prediction Model of Food Yield Using Wavelet Generalized Regression Neural Network
YU Ping－fu，LU Yu－ming，WEI Li－ping，LIANG Yi－jie，SU Xiao－bo，KONG Ling－zi，LAN Zong－bao
（Agriculture and Technology Information Research Institute， Guangxi Academy of Agricultural Sciences， Nanning 530007，Guangxi，China）
Abstracts： Wavelet generalized regression neural network （WGRNN） model was constructed using wavelet analysis and generalized regression neural network （GRNN）． This prediction model had better precision on predicting total food yield during 2007～2008 if compared to GRNN and grey model GM（1，1）， and it did not only have the advantages of nonlinear mapping approximation ability and convenience of calculation of neural network， but also the function of showing partial characteristics on time and frequency of wavelet analysis． It would provide a new method on quantification and intelligentialization of predicting food yield．
Key words： prediction of food yield； wavelet analysis； grey model GM（1，1）； generalized regression neural network
我國是一個農業大國，糧食安全是整個國家安全系統的重要組成部分，是直接關系到我國國民經濟健康發展和社會穩定的重大問題。因此，準確預測糧食產量，科學地進行農業決策，對保證我國糧食安全具有重要意義。目前，糧食產量預測模型較多，常用于糧食產量預測的模型主要有時間序列模型（指數平滑模型、灰色預測模型及基于馬爾可夫鏈的預測模型）、回歸模型（線性回歸模型和雙對數模型）和人工神經網絡模型［1，2］。近年來，隨著智能技術的發展，小波分析、粗糙集理論、人工神經網絡等新技術與有關模型相結合的組合預測成為當前研究的熱點。本文擬采用小波分析與廣義回歸神經網絡相結合的方法，建立一種小波廣義回歸神經網絡模型（WGRNN）來預測我國糧食產量。
1模型的構建
1．1小波多分辨率分析
小波分析是從傅立葉變換發展起來的，屬于時頻分析方法的一種，核心是多分辨率分析。它在時域和頻域同時具有良好的局部化性質，可將分析的重點聚焦到任意的細節，揭示非線性系統不同層次上詳細結構［3］。
小波基的最優選擇是小波分辨率分析的重要步驟。常用的小波基主要有：Haar、Daubechies（dbN）、Complex gaussian、BiorNr．Nd、CoifN等。本文選用Daubechies（db15）小波。
1．2廣義回歸神經網絡
廣義回歸神經網絡（GRNN）是一種高度并行的徑向基網絡，它不僅具有全局逼近性質，而且具有最佳逼近性質。GRNN是由輸入層、隱層和輸出層構成。隱層為徑向基神經元層，輸出層為線性層。隱層神經元采用徑向基函數作為激勵函數，通常采用高斯函數作為徑向基函數。與BP神經網絡相比，GRNN的特點是人為調節的參數少，只有一個散布常數或擴展常數，網絡的學習全部依賴于數據樣本。這個特點決定了網絡得以最大限度地避免人為主觀假定對預測結果的影響［4，5］。
1．3小波廣義回歸神經網絡模型
本文采用廣義回歸神經網絡（GRNN）與小波分析相結合，建立小波廣義回歸神經網絡模型（WGRNN）。
1．3．1小波分解與重構對原始時間序列f（t）進行小波變換，分解為低頻成分an（t）和高頻成分d1（t）、d2（t）…dn（t），再重構到原尺度上，得到頻率成分比原始時間序列單一的若干子序列can（t）和cd1（t）、cd2（t）…cdn（t）。
1．3．2GRNN輸入序列重構采用Complex gaussian小波系數實部等值線圖和小波方差確定輸入樣本維數m，將小波重構子序列再重構成數據序列gan（tj）和gd1（tj）、gd2（tj）…gdn（tj），并建立對應數據序列gan（tj＋1）和gd1（tj＋1）、gd2（tj＋1）…gdn（tj＋1）。其中gan（tj）＝｛can（tj），can（tj＋1），…，can（tj＋m－1）｝，gan（tj＋1）＝｛can（tj＋m）｝；gdi（tj）＝｛cdi（tj），cdi（tj＋1），…，cdi（tj＋m－1）｝，gdi（tj＋1）＝｛gdi（tj＋m）｝，i＝1，2，…，n。
1．3．3WGRNN的模型建立以gan（tj）和gd1（tj）、gd2（tj）…gdn（tj）與gan（tj＋1）和gd1（tj＋1）、gd2（tj＋1）…gdn（tj＋1）作為廣義回歸神經網絡模型的輸入與輸出進行預測，將各子序列的預測值進行合成得到序列總的預測結果f（t＋1）。其模型結構如下。
2模型的應用
以1962～2009年度我國糧食總產量（單位：萬t）為分析樣本，分別進行糧食總產量小波廣義回歸神經網絡模型與單一廣義回歸神經網絡模型和GM（1，1）模型檢驗與預測。分析數據來源于《中國統計年鑒》。
2．1模型預測結果
運用Daubechies小波系中db15小波對我國糧食總產量進行小波變換，分解為4層并進行重構，可得到小波分解重構序列｛ca4（t）和cd1（t）、cd2（t）、cd3（t）、cd4（t）｝，結果見圖2。其中ca4（t）代表小波分解后再重構的低頻部分，通常可以體現原始時間數列的趨勢，cd1（t）、cd2（t）、cd3（t）和cd4（t）代表小波分解后再重構的高頻部分。
本文為全文原貌 未安裝PDF瀏覽器用戶請先下載安裝 原版全文
對小波重構序列進行數據重構分析，確定分析樣本數為40，輸入輸出維數分別為5和1；對重構數據序列樣本的輸入和輸出樣本做初始化處理，將數據歸一化到區間［－1，＋1］中，并進行反歸一化處理；確定模型的擴展系數為0．1。以1962～2006年的數據作為訓練樣本，2007～2009年數據作為預測檢驗樣本，建立各頻率成分的小波廣義回歸神經網絡模型。
測試結果表明，采用小波廣義回歸神經網絡模型對1967～2006年我國糧食產量進行檢測的相對誤差為－0．711％～2．481％，平均相對誤差為0．241％；2007～2009年預測相對誤差為－0．276％～1．969％，平均相對誤差為0．753％，其檢測預測相對誤差和平均相對誤差都在2．500％和1．000％以內，檢測與預測結果都較為準確（表1）。
2．2預測結果評價分析
為了反映小波廣義回歸神經網絡預測模型的有效性，按照預測效果評價原則，選用平均絕對誤差（MAE）、平均相對誤差（MPE）和Theil不等系數（U）3種指標進行評價，表2為3類模型的評價指標結果。
從表2可以看出，小波廣義回歸神經網絡模型的檢測平均絕對誤差、平均相對誤差和Theil不等系數均要低于相應的單一GRNN模型和GM（1，1）模型；而WGRNN模型的各種預測誤差指標值則明顯低于其他兩種模型的預測誤差。說明WGRNN模型的檢測預測精度高，預測有效合理。從圖3可以更直觀地看出，小波廣義回歸神經網絡比單一GRNN及GM（1，1）模型具有更高的預測精度，該方法應用于糧食總產預測合理可行。
3 結束語
本文提出了一種基于小波變換與廣義回歸神經網絡相結合的糧食產量預測模型，該模型充分利用了小波變換良好的時、頻多分辨率功能和人工神經網絡的自學習功能，具有有效識別主要頻率成分和提取局部信息的能力以及較強的逼近和容錯能力。將二者進行結合可以充分利用兩者的優點，提高模型預測的精度。
研究實例表明，與單一GRNN模型和GM（1，1）模型相比較，小波神經網絡模型進一步提高了糧食產量的預測精度。同時也證明了小波神經網絡預測模型在對糧食產量預測的可行性和優越性及較強的適應性，為糧食產量預測的定量化和智能化提供了一條有效途徑。
參考文獻：
［1］ 宰松梅，賈艷輝，丁鐵山，等．基于最小二乘支持向量機的灌區糧食產量預測研究［J］．安徽農業科學，2010，38（1）：98－100．
［2］ 李炳軍，李秋芳，盧秀霞．色線性回歸組合模型在河南省糧食產量預測中的應用［J］．河南農業科學，2009，10：44－47．
［3］ 劉丙軍，邵東國，沈新平．基于小波變換的BP神經網絡參考作物騰發量預測模型［J］．武漢大學學報（工學版），2007，40（1）：69－73．
［4］ 李 偉，陳國明，鄭賢斌．基于廣義回歸神經網絡的交流電磁場檢測裂紋量化研究［J］．中國石油大學學報（自然科學），2007，31（2）：105－109．
［5］ 于平福，陸宇明，韋莉萍，等．灰色廣義回歸神經網絡在木薯產量預測中的應用［J］．西南農業學報，2009，22（6）：1709－1713．
神經網絡回歸問題范文5
【關鍵詞】鍋爐；運行；檢測
1.鍋爐運行故障的可預測性
鍋爐是由汽水、燃燒及煙風等子系統組成的復雜多層次系統，而每個子系統又可以劃分為若干次級子系統和部件，各層次子系統是相互關聯的，只要某一個子系統出現異?；蚴В涂赡軙蛊渌酉到y產生功能異?；蚴?，甚至使整個機組處于故障狀態，并且從原發性故障到系統級故障的發生、發展是一個量變到質變的過程。故鍋爐運行故障具有層次性、相關性、延時性的特點。
鍋爐運行故障一般具有一定的時延性，即從原發性故障到系統故障的發生、發展與形成，是一個漸變過程。以其高溫過熱器壁溫為例，其某一時刻的壁溫值，與其在過去時刻的壁溫值有一定的關系，使其壁溫序列間有一定的關聯性（確定性），這種關聯性是鍋爐故障預測的基礎。另外，由于影響高溫過熱器壁溫的因素很多，如負荷、煙氣溫度、主蒸汽溫度等，它們之間相互關聯，且在鍋爐運行中還受一些不確定因素的影響，使其運行故障預測具有一定的隨機性，這種隨機性使壁溫序列間的關聯性減弱，這就決定了高溫過熱器壁溫值小能準確地預測，而只能從統計意義上做出最佳預測，使預測誤差滿足一定的精度要求。故障預測是故障診斷的一部分，故障診斷的最終目的就是為了指導運行和維修，因此，進行鍋爐運行故障預測，對提高鍋爐現代化運行水平和機組可用率具有重要意義。
2.鍋爐運行故障預測相關知識
人工智能故障診斷與預測技術是隨著現代化技術、經濟高速發展而出現的一門新型技術，它能鑒別設備的狀態是否正常，發現和確定故障的部位和性質并提出相應的對策，以提高設備運行的可靠性，延長其使用壽命，降低設備全壽命周期費用。且采用故障預測技術可以實現對故障的早期發現并預測其未來的發展趨勢，便于對火電機組及時調整以避免惡性事故的發生，使機組能安全可靠的運行，同時提高機組的經濟性。
根據預測期限長短的不同可將故障預測分為：長期預測，為了制定鍋爐機組的長遠維修計劃和維修決策而進行的預測。時間一般為一個月以上。預測精度要求低；中期預測，對鍋爐機組在未來比較長的時間內的狀態進行預測，為機組的中期維修計劃和維修決策服務。時間一般為一周左右。預測精度要求較低；短期預測，對鍋爐機組的近期發展情況進行預測。時間為一大左右。對預測精度要求高。對于中、長期預測，由于精度要求不高，可考慮采取簡單的預測模型，建立單變量時間序列模型進行預測。而對于短期預測，由于對精度要求較高，同時也由于各相關因素對當時的狀態值影響較大，因此在進行短期預測時，除了要考慮時間序列本身外，還應適當將其他相關因素考慮進去，這就需要建立多變量時間序列模型進行預測，以滿足短期預測對精度的要求。
3.常用的鍋爐運行故障預測方法
近年來不少研究者采用線性回歸分析法、時間序列分析法、灰色模型預測法、專家系統、人工神經網絡等方法進行鍋爐設備故障診斷研究，以探索快速有效的故障診斷與預測方法。常用的預測方法有：
3.1線性回歸分析法
回歸分析是尋找幾個不完全確定的變量間的數學關系式之間進行統計推斷的一種方法。在這種關系式中最簡單的是線性回歸分析。
3.2時間序列分析法
時間序列是指按時間順序排列的一組數據：時間序列分析法是指采用參數模。型對所觀測到的有序的隨機數據進行分析與處理的一種數據處理方法。時間序列。分析法主要參數模型有以下四種：①曲線擬合②指數平滑③季節模型④線性隨機模型。時間序列分析法主要適用于進行單因素預測，而對鍋爐故障預測這種既有確定性趨勢，又有一定的隨機性的多因素預測時，需要進行確定性趨勢的分離，計算比較復雜，同時還需對分離殘差的零均值及平穩性進行假定，且其預測的精度不高。
3.3灰色模型預測法
灰色模型預測法是按灰色系統理論建立預測模型，它是根據系統的普遍發展。規律，建立一般性的灰色微分方程，然后通過對數據序列的擬合，求得微分方程的系數，從而獲得灰色預測模型方程。
應用灰色系統理論作故障預測主要有兩種方法，一是基于灰色系統動態方程GM（或DM）的灰色預測模型，二是基于殘差信息數據列的殘差辨識預測模型。其中，GM（1，1）預測模型即1階1個變量的微分方程描述的灰色模型比較常用?；疑A測的解從數學的角度看，相當于冪級數的疊加，它包含了一般線性回歸和冪級數回歸的內容，故灰色預測模型優于一般的線性回歸或指數曲線擬合，也好于確定性時間序列分析法?；疑A測模型不要很多的原始數據，短數據GM（1，1）模型有較高的預測精度，并具有計算簡單速度快的優點。
3.4專家系統預測法
專家系統能成功地解決某些專門領域的問題，也有很多優點，但經過多年的實踐表明，它離專家的水平總是相差一段距離，有時在某些問題上還不如一個初學者。分析其原因，主要有以下幾方面： 知識獲取的“瓶頸”問題；模擬專家思維過程的單一推理機制的局限性；系統缺乏自學習能力。
3.5人工神經網絡預測法
神經網絡的故障診斷存在很多問題，它不能很好的利用領域專家積累的經驗知識，只利用一些明確的故障診斷實例，而且需要一定數量的樣本學習，通過訓練最后得到的是一些闌值矩陣和權值矩陣，而不是像專家經驗知識那樣的邏輯推理產生式，所以缺乏對診斷結果的解釋能力。目前應用神經網絡進行故障預測的網絡訓練收斂速度慢，因此無法應用于實時診斷，只能處理歷史記錄數據。
神經網絡回歸問題范文6
關鍵詞經濟活動預測模型人工神經網絡
經濟活動諸如商品價格走勢、生產活動的產量預測、加工的投入產出分析、工廠的成本控制等方面都是重要的技術經濟層面。定量化的經濟活動分析是經濟學研究的必由之路，而建模是量化分析的基礎，這是因為模型為科學分析和質量、成本等控制提供了理論依據。本文針對經濟活動中大多數研究對象都具有的非線性特點，給出了用人工神經網絡（ArtificialNerveNetwork）模型建立經濟活動的預測模型的原理和方法，并描述了神經網絡與各種先進的建模方法相結合的模型化方法，為經濟活動的分析、預測與控制提供了理論基礎。
1神經網絡模型方法
現實的經濟系統是一個極其復雜的非線性系統，客觀上要求建立非線性模型。傳統上使用回歸與自回歸模型刻畫的都是線性關系，難于精確反映因變量的變化規律，也終將影響模型的擬合及預報效果。為揭示隱含于歷史記錄中的復雜非線性關系必須借助更先進的方法———人工神經網絡(ANN)方法。
人工神經網絡具有并行處理、自適應、自組織、聯想記憶及源于神經元激活函數的壓扁特性的容錯和魯棒性等特點。數學上已經證明，神經網絡可以逼近所有函數，這意味著神經網絡能逼近那些刻畫了樣本數據規律的函數，且所考慮的系統表現的函數形式越復雜，神經網絡這種特性的作用就越明顯。
在各類神經網絡模型中，BP（Back－Propagation誤差后向傳播）神經網絡模型是最常用的也是最成熟的模型之一。本質上，BP模型是對樣本集進行建模，即建立對應關系RmRn,xk∈Rm,ykRn。數學上，就是一個通過函數逼近擬合曲線/曲面的方法，并將之轉化為一個非線性優化問題來求解。
對BP神經網絡模型，一般選用三層非循環網絡。假設每層有N個處理單元，通常選取連續可微的非線性作用函數如Sigmoid函數f(x)=1/(1+e-x)，訓練集包括M個樣本模式{(xk,yk)}。對第P個訓練樣本（P＝1，2，…，M），單元j的輸入總和記為apj，輸出記為Opj，則:
apj=WQ
Opj=f(apj)=1/(1+e-apj)（1）
對每個輸入模式P，網絡輸出與期望輸出（dpj）間誤差為：
E=Ep=((dpj-Opj)2)（2）
取BP網絡的權值修正式：
Wji(t+1)=Wji(t)+?濁?啄pj+?琢(Wji(t)-Wji(t-1))（3）
其中，對應輸出單元?啄pj=f’,(apj)(dpj-Opj)；對應輸入單元?啄pj=f’,(apj)?啄pkWkj；
?濁是為加快網絡收斂速度而取值足夠大又不致產生振蕩的常數；?琢為一常數項，稱為趨勢因子，它決定上一次學習權值對本次權值的影響。
BP學習算法的步驟：初始化網絡及學習參數；提供訓練模式并訓練網絡直到滿足學習要求；前向傳播過程,對給定訓練模式輸入，計算網絡的輸出模式，并與期望比較，如有誤差，則執行下一步，否則返回第二步；后向傳播過程,計算同一層單元的誤差?啄pj,按權值公式（3）修正權值;返回權值計算公式（3）。BP網絡的學習一般均需多周期迭代，直至網絡輸出與期望輸出間總體的均方根誤差ERMS達到一定要求方結束。
實踐中，BP網絡可能遇到如下問題：局部極小點問題；迭代收斂性及收斂速度引起低效率問題。此外還有，模型的逼近性質差；模型的學習誤差大，記憶能力不強；與線性時序模型一樣，模型網絡結構及節點作用函數不易確定；難以解決應用問題的實例規模與網絡規模之間的矛盾等。為克服這樣的一些問題，同時為了更好地面向實際問題的特殊性，出現了各種基于神經網絡模型或與之結合的模型創新方法。
2灰色神經網絡模型
灰色預測和神經網絡一樣是近年來用于非線性時間序列預測的引人注目的方法，兩種方法在建模時都不需計算統計特征，且理論上可以適用于任何非線性時間序列的建模?；疑A測由于其模型特點，更合用于經濟活動中具有指數增長趨勢的問題，而對于其他變化趨勢，則可能擬合灰度較大，導致精度難于提高。
對于既有隨時間推移的增長趨勢，又有同一季節的相似波動性趨勢，且增長趨勢和波動性趨勢都呈現為一種復雜的非線性函數特性的一類現實問題，根據人工神經網絡具有較好的描述復雜非線性函數能力特點，用其對季節性建模；最后根據最優組合預測理論，建立了兼有GM（1，1）和ANN優點的最優組合預測模型。該模型能夠同時反映季節性時間序列的增長趨勢性和同季波動性的雙重特性，適用于一般具有季節性特點的經濟預測。
首先，建立GM（1，1）模型，設時間序列x(0)=(x(0)(1),x(0)(2),?撰,x(0)(n))，作一階累加生成：
x(1)=(x(1)(1),x(1)(2),?撰,x(1)(n))（4）
其中x(1)(k)=(x(0)(i),k=1,2,?撰,n
構造一階線性灰色微分方程并得到該方程的白化微分方程：
+ax=u
用最小二乘法求解參數a，u，得到x(1)的灰色預測模型：
(1)(k+1)=(X(0)(1)-u/a)e-ak+u/a,(k=0,1,2,?撰)（5）
其次，根據上節方法建立BP人工神經網絡模型。
第三，將兩模型優化組合。設f1是灰色預測值，f2是神經網絡預測值，fc是最優組合預測值，預測誤差分別為:e1,e2,ec，取w1和w2是相應的權系數，且w1+w2=1,有fc=w1f1+w2f2，則誤差及方差分別為ec=w1e1+w2e2,Var(ec)=w21Var(e1)+w22Var(e2)+2w1w2cov(e1,e2)
對方差公式求關于w1的極小值，并取cov(e1,e2)=0，即可得到組合預測權系數的值。
2基于粗糙集理論的神經網絡模型
粗糙集理論與模糊集理論一樣是研究系統中知識不完全和不確定問題的方法。模糊集理論在利用隸屬函數表達不確定性時，為定義一個合適的隸屬函數，需要人工干預，因而有主觀性。而粗糙集理論由粗糙度表示知識的不完全程度，是通過表達知識不精確性的概念計算得到的，是客觀的，并不需要先驗知識。粗糙集通過定義信息熵并進而規定重要性判據以判斷某屬性的必要性、重要性或冗余性。
一般來說，BP神經網絡模型對模型輸入變量的選擇和網絡結構確定等都基本憑經驗或通過反復試驗確定，這種方法的盲目性會導致模型質量變差。用粗糙集理論指導，先對各種影響預測的因素變量進行識別，以此確定預測模型的輸入變量；再通過屬性約簡和屬性值約簡獲得推理規則集；然后以這些推理規則構造神經網絡預測模型，并采用加動量項的BP的學習算法對網絡進行優化。有效改善了模型特性，提高了模型質量。其建模步驟為：由歷史數據及其相關信息歷史數據構造決策表；初始化；對決策表的決策屬性變量按劃分值域為n個區域的方式離散化；采用基于斷點重要性的粗糙集離散化算法選擇條件屬性變量和斷點（分點），同時計算決策表相容度，當決策表相容度為1或不再增加時，則選擇條件屬性變量和分點過程結束；由選擇的條件屬性變量及其樣本離散化值構造新的決策表，并對其約簡，得到推理規則集；由推理規則集建立神經網絡模型；對神經網絡進行訓練；若神經網絡擬合誤差滿足要求，則結束，否則，增加n。必須指出，區間分劃n太小，會使得擬合不夠，n太大，即輸出空間分得太細，會導致過多的區域對應，使網絡結構過于復雜，影響泛化（預測）能力。
3小波神經網絡模型
人工神經網絡模型存在的網絡結構及節點函數不易確定問題，結合小波分析優良的數據擬合能力和神經網絡的自學習、自適應特性建模，即用非線性小波基取代通常的非線性S型函數。
設非線性時間序列變化函數f(t)∈L2(R)，定義其小波變換為：
Wf(a,b)==f(t)?漬()dt（6）
式中，?漬ab(t)稱為由母小波?漬t（定義為滿足一定條件的平方可積函數?漬(t)∈L2(R)如Haar小波、Morlet小波、樣條小波等）生成的依賴于參數a、b的連續小波，也稱小波基。參數a的變化不僅改變小波基的頻譜結構，還改變其窗口的大小和形狀。對于函數f(t)，其局部結構的分辯可以通過調節參數a、b，即調節小波基窗口的大小和位置來實現。
用小波級數的有限項來逼近時序函數，即：
(t)=wk?漬()（7）
式中(t)，為時間序列y(t)的預測值序列；wk,bk,ak分別為權重系數，小波基的平移因子和伸縮因子；L為小波基的個數。參數wk,bk,ak采用最小均方誤差能量函數優化得到，L通過試算得到。
4模糊神經網絡模型
模糊集合和模糊邏輯以人腦處理不精確信息的方法為基礎，而人工神經網絡是以大量簡單神經元的排列模擬人腦的生理結構。二者的融合既具有神經網絡強大的計算能力、容錯性和學習能力，又有對于不確定、不精確信息的處理能力，即同時具有底層的數據處理、學習能力和高層的推理、思考能力。
一種應用模糊理論的方法是把模糊聚類用來確定模糊系統的最優規則數，從而確定模糊神經網絡的結構。這樣確定的網絡結構成為四層：第一層為直接輸入層；第二層為模糊化層，對輸入做模糊化處理；第三層為模糊推理層，對前層模糊結果做模糊推理；第四層為非模糊化層，可以采用重心非模糊化法，產生網絡輸出。該網絡采用動態處理法，增強了其處理能力，且適用性強、精度高。
5結語
除上述幾種結合式神經網絡方法之外，人工神經網絡模型在算法設計方面一直在取得巨大的進步。神經網絡模型方法是一種先進的具有智能的非線性建模方法，其在自然科學、經濟現象、社會活動等方面的應用正在不斷深化，把神經網絡方法引入經濟活動的分析和預測中，并緊密聯系諸多先進的建模方法，是使工業經濟、商業經濟及其對經濟本質規律的研究等各項工作推向前進的重要理論武器。
參考文獻
