前言:中文期刊網精心挑選了人工神經網絡的缺點范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。
人工神經網絡的缺點范文1
1.1人工神經網絡研究簡況
1943年,生理學家W.S.McCulloch和數學家W.A.Pitts首次提出二值神經元模型。半個世紀以來人們對神經網絡的研究經歷了五六十年代的第一次熱潮,跌人了70年代的低谷;80年代后期迎來了第二次研究熱潮,至今迭起,不亞于二戰期間對原子彈研究的狂熱。
人工神經網絡是模仿生物腦結構與功能的一種信息處理系統。作為一門新興的交叉學科,人工神經網絡以其大規模并行結構、信息的分布式存儲和并行處理,具有良好的自適應性、自組織性和容錯性,具有較強的學習、記憶、聯想、識別功能氣引起眾多領域科學家的廣泛關注,成為目前國際上非?;钴S的前沿領域之一。
1.2人工神經網絡的基本模型及其實現
1.2.1人工神經網絡的基本模型人工神經網絡的基本模型見表1?
1.2.2以誤差逆傳播模型說明人工神經網絡的實現人工神經網絡中應用最多的是誤差逆傳播(ErrorBack-Propagation)網絡,簡稱BP網絡,從結構講’BP網絡是典型的多層網絡,分為輸入層、隱含層和輸出層3層,層與層的神經元之間多采用全互連方式,而同層各神經元之間無連接,見圖1。BP網絡的基本處理單元(輸入層單元除外)為非線性輸人-輸出關系,一般選用S型作用函數f(x)=l/(1+e-當給定網絡一個輸人模式時,它由輸人層單元傳到隱含層單元,經隱含層單元逐層處理后再送到輸出層單元,由輸出層單元處理后產生一個輸出模式。這是一個逐層狀態更新的過程,稱為前向傳播。如果期望輸出與實際輸出之間的誤差不滿足要求,那么就轉人誤差反向傳播,將誤差值沿通路逐層傳送并修正各層連接權值(w1,W2),這是一個逐層權值更新的過程,稱為誤差反向傳播過程。隨著2個過程的反復進行,誤差逐漸減小,直至滿足要求為止。
2常用人工神經網絡模型的應用分析
當前,人工神經網絡方法主要應用于有機有毒化合物毒性的分類及定量預測、對不同污染物生物降解性能的預測、單要素環境質量評價、環境質量綜合評價、環境預測、環境綜合決策等方面。
2.1預測性能的分析
以BP網絡為例,就近兩年來應用BP網絡進行預測的成功研究來看,人工神經網絡的預測性能得到了充分的肯定。
1997年,劉國東等141應用BP網絡建立的雅礱江和嘉陵江流域氣溫、降水和徑流之間關系的網絡模型,具有較高的擬合精度和預報精度,并具有精度可控制的優點。計算結果同國內外研究成果的一致性表明,用BP網絡分析、研究氣候變化對一個地區(或流域)水資源環境的影響是一種新穎、有效的方法。
王瑛等w指出,當外界環境和系統本身性質發生劇烈變化時,BP網絡能提供一種有效的方法來更新模型,實現新舊模型之間的轉換。他們利用最近12年(1981~1992年)的環境經濟數據對2000年環境指標進行了預測,并根據預測結果對未來的環境對策進行了分析。這為解決環境預測的模型問題提供了一條新思路。
張愛茜等用人工神經網絡預測含硫芳香族化合物好氧生物降解速率常數和孫唏等⑺對胺類有機物急性毒性的分類及定量預測的結果都說明了,人工神經網絡作為一種非線性模型預測能力大大優于多兀線性回歸模型。
2.2 評價性能的分析
人們在環境評價中主要應用了BP網絡、Hopfield網絡、徑向基函數網絡等模型,并不斷地改進應用方法,對其在環境評價中的性能進行比較研究》李祚泳的研究結果表明BP網絡用于水質評價具有客觀性和實用性。劉國東等?改進了BP網絡的應用kf法,并比較了BP網絡與Hopfield網絡在水質綜合評價中的性能。他們指出Hopfield網絡采用模式(圖象)聯想或匹配,既適用于定量指標的水質參數又適用于定性指標的水質參數,而且使水質評價形象化,因此更優于BP網絡.郭宗樓等將徑向基函數人工神經網絡(RBF—ANN)模型應用于城市環境綜合評價,結果-表明RBF網絡不僅具有良好的推廣能力,而且避免了反向傳播那樣繁瑣、冗長的計算,其學習速度是常用的BP網絡無法比擬的。郭宗樓等[|11又以三峽工程為背景,把該模型應用于水利水電工程環境影響綜合評價的人工神經網絡專家系統中,與分級加權評價法相比較具有更高的推理效率。
環境科學研究的問題,如環境污染、生態破壞、自然災害、資源耗竭、人口過量等等,無一不是在某種程度上損傷或破壞了人——環境的和謂。人——環境關系有著自身的變化規律,是可以進行科學量度的。顯然這一M?度是多方位、多因素的非線性評價問題,至今尚未建立起一種適當的評價模型,我們是否可以借鑒人工神經網絡的應用優點,考慮建立基于人工神經網絡方法的評價模型。
人工神經網絡的缺點范文2
關鍵詞: 人工神經網絡BP算法改進BP算法倒立擺小車
1.引言
倒立擺系統是時變的、非線性、多變量和自然不穩定系統,在控制過程中,它能有效地反映可鎮定性、魯棒性、隨動性和跟蹤等許多控制中的關鍵問題,是檢驗各種控制理論的理想模型。人工神經網絡BP算法,在多變量輸入情況下具有精度高、實現快、算法簡單、魯棒性好等優點,從而滿足了系統的要求[1]。
2.人工神經網絡BP算法簡介
人工神經網絡(ANN)由于具有信息的分布存儲、并行處理和自學習能力等優點,在信息處理、模式識別、智能控制等領域得到了越來越廣泛的應用。近年來,已有多種ANN模型被提出研究,80%―90%的人工神經網絡模型是采用BP網絡或其改進形式,它是前向網絡的核心部分,體現了網絡最精華的部分[2]。標準的BP網絡是根據Widrow―Hoff規則,采用梯度下降算法,主要由信息信號的正向傳播和誤差信號的反向傳播兩部分組成。
但BP網絡存在需較長的訓練時間、收斂于局部極小值等缺點,為此人們對BP算法進行了許多改進。改進主要有兩類:一類采用啟發式技術,如附加動量法、自適應學習率法;另一類是采用數字優化技術,如共軛梯度法、擬牛頓法、Levenberg―Marquardt(LM)法[3]。由于LM算法收斂速度最快,精度較高,且經過大量仿真實驗分析比較,LM效果最好,故我們采用LM法對網絡進行訓練。
LM優化方法權重和閾值更新公式[4]為:
其中J為誤差對權值微分的雅可比矩陣,e為誤差向量,μ為一個標量。依賴于μ的幅值,該方法光滑地在兩種極端情況之間變化,即牛頓法(當μ0)和著名的最陡下降法(當μ∞)。
3.神經網絡控制器設計
3.1訓練樣本的選取
BP神經網絡在未經任何訓練的情況下,不能作為系統控制器使用。在實際仿真過程中,我們選擇極點配置控制為BP網絡的教師進行學習,經過試探訓練,樣本數為2000時結果較為合理,此時樣本數據能夠反映系統的基本特征,可以得到預期的仿真結果。極點配置-2+5i-2-5i-5+4i-5-4i;A=[0 1 0 0;0-0.0883167 0.629317 0;0 0 0 1;0-0.235655 27.8285 0];B=[0 0.883167 0 2.35655]’;C=[1 0 0 0;0 1 0 0;0 0 1 0;0 0 0 1];D=[0 0 0 0]’;p=[-2+5i-2-5i-5+4i-5-4i]; K=acker(A,B,p)。
3.2 BP網絡結構
BP網絡設計時,增加層數主要可以進一步降低誤差,提高精度,但卻使網絡復雜化。而增加隱含層的神經元數也可提高誤差精度,且訓練效果更易觀察和調整。為了使誤差盡可能小,我們要合理選擇初始權重和偏置,如果太大就容易陷入飽和區,導致停頓,一般應選為均勻分布的小數,介于(-1,1)。
根據需要,在網絡初始化時,BP采用0.5*Rands函數初始化權值,權值初始值選在(-0.5,0.5),選取訓練目標誤差為0.0001,訓練次數上限為5000次。通過多次仿真實驗性能比較,選取[4 9 1]的單隱層神經網絡結構,隱含層、輸出層分別采用Tansig、Purelin函數,仿真實驗表明變學習率訓練算法訓練時間長,5000次還不能達到所要求的精度,且系統容易發散,控制倒立擺效果不好,采用改進的LM訓練算法對網絡進行學習訓練可以得到較好的控制效果且訓練時間短。在實際仿真過程中,BP網絡經過53次訓練即達到了訓練目標。
4.BP網絡訓練結果
圖1分別給出了倒立擺小車位移、擺角和控制力的BP算法與極點配置算法仿真曲線對比圖,仿真結果表明:相較極點配置,BP算法精度高、實現快、魯棒性好,倒立擺小車在BP算法下只需2.5s左右就可以達到所設定精度的穩定效果,且超調量很小,滿足了系統的要求。
5.結論
通過對人工神經網絡BP算法的分析,筆者進行了倒立擺小車改進BP算法的控制系統仿真實驗。仿真表明該改進BP算法收斂性好、計算量小,尤其在非線性和魯棒控制等領域具有良好的應用前景。BP神經網絡從理論上可以逼近任意非線性函數,所以它特別適合控制像倒立擺這樣的嚴重非線性、多變量系統。
參考文獻:
[1]于秀芬,段海濱,龔華軍.基于人工神經網絡BP算法的倒立擺控制研究[J].測控技術,2003,22(3):41-44.
[2]張志華,朱章森,李儒兵.幾種修正的自適應神經網絡學習算法及其應用[J].地球科學,1998,23(2):179-182.
[3]蘇高利,鄧芳萍.論基于Matlab語言的BP神經網絡的改進算法[J].科技通報,2003,19(2):130-135.
人工神經網絡的缺點范文3
關鍵詞:質譜解析;模式識別;算法
中圖分類號:TP302 文獻標識碼:A 文章編號:1009-3044(2016)36-0181-03
在生活中,人們能夠認出周圍不同的人分辨他們說話的聲音和方式,認出住的小區工作的單位,人們的這種能力就是“模式識別”。隨著科技的發展,人們研究用計算機模擬人的模式識別能力,對不同類型形式的數據進行描述、分類、識別。
模式識別的計算過程大致概況成以下幾部分:首先從訓練樣本獲得原始數據,對各元素進行綜合分析,獲得最能反映樣本屬性的觀測量,從眾多的特征中找到合適有效的特征量,然后進行特征提取,構成模式空間或特征空間。數據需要預先進行處理,處理后,即可通過模式識別算法進行訓練和分類,然后根據訓練分類所得的判據對未知樣本進行判別(或稱計算機預報)。過程如圖1所示。
1 線性學習機(linear learning machine)
1.1 原理
此方法亦稱為糾錯反饋法。最早由Kowalski等引入化學數據的解析,之后被廣泛地用于質譜、紅外光譜及核磁共振譜。
該方法使用判別函數進行分類,判別函數在二維空間為一直線,在三維空間為一平面,而在多維空間則為一超平面,判別函數將N維空間分成類別區域,預測實驗樣本屬于哪一類別。在LLM中,判別函數先將樣本分為兩類,使屬于一類的樣本處于平面的一側,而屬于另一類的樣本處于另一側。判別函數可以通過訓練樣本求得,并在通過校驗集的驗證后用于預測待測樣本的歸屬。
1.2 算法步驟
線性學習機是一種有監督的學習類型的簡單線性判別函數的迭代算法,可通過以下步驟來實現:
設在訓練集中有兩類樣本,記為[ω1]和[ω2],
1)隨機選取一個與樣本矢量具有相同維數的矢量作為w
2)對于每個樣本都進行計算(k=1~n)。如果[xk∈ω1],而且如果[wtxk>0],則[wnew=wold](判決矢量保持不變)。反之,如果[wtxk
3)重復第二步,直至對所有的樣本都正確分類。
值得提出的是,以上算法是對于線性可分的情況而設計的,對于線性不可分的情況,則規定重復次數,到了規定次數還不能完全將訓練集分開,則認為屬于線性不可分的。
另外,在本算法中的修正判決矢量的計算,實際上是將當前的不能正確分類的判決矢量進行反射,這是因為
[wtnewxk=(wold-λxk)txk=wtoldxk-2wtoldxkxtkxk/xk2=-wtoldxk]
也就是說,經過這樣的修正以后,原來不能正確分類的現在可以分類正確了。一般來說,這樣的重復次數在20次左右就足夠了。
1.3 缺點
LLM方法的缺點之一是沒有唯一解,當訓練對象的表示次序發生改變時會出現不同的答案。并且只有當樣本線性可分時,LLM才能很好的工作。LLM的另一缺點是判別面簡單、異常點容易錯誤分類以及收斂緩慢的不足。另外,LLM只適用于區分兩個類別的情況。
2 K最鄰近法(K-nearest neighbors,K-NN)
2.1 原理
K最鄰近法在化學上應用極為廣泛,它是直接以模式識別的基本假設即同類樣本在模式空間相互靠近為依據的分類方法。它計算在最近鄰域中k個已知樣本到未知的待判別樣本的距離,即使所研究的體系線性不可分,此方法仍可適用。
KNN法對每一個待分類的未知樣本都要計算它到全體已知樣本之間的距離,得到它的k個最近鄰點進行判決。若k=1,未知樣本屬于這一個最近鄰樣本。若k>1,則未知樣本與這k個最近鄰樣本不一定屬于一類。這時要采用權值的方法,對這k個近鄰的情況按少數服從多數進行表決。一個近鄰相當于一票,但考慮k個鄰近與未知樣本的距離有所判別,所以對各票進行加權,距離最近的近鄰的類屬,應予以較重的權。
[V=i=1kviDi]或[V=i=1kviD2i]
式中,[vi]為近鄰的類屬取值。對兩類分類,i屬于第一類時取“+1”,屬于第二類時取“-1”。Di為未知樣本與第i個近鄰的距離,k樽罱鄰數。當V>0時,則未知樣本歸入為類1;否則歸于類2。
這種方法因采用獲多數“票”的方法確定未知樣本的歸屬,所以k一般采用奇數。k值不同時,未知樣本的分類結果可能不同。
2.2 算法步驟
1)取一個未知樣本,記為[xunknown],計算該樣本到訓練集各樣本的距離[Di](i=1,2,…,n),在此n為所有訓練集樣本的總數。
2)取出k個距離最短的訓練集樣本,計算它們的權值和
[Vunknown=ViDi] (i=1,2,…,k)
如果[xi∈ω1],則取[Vi=1];反之,如果[xi∈ω2],[Vi=-1];[Di]是待判別的一本與近鄰的距離。
3)建立判別標準,即當[Vunknown>0],則[xunknown]判別為第一類[ω1];反之,[Vunknown
2.3 缺點
不幸的是,這種分類方式依賴于每一類中的對象個數。當類與類有重疊時,未知對象將被分配給對象個數較多的類。在沒有唯一標準而允許近鄰數可變的條件下,這種情況有時也可以得到解決。
3 人工神經網絡判別法
3.1 原理
人工神經網絡(artificial neural network)的研究是受人腦組織的生理學啟發而創立的,是由處理單元(神經元)組成,通過一定的模型結成一個網絡,相互間的聯系可以在不同神經元之間傳遞增強或抑制信號。人工神經網絡用于化學模式識別的基本思路與判別分析方法是相同的,它也是通過對已知類別的訓練集的擬合來建立模型從而進行分類與預測。
3.2 算法
人工神經網絡有多種算法,大致分為兩類:有管理的人工神經網絡和無管理的人工神經網絡。有管理的人工神經網絡的方法主要是對已知式樣進行訓練,然后對未知式樣進行預測。例如BP(Back Propagation)人工神經網絡,是一種誤差反向傳輸網絡,其采用最小均方差學習方式,是一種使用最廣泛的網絡。無管理方法,也稱自組織(self-organization)人工神經網絡,無需對已知樣本進行訓練,則可用于化合物的分類,例如被稱為自組織特征映射網絡(SOM)的Kohonen神經網絡和典型的反饋式網絡Hopfield神經網絡。BP人工神經網絡是使用最廣泛的網絡,所以下面對它進行介紹。
BP算法由以下幾步構成:
1)數據預處理。因大都采用由s型非線性函數(sigmoid nonlinearity)為其活性函數,即[fu=(1+e-u)-1],其輸出值都介于0~1之間,所以需要對網絡的輸出進行預處理,使之同樣落入0~1之間。這樣的預處理不會影響問題的一般性。
2)隨機選取連接權重[wme2ki]和[wme1ij](j=1,…,n;i=1,…,m;k=1,…,L),其中n為輸入矢量的節點數(或稱輸入矢量的維數);m為隱節點數;L為輸出節點數。一般用(-0.5~0.5)的均勻分布隨機函數產生。
3)設a=1,…,A,重復迭代以下步驟,直至收斂。
a.前傳計算。按照
[ymej=fwme1ijlnpi+wme10]
和
[Outk=fwme2kiymej+wme20=fwme2ki[fwme1ijlnpi+wme1oi]+wme2o]
來計算Out,并與所期望得到的數值比較,計算出誤差函數E。
b.反韉鶻?。紦溷目标簲祵B接權重的一階導數,以此調節連接權重[wme2ki]和[wme1ij](在此只介紹最陡梯度法,用的是一階導數,別的優化算法同樣可行)。
[Δwij=ρδiuj]
式中:[ρ]―― 一步長因子可在(0~1)之間取值;
[u]――第j節點上的抽象變量,視其是在輸出層還是隱蔽層,就分別等于[fwme1ijlnpi+wme10]或[fwme2kiymej+wme20];
[δ]――梯度因子,對于不同層,有不同表達式
[] [δi]= [(ui-Expi)(ui)(1-ui)] 如[ui]為輸出節點
[(wme1ijδk)(ui)(1-ui)] 如[ui]為隱蔽層節點
在這里[u(1-u)=u′]。這是因為
[u=fwme1ijlnpi+wme10=fx=1/(1+e-x)]
所以有
[u′=f″x=[1/(1+e-x)]/dx=-(1+e-x)-2(e-x)(-1)=(11+e-x)[1-(11+e-x)]=u(1-u)]
[Δwij=ρδiuj]中步長因子[ρ]的取值大小對收斂速度有很大影響,如取值太大,可能引起迭代過程的振蕩(oscillation);反之若取值太小,則會導致權重調節的迭代過程收斂太慢。一般來說,為了加快迭代過程且防止迭代過程的振蕩,在[Δwij=ρδiuj]中引入一個慣量因子λ,有
[Δwij(a+1)=ρδiuj+λΔwij(a)]
以保證迭代收斂速度。
3.3 缺點
人工神經網絡能精確的對復雜問題進行預測,但卻難以理解。此外也有其他一些問題,如網絡訓練速度問題、神經網絡易受訓練過度的影響,網絡中的神經網絡節點個數難以確定,網絡結構優化等問題。
4 小結
人類能很輕易通過視覺辨別文字、圖片,通過聽覺辨別語言,這是人的一種基本技能。但是要機器模擬人進行識別,涉及的問題就比較復雜。本文就模式識別中的三種常用算法:線性學習機、K最鄰近法、人工神經網絡判別法,簡單分析比較了他們的優缺點。
參考文獻:
[1] 郭傳杰.計算機輔助質譜解析的譜圖匹配和模式識別方法[J].質譜學雜志,1984,5(3):19-24.
[2] Jurs P C, Venhour T L. Chemical Application of Pattern Recognition[M].Wiley Interscience Publication,1975.
[3] Kowalski B R, bender C F,J.Am.Chem.Soc.,94,5632 (1972).
人工神經網絡的缺點范文4
摘要:
針對水文時間序列的非平穩性特征,以長江三峽宜昌站1904~2003年年平均流量為例,分別建立了小波分析(WA)與BP神經網絡和徑向基函數神經網絡(RBF)耦合的預測模型,探究了兩種組合模型的預測效果,并與傳統的單一人工神經網絡模型對比;并采用5種常見的預測性能評價指標分析預測效果。結果表明:組合模型預測成果的精度較單一模型顯著提高;組合和單一模型中RBF網絡模型均優于BP網絡模型;小波徑向基函數神經網絡組合模型具有較優的預測精度和泛化能力,是提高預測精度的有效方法,在徑流預測中具有可行性。
關鍵詞:
ATrous小波分析;BP神經網絡;徑向基函數神經網絡;預測模型;水文預報
中長期水文預報是根據已知水文與氣象要素信息對未來一定時期內的水文狀態作出定性和定量的預測。目前,通常預報的水文要素有流量、水位、冰情和旱情等[1]。水文時間序列預測對防汛、抗旱、水資源開發利用等具有重大的實用意義,然而水文系統是一個高度復雜的非線性系統,在由降雨經過蒸散發、下滲、截留、填洼形成徑流的過程中,還受到流域地形地貌、氣候變化、人類活動等因子的干預,因此,水文時間序列表現出極大的復雜性,給預測帶來一定困難。傳統的中長期水文預報大多采用回歸分析法和時間序列分析方法[2]。常用的回歸分析法主要有一元線性回歸分析法、多元線性回歸分析法、逐步回歸分析法、最小二乘回歸分析法、聚類分析法和主成分分析法等[2],其因建模簡單、易于實現的優點成為了徑流中長期預報應用最早也是最廣的方法[3],但回歸分析法中存在因子個數合理性的選擇、預報成果取均值而忽略了極大與極小值情況等問題;時間序列分析法常用自回歸序列(AR)模型、滑動平均序列(MA)模型、自回歸滑動平均序列(ARMA)模型、求和自回歸滑動平均序列(ARIMA)混合模型、門限自回歸序列(TAR)模型等[4]。
該方法能夠很好地分析和處理具有季節性、趨勢性的水文預報問題,但在建模過程中存在模型參數估計和合理定階等問題[2]。隨著計算機技術的發展,一些智能新方法被廣泛應用于中長期水文預測中,主要包括模糊分析、人工神經網絡、灰色系統分析、混沌理論、投影尋蹤、小波分析等方法[5],然而目前還沒有一種水文預報模型能夠對所有水文序列具有完全適應性。近年來,小波分析和人工神經網絡組合模型成為中長期徑流預測的研究熱點[6-7]。利用小波變換可將徑流序列的趨勢項、周期項和隨機項成分較好地分離,為克服水文時間序列成因復雜、難以詳盡表述其變化規律等困難提供了一種便利的分析技術[8],再將不同頻率下的小波變換成分輸入神經網絡進行預測,能夠較好地提高預測精度。只有選擇合適的小波神經網絡組合模型的結構,才能得到精度更高的預報結果。本文提出將小波分析與不同類型的神經網絡組合,分別建立小波分析與加動量的BP神經網絡相結合、小波與RBF網絡相結合的徑流預報模型,對兩種組合模型及傳統單一的神經網絡模型的模擬效果進行對比分析。
1模型結構及原理
1.1小波分析對水文時間序列進行小波分析時,使用連續小波變換或離散小波變換得到的小波變換系數冗余,因此常用快速的小波變換算法計算,不涉及具體的小波函數,主要有Mallat算法和ATrous算法。相比原始時間序列,Mallat算法重構后的時間序列因其二進抽取、插值處理,容易出現相位失真[9-11],并會發生一定的偏移,而ATrous算法為無抽取離散小波變換,具備平移時不變性的特性,它只是對濾波器組進行內插補零,其每級分解系數和原始時間序列的長度保持一致,因此本文小波分析采用ATrous算法。
1.2BP神經網絡BP神經網絡的拓撲結構圖如圖1所示[12]。BP神經網絡預測模型,運用了神經網絡可以任意逼近非線性函數的特性,輸入與輸出間的復雜關系表示具有非線式的特點,其適用性明顯高于一般顯式線性預測模型[12]。水文時間序列是受多因子復雜影響的一種非穩定性的時間序列,并非可用單一的線性或非線性函數計算所得。BP神經網絡相當于一個“黑箱”模式,不需要知道輸入與輸出數據間的函數關系,僅通過對輸入輸出數據進行訓練學習,獲得誤差達到最優的一種映射關系,就可將訓練好的模型用于預測,它具有自學習、計算簡單、容錯性較好、泛化能力較強的特點。
1.3徑向基函數神經網絡徑向基函數神經網絡(RBF,RadialBasisFunc-tion)是一種能夠以任意精度逼近任意非線性函數的神經網絡結構,具有單隱層的3層向前網絡[12],其中隱層函數為徑向基函數。RBF神經網絡僅對輸入空間的某一局部區域存在少數的神經元,用來決定網絡的輸出,且RBF網絡中的重要參數中心向量和寬度向量是根據樣本集中的訓練模式來試算確定或者初始化的,因此,RBF神經網絡具有避免陷入局部極小值的解域中的優點。RBF神經網絡的拓撲結構圖如圖2所示[12]。
2預測性能評價指標
為了對預測模型的適應性進行分析,需用預測成果的精度來度量。本文采用常用的3種誤差評定方法和預測值的相對誤差小于10%和20%的合格率,來評價模型的預測精度[13-14]。NMSE和MRE反映出實測值和預測值之間的偏差,NMSE和MAE越小,表明預測值越接近于實測值,即預測的效果越好。DVS以百分比形式表示正確預測目標值變化方向,其值越大,表明預測效果越好。以預測值相對誤差滿足小于10%和小于20%的合格率來反映預測值與實測值之間的逼近程度,其值越大,預測效果越好。
3模型仿真
長江宜昌水文站是長江上游出口的唯一控制站,且三峽工程位于其上游約44km處,對宜昌站年徑流量的預測具有重要的實踐意義。本文利用宜昌站1904~2003年為期100a的實測年均流量資料,采用MATLAB編程,利用小波神經網絡組合模型對其預測,選取兩種不同神經網絡模型對比分析。
3.1小波變換本文選取宜昌站100a年均徑流量,利用ATrous算法進行分解尺度為3的小波變換,求取徑流序列的細節系數W1、W2、W3和近似系數C3,用作神經網絡輸入。小波分析成果見圖3。
3.2基于小波變換的BP模型構建一個3層雙隱層的BP神經網絡模型,可以以任意精度逼近給定的非線性函數,而雙隱層可以提高模型的逼近精度。小波BP網絡模型即將BP神經網絡模型中對徑流量直接輸入預測替換為對小波變換系數的預測。小波分析將具有復雜非穩定性特征的徑流量分解成不同頻率的高頻細節序列和低頻概貌序列,因此可以更好地利用神經網絡模擬成因復雜、具有時-頻特征的徑流量序列的形態變化特征和趨勢。構建一個4-10-8-1結構的3層雙隱層BP模型,隱含層函數選用transig,輸出層函數選用purelin,采用有動量加自適應lr梯度下降法選擇參數,設置最大訓練次數為5000、訓練要求精度0.00001、學習速率0.01。利用Matlab軟件進行網絡訓練,對預測結果進行反歸一化處理,得到最終預測結果,成果見表1。
3.3基于小波變換的RBF模型與小波BP網絡模型類似,將歸一化后的前90a的年均徑流量小波變換系數作為RBF網絡模型訓練樣本的輸入,Q(t+T)作為訓練樣本輸出,預見期為2a,后10a的資料作為測試。不同于BP神經網絡的初始權值選取對于網絡訓練的精度影響很大這一特點,RBF神經網絡只需用試錯法調整參數SPREAD。在Matlab平臺上,調用RBF模型,調用方式為net=newrb(P,T,GOAL,SPREAD,MN,DF),SPREAD為徑向基層的擴展速度常數,其取值會影響神經網絡的運算速度和精度[10]。通過試算得SPREAD的最優解為67.3。將訓練好的模型用來預測后10a的年均徑流量,成果見表1。
3.4單一人工神經網絡模型直接將實測的年均徑流量作為模型的輸入,預見期為2a。因徑流的成因復雜及形成過程具有較多干擾因素,單一的人工神經網絡模型不一定能較好地模擬其內部的變化特征,本文分別采用單一的BP神經網絡和RBF網絡對后10a的年均徑流量進行預測,預測成果見表1。
4模型適用性分析
根據三峽宜昌站100a徑流量資料,建立不同組合的小波神經網絡模型,利用Matlab軟件平臺對模型進行網絡學習,分別調試不同模型得到最優預測徑流量,成果見表1。為了判斷4種預測模型的預測結果是否保持實測序列的主要統計特性和變化特征,采用以下5種常見的預測性能評價指標驗證模型的適用性,成果詳見表2。(1)由宜昌站1994~2003年年均流量的預測值與實測值比較計算得NMSE、MRE、DVS、合格率e<10%和合格率e<20%的5種誤差評定參數。從預測整體NMSE和MRE上看,小波人工神經網絡組合模型預測精度明顯高于傳統單一的人工神經網絡模型,而組合模型中,小波RBF網絡模型預測效果更優,單一神經網絡模型中RBF網絡預測精度也高于BP網絡。這表明,組合模型用于長江徑流預測是合理可行的,具有較好的預測精度和泛化能力,是提高模型預測精度的有效方法。但BP神經網絡存在收斂速度較慢、易陷入局部極值、易發生“過擬合”或“欠擬合”情形等缺陷[15],而RBF神經網絡以對點徑向對稱且衰減的非負非線性函數為傳遞函數[16],能夠避免BP網絡產生的缺點,具有更好的逼近能力。(2)小波RBF神經網絡DVS表明,預測目標值方向的正確率高達88.89%,單一的BP網絡的DVS指標卻只有33.33%。這表明,小波神經網絡組合模型較單一神經網絡模型能更準確地預測目標值變化方向,RBF神經網絡在模式識別能力方面也優于BP神經網絡。(3)多數小波神經網絡組合模型成果的預測相對誤差小于10%,而單一神經網絡合格率則只接近半數,其中無論組合模型還是單一模型,RBF模型預測值的合格率都要高于BP神經網絡模型。由表2可知,4種模型預測精度基本達到(合格率e<20%),即人工神經網絡由于其較強的非線性映射能力、魯棒性、容錯性和自適應、自組織、自學習等特性[17],對于水文徑流量預測具有可行性,而進行小波分析處理后再建立神經網絡模型能提高預測的精度,選擇合適的神經網絡模型則能優化預測成果。
5結語
筆者提出小波分析與不同人工神經網絡耦合的預測模型。組合模型可將高度復雜的非穩定年徑流序列分頻率提取的成分輸入人工神經網絡進行預測,巧妙地避開了單一預測模型預測精度不高的問題;而不同的小波神經網絡組合模型則進一步探討了小波分析和不同人工神經網絡耦合的密切程度,得到預測精度較高的小波神經網絡模型的組合結構。本文以宜昌水文站100a實測年均徑流量序列為例,進行實例對比驗證。對比分析模型模擬成果表明,小波神經網絡組合模型對徑流預測的適應性強于人工神經網絡模型,而小波RBF網絡模型比小波BP網絡模型具有更優適應性,小波RBF網絡模型能更好地揭示水文隨機序列的變化特性且提高了預測精度和速率,為水文工作提供了有效可行的預報方法,對水文資料的預測和插補延長具有實際意義。
參考文獻:
[1]包為民.水文預報[M].北京:中國水利水電出版社,2009.
[2]宋一凡,郭中小,盧亞靜.基于遺傳算法優化的小波神經網絡在中長期水文預報中的應用———以三門峽為例[J].中國水利水電科學研究院學報,2014,12(4):337-343.
[3]宋荷花,胡國華,李正最.湘江流域中長期水文預報[D].長沙:長沙理工大學,2008.
[4]鐘登華,王仁超,皮鈞.水文預報時間序列神經網絡模型[J].水利學報,1995,(2):69-74.
[5]王麗學,楊軍,孫靚,等.基于灰色系統與RBF神經網絡的中長期水文預報[J].人民長江,2015,46(17):15-17.
[6]BatesJM,GrangerCWJ.Thecombinationofforecasts[J].Opera-tionalResearchQuarterly,1969,20(1):451-468.
[7]王文圣,丁晶,李躍清.水文小波分析[M].北京:化學工業出版社,2005.
[8]LiZuoyong.Progressofstudyonhydrologywaterresourceandwaterenvironment[J].JournalofSichuanUniversity:EngineeringScienceEdition,2002,34(2):1-4.
[9]孫延奎.小波分析及其應用[M].北京:機械工業出版社,2005.
[10]李賢彬,丁晶,李后強.基于子波變換序列的人工神經網絡組合預測[J].水利學報,1999,(2):1-4.
[11]MATLAB中文論壇.MATLAB神經網絡30個案例分析[M].北京:北京航空航天大學出版社,2010.
[12]楊淑瑩.模式識別與智能計算:Matlab技術實現[M].北京:電子工業出版社,2008.
[13]汪麗娜,陳曉宏,李艷.不同徑流尺度的小波神經網絡預測[J].華南師范大學學報:自然科學版,2013,45(2):104-106.
[14]SL250-2000水文情報預報規范[S].
[15]崔東文,金波.改進BP神經網絡模型在小康水利綜合評價中的應用[J].河海大學學報:自然科學版,2014,42(4):306-313.
[16]黃劍竹.改進RBF-Adadoost模型及其在年徑流預測中的應用[J].人江,2015,45(1):32-36.
人工神經網絡的缺點范文5
關鍵詞: 100 m欄;高水平運動員;女子短跑;神經網絡
中圖分類號: G 822.6 文章編號:1009783X(2012)03026503 文獻標志碼: A
收稿日期:20100517
基金項目:中央高校基本科研業務費專項資金資助”(SWJTU11BR121 ;SWJTU11BR122)。
作者簡介:宋愛玲(1977—),女,山西大同人,碩士,副教授,研究方向為體育教育訓練;劉靜(1977—)女,四川人,碩士,講師,研究方向為體育教育訓練;李征(1979—),男,四川人,博士,講師,研究方向為體育教育訓練。
作者單位:1西南交通大學體育部,四川 成都 610031;2西南民族大學體育學院,四川 成都 610041
1.Department of Physical Education,Southwest Jiaotong University,Chengdu 610031,China;2.Basketball Teaching & Research Section,Capital Institute of Physical Education,Beijing 100088,China. 運動員專項成績與身體素質訓練水平之間存在明確的函數映射關系[12],通過建立運動員專項成績與身體素質關系的理論模型,可實現運動員專項成績的準確預測,并可為制定身體素質的備戰訓練提供科學的理論依據。
目前,運動員專項成績與身體素質關系理論模型的建立一般采用多元回歸方法和灰色方法,這些方法的收斂性、適應性及預測精度均受到不同程度的限制,因而預測效果不佳[35]。文獻[68]利用人工神經網絡強大的函數映射能力對訓練樣本進行學習,克服了多元回歸方法和灰色方法所建數學模型的缺點,建立了多個項目運動員精確的專項成績預測模型;然而,到目前為止,仍未有女子100 m欄運動員相關預測模型的文獻報道。有鑒于此,本文基于Matlab仿真分析平臺,以我國女子100 m欄冠軍劉靜的專項成績與素質訓練水平為學習樣本(見表1),利用人工神經網絡函數映射方法,建立了其專項成績預測模型。該模型預測精度高,且其拓展應用可為女子100 m欄運動員科學訓練提供重要理論指導。
利用以上曲線,教練員和運動員可分析出各項素質訓練水平對專項成績的影響程度,據此,可科學合理地安排運動員的訓練,提高比賽成績。
3 結論
運動員專項成績與身體素質訓練水平之間存在明確的函數映射關系,通過建立運動員專項成績與身體素質關系的理論模型,可實現運動員專項成績的準確預測,并可為制定身體素質備戰訓練提供科學的理論依據;因此,本文基于Matlab仿真分析平臺,利用人工神經網絡函數映射方法,建立了女子100 m欄運動員專項成績預測模型。該模型預測精度高,且其拓展應用可為女子100 m欄運動員科學訓練提供重要理論指導。
參考文獻:
[1] 張正紅,劉志蘭.劉翔分段成績與專項成績的灰色關聯綜合分析及模式化訓練途徑[J].武漢體育學院學報,2008,42(4):9092.
[2] 趙永壽.關于構建鉛球運動員成績的人工神經網絡預測模型的研究[J].北京體育大學學報,2006,29(4):486488.
[3] 袁磊.世界優秀男子跳高運動員身體素質與專項成績相關關系的遞歸神經網絡模型構建[J].北京體育大學學報,2008,31(2):202204.
[4] 鐘平,龔明波.鏈球運動員身體素質與專項成績相關關系的神經網絡模型[J].廣州體育學院學報,2004,24(1):3335.
[5] 鐘武,唐岳年.鉛球運動員專項成績的神經網絡預測模型的構建[J].西安體育學院學報,2005,22(3):7881.
[6] 劉志蘭,龍斌,王陽春,等.基于BP神經網絡的劉翔成績與分欄時間預測模型研究[J].蘭州交通大學學報,2008,27(5):177180.
[7] 鄧云玲,張廣林,許世巖,等.男子110 m欄運動員專項能力指標體系與成績預測模型的構建[J].西北師范大學學報:自然科學版,2007,43(2):98101.
[8] 陳海英,郭巧,徐力.基于神經網絡的人體100 m跑運動能力綜合評價[J].中國體育科技,2003,39(2):13.
人工神經網絡的缺點范文6
關鍵詞:人臉識別;奇異值分解;BP神經網絡;粒子群優化算法
分類號:TP391 文獻標識碼:A
Face Recognition Classifier based on PSO and Neural Network
DUAN Xiang-jun
( Nanjing College of Information Technology, Nanjing 210046, China )
Abstract: Because BP neural network for face recognition classifier has slow convergence and easy to fall into the local minimum, using particle swarm optimization (PSO) to improve the BP network training method, establishing an algorithm based on the improved PSO-BP neural network, which can more reasonable and effectively to determine the neural network connection weights and thresholds, applying this method to the classification of the face recognition system, and compared results with using the BP neural network classification only, experiment shows that the recognition speed is quicker and recognition result is better.
Key words: face recognition; singular value decomposition; BP neural network; particle swarm optimization
0引言
通常情況下,一個人臉自動識別系統包括以下三個主要技術環節:人臉檢測、人臉特征提取、人臉識別。人臉識別即將人臉特征提取結果與庫中人臉對比得出分類結果,即識別分類;分類器的選擇在人臉識別系統整個過程中起著成敗與否的關鍵作用。因此,要慎重選擇研究分類器的設計,確保具有優秀的識別結果。
目前,應用較廣泛的人臉識別分類器主要有:最小距離分類器[1]、基于PCA的分類法[2]、支持向量機識別方法[3]、人工神經網絡[4]等模式識別方法。由于人工神經網絡具有較強的容錯能力、自適應學習能力以及并行信息處理結構、速度快等三大優勢,在模式識別領域有廣泛的應用,而人工神經網絡模型又以標準三層BP神經網絡最為經典。但由于傳統的BP算法是基于梯度下降法的,而梯度下降法通常具有收斂速度慢、易陷入局部極小等缺點而導致學習失敗,另外,BP網絡學習時間較慢,不適合大規模的網絡求解[5]。而粒子群算法(Particle Swarm Optimization, PSO)[6]源于對鳥群捕食行為的研究,系統初始化為一組隨機解,粒子在解空間追隨最優的粒子進行搜索,通過迭代搜尋最優值,所以用它來完成前期的搜索能較好的克服BP算法的缺點。
1 BP神經網絡分類器
BP算法的基本思想是:BP神經網絡的學習過程由信號的正向傳播與誤差的反向傳播兩部分組成。正向傳播時,輸入樣本從輸入層輸入,經各隱含層逐層處理后,傳向輸出層。若輸出層的實際輸出與期望的輸出(教師信號)不符,則轉入誤差的反向傳播階段。誤差的反向傳播是將輸出誤差以某種形式通過輸出層向隱含層逐層反傳,并將誤差分攤給各層的所有單元,從而獲得各層單元的誤差信號,以此誤差信號來修正各單元權值。權值不斷調整的過程,也就是網絡的學習訓練過程。此過程一直進行到網絡輸出的誤差減少到可接受的程度,或進行到預先設定的學習次數為止。其用于人臉識別的結構模型圖如圖1所示。
2 粒子群算法原理
如果我們把一個優化問題看作是在空中覓食的鳥群,那么在空中飛行的一只覓食的“鳥”就是PSO算法在解空間中進行搜索的一個“粒子”(Particle),也是優化問題的一個解,“食物”就是優化問題的最優解。粒子的概念是一個折衷的選擇,它只有位置和速度,沒有質量和體積。
PSO算法中每個粒子就是解空間中的一個解,它根據自己的飛行經驗和同伴的飛行經驗來調整自己的飛行狀態。每個粒子在飛行過程中所經歷過的最好位置,就是粒子本身找到的最優解。整個群體所經歷過的最好位置,就是整個群體目前找到的最優解。前者叫做個體極值(pBest),后者叫做全局極值(gBest)。每個粒子都通過上述兩個極值不斷更新自己,從而產生新一代群體。實際操作中通過由優化問題所決定的適應度函數值(fitnessvalue)來評價粒子的“好壞”程度。很顯然,種群中每個粒子的行為都是:追隨著當前的最優粒子,在解空間中進行搜索[7]。