前言:中文期刊網精心挑選了經典神經網絡算法范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。
經典神經網絡算法范文1
中圖分類號:TP183 文獻標識碼:A 文章編號:1009-914X(2015)15-0343-01
1、前言
在實際的現場工礦條件中,油層溫度遠高于地面正常的環境溫度,在一定范圍內造成儀器的測量數據產生溫度漂移,不能準確地反映真實的地層參數,這直接影響到定向工程。為了消除這種測量誤差,本文介紹一種基于小波神經網絡的算法來實現電阻率溫度補償,并通過實際的測量數據修正結果證實了能夠最大限度地消除溫度造成的測量誤差。
2、理論基礎
由于溫度造成的測量數據偏差已經影響到儀器正常的工作,為了消除其對MRC儀器輸出的影響,達到輸出電壓與各個易感器件產生的連帶誤差最小的目標,采用一種算法去逼近真正的測量值。本文擬采用基于小波分析和前饋神經網絡,其所構成的數學模型結合了小波變換良好的時域局域化性質及神經網絡的自學習功能,通過對網絡特征的分析處理,將學習向量的內積和小波基迭代計算,以實現函數逼近的目標。小波網絡因其良好的非線性映射能力和較強的容錯逼近特性,能夠逼近特定性質的非線性曲線[2]。
如圖1所示:
2.1 小波神經網絡
小波神經網絡的學習,是用已定位的小波元代替神經元作為網絡的激活函數,通過小波網絡提供區別函數的多分辨近似,非平穩信號分析和神經網絡的自學習的并行處理。利用神經網絡數據正向傳遞與誤差的反向傳播算法,計算輸出層的誤差變化值。同時選取適當的小波作特征提取,在其特征空間選取最佳的小波基,通過伸縮和平移因子,加快網絡學習和收斂速度。本文采用的是以小波函數為隱層節點的基函數的神經網絡,進行隨鉆儀器電阻參數溫度補償的研究。
小波分析的定義:在函數空間中選擇母小波函數S(x),此函數需要滿足相容性條件。
對小波函數S(x)進行伸縮變換和平移變換得到小波基函數,其公式如下:
其中自變量(a,b)是伸縮因子和平移因子。小波級數把函數f(x)分解成不同頻率的組合。
符號“< >”表示內積,和稱為小波系數。
2.2 小波神經網絡結構及算法
本文采用小波神經網絡結構如圖2所示
該網絡輸入神經元代表的是不同溫度下測量節點的采樣數值,將此學習樣本輸入到神經網絡,隱層的激勵函數采用的是Morlet小波,選用的依據是其對隱層基函數的正交性要求較低,具有較高的時頻域分辨能力,同時滿足相容性條件,能有效地提高學習逼近的速度和準確性。
小波神經網絡訓練算法流程圖如圖3所示:開始網絡化參數初始輸入學習樣本和期望輸出小波網絡學習,計算網絡實際輸出網絡誤差學習次數T
三、儀器溫度補償實例
儀器發射線圈流過的電流產生磁場,通過井眼和周圍的底層傳播到兩個接受線圈,采集其測量時序和信號幅度,從而來計算此地層的電阻率值。在實際的測量計算中,選用相位差和幅度比來實現。設定常溫到120度之間的試驗需求樣本數據,通過網絡學習所達到的實測數據。網絡學習的收斂速度也滿足了預期的效果,同時滿足了設定的誤差范圍。在儀器測量的實際運行中提高了測量穩定性和容錯性。
參考文獻
[1] 焦李成.神經網絡系統理論[M].西安電子科技大學出版社,1990.
經典神經網絡算法范文2
關鍵詞:神經網絡算法 電力負荷 短期預測
1. 引言
近年來BP網絡以其獨特的優勢被運用到電力負荷預測中,運用BP網絡的預測方法,可以結合電力負荷的歷史數據,針對這些數據不確定、非線性的特點,對未來的短期負荷進行預測,發揮了較好的作用。電力短期負荷預測是電網運營商為用戶提供可靠服務的重要基礎。傳統的電力負荷預測包括許多被廣泛采用的方法,例如SVM法、回歸法等等。這些方法的優勢在于實現難度低,便于操作,但是其預測精度往往難以滿足電網運營商的需求。傳統的BP神經網絡算法同樣存在一些弱點,包括學習過程收斂速度慢、算法易陷入局部極小點和魯棒性差等缺陷,對預測的效率與精度帶來一些影響。本文引入遺傳算法對其進行優化和改進,通過實驗與比較,證明了所構建的負荷預測系統的準確度,在電力需求側管理方面有著很好的實踐意義,值得推廣應用。
2.神經網絡負荷預測概述
可以將電力系統短期之內的負荷看做是一個標準的時間序列。從算法的角度來講,一般有兩個類型的預測模式,第一種是基于參數的時間序列預測,第二種是基于非參數的時間序列預測方法。本研究所涉及的基于BP神經網絡的電力短期符合預測屬于基于非參數的序列預測,這種預測方式的優勢在于不必再假設具體的信號模型。所以,與基于參數的預測相比較,具有更好的使用范圍。在電力短期符合預測中,可以把這些以時間序列存在的負荷數據作為歷史數據,以歷史數據來計算數據發展的未來趨勢,這就涉及到數據序列之間的映射關系,因為BP網絡的特性便于實現數據序列里的映射關系,所以十分適合于進行未來趨勢的預測。本文引入BP神經網絡,進行電力系統短期負荷的預測。
3.基于傳統神經網絡的負荷預測
電網負荷與歷史數據及天氣狀況之間是非線性的關系。經過仔細對其進行關聯分析,得到了影響較大的因子:溫度、時段、節假日以及環境,本研究將一天的24小時分為四個時段,為不使函數作用在其取值范圍的平坦區,以歸一化預處理的方法,將所采集的數據映射于 [0.1,0.9]區間。以一個星期為周期,把本星期之內的前6天作為訓練數據,最后一天作為預測數據,如表1所示:
結合Kolmogorov算法,輸入層有 12個神經元,隱含層為5個節點,輸出層中的神經元有4個。以傳統的神經網絡方法對BP網絡進行訓練,引入Matlab實現對實驗數據的仿真分析,結果為:訓練次數超過1000次后,訓練誤差預測誤差已經可以接受。
4.基于優化神經網絡的負荷預測
傳統的神經網絡具有學習過程收斂慢、算法易陷在局部極小值以及魯棒性差等缺陷,本文引入遺傳優化算法對其進行改進。遺傳算法能夠在全局范圍內以較快的速度找到最優解,收斂速度較快。通過改善權值和閾值的確定過程,增強其收斂速度,并避免其陷在局部極小值。
遺傳算法能夠以逼近自然選擇與自然基因的方法進行搜索,遺傳算法一般有三個步驟,分別是選擇、交叉與變異。本文引入遺傳算法訓練傳統神經網絡權值,具體的流程如下:
(1)對權值進行編碼操作,把其轉換為步長是l的字符序列。
(2)確定序列的初始種群,通過將以上的字符序列進行編號,把所有的權值轉換為一組數據,這些數據代表每一個個體,因此所有的數據便能夠形成初始種群。
(3)確定適應度,把BP的輸出誤差經過運算得到其能量函數E,適應度為F = C/E。
(4)確定適應度之后,對上一代種群進行考察,取里面適應度較高的部分(一般選取前十分之一的數據)直接投入下一代種群,其余的種群則處于待定狀態。
(5)進行數據交叉,引入單點交叉模式,將概率定于0.9。
(6)進行序列的變異,變異概率P=0.02。
(7)終止條件是否滿足,如果已經滿足,則操作停止,不滿足則返回步驟(4)。
(8)結束過程。得到神經網絡最優解,即權值和閾值。
同樣以表1的負荷數據作為研究內容,從基本BP網絡的誤差曲線可知,傳統神經網絡訓練次數超過1000次時,目標誤差值10-4剛剛達到,收斂較慢,性能不佳;而粒子群優化后的BP網絡則在第19次時滿足了目標誤差值,可見性能有較為明顯的提升, 經過更少的迭代次數就使網絡的性能達到了要求。
本研究的仿真過程數據偏少,而在樣本空間非常大的情況下,神經網絡結構將變得復雜,此時的基于傳統神經網絡的預測收斂速度將會顯著減慢,而優化之后的算法會體現出更加明顯的優越性。此時可以通過對數據的處理來適當縮小規模,并進一步提升交叉概率,以保證更快的效率和更高的電力負荷預測準確率。
5. 結束語
本研究將遺傳算法優化的BP算法應用于電力負荷預測,本文的成果對電力需求側管理和提升服務品質、夯實企業核心競爭力具有比較好的實踐意義和理論價值。新算法克服神經網絡固有的缺陷,經仿真試驗證明效果滿意,可以滿足短期負荷預測的需要。
參考文獻:
[1]梁海峰,涂光瑜,唐紅衛.遺傳神經網絡在電力系統短期負荷預測中的應用[J].電網技術,2011,25(1):49-53.
經典神經網絡算法范文3
關鍵詞:智能優化算法;啟發式教學;Matlab語言
中圖分類號:G642 文獻標識碼:B
1 引言
從教材和教學大綱出發,“智能優化算法及其應用”這門課程主要針對模擬退火算法、遺傳算法、禁忌搜索、神經網絡優化算法、混合算法等幾個方面進行了講解。由于該課程涉及的知識面很廣,內容比較抽象,所以學生往往難以理解,特別對各種優化算法的實際應用不能靈活掌握。這直接導致了學生學習興趣的減弱和對課程學習的厭倦情緒。為了克服上述問題,更好地實現教學目標,本文作者從教學方法、教學內容等方面出發對智能優化算法及其應用課程的教學進行了探索,改善了課堂教學和課外實踐的效果。
2 啟發式教學
所謂啟發式教學法,就是以學生的經驗為基礎,由教師提出問題,使他們思考去解決、分析、批評、判斷和歸納,因而可以觸類旁通、舉一反三,使經驗逐漸擴張,思路更為靈活。通過啟發式教學法,可以培養學生學習的內在動機,引導學生思考和逐步掌握各個知識點,使他們真正對所學的課程感興趣。為了更好地運用啟發式教學,教師應該首先向同學們闡述該課程的發展歷史和未來的發展前景,介紹該課程的理論和實踐背景,讓學生對課程的整體情況有所了解,并產生好奇心。
在啟發式教學過程中,教師可根據教學重點和難點,首先采取提問的方式引發學生進行思考,使他們的思維高度集中。在學生思考過程中,可根據他們的思考結果給與適當的提示與鼓勵,使他們的思考更加深入。接著可采用問答討論的方式,對學生的答案加以分析,使得學生的思維達到升華。最后,將學生討論的結果與課本的結果進行對比,找出異同點。通過上述啟發式的教學過程,學生可以更加深刻理解課程中的難點和重點。
如模擬退火算法是一種隨機優化方法,學生在學習課程之前已對經典的基于梯度的優化方法有一定了解。在介紹模擬退火算法之前,可先向學生提問:經典的優化方法的核心思想是什么。接著可再提出問題:如果在經典的優化方法中加入隨機因素會出現什么結果。教師可根據學生的回答給予適當的提示,最后再給出模擬退火算法的主要步驟和主體思想。
此外,在介紹混合算法的時候,也可以采用啟發式的教學法,如可提問學生如果把模擬退火算法和神經網絡混合起來進行問題求解應該怎么做。3示例教學
在教學過程中,如果只是純粹地講解理論知識,學生可能覺得索然無味,從而直接導致學習興趣的減弱。而通過選擇一些經典的示例進行分析、講解與討論,學生可以在學習過程中做到理論與實際相結合,并增加對所學知識實用性的了解,從而提高學習的積極性和主動性。
如在講解遺傳算法的主要步驟,即編碼、解碼、交叉、變異、選擇時,通過選擇最短路徑問題的示例來解釋其運行機理。最短路徑問題是一類離散優化問題,其主要任務是找到一條從起始點到終點的最短路徑。在運用示例講解時,首先給學生介紹如何對每一條路徑進行編碼,然后介紹如何對不同的路徑進行交叉、變異和選擇等操作,而且說明在上述過程中如果出現不合法路徑應該如何進行處理,最后講解如何選擇較好的路徑來進行下一次進化等等。通過上述講解,學生對遺傳算法的主要步驟具有了十分深刻的認識。
此外,在講解神經網絡時,可首先通過理論講解使學生對神經網絡的原理有了一定的了解,接著通過選擇一種經典的神經網絡示例,即BP神經網絡,對其原理及具體實現過程進行演示。在教學過程中,作者通過選用Matlab語言中的神經網絡工具箱,對BP神經網絡進行了講解,包括如何構造輸入層、隱含層和輸出層,如何執行反向傳播等等。最后再通過選用一個BP神經網絡應用于實際工程中的示例進行講解。這樣,學生對神經網絡的原理和應用便有了具體而生動的認識,從而也調動了學生的學習興趣。
4 多媒體課件教學
運用多媒體課件上課有許多“黑板+粉筆”不可企及的效果。運用多媒體課件上課,可以生動且有效地對教學重點與難點進行講解,同時通過多媒體課件中的動畫演示、錄像演示等可以使學生對學習要點有更直觀和深刻的了解,激發學生的好奇心。
如在解釋遺傳算法對某一優化問題的進化過程時,可將初始群體中個體的分布,運行到中間代數時群體中個體分布,和進化結束時群體中個體的分布情況通過多媒體演示出來。這樣,學生便對遺傳算法的進化迭代尋優思想有了很直觀的認識,而且學生可以很深刻的理解遺傳算法搜索到全局最優解的工作原理和過程。此外,還可通過錄像演示,將整個進化過程中每一代群體中個體的分布情況全部演示出來,這樣遺傳算法的整體執行過程便在學生眼前活靈活現地展示出來。
在介紹各種智能優化算法之間的優缺點、異同點時,也可通過多媒體課件中的各種圖形工具將優缺點和異同點進行歸納和總結,更清晰地展現在學生面前,同時也使得教師在講解時便于歸納敘述。
5 課程設計
課程設計是學生綜合運用課程所學知識的一個重要環節。特別對于智能優化算法及其應用這門課程,如何引導學生將優化算法應用到實際問題顯得尤為重要,這不僅鍛煉了他們的實際動手能力,也鍛煉了他們分析問題和解決問題的能力,可全面開發學生的創造性思維和創新能力,使課程設計真正成為學生綜合運用學科知識和進行能力培養的有效途徑。
在課程設計中,我們為學生設計了遺傳算法求解TSP問題、差異進化算法求解約束優化問題、粒子群優化算法求解多目標優化問題、BP網絡解決XOR分類問題等幾個題目,將學生分為若干組,要求學生采用Matlab、c語言等軟件實現上述問題的編程求解,并規定課程設計的時間為兩周。通過課程設計,學生對智能優化算法及其應用這門課程的理論和實踐得到了升華,并且團隊合作能力也得到了提高。
經典神經網絡算法范文4
關鍵詞:給水管網;優化技術;優化算法
中圖分類號:FV212.2 文獻標識碼:A 文章編號:1672-3198(2007)09-0272-01
1 優化算法及其分類
所謂優化算法,其實就是一種搜索過程或規則,它是基于某種思想和機制,通過某種途徑或規則來得到滿足用戶要求的解。
就優化機制與行為而分,目前工程中常用的優化算法主要可分為:經典算法、構造型算法、改進型算法、基于系統動態演化的算法和混合型算法等。
(1)經典算法。包括線性規劃、動態規劃、整數規劃和分枝定界等運籌學中的傳統算法,其算法計算復雜性一般很大,只適于求解小規模問題,在工程中往往不實用。
(2)構造型算法。用構造的方法快速建立問題的解,通常算法的優化質量差,難以滿足工程需要。
(3)改進型算法,或稱鄰域搜索算法。從任一解出發,對其鄰域的不斷搜索和當前解的替換來實現優化。根據搜索行為,它又可分為局部搜索法和指導性搜索法。
(4)基于系統動態演化的方法。將優化過程轉化為系統動態的演化過程,基于系統動態的演化來實現優化,如神經網絡和混沌搜索等。
(5)混合型算法。指上述各算法從結構或操作上相混合而產生的各類算法。
2 主要的智能優化算法
(1)模擬退火算法。
模擬退火算法是模擬加熱熔化金屬的退火過程,來尋找全局最優解的有效方法之一。模擬退火算法的得來是基于對物理退火過程的分析。在金屬退火處理過程中,常將它加熱熔化,使其中的離子可以自由運動,然后逐漸降低溫度,使離子形成低能態的晶體。不同的冷卻過程,可以使得離子達到不同等級的能量狀態,這一過程與金屬的初始狀態無關,如果冷卻速度足夠慢,則金屬將達到最低能量的基態。在算法的每一步,都產生一個組合的變化,然后對其費用進行評價。
由于模擬退火算法應用范圍幾乎不受限制,因此它可以用于求解各種優化問題,尤其是在大系統的優化方面,更是引起極大的關注。對于給水管網的優化設計問題,模擬退火算法理論上可以找到整體的最優解。但在實際運用中,由于控制參數值(冷卻因子)t的選定至今仍然沒有一個較成熟可靠的標準。控制參數t選取較小,求解時間較短,但是有可能導致搜索過程陷入局部最優解區域內即告終止,達不到理想的優化結果。反之,優化求解時間消耗過大,不能體現退火算法的優越性。所以t的選值將直接影響到優化結果。
(2)遺傳算法。
遺傳算法也是一種善于解決大系統的優化問題的一種優化算法,它在枚舉法的基礎上發展起來的,但是將無序的爆炸式組合通過一定的規律以減小計算量,從而提高優化速度。遺傳算法通過模擬自然界生物種群的遺傳和自然選擇的機制,搜索最優解?;蚬こ碳铀倭松镅刂祟愊M姆较蜻M化的進程所以其本身就是一種優化的工程和方法。①隨機選出若干生物個體,組成群體。②一代一代的對各個個體按照適應性(表現為用修正后的目標函數來表示)逐個評價。通過評價,按照適合度的大小,優勝劣汰,組成優良親本群體,用于繁殖新一代,經過若干代的繁殖,實現染色體的交換(表現為管徑組合中某些管徑值的改變),加之基因的變異,可以將新的種群的優良特性得以遺傳和保留到下一代,適合度不斷提高,使種群進化,最終達到種群中最優個體的出現,由此對應于的優化問題找到最優解。
在管網優化的問題中,解答的形式是按照管段編號順序列出的各管段的管徑,這些管徑為決策變量解的結果對應于GA問題的生物個體,決策變量對應于生物個體中的染色體GA法的概念簡單,僅僅需要適合度這一個信息就可以完成尋優的過程,對于問題的依賴型較小,能夠讓用戶根據實際情況進行管段流量、流速、管徑、節點水頭等多種約束,而且能夠進行全局搜索。因此在理論上可以找到問題的整體最優解,也可用離散變量直接計算,用戶端結果是標準的管徑值。GA算法在搜索時采用啟發式的搜索,而不是盲目的枚舉,因而具有更高的搜索效率。但是,由于遺傳算法本身的理論基礎還處于研究階段,許多概念還有待于進一步明晰化。例如適合度函數如何表述才能使得計算出來的適合度反映了管網的實際情況,這些都仍然處于探索階段,故目前GA算法所得出的解一般不直接用于實際,而是用在方案比較時僅作為參考。
(3)遺傳退火算法。
將遺傳算法與退火算法相結合,也是九十年代的新趨勢,遺傳退火算法兼顧了遺傳算法的啟發式搜索和退火算法的接受逆優化解的尋優特點,使得尋優過程更加智能化,代表了未來優化方法的發展方向。
(4)禁忌搜索算法。
禁忌搜索的思想最早由Glover (1986)提出,它是對局部鄰域搜索的一種擴展,是一種全局逐步尋優算法,是對人類智力過程的一種模擬。TS算法通過引入一個靈活的存儲結構和相應的禁忌準則來避免遷回搜索,并通過藐視準則來赦免一些被禁忌的優良狀態,進而保證多樣化的有效探索以最終實現全局優化。相對于模擬退火和遺傳算法,TS是又一種搜索特點不同的meta-heuristic算法。迄今為止,TS算法在組合優化、生產調度、機器學習、電路設計和神經網絡等領域取得了很大的成功,近年來又在函數全局優化方面得到較多的研究,并大有發展的趨勢。
(5)神經網絡優化算法。
人工神經網絡是近年來得到迅速發展的一個前沿課題。神經網絡由于其大規模并行處理、容錯性、自組織和自適應能力和聯想功能強特點,已成為解決很多問題的有力工具,對突破現有科學技術的瓶頸,更深入探索非線性等復雜現象起到了重大作用,已廣泛應用在許多工程領域。人工神經元是生物神經元特性及功能的數學抽象,神經網絡通常指由大量簡單神經元互連而構成的一種計算結構,它在某種程度上可以模擬生物神經系統的工作過程,從而具備解決實際問題的能力。神經網絡優化算法就是利用神經網絡中神經元的協同并行計算能力來構造的優化算法,它將實際問題的優化解與神經網絡的穩定狀態相對應,把對實際問題的優化過程映射為神經網絡系統的演化過程。
另外,還有一些經典算法與其他相關數學理論相結合形成的優化算法,如模糊規劃、隨機規劃、灰色規劃等方法。
參考文獻
[1]宋仁元.對貫徹城市供水2000年發展規劃的幾點體會[J].中國給水排水,1999,15,(1):18-20.
經典神經網絡算法范文5
1.1混合神經網絡的結構本文提出的混合神經網絡是在CC神經網絡的基礎上,在隱含層的生成中增加了乘算子的部分以提高神經網絡非線性辨識能力。乘算子和加算子結構上的自增長基本相互獨立,既保留了原CC神經網絡的優點,同時也使得乘算子的特點得到發揮?;旌仙窠浘W絡的結構如圖3所示,網絡的隱含層由兩種不同類型的算子(乘算子和加算子)共同構成。這種混合隱含層根據構成的算子類型分為加法部分和乘法部分。通過相關性s來確定其中一個隱含層部分增加節點,加法部分采用級聯結構與原CC神經網絡相同,乘法部分采用單層結構避免其階數過高,最后兩個隱含層的輸出同時作為輸出節點的輸入進行輸出。
1.2引導型粒子群算法針對混合隱含層的結構、權值和閾值的求取,本文提出了一種新的引導型粒子群算法(GQPSOI)。GQPSOI通過控制粒子i和j之間的距離來保證粒子不會收斂得太快從而陷入局部極小值,同時根據各粒子p(i,:)和p(j,:)之間的距離D(i,j)以及粒子間平均距離D來計算淘汰度Ew決定淘汰粒子并對其進行量子化更新。
1.3混合神經網絡算法流程混合神經網絡的自增長過程如圖4所示。網絡增長的具體步驟如下。(1)網絡結構初始化。網絡中只有輸入層和輸出層,無隱含層,如圖4(a)所示。(2)使用GQPSOI算法訓練輸出權值。(3)對網絡性能進行判斷,如滿足要求,則算法結束,網絡停止增長,如圖4(d)所示,否則轉到下一步。(4)建立隱含層節點候選池(內含一個乘算子和一個加算子),分別將候選隱含層節點代入網絡結構并使用GQPSOI算法以最大相關性原理訓練兩個候選節點,分別計算兩個候選節點與現有殘差Ep,o的相關性s。(5)選擇相關性s最大的候選節點,作為新的隱節點加入網絡結構,如圖4(b)、(c)所示,并固定新隱節點的輸入權值。轉移到步驟(2),對整個網絡的輸出權值進行調整。
2混合神經網絡網絡性能測試
2.1GQPSOI算法性能測試首先應用幾個經典函數[9]對GQPSOI算法的性能進行了評價,并將實驗結果與幾種常見的算法進行了對比。這些函數包括:F1(Sphere函數)、F2(Rosenbrock函數)、F3(Rastrigin函數)、F4(Griewank函數)、F5(Ackley函數),評價函數的維數為10。經過30次獨立運行實驗,每次的函數評價次數(FEs)[12]為100000。表1給出了GQPSOI算法與離子群算法(PSO),遺傳算法(GA)以及差分進化法(DE)在30次獨立運行評價試驗中得到最優值的平均值和標準差。從表1中可以看出,在F2的實驗中GQPSOI算法在30次獨立運行中的平均值為7.746×10−12,這一結果明顯優于PSO算法的29.55和GA算法的97.19,略優于DE的2.541×10−11。從F1、F3、F4、F5的實驗結果也都可以看出GQPSOI算法明顯優于其他算法。實驗證明了GQPSOI算法的有效性和適用性,能夠應用于神經網絡的參數和結構調整。
2.2燃料電池的建模實驗
2.2.1基于燃料電池輸出電壓的模型質子交換膜燃料電池[13-15]作為一種高效的清潔能源,在過去的幾十年里取得了巨大的進展。在正常操作條件下,一片單電池可以輸出大約0.5~0.9V電壓。為了應用于實際能源供應,有可能需要將多片單電池串聯在一起。具有級聯結構的質子交換膜燃料電池實驗裝置如圖5所示。從圖5可以看出,電池引出電流I,電池溫度T,H2和O2壓力PH2和PO2會影響電池電壓。將混合神經網絡用于質子交換膜燃料電池的軟測量建模,選用電池引出電流I,電池溫度T,H2和O2壓力PH2和PO2會影響電池電壓的變量作為輸入變量。將56片單電池的串聯輸出電壓作為其輸出,模型的目標函數取實際輸出值與模型輸出值得均方根誤差(使其最小)?;旌仙窠浘W絡中加法部分以及輸出層的神經元傳遞函數采用S型函數,GQPSOI算法中設置種群數30,最大迭代步長為1000,引導粒子起作用的概率設置為2%。圖6為5kW質子交換膜燃料電池堆的實驗裝置。該實驗系統采用增濕器與電池堆分體設置,參數檢測采用傳感器-直讀式儀表方式,氣體和水的流量測量采用轉子流量計,電堆采用電阻負載,可直接測量電堆的輸出電流、電壓或功率。電池堆參數見表2。
2.2.2結果與分析實驗條件如表3所示。取燃料電池裝置輸出的前100個值作為訓練樣本,后100個值作為測試樣本。分別用CC神經網絡,CC-GQPSOI和混合神經網絡進行訓練,當訓練目標函數小于0.1或最大隱含層節點數達到30時網絡停止增長,訓練結束。表4給出了其最大相對誤差和均方根誤差的對比。圖7顯示了最終訓練預測數據與輸出數據之間的對比。從表4可以看出CC-GQPSOI和混合神經網絡分別在隱含層節點數為4和6時達到訓練要求,相較于CC神經網絡的30個隱含層節點具有較小的網絡結構。同時CC-GQPSOI和混合神經網絡的均方根誤差(3.0723×10−2和3.8606×10−2)也相較于CC神經網絡的均方根誤差(1.0354)具有更高的精度。從圖8和圖9的泛化結果來看,混合神經網絡的預測誤差保持在0.7以內,相對誤差(絕對誤差與被測量真值之比)保持在1.25%以內。CC-GQPSOI的誤差在1以內。相對誤差保持在3%以內。從實驗結果可以看出,混合神經網絡可以精確地預測出燃料電池裝置的輸出,反映了實際工況,具有良好的應用前景。
3結論
經典神經網絡算法范文6
關鍵詞:卡爾曼濾波,BP神經網絡,狀態估計,導航系統
1 引言
捷聯慣導系統(SINS)和GPS組合而成的導航系統是當今導航領域最主要的組合方式,它有效的減少了系統誤差,提高精度,降低了導航系統的成本,這種組合方式已在航天航空、航海、陸地平臺導航、測繪等領域得到了廣泛應用。在傳統的SINS/GPS組合狀態估計中,經典卡爾曼濾波器[3]發揮重要作用,但其要求條件苛刻,主要體現在要求模型的狀態方程和量測方程精確、系統噪聲和量測噪聲的統計模型為零均值的高斯白噪聲;但在復雜環境下,噪聲的統計信息不可能預見,更不可能是理想的高斯白噪聲,因此,許多在仿真條件下表現非常好的系統運用到實際環境中就容易出現精度下降甚至發散現象。而回歸BP神經網絡具有較強的并行計算能力,容錯性好,在神經元數量足夠時,逼近非線性函數的程度比較好。本文在經典濾波的基礎上引入回歸BP神經網絡[4]對組合導航系統進行狀態估計,盡可能減少非線性噪聲對系統的影響;首先利用經典卡爾曼濾波對不同特性的噪聲輸入下的系統進行估計,得到各條件下的狀態后,將各條件下的狀態估計均值作為樣本輸出,以各種噪聲集對網絡進行訓練;在訓練結束后,將訓練后的回歸BP神經網絡作為狀態估計器輸出組合導航系統估計值。
2 回歸BP神經網絡算法
誤差反向傳播BP算法是前向網絡學習算法中應用最為廣泛的算法,回歸BP網絡是在BP算法中采用的梯度下降法推廣到回歸網絡中,其具有反饋和前饋機制,即在網絡的一個訓練周期中,網絡的輸出同時反饋給網絡的輸入神經單元作為網絡的外部輸入。如圖1所示為一個典型的三層回歸BP網絡。
圖1回歸BP網示意圖
在圖1中有一個關聯層,每一個隱含的結點都有一個相應的關聯層結點與之連接,并且連線的權值可調,而關聯層的信號來自于輸出,關聯層節點起到了存儲網絡內部狀態的作用,當關聯層與中間層連接后,起到了狀態反饋的作用,這為組合導航系統這種典型的時間序列信號分析提高了有力的工具,具有“記憶”功能的回歸BP網絡能夠對一階馬爾科夫序列很好的濾波和預報。反饋網絡的反饋激勵的加入使得局部的記憶特性被放大易造成傳統的梯度下降學習方法過早的收斂,本文采用可修正速率的梯度下降學習法,其本質是綜合考慮當前和前一時刻的梯度向量,調整其具有適應性,不因為某一時刻的梯度變化而改變網絡的收斂狀態。算法的基本要求與傳統梯度法基本相同,學習的準則是讓網絡實際輸出與樣本比較,直至誤差平方和達到最小。在算法中加入速率因子,使神經網絡權值的更新不僅考慮了當前梯度方向,還考慮了前一時刻的梯度方向,減少網絡反饋對闡述調整的敏感性,有效抑制了局部最優;速率因子的取值應當根據網絡可能陷入局部最優的程度而定。
3 導航系統的狀態表達與組合濾波
根據SINS/GPS組合導航系統得理論,可以得到如下組合誤差的狀態方程:
F(t)為系統的動態矩陣;G(T)為系統噪聲系數矩陣;W(t)為系統噪聲。
本文中對系統噪聲仍確定為高斯白噪聲,這是由于系統噪聲的統計特性一般不會劇烈變化,而系統量測噪聲的統計特性變換是引起卡爾曼濾波器性能下降的主要因素。系統量測噪聲容易受到外界環境的干擾,如溫度、電磁場、濕度等等,因此本文主要針對卡爾曼濾波中的量測噪聲統計特性變化進行研究。
4 回歸BP神經網絡對組合導航系統的狀態估計
4.1 回歸BP神經網絡對組合導航系統狀態估計模型設計
神經網絡的訓練是神經網絡能夠應用的前提。在樣本訓練中對同一狀態量輸入X,選取不同的噪聲集合,通過卡爾曼濾波器,取得一系列的不同條件下的最優估計,將這些最優估計的狀態均值作為神經網絡期望樣本輸出的真實值,構成了不同噪聲集合下得輸入樣本和卡爾曼濾波器得到的輸出樣本;通過不同噪聲集合樣本的訓練,使得神經網絡具有處理各種統計特性噪聲的自適應能力。訓練結束后,就可以利用普通的無偏卡爾曼濾波器和訓練好的神經網絡進行狀態估計。圖2為卡爾曼濾波和神經網絡組合的示意圖。
圖2 卡爾曼濾波與回歸BP神經網絡組合示意圖
在實際的參數選取和設計中,本文采用卡爾曼濾波器的初始估計和SINS/GPS的參數誤差作為回歸BP神經網絡的狀態變量。選取參數誤差X作為回歸BP網絡的狀態變量。
以上參數依次為:緯度誤差、經度誤差、高程誤差、東向速度誤差、北向速度誤差、垂直速度誤差,三個姿態角誤差。將普通卡爾曼濾波器的輸出作為初始值。
4.2 仿真實驗與分析
1)不進行任何濾波的SINS位置誤差曲線
圖4 不加濾波器的SINS位置誤差曲線 圖5 組合濾波后北向位置估計誤差曲線
圖4是斷開卡爾曼濾波器和神經網絡的結果。沒有GPS和濾波器的輔助,在很短的時間內,單純的SINS輸出就會偏移很多。。。
2)進行組合濾波后的誤差曲線
在加入GPS和濾波器后,從圖5可以看出,濾波器狀態估值與真實值之間的誤差變化保持在較高的水準,說明濾波器明顯減少了SINS的漂移和積累誤差,并且在噪聲復雜多變的情況下仍然表現出了平滑過渡的狀態。需要說明的是由于GPS的位置精度從長期看是高于SINS的,本文在進行位置估計的時候,出于以SINS為主的思想,給予GPS的權值較小。
圖6 組合濾波后滾動角估計誤差曲線 圖7卡爾曼濾波滾動角估計誤差曲線圖
從姿態角的誤差分析可以看出,濾波器能夠很快的收斂。。SINS的姿態誤差受到外界條件影響是比較大的,即量測噪聲的影響超過系統噪聲,從圖6中可以看出,在噪聲統計特性變化的條件下,誤差值仍然很小,說明神經網絡系統能夠有效地對量測噪聲進行濾波。
3)組合誤差與普通卡爾曼濾波誤差的比較
對單純卡爾曼濾波系統和組合系統分別輸出的姿態角的比較。對實測數據中SINS和GPS原始數據加載入濾波器。誤差圖進行了部分的放大,如圖7所示,從圖7中可以明顯看出,單純的卡爾曼濾波系統對復雜噪聲的濾波能力遠遠差于組合系統,表現在數據曲線上就是跳動很明顯,也驗證了組合系統具有較好的對不同統計特性的復雜噪聲的適應能力。
5 結論
本文探討了采用神經網絡系統對導航系統濾波的問題。采用卡爾曼濾波器與回歸BP神經網絡系統的組合能夠有效地提高導航系統在復雜環境下的導航精度,并且能夠做到較快的收斂。但是這種方法的缺點在于需要大量的樣本輸入和需要完善的噪聲組合選擇,同時也受到計算能力的限制。此外,隱含層層數的選擇和結點個數的選擇應當如何優化,也是一個需要探索的問題。
參考文獻:
[1] 以光衢,慣性導航原理[M],航空工業出版社,1987
[2] 張守信,GPS衛星測量定位理論與應用[M],國防科技大學出版社,1996
[3] 張玲,張鈸,人工神經網絡及其應用[M],浙江科學技術出版社,1997
[4] 秦永元,卡爾曼濾波與組合導航原理[M],西北工業大學出版社,1998
[5] Kanckar A J , Fellachi A. State estimation using artificial neural networks[A]. Proceedings of the 1994 IEEE Int.Conf. on Robotics and Automation[C],1994
[6] 周鑫,船用慣導衛星全組合技術[D], 長沙,國防科技大學碩士學位論文,2005
[7] 劉志儉,GPS載波相位差分技術、捷聯慣性導航系統初始對準技術及其組合技術研究[D],長沙,國防科學技術大學博士學位論文,2003.3