前言:中文期刊網精心挑選了人工神經網絡的意義范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。
人工神經網絡的意義范文1
關鍵詞: 人工神經網絡; 應用
人工神經網絡(Artificial Neural Network,ANN)方法自從本世紀40年代被提出以來,許多從事人工智能、計算機科學、信息科學的科學家都在對它進行研究,已在軍事、醫療、航天、自動控制、金融等許多領域取得了成功的應用。目前出現了許多模仿動物和人的智能形式與功能的某個方面的神經網絡,例如,Grossberg提出的自適應共振理論(Adaptive Resonance Theory,ART),T-Kohenen的自組織特征映射網絡(Self-Organizing feature Map,SOM),徑向基函數網絡(Radial Basis Function,RBF),Hopfield網等。進入90年代以后,由于計算機技術和信息技術的發展,以及各種算法的不斷提出,神經網絡的研究逐漸深化,應用面也逐步擴大,本研究對常用的神經網絡方法及其在醫學領域中的應用做一簡單綜述。
1 自組織特征映射網絡(self-organizing feature map,SOM)在基因表達數據分析中的應用
1.1 方法介紹
腦神經學的研究表明,人腦中大量的神經元處于空間的不同區域,有著不同的功能,各自敏感著各自的輸入信息模式的不同特征。芬蘭赫爾辛基大學神經網絡專家T.Kohonen根據大腦神經系統的這一特性,于1981年提出了自組織特征映射網絡,它模擬人的大腦,利用競爭學習的方式進行網絡學習,具有很強的自組織、自適應學習能力,魯棒性和容錯能力,其理論及應用發展很快,目前已在信息處理、模式識別、圖像處理、語音識別、機器人控制、數據挖掘等方面都有成功應用的實例。
Kohonen網絡由輸入層和競爭層組成,網絡結構見圖1。輸入層由N個神經元組成,競爭層由M個輸出神經元組成,輸入層與競爭層各神經元之間實現全互連接,競爭層之間實行側向連接。設輸入向量為x=(x1,…,xd)T ,輸出神經元j對應的權重向量為wj=(wj1,…,wjd)T ,對每一輸出神經元計算輸入向量x 和權重向量wj 間的距離,據此利用競爭學習規則對權向量進行調節。在網絡的競爭層,各神經元競爭對輸入模式的響應機會,最后僅一個神經元成為勝利者,并對與獲勝神經元有關的各權重朝著更有利于它競爭的方向調整,這樣在每個獲勝神經元附近形成一個“聚類區”,學習的結果使聚類區內各神經元的權重向量保持與輸入向量逼近的趨勢,從而使具有相近特性的輸入向量聚集在一起,這種自組織聚類過程是系統自主、無教師示教的聚類方法,能將任意維輸入模式在輸出層映射成一維或二維離散圖形,并保持其拓撲結構不變。網絡通過對輸入模式的學習,網絡競爭層神經元相互競爭,自適應地形成對輸入模式的不同響應,模擬大腦信息處理的聚類功能、自組織、自學習功能,實現用低維目標空間的點去表示高維原始空間的點,其工作原理和聚類算法及改進方法參見相關文獻[1]。
1.2 應用
基因芯片技術的應用使得人們可以從基因水平探討疾病的病因及預后,而基因芯片產生的數據具有高維度(變量多)、樣本量小、高噪聲的特點,樣本量遠小于變量數,如何從海量的數據中挖掘信息或知識成為重大課題。聚類分析是數據挖掘中的一類重要技術,傳統方法主要有系統聚類、k-means聚類等,但在處理復雜非線性關系及變量間的交互作用時效果較差,受異常值影響較大。近年來神經網絡技術法成為聚類領域的研究熱點,其中自組織特征映射網絡由于其良好的自適應性,其算法對基因表達數據的聚類有較高的穩定性和智能性,尤其在處理基因表達中有缺失數據及原始空間到目標空間存在非線性映射結構時有較好的體現,適用于復雜的多維數據的模式識別和特征分類等探索性分析,同時可實現聚類過程和結果的可視化[2]。目前Kohonen網絡已被成功用到許多基因表達數據的分析中,Jihua Huang等[3]設計6×6的網絡對酵母細胞周期數據進行分析,總正確率為67.7%;曹暉等[4]將其算法改進后用在酵母菌基因表達數據中,總正確率高達84.73%,有較高的聚類效能;鄧慶山[5]將該模型與K平均值聚類方法結合用于公開的結腸基因表達數據集和白血病基因表達數據集,聚類的準確率分別為94.12%和90.32%。目前Kohonen網絡在醫學領域中主要應用前景有:① 發現與疾病相關的新的未知基因,對目標基因進一步研究,提高診斷的正確率,并對藥物的開發研究提供重要的線索;② 對腫瘤組織的基因表達譜數據聚類,以期發現新的、未知的疾病亞型(腫瘤亞型),以便提出更加有針對性的治療方案,為從分子水平對疾病分型、診斷、預后等提供依據;③ 發現與已知基因有相似功能的基因,為推斷未知基因的可能功能提供線索。
2 BP神經網絡在醫學研究中的應用
2.1 BP神經網絡在疾病輔助診斷中的應用
2.1.1 方法介紹
BP神經網絡是目前應用最多的神經網絡,一般由一個輸入層(input layer)、一個輸出層(output layer)、一個或幾個中間層(隱層)組成。每一層可包含一個或多個神經元,其中每一層的每個神經元和前一層相連接,同一層之間沒有連接。輸入層神經元傳遞輸入信息到第一隱層或直接傳到輸出層,隱層的神經元對輸入層的信息加權求和,加一個常數后,經傳遞函數運算后傳到下一個隱層(或輸出層),常用的傳遞函數是logistic函數,即Φh=1/(1+exp(-z)) ,輸出層神經元對前一層的輸入信息加權求和經傳遞函數Φ0 (線性或logistic函數或門限函數)運算后輸出,BP神經網絡一般采用BP算法訓練網絡,關于BP算法及改進可參考相關文獻[1]。
人工神經網絡的意義范文2
關鍵詞:油氣輸送;ANN技術;意義;應用
1 ANN技術
ANN技術也就是人工神經網絡技術。人工神經網絡是一種通過模仿動物神經網絡行為特征,進行分布式并行信息處理的算法數學模型。人工神經網絡通過調節系統內部大量節點之間相互連接的關系,并對其之間關系進行信息處理,從而達到處理信息的目的。人工神經網絡具有自學習和自適應的能力。人工神經網絡技術(ANN技術)就是根據人工神經網絡而提出來的處理單元互聯組成的非線性、自適應信息處理系統技術,利用人工神經網絡技術可以通過模擬大腦神經網絡處理、記憶信息的方式進行信息處理。ANN技術通常是通過一個基于數學統計學類型的學習方法得以優化,所以人工神經網絡技術也是數學統計學方法的一種實際應用。人工神經網絡技術具有四個基本特征:非線性、非局限性、非常定性、非凸性。
就目前來說,常用的人工神經網絡是Hopfield聯想記憶網絡,波爾茲曼學習機和網絡誤差反傳(BP)試驗方法。BP網絡可以對油氣管道油氣泄漏、管道腐蝕速度等進行預測,所以在油氣儲運中,應用最多的是BPNN技術。
2 ANN技術在油氣儲運中的應用
(一)在油氣儲運中運用ANN技術的重要意義
油氣儲運工程主要包括油氣田集輸、長距離輸送管道、儲存與裝卸等,它是連接油氣生產、加工、分配、銷售諸環節的紐帶。ANN技術通常是通過一個基于數學統計學類型的學習方法得以優化,所以人工神經網絡技術也是數學統計學方法的一種實際應用。人工神經網絡(ANN)具有非線性、非局限性、非常定性、非凸性等特征,用人工神經網絡技術的自適應能力學習管道的各種工況,對管道運行狀況進行分類識別,從而更準確的檢測油氣儲運管道泄漏情況和管道腐蝕速度。為了更加準確的檢測油氣儲運管道泄漏情況和管道腐蝕速度,為了石油生產建設的需要,因此要在油氣儲運中運用人工神經網絡技術(ANN技術)。
(二)ANN技術在油氣儲運中的具體應用
(1)在油氣儲運中應用ANN技術,是因為人工神經網絡(ANN)具有以下的特點和優越性:第一,具有自學習功能。例如管道的油氣泄漏情況或者管道腐蝕度進行識別時,首先要把不同管道的泄漏或腐蝕圖像樣板以及對應的應識別結果輸入到人工神經網絡系統(ANN)中,利用人工神經網絡系統(ANN)的自學功能,學會識別其他的相類似的圖像。人工神經網絡(ANN)的自學習功能對于油氣管道泄漏情況和管道腐蝕情況預測有特別重要的意義。第二,利用人工神經網絡(ANN)的聯想存儲功能,把關于石油管道泄露或腐蝕等的各種情況進行相互的聯想、比對,找出石油管道泄露的具體地方以及管道腐蝕的情況,進而提出切實可行的解決措施。第三,利用人工神經網絡(ANN)的高速尋找優化解的能力,通過計算機的高速運算,找出解決石油運輸中出現的問題的最佳方法。
(2)BPNN網絡是一種基于廣義2R規則的有監督的學習網絡,屬誤差修正算法。采用BPNN網絡對管道泄漏進行檢測,主要是利用單元希望輸出與實際輸m之問的偏差作為連接權調整的參考,并最終減小這種誤差。
(3)自適應模糊神絳網絡系統具有自學習能力和非線性映射,它不僅能夠獲取信號的最佳估計,并且能夠克服信號處理中存在的模型和噪聲的不確定性、不完備性,所以可以用于噪聲信號的非線性建模。利用自適應模糊神經網絡系統的去噪可以提高壓力信號、流量信號的信噪比。自適應模糊神經網絡的自適應噪聲抵消器具有實現簡單、節省運行時間,能快速、有效地消除流量、壓力信號中的各種噪聲的特點,所以把自適應模糊神絳網絡系統應用到油氣儲運中管道泄漏、腐蝕情況的檢測中,提高泄漏檢測和定位的精度。
(4)可以利用人工神經網絡對油氣管道的腐蝕過程和腐蝕速度進行預測。在油氣輸送管道中,由于各種油氣性質的不同,再加上高速度、高循環率的運輸,增加了油氣管道的腐蝕程度。我們可以通過人工神經網絡(ANN),采用逐步回歸的方法對油氣管道中的腐蝕程度和腐蝕速度進行預測,進而保證油氣管道能夠安全有效的運行。
3 結語
綜上所述,油氣儲運工程主要包括油氣田集輸、長距離輸送管道、儲存與裝卸等,它是連接油氣生產、加工、分配、銷售諸環節的紐帶。ANN技術也就是人工神經網絡技術,ANN技術具有可以充分逼近任意復雜的非線性關系,具有很強的魯棒性和容錯性,能夠同時處理定量、定性知識,能夠優化設計、模式識別、聯想記憶等特點。在油氣儲運中用人工神經網絡技術的自適應能力學習管道的各種工況,對管道運行狀況進行分類識別,更準確的檢測油氣儲運管道泄漏情況和管道腐蝕速度。
參考文獻:
[1]王延民,齊志財.ANN技術在油氣儲運中的應用[J].油氣田地面工程.2008,(10):55.
人工神經網絡的意義范文3
關鍵詞:建筑管理人工神經網絡 模仿人腦人工智能
人工神經網絡(Application of Neural Network)與人工智能(Artificial Intelligence)處于總分結構。人工神經網絡從屬于人工智能系統,是其中一個分支領域。它作為一款對非線性問題處理十分簡便的工具,擁有極強的非線性映射能力與良好的適應能力及糾錯能力。在傳統的語音與圖像識別等領域外,人工神經網絡在經濟管理、專業工程等諸多領域都嶄露了頭腳,并獲得廣泛的認可。我國首篇將人工神經網絡應用與土木工程領域的文獻始發于上世紀八十年代末期,隨后即在建筑工程項目的管理當中逐漸為人們所廣泛認知,下面,就幾點對人工神經網絡在建筑管理當中的應用作進一步分析。
一、人工神經網絡在建筑管理應用中的預測作用
1.費用預測方面。人工神經網絡在費用評估方面的應用,主要采用BP神經網絡進行試驗,通過對公路工程的樣例進行試驗,發現其比傳統方法要更加保質保量。塔雷克•哈加西(1998年)等通過運用MS2Excel表格對人工神經網絡進行模擬,并在輸入層和隱含層加入了偏置神經元來促進網絡學習。它的缺點是因網絡學習過程中樣本數據含有噪音,會對系統造成過度學習的謬誤,這種問題運用規范化網絡可以得到有效的解決。在我國BP神經網絡研究的歷史上,相關方面的研究學者對其應用于建筑工程估價的能力有較高評價,其中不僅神經網絡的特征歸納作用可從海量的工程資料當中尋找出工程項目與預算費用的規律關系,還因其具有高度糾錯能力,可對工程資料當中因人為因素造成的偏差進行糾正。同時因人工神經網絡是通過并行處理來對數據進行梳理,所以其運算速度極快,且質量同時也能得到保證,這不僅滿足了當前信息化時代快速估算的效率要求,并且事實證明它是行之有效并可以投入實際應用中的。
2.風險預測方面。建筑管理當中諸多領域都對風險分析與風險預測都有涉及,這二者涵蓋了很多不可知的因素與風險因素,危及到了企業的管理經營,束縛了企業的發展腳步,長此以往即會對企業的健康長遠發展造成不利影響。能夠適時、到位的對企業即將面對的風險作出報告并采取針對措施,是及時規避企業風險的最佳途徑。時下企業通常采用計量經濟模型與編輯效應分析等方式以建立風險評估與預測系統,用來對現行企業狀態進行分析??墒沁@些方法普遍存在著一些問題。比如經濟變量的執行時間不同,使得在簡單加權時出現漏報現象,以及人工制定的警戒區無法適應外部環境的變化性等。然而運用擁有非線性映射與模式分析能力的人工神經網絡便可以建立相對完善的風險預警系統,從而更加適應系統的不確定性與突然性。
二、人工神經網絡在建筑管理中事故診斷的作用
在建筑工程項目管理當中,受多方客觀因素的制約,工程的進展常常會伴隨出現林林總總的工程事故發生,甚而有些事故毫無征兆,突然間出現。在事故發生后,要找尋事故的原因也并非易事,同樣要耗費大量人、財、物力資源,且并不能及時找出事故原因,錯過了最佳補救時間。人工神經網絡在建筑工程中對于工程事故的診斷分析,對建筑工程管理中工程質量的提高具有里程碑式的意義,其建筑專家系統存在著巨大的潛力。
建筑專家在進行對工程事故的風險評估時,第一步要運用工程事故所表現出來的一些外在特征與一系列統計數據,依照自身積累的大量經驗,對事故的類型進行分類記錄,在分類后便可以根據各方面特點,如事故類型、受損程度與曾用的補救措施來對工程事故進行風險評估與補救方案的制定。事故評定過程的關鍵在于建筑專家系統的數據規模,這種數據從大量典型事故案例中得出相關癥狀、事故狀態與補救措施間相互關聯的數據理論,傳統的專家系統對建筑管理最廣泛的應用使在基于規則與診斷矩陣中表示建筑專家經驗知識,即統計數據的方法。這種表示方式只能對分類做出明示,卻不能對事故與事故間存在的聯系做出明確反映。知識工程師在某些層面上對經驗知識難以進行明確的表達,這是傳統工程事故專家系統所存在的缺點?;谌四X神經系統功能與結構模擬之上研制而出的人工神經網絡,能通過不斷對實例數據的吸納,進行拓展學習,將知識充分融于神經網絡當中進行存儲,從而通過不斷的對知識的接收、學習,進行自我的完善與增強。同時它的類比能力更加令人關注,它不僅能將實例間的相同處與不同處逐一篩選,從而進行歸納匯總,充實自身數據庫,還能由此體現出神經網絡中神經元之間連接權值調整過程。特別是它的自我邏輯能力超強,如果當下的信息并不完整,它依然會靠強大的邏輯能力進行推測,通過計算而得出讓人滿意的答案。
結語:
當今社會依靠傳統的管理方式已經遠遠無法滿足快節奏的經濟生活,本文通過對人工神經網絡在建筑管理工作當中的費用預測、事故診斷能力及事故解決方案制定等作用進行闡述分析,希望能對建筑工程行業的發展盡綿薄之力。
參考文獻:
人工神經網絡的意義范文4
關鍵詞:成都中小微企業 人工神經網絡 預測
1、人工神經網絡
人工神經網絡是一種應用類似于大腦神經突觸聯接的結構進行信息處理的數學模型。在工程與學術界也常直接簡稱為神經網絡或類神經網絡。神經網絡是一種運算模型,由大量的節點(或稱神經元)和之間相互聯接構成。每個節點代表一種特定的輸出函數,稱為激勵函數(activation function)。每兩個節點間的連接都代表一個對于通過該連接信號的加權值,稱之為權重,這相當于人工神經網絡的記憶。網絡的輸出則依網絡的連接方式,權重值和激勵函數的不同而不同。而網絡自身通常都是對自然界某種算法或者函數的逼近,也可能是對一種邏輯策略的表達。
2、基于人工神經網絡的預測模型的構建
在運用ANN預測模型預測這兩個指標時,我們采取下面的預測步驟:
(1)首先將1-6月份的數據標準化,及轉化為0-1之間的標準化數據;
(2)我們將輸入設為1月份、2月份、3月份、4月份的數據,輸出設為5月份的數據;
(3)在matlab中調用newff函數,建立一個5個輸入節點、10個隱含層節點、一個輸出節點的BP神經網絡,隱含層和輸出層轉移函數分別采用tansig(tansig(n) = 2/(1+exp(-2*n))-1)和purelin(y=x),訓練函數選擇貝葉斯正則化算法trainbr,得到網絡仿真數據;
(4)通過得到的網絡仿真數據與實際的數據進行比較,我們可以發現該預測模型的精度很高。從而我們可以利用該預測模型預測未來月份的數據,作為決策者進行決策的依據。
3、分規模企業運行態勢預測模型
3.1中型企業運行態勢預測模型
我們按照上述步驟,得到最終的預測值,如表1所示,可見,預測值與實際值之間相差并不大,誤差為0.099973%。
表1運行監測指標按規模(中型)ANN預測模型實際值與預測值對比表
3.2小型企業運行態勢預警模型
我們按照上述步驟,得到最終的預測值,如表2所示,可見,預測值與實際值之間相差并不大,誤差為0.099974%。
表2運行監測指標按規模(小型)ANN預測模型實際值與預測值對比表
3.3微型企業運行態勢預警模型
我們按照上述步驟,得到最終的預測值,如表3所示,可見,預測值與實際值之間相差并不大,誤差為0.098246%。
表3 運行監測指標按規模(微型)ANN預測模型實際值與預測值對比表
4、結束語
運行監測指數和信心指數能很好的反映成都市中小企業的發展運營情況,本報告運用人工神經網絡這種高精度的預測方法,對這兩種指數進行了預測,預測結果精確,經濟意義顯著。能很好預測未來月份的中小企業的指標值,從而為決策者的決策提供有力的支持和依據。
參考文獻:
[1]張乃堯,閻平凡.神經網絡與模糊控制[M].北京: 清華大學出版社,1998.
人工神經網絡的意義范文5
關鍵詞:神經網絡;時間序列;豬肉價格預測
一、引言
豬肉是中國民眾食物消費的主要畜產品,其價格變化關乎國計民生。市場上豬肉數量、價格的高低直接影響老百姓的生活水平和社會穩定,一旦市場出現大的波動,必然會導致社會生產總量的劇烈變化,進而影響市場供給。豬肉價格預測也能有效防止生豬生產的市場風險,價格預測也有利于制定科學的價格計劃,提高物價工作水平。所以,提高預測能力和水平,是價格監測工作應追求的更高境界,也是當前價格監測事業建設應抓好的重中之重。
現有的價格預測算法有很多種,應用最廣泛的是灰色系統預測算法GM(1,1)與BP神經網絡算法:(1)灰色預測法,是由中國學者鄧聚龍教授于1982年提出的。(2)BP神經網絡算法是人工神經網絡算法中的一種,也稱為反向神經網絡傳播算法。
二、BP神經預測法及其改進
人工神經網絡就是模擬人思維的一種方法。其特點是信息的分布式存儲和并行協同處理。神經網絡算法BP,作為人工神經網絡的一種算法,分為信息的正向傳播和誤差的逆向傳播兩個部分。
可以看出,2013年7月份到2013年12月份的涼州區價格預測結果與實際值極為相近,得出均方誤差MSE=0.557,說明所建模型科學合理,可以用來預測涼州區豬肉價格。
四、結論
論文對豬肉價格本身變化趨勢進行研究,通過利用2012年7月到2014年4月的涼州區豬肉價格數據來預測2014年5月到10月的豬肉價格。建立了基于時間序列的神經網絡模型,將樣本數據分為兩大部分:訓練樣本集和測試樣本集。利用所有豬肉價格數據預測出2014年5月份到10月份的涼州區豬肉價格。由于豬肉價格受外部諸多因素影響,所以模型不能夠精確地預測豬肉價格。產生一定誤差是不可避免的,若考慮其他影響因素,預測精度會進一步提高。
參考文獻:
[1] 鄭麗敏,田立軍,朱虹等.基于MATLAB的BP神經網絡在豬等級評定中的應用研究[J].計算機應用研究,2008,25(6):1642-1644
[2] 張磊,王娜,譚向勇.豬肉價格形成過程及產業鏈各環節成本收益分析-以北京市為例[J].中國農村經濟,2008,(12)14-26
[3] 閻平凡,張長水.人工神經網絡與模擬進化算法[M].清華大學出版社,2009.112-421
[4] 袁曾任.人工神經網絡及其應用[M].清華大學出版社,2011.116-361
[5] 劉禍耕.多層前饋人工神經網絡研究[J].湖南師范大學自然科學學報,2005(4):222- 261
[6] 蘇高利,鄧方萍.論基于MATLAB語言的BP神經網絡改進算法[J].科技通報,2003.99-109
[7] 叢爽.面向MATLAB工具箱的神經網絡理論與應用(第二版)[M].中國科學技術大學出版社.2003.
[8] 許東,吳錚.基于MATLAB6.X的系統分析與設計神經網絡(第二版),西安電子科技大學出版社.2002.
[9] 趙志勇.基于MATLAB的BP神經網絡計算鐵礦產品成本[J].河北理工學院學報,2003(4):78-79
人工神經網絡的意義范文6
關鍵詞:神經網絡 BP網絡
中圖分類號:TP3 文獻標識碼:A 文章編號:1672-3791(2014)01(c)-0240-02
神經網絡是一門發展十分迅速的交叉學科,它是由大量的處理單元組成非線性的大規模自適應動力系統。神經網絡具有分布式存儲、并行處理、高容錯能力以及良好的自學習、自適應、聯想等特點。該模型對于擬合現實復雜世界有著重要的實用價值。
1 神經網絡簡介
人工神經網絡(Artificial Neural Network,ANN),亦稱神經網絡(Neural Network,NN),是一種應用類似于大腦神經突觸連接結構進行信息處理的數學模型,它是在人類對自身大腦組織結合和思維機制的認識理解基礎之上模擬出來的,它是根植于神經科學、數學、統計學、物理學、計算機科學以及工程科學的一門技術。心理學家Mcculloch,數學家Pitts在20世紀40年代第一次提出了神經網絡模型,從此開創了神經科學理論的研究時代,此后半個世紀神經網絡技術蓬勃發展。神經網絡是一種計算模型,由大量的神經元個體節點和其間相互連接的加權值共同組成,每個節點都代表一種運算,稱為激勵函數(activation function)。每兩個相互連接的節點間都代表一個通過該連接信號加權值,稱值為權重(weight),神經網絡就是通過這種方式來模擬人類的記憶,網絡的輸出則取決于網絡的結構、網絡的連接方式、權重和激勵函數。而網絡本身通常是對自然界或者人類社會某種算法或函數的逼近,也可能是一種邏輯策略的表達。神經網絡的構筑理念是受到生物的神經網絡運作啟發而產生的。人工神經網絡則是把對生物神經網絡的認識與數學統計模型向結合,借助數學統計工具來實現。另一方面在人工智能學的人工感知領域,我們通過數學統計學的方法,使神經網絡能夠具備類似于人的決定能力和簡單的判斷能力,這種方法是對傳統邏輯學演算的進一步延伸。
2 神經網絡模型及訓練
2.1 生物神經元模型
人腦是自然界所造就的高級動物,人的思維是由人腦來完成的,而思維則是人類智能的集中體現。人腦的皮層中包含100億個神經元、60萬億個神經突觸,以及他們的連接體。神經系統的基本結構和功能單位就是神經細胞,即神經元,它主要由細胞體、樹突、軸突和突觸組成。人類的神經元具備以下幾個基本功能特性:時空整合功能;神經元的動態極化性;興奮與抑制狀態;結構的可塑性;脈沖與電位信號的轉換;突觸延期和不延期;學習、遺忘和疲勞;神經網絡是由大量的神經元單元相互連接而構成的網絡系統。
2.2 人工神經網絡模型
人工神經網絡,使通過模仿生物神經網絡的行為特征,進行分布式并行信息處理的數學模型。這種網絡依靠系統的復雜度,通過調整內部大量節點之間相互連接的關系,從而達到信息處理的目的。人工神經網絡具有自學習和自適應的能力,可以通過預先提供的一批相互對應的輸入輸出數據,分析兩者的內在關系和規律,最終通過這些規律形成一個復雜的非線性系統函數,這種學習分析過程被稱作“訓練”。神經元的每一個輸入連接都有突觸連接強度,用一個連接權值來表示,即將產生的信號通過連接強度放大,每一個輸入量都對應有一個相關聯的權重。處理單元將經過權重的輸入量化,然后相加求得加權值之和,計算出輸出量,這個輸出量是權重和的函數,一般稱此函數為傳遞函數。
2.3 神經網絡的訓練
當神經網絡的結構確定以后,接下來的工作就是訓練和學習。神經網絡不是通過改變處理單元的本身來完成訓練和學習過程的,而是依靠改變網絡中各神經元節點的連接權重來完成的。因此若處理單元要學會正確的處理所給定的問題,唯一用以改變處理單元性能的元素就是連接權重。
2.4 神經網絡的分類
神經網絡按照不同的結構、功能,以及學習算法,對網絡進行分類,可以分為:(1)感知器神經網絡:最簡單的神經網絡類型,只有單層的神經網絡結構,采用硬限值作為網絡傳遞函數,主要適用于簡單的線性二類劃分問題,在此類問題中處理的效率較高。但不適合本論文的課題。(2)線性神經網絡:單層結構的神經網絡,采用線性函數作為網絡的傳遞,主要也是用于解決線性逼近問題。
3 BP神經網絡
目前應用最為廣泛的網絡,具有多層網絡結構,可以由一個或者多個隱含層。BP網絡采用Widrow―Hoff學習算法和非線性傳遞函數,典型的BP網絡采用的是梯度下降算法,也就是Widrow―Hoff算法所規定的。BP,即Back Propagation,就是指為非線性多層網絡訓練中梯度計算是采用信號正向傳播、誤差反向傳播的方式。通過采用非線性傳遞函數,BP網絡能夠以仁義的精度逼近任何非線性函數,由于采用隱含中間層的結構,BP網絡能夠提取出更高階的統計性質,尤其是當輸入規模龐大時,網絡能夠提取高階統計性質的能力就顯得非常重要了,結合本文的課題,將采用BP神經網絡及其改進算法進行組合集成實驗,用以解決財務預警的實際問題,在后面的章節會采用相關實驗證明組合集成的BP神經網絡的優勢。
4 徑向基神經網絡
徑向基神經網絡又稱為RBF網絡,它與BP網絡同為多層前向網絡,也能夠以任意的精度逼近任何非線性函數,只是它與BP網絡采用的傳遞函數不同,BP通常采用的是Sigmoid函數或線性函數作為傳遞函數,而RBF網絡則采用徑向基函數作為傳遞函數。本文后面將采用徑向基函網絡與BP網絡進行對比。
5 競爭神經網絡
競爭神經網絡的特點是它的各個神經元之間是相互競爭的關系,眾多神經元之間相互競爭以決定勝出者,或勝神經元決定哪一種原模型最能代表輸入模式。
6 反饋神經網絡
BP神經網絡(Fredric M.Ham Ivica Kostanic Principles of Neurocomputing for Science―Engineering 2007)BP神經網絡具有sigmoid隱含層以及線性輸出層,具有很強的映射能力,本節我們對BP網絡神經元和網絡結構進行介紹。神經網絡方法的具體步驟是:向網絡提供訓練例子,即學習樣本,包括輸入和期望的輸出。確定網絡的實際輸出和期望輸出之間允許的誤差。改變網絡中所有連接權值,使網絡產生的輸出更接近于期望輸出,直到滿足確定的允許誤差。下圖給出了一個具有N個輸入的基本的BP神經元模型結構。途中每一個輸入都被賦予一定的權值,與偏差求和和后形成神經元傳遞函數的輸入。
我們來看看三層BP神經網絡模型的數學表達,首先我們來確定途中各個參數所代表的涵義:
(1)輸入向量:X=(x1,x2,…,xi,…,xn)T;
(2)隱層輸出向量:Y=(y1,y2,…,yj,…,ym)T;
(3)輸出層輸出向量:O=(O1,O2,…,Ok,…,Ol)T;
(4)期望輸出向量:d=(d1,d2,…,dk,…,dl)T;
(5)輸入層到隱層之間的權值矩陣:V=(V1,V2,…,Vj,…,Vm);
(6)隱層到輸出層之間的權值矩陣:W=(W1,W2,…,Wk,…,Wl)。
BP神經網絡就是通過構建上述變量來完成網絡的描述。
我們從上至下,從輸出層開始看BP網絡的工作原理,對于輸出層:
k=1,2,…,l (1)
k=1,2,…,l (2)
對于隱層:j=1,2,…,m (3)
j=1,2,…,m (4)
其中的是傳遞函數我們可以采用單極性Sigmoid函數: (5)
(1)網絡誤差與權值調整
輸出誤差E定義:
(6)
(7)
在這一步的基礎上,進一步展開至輸入層:
(8)
j=0,1,2,…,m;k=1,2,…,l (9)
i=0,1,2,…,n;j=1,2,…,m (10)
式中負號表示梯度下降,常數η∈(0,1)表示比例系數。在全部推導過程中,對輸出層有j=0,1,2,…,m;k=1,2,…,l,對隱層有i=0,1,2,…,n;j=1,2,…,m
(2)BP算法推導
對于輸出層,式(9)可寫為:
(8)對隱層,式(9)可寫為:(10),對于隱層,利用式(7):
可得: (11)
將以上結果代入式(8),并應用式(5):,得到:
(12)
(13)
至此兩個誤差信號的推導已完成。將式(12)代回到式(8),得到三層前饋網的BP學習算法權值調整計算公式為:
(14)