前言:中文期刊網精心挑選了神經網絡的局限性范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。
神經網絡的局限性范文1
關鍵詞: BP神經網絡;價格預測;歸一化處理
期貨市場是一個不穩定的、非線性動態變化的復雜系統。市場上期貨合約價格的變動受金融、經濟、政治及投資者心理等眾多因素的影響,其過程具有非線性、混沌性、長期記憶性等特點。傳統的經濟模型大部分是線性模型,具有一定的局限性.而人工神經網絡則能很好地解決這個問題。
一、BP神經網絡原理與過程
BP神經網絡(反向傳播網絡Back Propagation)是一種多層前饋型神經網絡,其神經元的激活函數是sigmoid函數,一般為log sigmoid 函數和tan sigoid 函數,函數的圖形是S 型的,其值域是為0到1的連續區間。它是嚴格遞增函數,在線性和非線之間有著較好的平衡性。
1.數據歸一化處理
數據歸一化方法是神經網絡預測前對數據常做的一種處理方法。數據歸一化處理把所有數據都使其落在[0,1]或[-1,1]之間,其目的是取消各維數據間數量級差別。避免因為輸入輸出數據數量級差別較大而造成網絡預測誤差較大。數據歸一化的方法主要有以下兩種。
(1)平均數方差法,其公式如下:
2.BP神經網絡的學習過程
BP網絡的學習過程由信號的正向傳播和誤差的反向傳播兩個過程組成。其基本原理是:網絡先根據輸出層的誤差來調整輸出層和隱含層的權值和閾值,再將部分誤差分配置隱含層,然后根據誤差來調整隱含層和輸入層之間的權值和閾值,并不斷地重復上述過程,直到網絡的輸出與目標之間的誤差趨于最小,達到規定的要求。
一般地,BP網絡的學習算法描述為如下步驟。
(1)初始化網絡及學習參數,如設置網絡初始權矩陣,給出學習速率和神經元激活函數等。
(2)提供訓練模式,訓練網絡,直到滿足學習要求。
(3)前向傳播過程:對給定訓練模式輸入,計算網絡的輸出模式,并與期望模式比較,若有誤差,若執行步驟(4),否則,返回步驟(2)。
(4)反向傳播過程:計算同一層單元的誤差,修正權值和閾值,返回步驟(2)。
二、玉米期貨價格預測分析
美國是世界上玉米生產大國和消費大國,良好的現貨基礎為美國玉米期貨市場的發展提供了優越條件。其中,以CBOT為代表的美國玉米期貨市場同現貨市場有效接軌,不僅在美國內玉米生產流通領域發揮了重要作用,而且在世界玉米市場上也影響巨大。
發現價格作為期貨市場的基本功能之一,CBOT作為全球最大的玉米期貨交易市場,其玉米期貨價格的國際影響力是非常巨大的。目前,在國際玉米市場上,玉米貿易價格的形成和交易活動是以CBOT的玉米期貨價格為中心展開的,該價格是國際玉米貿易中簽約雙方需要考慮的最重要的依據之一。美國已經通過芝加哥玉米期貨市場取得國際玉米貿易的定價權,在國際玉米市場中發揮著主導作用,并且能夠對本國和其他國家玉米產業的發展產生深刻影響。
本文研究所采取的樣本來自WIND資訊金融終端,以2008年07月-2015年10月的CBOT的玉米期貨為研究對象。共計100組樣本數據,將其中92組數據作為訓練數據。8組作為分析樣本。本文從影響全球玉米的供需平衡的角度出發,從期初庫存、產量、進口、飼料消費、國內消費總計、出口、期末庫存、總供給、貿易量共九個因素進行分析研究,對玉米期貨的價格進行預測。利用MATLAB軟件訓練生成BP神經網絡并進行預測,將隱含層神經元設為20個,訓練次數為100次,訓練精度為0.00005。最后得到結果見表1。
從表1中可以看出,通過BP神經網絡計算得出的預測值與實際值絕對誤差相對較小,這說明通過BP神經網絡預測模型產生的預測結果的精確度較高。具有較強的實用性。但是由于玉米期貨除了受到供需因素的影響外,同時還受金融、經濟、政治及投資者心理等眾多因素的影響。所以本文的結果還帶有一定的局限性。若把上述因素考慮進去,其精確度可能進一步提高。
三、結語
本文采用BP神經網絡對美國玉米期貨的價格進行了研究。使用了多因素BP神經網絡預測模型,對玉米期貨的價格進行預測,得到了擬合度在較高的預測值。這說明BP神經網絡方法可以對玉米期貨價格走勢進行有效預測。通過預測,可以對投資者的投資行為進行指導,從而達到規避風險而獲取較好的經濟利益。
參考文獻:
神經網絡的局限性范文2
關鍵詞:神經網絡;邊坡;穩定性
引言
邊坡的穩定性是目前巖土工程界研究的重大課題,在礦山工程、水利工程以及建筑工程等諸多領域都涉及到邊坡的穩定性問題。邊坡工程是一個動態開放的、復雜的、非線性的系統問題,影響邊坡穩定性的因素不但有地質和工程因素,而且還具有不確定性。目前,評價邊坡穩定性的方法有層次分析法、灰色理論法、極限平衡法、有限元法等方法,但是這些方法難以擺脫人為因素的影響,計算復雜,具有一定的局限性。本文將人工神經網絡的知識應用到邊坡穩定性的預測中,結合人工神經網絡在結構上的分布式存儲和并行處理的特點,使人工神經網絡具有較好的容錯性、高度非線性映射、以及自適應、自組織學習的能力,從而能夠捕捉邊坡穩定性與影響邊坡穩定因素之間的相關規律,彌補傳統方法在預測邊坡穩定性上面的不足,實現對邊坡穩定性的可靠預測。
1 神經網絡原理
人工神經網絡ANN(artificial neural network)是屬于人工智能(artificial intelligence)范疇的一種計算技術,它根據人們對生物神經網絡的研究成果設計出來,具有良好的數學描述,可以方便地用計算機程序加以模擬。
目前,最常用的人工神經網絡模型有線性神經網絡、RBF神經網絡、BP神經網絡等,本文采用誤差信號反向傳播的BP神經網絡對邊坡的穩定性進行研究。BP神經網絡在訓練時,由信號的正向傳播和信號的反向傳播共同構成神經網絡的學習過程,其訓練流程示意圖如圖 1 所示。
圖1 基于 BP 算法的神經元網絡結構訓練流程圖
2 神經網絡模型建立及訓練
2.1 輸入樣本和輸出樣本的選擇
基于BP人工神經網絡的邊坡穩定性預測模型的建立,首先是確定神經網絡模型各層的節點個數。本文采用某礦山的邊坡工程實例進行 BP 神經網絡模型的有效檢驗,選取影響邊坡穩定性的6個主控因素為輸入樣本,即:確定輸入變量為 D1—邊坡高度指標,D2—重度指標,D3—內聚力指標,D4—摩擦角指標,D5—邊坡角指標,D6—孔隙壓力比指標。
輸出向量是邊坡穩定性狀態代碼,將邊坡穩定性狀態代碼分為兩種類型:即1代表邊坡穩定性狀態為破壞,0代表邊坡穩定性狀態為穩定。
2.2 模型的訓練和預測
本文通過編寫程序語言,結合Matlab7.0來實現邊坡穩定性的預測,應用人工神經網絡工具箱中的newff函數來建立一個前饋型的邊坡穩定性預測網絡模型,在進行網絡樣本訓練時,其中各參數的設定情況為:學習效率設為0.5,網絡訓練的最大迭代次數為15000次,其收斂精度設置為0.001,采用隨機賦值的方法設定網絡訓練中權值和閾值的初始值。網絡的輸入層和隱含層均采用對數型S型函數作為傳遞函數。通過BP神經網絡信號誤差反向傳播算法所建立的邊坡穩定性預測網絡模型,在樣本訓練的過程中,當網絡訓練達到所設置的目標精度或者滿足最大迭代次數時,自動停止訓練。
本文收集整理了國內外各類礦山及巖土工程中潛在或滑動破壞模式為圓弧形滑落的穩定邊坡和失穩破壞邊坡實例共10個(破壞4,穩定6)。根據提供信息包括邊坡結構參數,巖土體的物理力學性質參數,邊坡穩定狀態及極限平衡法計算安全系數(表1)。輸入層的6個神經元分別對應參數:重度、粘聚力、摩擦角、邊坡角、邊坡高度、孔隙壓力比。將10個樣本提供網絡學習,經922次迭代后網絡收斂。訓練樣本的神經網絡的計算結果見表2。網絡訓練誤差曲線圖如圖2所示。
根據以上預測結果可知,預測精度達到了預定的要求0.001,預測結果與邊坡穩定性的實際情況相符,本文建立的BP神經網絡邊坡穩定性預測模型預測效果較好,預測精度較高,能夠滿足實際工作的需要,輸出結果與現場情況吻合。
3 結論
人工神經網絡將制約和影響邊坡穩定的可直接取實測數據的定性因素包括邊坡結構參數(高度、角度等)以及巖土體的物理力學性質(粘聚力、摩擦角、干容重等)納入模型參與穩定性評價,借助計算軟件MATLAB編制計算程序加以實現。
實際應用表明,神經網絡模型由于具有很強的自學習、自組織的能力和高度非線形動態處理能力,用來評價邊坡的穩定性有較好的適用性,可以加以推廣應用。
參考文獻
[1] 飛思科技產品研發中心. 神經網絡理論與MATLAB7實現[M]. 北京: 電子工業出版社, 2005: 97-116.
[2] 李春輝. 基于BP神經網絡的煤與瓦斯突出危險性預測的研究[D]. 昆明:昆明理工大學, 2010: 40-58.
[3] 劉勇, 江成玉. 基于BP神經網絡的煤與瓦斯突出危險性的預測研究[J]. 潔凈煤技術,2011(1): 97-100.
[4] 馮夏庭, 王泳嘉, 盧世宗. 邊坡穩定性的神經網絡估計[J].工程地質學報,1995(4): 54-61
[5] 侯殿昆, 宋秀琴, 劉景凡. 基于神經網絡的多參數露天邊坡穩定性分析[J]. 遼寧工程技術大學學報, 2007, 26(5): 649-651.
[6] 鄒義懷, 江成玉, 李春輝. 人工神經網絡在邊坡穩定性預測中的應用[J]. 礦 冶, 2011, 20(4): 38-41.
神經網絡的局限性范文3
【關鍵詞】 小波變換; 神經網絡; 模型; 預后
腫瘤患者預后是一個多因素相互作用的復雜問題,各因素之間一般為非線性關系。由于其間的函數關系解析形式難以把握腫瘤的多種類型以及多種相關因素,使得現有的預測在準確性和實用性方面都存在著局限性。人工神經網絡的成就表明它特別適合于處理不確定性和非結構化信息,和統計模式識別方法相比,具有抗干擾能力強、能自適應學習、能把識別處理和若干預處理融為一體來完成等優點,因此其應用非常廣泛。P.B.Snow等用BP神經網絡對結腸癌患者治療后的存活期進行預測[1],其算法主要是利用梯度搜索技術使代價函數最小化。此類網絡存在一些局限性,如隱層單元數目難以確定、收斂速度較慢且有可能收斂于局部極小點等等。近年來,將小波變換與神經網絡相結合構成的小波神經網絡(Wavelet neural networks, WNN)展示了良好的網絡性能[2~5]。利用WNN研究腸癌患者術后存活期預測問題,仿真結果表明該模型能較好地反映疾病程度與術后存活期之間的關系,因此在腫瘤患者術后存活期預測方面具有良好的應用前景。
1 小波神經網絡模型
WNN是近年來神經網絡研究中的一個新的分支,是將小波變換理論與人工神經網絡理論相結合而構造的一種新的神經網絡模型。WNN中第n個樣本的輸入為Xn={xni},i=1,2,…,L,網絡的輸入為Yn={ynk},k=1,2,…,S,對應的目標輸出為Dn={Dnk},k=1,2,…,S,n=1,2,…,N,N為樣本總數。輸出層單元數為S輸入層單元數為L,中間層為小波變換層(單元數目為M),Vji表示中間層第j單元與輸入層第i單元之間的連接權,Ukj表示輸出層第k單元與中間層第j單元之間的連接權。利用當前網絡參數計算的輸出為:Ynk=∑M
j=1UkjΨ∑L
i=1VjiXni-bj
aj(1)誤差函數E:E=1
2N∑N
n=1 ∑S
k=1(Ynk-Dnk)2(2)可以求出誤差函數E的各種導數:E
Ukj=1
N ∑N
n=1(Ynk-Dnk)Ψ∑L
i=1VjiXni-bj
aj(3)E
Vji=1
N ∑N
n=1 ∑S
k=1(Ynk-Dnk) UkjΨ(T)
T Xni
aj(4)其中 T=∑L
i=1VjiXni-bj
ajE
aj=1
N ∑N
n=1 ∑S
k=1(Ynk-Dnk) UkjΨ(T)
T (-∑L
i=1VjiXni-bj
a2j)(5)E
bj=1
N ∑N
n=1 ∑S
k=1(Ynk-Dnk) UkjΨ(T)
T (-1
aj)(6)取Ψ(x)為Morlet小波,該小波為余弦調制的高斯波,時域頻域同時具有較高分辨率。Ψ(x)=cos(1.75x)exp(-x2
2)(7)則Ψ(x)
x=-[xcos(1.75x)+1.75sin(1.75x)]exp(-x2
2)(8)按共軛梯度下降學習算法有:Uii+1kj=Uiikj-αE
Uiikj+ε(Uiikj-Uii-1kj)(9)或寫成:ΔUii+1kj=-αE
Uikj+εΔUiikj(10)Uii+1kj=Uiikj+ΔUii+1kj(11)類似地可以給出Vii+1ji、aii+1j和bii+1j的迭代公式,按這些迭代公式逐次學習,直至滿足誤差要求(或達到最大學習次數)。
2 數據處理和結果
21 資料收集及處理病例資料取自徐州醫學院病理教研室1987~1997年外檢檔案中手術切除的結直腸癌標本195例,對其進行隨訪研究,獲得具有完整隨訪研究結果的病例資料65例。根據《全國大腸癌病理研究統一規范》的標準復查全部HE切片,觀察結直腸癌的組織學類型、生長方式、間質纖維組織增生(有或無)和淋巴細胞浸潤等,進行免疫組織化學實驗,檢測大腸癌患者的多種免疫組化因素。在此基礎上,建立患者病情診斷資料及手術標本病理分析資料數據庫。包括患者的一般情況、部位、腫瘤大小、分期、組織學類型、生長方式、浸潤范圍、淋巴結轉移、免疫組化實驗結果、其它病變等。對應的輸出結果為隨訪所得的存活期。
22 WNN訓練集的選擇按照用于訓練WNN的數據集應該能最大限度地兼顧各種病例的原則。經過仔細篩選,取含有55個病例的集合構成WNN的訓練集,含有10個病例的集合構成測試集。WNN輸入層有14個單元,具體的取值是通過數據編碼(對應于無或有,陰性或陽性)和實驗測試所得數據的歸一化處理將輸入數據變換到(0,1)區間。將隨訪所得存活期按是否超過5年為標準分為兩類,輸出為1個單元,輸出值分別為0(否)和1(是)。這樣就可以建立輸入輸出模式對,構成網絡的訓練集。
23 結果取WNN的各初始連接權、伸縮和平移參數為[-0.5,0.5]之間的隨機數,學習參數為09,動量參數為07,按WNN模型算法編程。輸入層有14個單元,輸出層有1個單元。取小波變換層單元個數為12時學習效果較好。根據計算結果,可以作出誤差函數E與學習次數K關系曲線,如圖1所示。經260次學習訓練,誤差降為000004997。
轉貼于
圖1 WNN網絡誤差函數E與學習次數K關系曲線(略)
對同樣的數據樣本集,用傳統BP網絡進行對比研究,輸入層、隱層和輸出層單元數目分別為14、10、1。其誤差與學習次數關系曲線如圖2所示,誤差曲線中會存在較強震蕩和較長的平臺,即網絡誤差的局部極小點。經10000次學習訓練,誤差為00124866。利用經過如上所列學習訓練過程后所得WNN模型進行測試。首先對已學習過的55例訓練樣本進行測試,結果表明,對已學習過的樣本集,WNN模型預測成功率為100%;而對未經網絡學習訓練的10例樣本,分別用WNN模型和BP網絡模型進行測試,其結果如表1所示。如果以網絡輸出的最大絕對誤差不超過025為標準,WNN模型有8例預測成功,準確率為80%。BP網絡模型有7例預測成功,準確率為70%。
圖2 BP網絡誤差與學習次數關系曲線(略)
表1 WNN模型和BP網絡模型對10例樣本的測試結果(略)
從上述結果可知,在人工神經網絡腫瘤患者預后應用方面,WNN模型學習收斂速率、預測成功率明顯優于傳統BP模型。
3 討論
WNN能夠較好地綜合處理腸癌患者各項診斷指標對其術后存活期的影響。利用該模型進行腸癌患者術后存活期的預測,較好地符合了已知數據,能反映疾病程度與術后存活期之間的關系。比起傳統的BP網絡來,WNN學習收斂速率快,并且可以自適應地確定隱層單元數目。因此WNN為癌癥患者存活期預測提供了新的途徑。在傳統BP網絡中,存在隱層單元難以確定的不足,而WNN中間單元數目可以根據具體的問題自適應地確定小波變換單元個數,從而克服傳統網絡的不足。要進一步提高預測精度,就應該注意收集更多更全面的病例數據。如果我們所使用的數據越多越全面,其中所蘊含的事物本身的規律性就越強,利用WNN從中所抽取的函數關系就越具有普遍性,預測就更準確。
參考文獻
1 P.B.Snow, D.J.Kerr, J.M.Brandt, et al. Neural network and regression predictions of 5year survival after colon carcinoma treatment. Cancer Supplement, 2001,91(8):1673~1678.
2 Pati Y, Krishnaprasad P. Analysis and synthesis of ef feedforward neural networks using discrete affine wavelet forms. IEEE Trans. On Neural Networks, 1993,4(1):73~85.
3 Zhang Q, Benveniste A. Wavelet networks. IEEE Trans. On Neural networks, 1992,3(6):889~898.
4 Delgon B, Juditsky A, Benveniste A. Accuracy analysis for wavelet approximations. IEEE Trans. On Neural Networks, 1995,6(2):332~348.
神經網絡的局限性范文4
神經網絡引入預測領域使預測理論及方法產生了質的飛躍。傳統的線性預測方法,如自回歸(AutoRegressive, AR)模型、滑動平均(Moving Average, MA)模型等在解決非線性嚴重的預測問題時遇到很大困難,而神經網絡在非線性預測方面有著獨特的優勢,它不需要建立復雜的非線性系統的顯式關系及數學模型,通過數據樣本訓練即可提取數據特征和內在規律,實現信息的分布存儲,產生聯想記憶,從而對未經訓練的樣本能夠給出外推的預測效果,為非線性預測提供了強有力的工具。
1987年,A.Lapedes和R.Farber首次利用神經網絡對非線性時間序列進行預測,開創了神經網絡應用于預測領域的先河[1]。之后,神經網絡在預測中的應用得到快速發展。近年來,小波神經網絡作為一種新穎的神經網絡日益受到關注,它兼有小波函數時頻局部特性和神經網絡函數逼近和泛化能力,在預測領域具有強大的優勢。
目前,神經網絡預測形式主要有兩種:趨勢預測與基于因果關系的回歸預測,分別對應時間序列預測和多元回歸預測。神經網絡具有分布式、聯想、記憶和很強的泛化能力,以及自學習和容錯性,可以以任意精度逼近非線性函數等優點,是線性預測方法無法比擬的。對于大多數預測對象,尤其是含有非線性關系的數據,使用神經網絡預測都會得到更高的預測精度。
但是,神經網絡應用于預測中存在如下問題:網絡結構的設計目前尚無確定的理論依據;預測結果有隨機性;機理缺乏透明度;初始參數難確定;存在過度擬合現象;易陷入局部極小等。其中大多數問題需要以實驗效果為依據進行確定,利用統計方法對預測結果進行評價,或采用試湊法找出網絡“最佳”參數進行下一步預測[2]。
在上述問題中比較突出的問題是神經網絡預測結果的隨機性,小波神經網絡也不例外,即多次預測結果不同,有時分散性很大,即神經網絡的預測精度具有不可控性質。對此,在目前的文獻中鮮有介紹。本文針對小波神經網絡給出一種簡單、實用的確定的預測方法,可以獲得穩定的預測結果。
1預測結果的不確定因素
對神經網絡預測模型進行的大量實驗表明:網絡初始參數對預測結果的影響舉足輕重[3-4]。當網絡結構確定后,即網絡輸入層、隱層、輸出層神經元個數,以及學習速率、訓練精度等確定后,預測結果取決于網絡的初始參數值。初始參數包括網絡權值、閾值,對于小波神經網絡還包括平移因子和尺度參數。
神經網絡的初始參數通常都設為[-1,1]的隨機數,它是導致預測結果不確定的本質原因。在網絡結構確定的前提下,如果初始參數設為定值,預測結果必然是唯一的。實驗表明,對常用的三層神經網絡,影響最大的是網絡參數的初始值,之后是訓練精度、隱層神經元數、學習速率以及動量因子等。
神經網絡的局限性范文5
原理與方法
神經網絡是一個具有高度非線性的超大規模連續時間動力系統。是由大量的處理單元(神經元)廣泛互連而形成的網絡。它是在現代神經科學研究成果的基礎上提出的,反映了腦功能的基本特征。但它并不是人腦的真實描寫,而只是它的某種抽象、簡化與模擬。網絡的信息處理由神經元之間的相互作用來實現;知識與信息的存儲表現為網絡元件互連間分布式的物理聯系;網絡的學習和計算決定于各神經元連接權系的動態演化過程。因此神經元構成了網絡的基本運算單元。每個神經元具有自己的閾值。每個神經元的輸入信號是所有與其相連的神經元的輸出信號和加權后的和。而輸出信號是其凈輸入信號的非線性函數。如果輸入信號的加權集合高于其閾值,該神經元便被激活而輸出相應的值。在人工神經網絡中所存儲的是單元之間連接的加權值陣列。
神經網絡的工作過程主要由兩個階段組成,一個階段是工作期,此時各連接權值固定,計算單元的狀態變化,以求達到穩定狀態。另一階段是學習期(自適應期,或設計期),此時各計算單元狀態不變,各連接權值可修改(通過學習樣本或其他方法),前一階段較快,各單元的狀態亦稱短期記憶(STM),后一階段慢的多,權及連接方式亦稱長期記憶(LTM)〔1〕。
根據網絡的拓撲結構和學習規則可將人工神經網絡分為多種類型,如不含反饋的前向神經網絡、層內有相互結合的前向網絡、反饋網絡、相互結合型網絡等〔2〕。本文的人工神經網絡模型是采用BP算法的多層前饋網絡。
該模型的特點是信號由輸入層單向傳遞到輸出層,同一層神經元之間互不傳遞信息,每個神經元與鄰近層所有神經元相連,連接權用Wij表示。各神經元的作用函數為Sigmoid函數,設神經網絡輸入層的p個節點,輸出層有q個節點,k-1層的任意節點用l表示,k層的任意節點用j表示,k+1層的任意節點用l表示。Wij為k-1層的第i個神經元與k層的第j個神經元相連接的權值。k-1層的節點i輸出為O(k-1)i,k層節點j的輸出為:
k層節點j的輸出為:
Okj=f(netkj)
設訓練樣本為(X,Ye),X為p維向量,加到輸入層;Ye為q維向量,對應于期望輸出;網絡的實際輸出Y也是q維向量。網絡在接受樣本對的訓練過程中,采用BP算法,其權值調整量為:
ΔWij=-ηδkjO(k-1)i
其中,對于輸出層為:
δkj=yj(1-yj)(yej-yj)
對于非輸出層為:
η為訓練步長,取0<η<1。
用樣本集合反復訓練網絡,并不斷修改權值,直到使實際輸出向量達到要求,訓練過程結束〔3〕。
上述人工神經網絡可以完成多種信息處理任務,如從二進制數據中提取相關知識,完成最近鄰模式分類,實現數據聚集等。而本文要用的是其極強的數學逼近映射能力,即開發合適的函數f:ARnBRn,以自組織的方式響應以下的樣本集合:(x1,y1),(x2,y2)…,(xm,ym),其中yi=f(xi)。這里描述的是一般的數學抽象,像識別與分類這些計算都可以抽象為這樣的一種近似數學映射。
所謂診斷,實質上是一個分類問題。即根據候診者的癥狀,醫學檢查結果(如體溫、心跳等)等一些情況,它們可以用一向量(e1,e2,…,em)來表示,將其歸類為病人或非病人。這也可以轉化為尋找一差別函數f使得:
(1)f(e1,e2,…,em)>ε,(e1,e2,…,em)∈T
(2)f(e1,e2,…,em)>ε,(e1,e2,…,em)T
其中集合T表示患病。
因此,病情診斷最終也可作為一類函數的逼近問題。
而許多研究已表明,前向神經網絡可作為非線性逼近的標準型。對于實數空間的任一函數,只要它滿足一定的條件,一定存在唯一的具有單一隱層的前向網絡作為它的最優最佳逼近。而含有兩個隱含層的前向網絡可在任意的平方誤差內逼近某一實函數〔3〕。
診斷步驟
肺癌病例數據選自1981~1994年在某醫院住院的病人,共計551例。其中486例(88%)經病理學、細胞學診斷證實為肺癌。每一病例都包括多項數據,其中用于診斷的數據項有:病人的一般情況(如年齡、性別等),家族史、既往史、吸煙史、術后病理、X射線檢查、CT檢查、纖維支氣管鏡檢查、PAT痰檢等多達58項。因此,原則上58項數據應作為神經網絡的輸入項,而神經網絡的輸出值就是病人是否患肺癌的結果。
1.網絡訓練集的確定:在最原始的551例病人數據中存在著各種各樣的差別,如性別差異(419例男性,132例女性),診斷結果的差異(486例經證實為肺癌),所患肺癌種類的差異(鱗癌、小細胞癌、大細胞癌等),患病程度上的差異(早、中晚期的不同)等等。顯然,訓練數據集應最大限度地保證兼顧各種病例情況。經過仔細篩選,選擇了含有460個病例的集合作為肺癌診斷用的網絡的訓練集。
2.神經網絡輸入和輸出數據的預處理
按照人工神經網絡的理論,神經網絡的輸入輸出數據都應該屬于(0,1)區間的實數,為此我們需對原始數據進行如下的規一化處理:
其中xi為原始數據項,而Max=max{xi∶xi∈X},Min=min{xi∶xi∈X}。這里X為原始數據集。經過(7)式變換后,yi將在(0,1)區間。因此,可作為神經網絡的輸入輸出。
3.應用神經網絡進行肺癌診斷
將描述病人各種情況的數據作為前向網絡的輸入數據加到其輸入端,并按(1)~(6)式計算各神經元的輸入和輸出,同時調整神經元之間的連接權值以使網絡的輸出和實際的病例情況相符。即當病人確實患肺癌時網絡的輸出結果也恰好指示為肺癌,反之亦然。如果對所有的訓練樣本集網絡的輸出基本上(95%或更高)能保證與實際結果一致,則訓練過程結束。我們認為神經網絡已建立起病人的各種因素與他是否是肺癌患者之間的函數映射關系。對于一個新的候診病人來說,只要將他的情況輸入到訓練好的神經網絡中去,根據網絡的輸出結果就可以知道他是否已患肺癌。
表1基于不同發病因素的診斷網絡模型
類型訓練集精度測試集精度
基于遺傳因素的診斷網53.8%46.3%
基于個人生活習慣的診斷網57.1%44.9%
基于病癥的診斷網89.4%83.3%
基于醫學檢查結果的診斷網98.5%92.6%
上述結果表明不同類型的因素應分開來考慮。于是我們將58項輸入數據分成四類,這四類有各自的BP診斷網,依次稱為診斷一、診斷二、診斷三、診斷四。它們先單獨測定,然后再將它們各自的結果綜合起來得出最后的判斷。
上述四種診斷網絡所得結果的可靠性各不相同。其中,根據醫學檢查結果所作的診斷準確性最高,因此在最后的綜合分析中要重點考慮它的診斷結果,我們給它設一個相對最高的權值。其次,根據病人的癥狀所作的診斷往往也具有較高的準確性,因此給它的權值也較高,但比醫學檢查結果的稍低。其他兩類因素在有關肺癌的診斷中僅具參考作用,因而所設的權值相對較小。轉
最后的結果O為:
O=a1.O1+a2.O2+a3.O3+a4.O4
a1+a2+a3+a4=1
其中Oi,ai,i=1,2,3,4分別為各診斷網的輸出及其對應的權值。
當O>0.5時最后的診斷結果為患肺癌,反之則正常。對所有的病例數據經上述方法的診斷結果見表2。
表2神經網絡對肺癌診斷結果分析
神經網絡
診斷結果訓練數據測試數據
肺癌患者非肺癌患者肺癌患者非肺癌患者
+4602253
-038122
其中對于訓練集,肺癌病人的正確檢出率為100%,非肺癌病人誤診率為5%。對于測試集,肺癌病人的正確檢出率為96.2%;非肺癌患者正確檢出率為88%,誤診率為12%。
討論
1.本研究所采用的人工神經網絡的肺癌診斷方法的結果較好地符合了已知數據,具有較高的準確性,特別是對于肺癌患者一般都能準確地做出診斷,有利于肺癌的早期發現和治療。
2.要想進一步提高該方法的準確性,應該注意收集更多更全面的病例數據。人工神經網絡主要是利用它能自動從數據集中抽取函數的關系的功能。如果我們所使用的數據越多越全面,則其中所蘊含的事物本身的規律性就越強,利用人工神經網絡從中所抽取的函數關系就越具有普遍性,因而就更準確。
3.實現對肺癌的診斷的關鍵在于準確找到罹患肺癌的判定函數,可利用前向網絡的函數逼近功能來實現。但是這里涉及到兩個問題。首先,由于差別函數和預測率函數都是利用人工神經網絡從已知的病例數據集中抽取出來的,它實際反映的是這些數據集中輸入輸出對的映射關系。因此要想保證診斷具有較高的準確性,就應該使用來建立函數關系的這些數據集(稱訓練集)具有充分的代表性,即這些數據應基本蘊含肺癌診斷的醫學原理。這就涉及到如何選擇網絡合理的訓練集及關鍵的輸入項。另一個問題涉及到神經網絡本身的要求,即網絡的輸入輸出數據值都應在區間(0,1)中。這可以通過數據的編碼和歸一化來實現。
4.由于某些原因有些病人的病例數據不完整,約占總病例數據的10%左右。顯然,如果按照傳統的方法來建立肺癌病人的診斷模型〔4〕,這些有缺項的數據是不太好處理的,但是由于人工神經網絡有較強的容錯性,輸入數據在某些項上的錯誤對網絡最終結果的正確性影響不大。
參考文獻
1.焦李成.神經網絡系統理論.第1版.西安:西安電子科技大學出版社,1995,3
2.WangZhenni,ThamMingT,MorrisA.MultilayerFeedforwardNeuralNetworks:ACanonicalformApproximationofNonlinearity,IntJ.Control,1992,56(3):655~672.
神經網絡的局限性范文6
【關鍵詞】智能技術;電力系統自動化;應用
當前,常見的幾種智能技術,在電力系統自動化控制中的引入運用,解決了傳統方法難以解決的復雜系統的控制問題,從而有效提高電力系統自動化控制的適應性,降低控制系統的造價成本。
1.電力系統自動化的簡述
為確保電力系統安全、平穩、經濟運行,對電力系統的各個元件、局部、全系統,采用具有自動檢測、決策和控制功能的裝置,通過信號和數據傳輸的系統,就地或遠距離進行自動監視、調節和控制等,從而達到合格的電能質量。在一般的情況下,電力自動化系統主要構成有調度自動化、變電站自動化和配電網自動化。
2.電力系統自動化中的智能技術
智能技術是具備學習、適應及組織功能的行為,能夠對于問題產生合適求解問題的響應,解決傳統魯棒性控制和自適應控制無法解決出令人滿意結果的,非線性、時變性和不確定性的控制問題。目前,智能技術尚處于發展階段,但它已受到人們的普遍重視,廣泛應用到電力系統各個領域中,并取得了一定的實效。
2.1專家系統的控制技術
專家系統在電力系統中的應用范圍很廣,它是一種基于知識的系統,用于智能協調、組織和決策,激勵相應的基本級控制器完成控制規律的實現。主要針對各種非結構化問題,處理定性的、啟發式或不確定的知識信息。如:電力系統恢復控制、故障點的隔離、調度員培訓、處于警告或緊急狀態的辨識、配電系統自動化等。以智能的方式求得受控系統盡可能地優化和實用化,并經過各種推理過程達到系統的任務目標。雖然取得到廣泛應用,但存在如難以模仿電力專家的創造性等局限性。一般而言,專家控制系統應用比較大的原因還因為這種方法可適用范圍廣,而且能夠為電力系統處于各種狀態提出辨識,根據這種具體情況來給出警告或是提示,在這樣的情況還能夠進行控制和恢復。雖然專家系統得到一定的應用,但是還是存在一定的局限,這種局限包括對于創造性的難以模仿,而只是對于淺層知識的應用,缺乏很有效的深層的模仿和方針,對于復雜的模擬就難以適應。因此,在開發專家系統方面應注意專家系統的代價/效益分析方法問題,專家系統軟件的有效性和試驗問題,知識獲取問題,專家系統與其他常規計算工具相結合等問題。
2.2模糊邏輯的控制技術
模糊方法是一種對系統宏觀的控制,十分簡單且易于掌握,為隨機、非線性和不確定性系統的控制,提供了良好的途徑。將人的操作經驗用模糊關系來表示,通過模糊推理和決策方法,來對復雜過程對象進行有效控制。通常用“如果…,則…”的方式來表達在實際控制中的專家知識和經驗,不依賴被控對象模型、魯棒性較強的。模糊控制技術的應用非常廣泛,與常規控制相比,模糊控制技術在提高模糊控制的控制品質,如:穩態誤差、超調等問題,自身的學習能力還不完善,要求系統具有完備的知識,這對工業智能系統的設計是困難的。如模糊變結構控制,自適應或自組織模糊控制,自適應神經網絡控制,神經網絡變結構控制等。另一方面包含了各種智能控制方法之間的交叉結合,對電力系統這樣一個復雜的大系統來講,綜合智能控制更有巨大的應用潛力。現在,在電力系統中研究得較多的有神經網絡與專家系統的結合,專家系統與模糊控制的結合,神經網絡與模糊控制的結合,神經網絡、模糊控制與自適應控制的結合等方面。這些模糊方法的運用因其可使用范圍廣,目前已經在自動化控制中被廣泛應用。
2.3神經網絡的控制技術
神經網絡是一種介于符號推理與數值計算之間,適合用作智能控制的數學工具。神經網絡從m維空間到n維空間,復雜的非線性映射、學習能力為解決復雜的非線性系統控制問題,提供了有效的途徑。在神經網絡中,知識是通過學習例子分布存儲,當個別處理單元損壞時,不會影響整個系統的正常工作,是對非線性系統具有最好的控制性能。目前,主要集中在神經網絡模型、結構、學習算法的研究,硬件的實現等。
2.4線性最優控制技術
線性最優控制技術是現代控制重要組成部分。目前,在大型機組方面,直接用最優勵磁控制手段代替古典勵磁方式,不但提高了遠距離輸電線路輸電能力,而且同時改善動態的品質。另外,在發電機制動電阻的最優時間控制方面,最優控制技術也獲得了成功的應用。它是諸多現代控制技術中應用最多、最為成熟的一個分支。
2.5綜合智能控制技術
綜合智能控制重要的技術發展方向是智能集成化。一方面,可將多項智能技術相互結合于一體,不在單獨運用,各取優勢。如模糊技術和神經網絡的結合,神經網絡與模糊控制的結合,神經網絡與專家系統的結合等,這些都在電力系統自動化控制中研究的較多,如可用神經網絡與模糊邏輯良好結合的技術基礎,去處理同一系統內的問題,神經網絡處理非結構化信息,模糊系統處理結構化的知識等。另一方面,自動化控制智能技術與傳統的自適應控制的結合,如:神經網絡、模糊控制與自適應控制的結合等。目前,國內已有控制專家已著手發展研究,既能有效處理模糊知識又能有效學習的模糊與神經網絡集成技術,這必將為電力系統智能控制的發展提供新的途徑。
3.結束語
當前,像電力系統這樣一類復雜的不確定性工業過程,對其有效控制,關鍵在于自動化控制智能技術應具有較強的知識處理能力,包含知識學習和利用,推理和決策等方面。在未來電力系統的發展進程中,隨著計算機的廣泛應用,控制技術的深入研究,自動化控制智能技術將朝著全面智能化的方向發展。從而實現智能性工作環境,減少人員的值守,甚至于無人值班。同時,也有效的促進與提高電力系統平穩、安全和經濟的運行。
【參考文獻】