前言:中文期刊網精心挑選了矩陣論在神經網絡中的應用范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。
矩陣論在神經網絡中的應用范文1
本文提出了一種基于R、G、B值的BP神經網路遙感影像分類算法,對待分類影像共選取三種樣本,獲取訓練數據訓練構建好的BP神經網絡;使用訓練好的BP神經網絡對高分影像分類,分類結果用三種不同的顏色標識,通過目視判讀各個像元類別與BP神經網絡分類結果對比,實驗結果表明該方法分類的精度較高,并具有一定的普遍性,為實現自動、半自動化遙感影像分類與識別提供了理論依據和技術方法途徑。
【關鍵詞】遙感 影像分類 BP神經網絡 分類精度
1 引言
自20世紀70年代以來,遙感數字圖像分類處理一直是遙感技術及其相關領域學者們關注的問題。遙感數字圖像分類,亦稱計算機自動識別,其實質在于通過計算機對遙感影像像元進行數值處理和分類,以達到自動識別地物的目的。傳統的模式識別分類方法一直被認為是遙感圖像分類處理的最佳方法。
在目前遙感分類中,用得較多的是傳統模式識別分類方法,如最小距離法、循環集群法等監督與非監督分類法。其分類結果由于遙感圖像的“同物異譜”與“異物同譜”現象存在,往往出現較多的錯分、漏分現象,導致分類精度不高。隨著遙感圖像解釋和分析的深入,統計模式識別方法的不足顯現出來,如K-均值聚類分類精度依賴于初始聚類中心;最大似然法計算強度大,且要求數據服從正態分布。尤其是近年來高光譜的廣泛應用,各種新理論相繼出現,對傳統的計算機分類方法提出了新要求。
隨著人工神經網絡理論的發展,人工神經網絡技術日益成為遙感圖像分類處理的有效手段,并逐步取代傳統的模式識別方法。人工神經網絡具有良好的適應能力,比之基于傳統統計理論的分類方法,它無須事先估計目標的概率分布函數,故在進行以數據量多、含混度高著稱的遙感影像的分類處理時,該方法能獲得很好的分類精度。本文簡單介紹人工神經網絡分類算法,給出BP神經網絡在遙感影像中分類方法。
2 基于BP神經網絡的遙感影像分類方法
2.1 遙感影像分類原理
遙感影像記錄了地物在觀測時間內的電磁波輻射特征,在影像中,同類地物在相同條件下,應具有相同或相似的光譜、紋理、顏色等空間信息,而不同地物的光譜、紋理、顏色等空間信息特征不同,遙感影像分類正是根據地物光譜能量和空間結構的差異性,利用計算機手段對各類地物信息進行分析和處理,將影像上的各像元劃分到對應的地物類別中。
2.2 BP(Back-Propagation)神經網絡分類器原理
BP(反向傳播)神經網絡是利用非線性可微分函數進行權值訓練的多層網絡,包括輸入層、 中間層(隱層)和輸出層。當學習樣本提供給網絡后,神經元的激活值從輸入層經各中間層向輸出層傳播,在輸出層的各神經元獲得網絡的輸入響應。接下來,按照減少目標輸出與實際誤差的方向,從輸出層經過各中間層逐層修正各連接權值,最后回到輸入層,因此這種算法稱為 “誤差逆傳播算法”,即 BP 算法。隨著這種誤差逆的傳播修正不斷進行,網絡對輸入模式響應的精度也不斷上升 。在 BP 網絡針對一個樣本對各個聯接權作一次修正后,雖然此樣本還不能滿足精度要求,此時也不能繼續按此樣本進行訓練,而應考慮其他的樣本,待樣本集中的所有的樣本都被考慮過一遍后,再重復這個過程,直到網絡能同時滿足各個樣本的要求,即誤差測度的總和滿足系統的要求為止。
2.3 基于BP(Back-Propagation)神經網絡的遙感圖像分類器模型
BP神經網絡技術應用于遙感圖像分類,BP神經網絡輸入層神經元表征遙感影像的輸入模式,每一個輸入層神經元對應于一個像元R、G、B值特征,每一個輸出層神經元對應于一種土地覆蓋類型,每種土地類型用一種顏色標識。
3 基于BP神經網絡的遙感影像分類
3.1 BP神經網絡訓練
首先,根據分類結果選取數據樣本,由數據樣本得到訓練樣本。訓練樣本是以輸入、輸出對的向量模式來呈現的,其輸入向量是指樣本在參與分類的三個特征影像中的像元值,而輸出向量(期望輸出)是指該樣本對應的類別。
(1)給出的各個樣本,逐一獲取每個樣本的的每一個像元R、G、B值,得到各個樣本R、G、B值矩陣。
(2)對各個樣本的R、G、B值矩陣進行降維處理,即將所有樣本R、G、B值矩陣變成一維向量的形式。
(3)得到BP神經網絡訓練輸入矩陣:
(4)根據實際需要確定目標向量的顏色類型,得到BP神經網絡訓練輸出矩陣:
訓練數據得到后,將訓練數據逐個輸入BP神經網絡進行正向運算,求出BP神經網絡對每個訓練數據在輸出層誤差,然后反向傳播對連接權值進行修正,完成一個樣本的訓練過程。在訓練期間,在輸出層上對每個輸入向量統計均方根誤差值,根據經驗,當均方根降至0.01該網絡已收斂,各連接的權值固定下來,可以用于高分影像分類。
3.2 分類結果的顯示
(1)獲取分類圖片的R、G、B值矩陣R[M,N]、G[M,N]、B[M,N]。
(2)對分類圖片的R、G、B值矩陣降維處理,即將R、G、B值矩陣變成一維向量的形式R[M*N]T、G[M*N]T、B[M*N]T。
(3)得到BP神經網絡輸入矩陣p=[R[M*N]T G[M*N]T B[M*N]T]。
(4)將BP神經網路輸入矩陣輸入到訓練好的BP神經網絡中,得到要顯示圖像的R、G、B值矩陣, t=[R1[M*N]T G1[M*N]T B1[M*N]T]。 (3)
(5)得到要顯示圖像的R、G、B值一維向量的形式R1[M*N]T、G1[M*N]T、B1[M*N]T]。
(6)由要顯示圖像的R、G、B值一維向量,得到要顯示圖像R、G、B值矩陣R1[M,N]、B1[M,N]、G1[M,N],將要顯示的R、G、B值組合成影像進行顯示,如圖 2。
將該遙感圖像分成三類,湖泊、裸地、植被分類用黃色、黑色、紅色標識,分類后的結果很明顯。
3.3 分類效果的評價
采用混淆矩陣及各統計參數來實現BP神經網絡分類結果的精度評價。首先,對研究區域選取驗證數據,其所屬的真實類別信息通過考察后已知,從而反應真實類別;然后將驗證數據輸入到訓練好的BP神經網絡中進行正向傳遞,獲得其對應的網絡輸出值,從而判在BP網絡分類結果中所屬類別;最后根據所有驗證數據的真實類別和BP網絡分類類別建立混淆矩陣,計算各類統計參數用以評定分類精度。
在分類圖像上截取樣本(16*27=432),通過目視判讀,裸地119個像素,植被有個134像素,湖泊179個像素,則有表1。
通過以上計算,得到裸地、植被、湖泊的生產精度分別為79.83%、79.01%、100%,裸地、植被、湖泊的用戶精度分別為82.6%、85.48%、92.74%;總體分類精度為87.96,Kappa系數為0.8155,表明BP神經網絡模型能有效的對遙感影像分類。
4 結論
本文針對高分遙感影像,提出了一種基于R、G、B值的BP神經網路遙感處理算法。首先 ,獲取BP神經網絡訓練數據;然后,構建神經BP神經網絡,利用得到的訓練數據BP神經網絡進行自學習;最后,獲取待分類影像的數據,進行分類顯示。得到的分類結果,選取生產精度、用戶精度、總體精度和Kappa系數作為評價指標。結果表明:所提出的方法可有效地應用于高空間分辨率遙感圖像分類工作中,并具有一定的普遍性,為實現自動、半自動化遙感影像分類與識別提供了理論依據和技術方法途徑。
參考文獻
[1]劉書含,顧行發,余濤.高分一號多光譜遙感數據的面向對象分類[J].中國科學院遙感與數字地球研究所,2014,39(1):91-94.
[2]楊希.基于神經網絡的高分辨率遙感影像分類研究[D].成都:西南交通大學,2009
[3]王金亮,李石華.基于自組織神經網絡的遙感圖像分類應用研究[J].云南師范大學旅游與地理科學學院,2006,85(1):6-10.
[4]陳芳杰.基于BP神經網絡遙感圖像特征分類研究[D].合肥:安徽大學,2012.
[5]Window B.et al.Neural Networks Application industry,Business and munication of the ACM,19994,37:993-105.
[6]Special Issueon Application of Neural Network.Proc IEEE,1996,84(10).
作者簡介
高鴻斌(1964-),男,教授,碩士生導師,研究方向計算機測控和物聯網。
矩陣論在神經網絡中的應用范文2
[關鍵詞] 光伏系統;發電量預測;模糊神經網絡
doi : 10 . 3969 / j . issn . 1673 - 0194 . 2017. 13. 077
[中圖分類號] TM615 [文獻標識碼] A [文章編號] 1673 - 0194(2017)13- 0180- 04
0 引 言
目前光伏發電量預測的方法主要有神經網絡法、灰色預測法、多元線性分析法這三種方法,通過對這三種預測模型進行比較,發現多元線性回歸和灰色理論雖然方法較為簡單,但是預測誤差也較大,而神經網絡法預測則可以比較準確但是預測過程較為繁雜。在基于神經網絡的預測中,多是以傳統的BP神經網絡為基礎模型,在此基礎上采用一些新的方法對BP網絡加以改進。例如在BP網絡的學習過程中采用Fletcher-Reeves共軛梯度算法,可以提高學習率,部分地簡化了預測過程,但輸入量過多,且預測的局限性較大。
在對比了眾多方法的優缺點之后,發現BP神經網絡普遍存在中間隱層數難以確定、輸入數據量過多,且學習時間過長等劣勢。因此本文提出了一種基于模糊神經網絡的預測模型,所選取的輸入量是和當天的發電量相關程度比較大的當天的平均氣溫以及當天的總日照量,模糊神經網絡的結構是由大量的先驗知識而設計出來的。在不影響預測精度的情況下,為了降低整個網絡的復雜程度,對整個網絡的模糊化層中的隸屬度函數及去模糊化層的輸出函數都做了適當的變化,解決了傳統神經網絡收斂速度慢的問題,從而使整個神經網絡結構簡潔,訓練速度較快,且預測精度較高。
1 模糊神經網絡
模糊神經網絡是在神經網絡和模糊系統的基礎上發展起來的,在模糊神經網絡出現之前,神經網絡與模糊系統都已有了多年的研究歷史,都有著較完備的理論基礎。
模糊神經網絡是一種將模糊邏輯推理的知識性結構和神經網絡的自學習能力結合起來的一種局部逼近網絡,融合彌補了神經網絡在數據處理方面的不足和模糊邏輯在學習方面的缺陷,是一個集語言計算、邏輯推理、分布式處理和非線性動力學過程為一身的系統。因此,它具有處理不確定信息的模糊推理能力和依據樣本數據進行學習的能力。模糊神經網絡主要利用神經網絡結構來實現模糊推理,從而使神經網絡的權值具有在模糊邏輯中推理參數的物理意義。
常見的模糊神經網絡有基于Mamdani推理的和基于Takgai-Sugeno推理的這兩種模糊神經網絡。基于Mamdani推理的模糊神經網絡多用于模糊邏輯控制器、模糊邏輯決策系統、模糊邏輯辨識系統等方面;基于Takgai-Sugeno推理的模糊神經網絡則是一種非線性模型,宜于表達復雜系統的動態特性。光伏系統的發電量由于受日照量、溫度、濕度、材料轉換率等多方面因素的影響,因此,光伏系統的輸出是一個不穩定的非線性變化的動態工程,所以本文所采用的就是基于Takgai-Sugeno推理的模糊神經網絡(簡稱TS模糊神經網絡)。
2 TS模糊神經網絡
2.1 TS模糊邏輯
在TS模糊邏輯系統中,模糊規則有著如下的特殊形式:
R(1):if x1 is F1l,…,if xnis Fnl then
y l=P0l+P1lx1+…+Pnlxn
3 預測模型的建立
3.1 輸入量的確定
光伏電池之所以能發電,是由于當陽光照射到半導體材料的太陽能電池板上時,光能被吸收在太陽能電池內,并且產生電子(-)和空穴(+),而負價的電子多向n型聚集,正價的空穴多向p型聚集,因此,將太陽能電池的正面和背面接上電極與燈泡等負荷連接,就能產生流。因此,日照量是影響光伏發電發電量的重要因素之一,所以日照量應作為輸入量之一。此外光伏發電的發電量還受溫度、濕度、安裝角度、材料轉換率等眾多因素的影響,在這眾多因素中,溫度對光伏發電量的影響是較大的,因此將溫度作為另一個輸入量輸入到預測模型中。
本文的輸入量為日照量與溫度組成的一個2×1的列向量,因為本文所預測的是晴天一整日的發電量(單位kW?h/日),因此,日照量取一整日的日照量(單位kW?h/日),溫度取一整日的平均溫度(單位℃)。若輸入向量用x表示,一整天的日照量用h表示,溫度用t表示,則輸入量可表示為下面的形式:
x=[h,t]T
3.2 TS型模糊神經網絡結構與初始參數的確定
本文是針對全年晴天的當天發電量做出預測的,所以按季節劃分將全年的數據劃分成了春、夏、冬,由于秋天的日照量與溫度和春天的接近,所以在本文中并沒有單獨列出秋季,而是只按春、夏、冬三季的數據來建模預測。
由已有的先驗知識,可將數據按照春、夏、冬三季進行劃分,所以模糊神經網絡的規則層的隱層節點數也就為三,由于規則層已經確定,故可以知道模糊化層與去模糊化層的隱層節點數均為三個,因此可知本文的模糊神經網絡的預測模型結構如圖2所示。
3.3 TS型模糊神經網絡學習算法
設有輸入、輸出樣本為{(xl,dl),l=1,2,…,L},在這里L表示訓練樣本的數量,為輸入向量,在本文中表示由當天日照量與當天平均溫度組成的一個2×1的列向量。將網絡誤差E設為:
E=■(yl-dl)2-||y-d|22
其中,y=[y1,y2,…,yL]T,表示神經網絡的實際輸出;d=[d1,d2,…dL]T,表示神經網絡的期望輸出;||.|2表示向量的2范數。
本文中,在不影響結果的前提下,為了降低神經網絡學習算法的復雜度,故將隸屬度函數變為:
ωij=exp-■(bij(xil-cij))2
將神經網絡的輸出函數變為:
yl =■ωij=(p0j+p1jx1l+…+pnjxnl)
因為本文是在MATLAB中進行編程預測,所以將各種數據都表示成矩陣的形式,通過對矩陣的處理,使模糊神經網絡的理解難度和操作難度都大大降低,因此,規定X=[x1,x2,…,xL]表示輸入樣本組成的n×L維矩陣;Ω=[ω1,ω2,…,ωL]表示輸入樣本X的隸屬度函數值ωl j所組成的m×L維矩陣;P=[p0,p1,…,pn]表示線性系數pi j所組成的m×(n+1)維矩陣;C=[c1,c2,…,cm]表示中心ci j所組成的n×m維矩陣;B=[b1,b2,…,bm]表示中心寬度bi j所組成的n×m維矩陣。
在訓練神經網絡時,首先計算隸屬度函數值ωl j所組成的矩陣Ω=[ω1,ω2,…,ωL],在此基礎上計算神經網絡的輸出y及相應的誤差E;然后計算誤差E對系數矩陣P,B,C的偏導數,根據梯度下降法更新P,B,C;最后利用P,B,C來更新Ω,E等參數。如果未達到退出條件,則繼續迭代,達到了,則退出整個迭代過程,最終,就可以完成整個模糊神經網絡的訓練。在MATLAB中矩陣P和B的初始值可以由normrnd函數隨機生成,而矩陣C則可以由kmeans函數得到相應的初始聚類中心,通過訓練數據的學習過程,得到一個符合要求的模糊神經網絡。
4 預測模型的訓練與結果分析
為了使模糊神經網絡的訓練有較高的精度,需要大量的數據對模型進行評估訓練,本次模擬采用了120組數據進行預測,其中90組作為訓練樣本,30組作為測試樣本,所用的數據均是隨機模擬5kW光伏逆變器日發電量數據, 在訓練過程中,共取了90組數據來訓練,因此L=90;而規則數共有3條,因此這里m=3;而輸入的是有溫度與日照量組成的兩行一列的列向量,因此n=2;為了使訓練結果更加精確化,這里O置的最大迭代步數為1 000,迭代步長為0.001,圖3是訓練預測結果與實際結果的折線圖。
在圖中,實線表示預測輸出,用“+”表示實際輸出,而用虛線表示實際輸出與預測輸出之間的差值,從圖中可以明顯看出訓練好的模糊神經網絡符合要求。隨后,再將用于測試的數據帶入已訓練好的模糊神經網絡中,結果如圖4所示。
圖4是用于測試的數據的實際輸出與預測輸出的比較,“+”表示實際輸出,實線表示預測輸出,虛線表示實際輸出與預測輸出的差值。從預測的結果來看,相較于傳統的預測方法來說,本文所提出的模糊神經網絡的預測方法,不論是在預測精度上還是在訓練收斂速度上,都有一定程度的提高,雖說本文的原始數據并非實測數據,但是本文所用的數據皆是參考了大量資料之后擬合出的數據,所以有實際參考價值。
5 結 語
為了提高光伏并網系統的穩定性與安全性,本文提出了一種基于模糊神經網絡的電量預測模型。根據光伏系統的發電原理與大量的研究資料,確定了以每一天的日照量與平均溫度為整個系統的輸入量,來對這一整天的光伏系統的發電量做出預測,并且根據已有的先驗知識與相關理論,確定了本文所用的模糊神經網絡的結構。再通過擬合的符合實際的數據來訓練整個模型,最后通過一組測試數據來測試本預測模型是否達到要求。實驗結果表明,本模型能較為準確地預測出光伏發電系統一整天的發電量,具有一定的工程應用價值。
主要參考文獻
矩陣論在神經網絡中的應用范文3
Abstract: Based on the needs of the telecommunications industry, for telecommunications companies which have a large number of detailed and rich data, but it is difficult for the extraction of available valid data. First, this paper carriedout attribute reduction to telecommunications customer data using the difference matrix method of rough set theory, and then established data miningmodel based on rough set and neural network, using BP (Back Propagation) neural network, to achieve effective analysis and efficient extraction to customer data information of telecommunication services system, and realize simulationby matlab. The established model reduces the number of the input layer of theneural network, and simplifies the number of operations, shortens the training time and improves the accuracy of the data forecast.
關鍵詞: 粗糙集;BP神經網絡;數據挖掘
Key words: rough sets;BP neural network;data mining
中圖分類號:TP39 文獻標識碼:A 文章編號:1006-4311(2013)07-0185-02
0 引言
數據挖掘(Data Mining—DM)[1]就是從海量的、不完整的、雜亂無規律的、模棱兩可的、隨機的數據庫中,提取隱含的、人們無法通過表面現象觀察到的、但又對人們提供決策支持具有重要意義的信息和知識的過程。通過數據挖掘定義可知,數據挖掘就是將存儲在數據庫或數據倉庫中的對提供決策支持具有重要意義的信息和知識進行發現的過程。因此,數據挖掘又常被稱為數據庫中的知識發現(KDD)。
1 粗糙集理論
定義1 所謂的論域就是我們要研究的非空的數據組成的集合,即電信客戶數據集一般被存儲在數據庫中,一般情況下用符號U表示。設X為U中的子集,則任何子集X?哿U,稱為U中的一個概念或范疇,U中的任何概念族成為關于U的抽象知識,簡稱為知識[1]。對知識的劃分公式如下:
ξ=X■,X■,……X■;X■?奐U,X■?奐?覫,X■∩X■=?覫
對于i≠j;i,j=1,2,…,n;■X■=U。其中Xn代表各個屬性。
定義2 若P滿足關系式P?哿R,且P非空,稱R為P上的不可區分關系,記為ind(P)[1,5],且有如下關系式:
[x]■=■[x]■
若K=(U,P)和K′=(U,Q)為兩個知識庫,且滿足關系ind(P)=ind(Q),即U/P=U/Q,則稱K和K′是等價的,記作K~K′。
定義3 知識約簡中有兩個基本概念[2,5]:約簡(reduct)和核(core),兩個是包含關系,滿足關系式core?哿reduct。
設R和r為兩個等價關系,且存在關系式r∈R,如果
ind(R)=ind(R{r})
則稱r為R中不必要的,r是冗余的、干擾屬性,在屬性約簡過程中可以將r屬性刪除掉,而且不會影響制定決策;否則r為R中必須保留的屬性,也正是我們做屬性約簡想要得到的條件屬性。設Q?哿P,如果Q是獨立的,且ind(Q)=ind(P),則稱Q為P的一個約簡;顯然,P可以有多個約簡。P的核記作core(P),P的核是P中所有必要關系的集合。
2 差別矩陣屬性約簡算法優化算法
差別矩陣又稱為區分矩陣(discernibility matrix),是粗糙集對數據進行屬性約簡的一種方法,這種方法有許多優點,但是最突出的優點就是它能容易地計算約簡和核[3]。
設知識表達系統為S=(U,A,V,f),根據數據域U生成的差別矩陣是一個n×n的對稱矩陣,C為條件屬性集,D為決策屬性集,差別矩陣中任一元素為:
a(x,y)={a∈C|f(x,a)≠f(y,a)} 若?堝d∈D,滿足f(x,d)≠f(y,d)?準 若?坌d∈D,滿足f(x,d)=f(y,d)
所以a(x,y)是區別對象x行和y列的所有屬性的集合。
改進屬性約簡算法具體步驟如下[6]:
輸入:一個決策表S=(U,C∪D,V,f)。
輸出:決策表的核core和一個最佳屬性集R。
Step1 針對決策表的不相容性,先對U進行歸類劃分U=x■■,x■■,……,x■■。
Step2 對U中的樣本進行歸類,選擇不同的樣本來組成新的樣本集V,利用V來求差別矩陣M中的元素項,記錄各屬性r出現的次數Fre(R),并存儲到一維數組B中。
Step3 將生成的差別矩陣元素項存儲到一維數組A中,并且確保A中的所有元素項都是相異的。
Step4 篩選出一維數組A中的單個屬性r構成的元素項,并添加到核core和屬性集R中,core=core∪r,R=R∪r,將一維數組A含此屬性的元素去掉,將數組B中對應的記錄屬性r的項設為0。若沒有這種元素項,則選擇頻率最大的屬性r并入屬性集R中,并對數組B進行修改。
Step5 對數組進行處理,將一維數組A元素項中的屬性r去掉。
Step6 若數組A=?準,轉Step7,否則選擇頻率最大的屬性r并入屬性集R中,并修改數組B中數據,轉step5。
Step7 輸出core和R。
最終輸出的core為屬性的核,R為約簡屬性集。
3 BP神經網絡原理
1986年Rumelhart和McCelland為首的科學家小組首先提出了BP(Back Propagation)網絡,這種神經網絡是一種按誤差逆傳播算法訓練的多層前饋神經網絡,是目前應用最廣泛的一種神經網絡模型。BP網絡[4]能學習和存貯大量的輸入—輸出模式映射關系,而無需事前揭示描述這種映射關系的數學方程。它的學習規則是使用最速下降法,通過反向傳播來不斷調整網絡的權值和閾值,使網絡的誤差平方和最小。BP神經網絡模型拓撲結構包括輸入層(input)、隱層(hide layer)和輸出層(output layer)。
輸入層各神經元負責接收來自外界的輸入信息,并傳遞給隱藏層各神經元[7];隱藏層是內部信息處理層,負責信息變換,根據信息變化能力的需求,隱藏層可以設計為單隱層或者多隱層結構;最后一個隱層傳遞到輸出層各神經元的信息,經進一步處理后,完成一次學習的正向傳播處理過程,由輸出層向外界輸出信息處理結果。
4 模型構建
模型的簡易開發流程圖如圖2所示。
5 結論
本文雖然進行了部分改進,一定程度上降低了運算量減小內存占用量,同時在屬性約簡過程中,省略差別矩陣生成過程,只是利用差別矩陣生成理論,直接將生成的差別矩陣元素直接進行篩選,存儲到一維數組中。這樣也可以降低算法的空間復雜度,避免因數據量大而造成的內存溢出。最終,針對一維數據進行屬性約簡,提取約簡屬性。
利用粗糙集和神經網絡方法和其他方法進行比較,正確率如圖3所示。
通過圖3可以看出,首先利用決策屬性對客戶數據進行分類,然后在利用差別矩陣進行屬性約簡得到約簡屬性集,然后在利用神經網絡對客戶數據進行分析,得到的結果準確率高于其他方法。
參考文獻:
[1]張文修,吳偉志等.粗糙集理論與方法[M].科學出版社,2001.7:17-39.
[2]劉同明.數據挖掘技術及其應用[M].北京:國防工業出版社,2002,23-76.
[3]唐彬,李龍澎.啟發式屬性約簡算法完備性和規則發現算法的研究[J].計算機工程與應用,2003,(30):191-194.
[4]張朝輝,陸玉昌,張鈸.利用神經網絡發現分類規則[J].計算機學報,1999,22(1):108-112.
[5]劉清.Rough集及Rough推理[M].北京:科學出版社,
2001.89-123.
矩陣論在神經網絡中的應用范文4
1變壓器故障分析
電力變壓器固體絕緣材料和油在電和熱的雙重作用下,會產生各種氣體,而這些氣體將溶解于變壓器內部的油中,通過對油中氣體種類和含量進行分析,就能判斷變壓器的故障。產生的氣體主要有氫氣、烴類、一氧化碳和二氧化碳,其中氫氣、甲烷、乙炔、乙烷、乙烯、一氧化碳、二氧化碳是判斷故障時用到的主要氣體,稱為特征氣體。熱性故障主要是因熱應力造成絕緣加速老化引起的。當過熱只影響到絕緣油分解而不影響到其他材料時,會發生低溫過熱,此時主要產生低分子烴,特征氣體主要是甲烷和乙烷,并且這兩種烴占總烴的80%以上。當溫度較低時,甲烷所占比例最大;當溫度繼續升高到500℃時,即中溫過熱,乙烯和氫氣的含量急劇增大;溫度繼續升高到700℃(高溫過熱)以上時,會產生乙炔,但含量不太大,不會超過總烴量的6%。電性故障是在高電應力的作用下導致絕緣老化而引起的內部故障。根據能量密度的不同可分成不同的幾種故障類型:(1)高能放電,常見的是線圈匝和層間擊穿,其次是對地閃絡及分接開關飛弧或者引線斷裂,發生前沒有先兆現象,很難預測。特征氣體主要有乙炔、氫氣,其次有乙烯和甲烷。(2)低能放電,低能放電發生的情況較多,如鐵芯接地片接觸不良或者引線接觸不良而引起放電等。特征氣體主要有乙炔和氫氣,但烴的含量不高。(3)局部放電,局部放電較上面兩個放電發生的機率要小很多,發生局部放電時,特征氣體會跟隨放電能量密度的變化而變化,通常總烴的含量不高,主要是氫氣,還有甲烷,氫氣通常占氫和總烴的90%以上。
2基于徑向基神經網絡的變壓器故障診斷模型
RBF神經網絡是由輸入層、隱含層和輸出層構成的三層前向網絡[10]。輸入向量信號傳遞到隱層,隱層有S1個隱神經元,其節點徑向基傳遞函數為高斯函數(radbas);輸出層有S2個神經元,節點函數是線性函數(pruelin)。函數網絡的結構如圖1所示。當輸入向量進入網絡的輸入端時,徑向基層的每個神經元都會輸出一個值,代表輸入向量和神經元權值向量之間的接近程度。如果輸入向量與權值向量相差很多,則徑向基層的輸出接近0,經過第二層的線性神經元,也輸出接近0;如果輸入向量與權值向量很接近,則徑向基層的輸出接近1,經過第二層的線性神經元,輸出值就更加接近第二層權值;在這個過程中,如果只有一個徑向基神經元的輸出為1,而其他的神經元輸出均為0或者接近0,那么線性神經元層的輸出就相當于輸出為1的神經元對應的第二層權值的值。一般情況下,不止一個徑向基神經元的輸出為1,所以輸出值就會有所不同。
2.1徑向基神經網絡輸入輸出設計網絡輸入層節點數就是一個故障模式包含的特征量數?;谟椭腥芙鈿怏w與內部故障的對應關系,本論文采用6種特征氣體作為網絡的輸入向量,它們是H2,CH4,C2H4,C2H2,C2H6,CO2,這樣,網絡的輸入層的節點數被確定為6.在對變壓器的故障識別中,采用6種故障類型:低溫過熱、中低溫過熱、高溫過熱、低能放電、高能放電和局部放電,這樣輸出層的節點數也為6。下圖為實現變壓器故障診斷的RBF網絡拓撲結構。
2.2徑向基網絡徑向基函數確定及樣本數據處理針對變壓器故障的特點,本文選用高斯函數為徑向基函數,具體如下式所示。其中:x是6維輸入向量;c為基函數的中心,是與x具有相同維數的向量;δ決定基函數圍繞中心點的寬度。徑向基函數的優點在于:(1)表現的形式簡單,即使是多變量的輸入也不會增加過多的復雜性;(2)徑向對稱;(3)便于理論分析;(4)函數光滑性好,任意階的倒數都存在。為保證網絡的學習信息準確和網絡不出現飽和,以及網絡的規模不會過大,在把數據輸入網絡前,把數據進行歸一化處理,歸一化公式如下。其中:xi表示特征氣體的數值,xmin表示所有氣體數值中的最小值,xmax表示所有氣體數值中的最大值。
2.3用徑向基網絡進行變壓器故障診斷的基本步驟用RBF神經網絡診斷變壓器故障大致分為三步:(1)收集變壓器故障樣本數據,對輸入向量即6種特征氣體數據進行歸一化處理;(2)為得到網絡訓練的輸出向量,對變壓器故障樣本數據中的故障類型進行編碼。從RBF神經網絡的輸入和輸出樣本數據中選出一些作待測樣本,剩下的作訓練樣本;(3)構建和訓練RBF神經網絡。根據第一步和第二步得到的RBF神經網絡的輸入和輸出訓練樣本和待測樣本數據,構建和訓練RBF神經網絡,直到達到滿意的精度為止。
3徑向基神經網絡訓練及變壓器故障診斷
RBF神經網絡訓練及變壓器故障診斷實驗在Mat⁃lab應用軟件的神經網絡工具箱中進行,實驗選取273組故障數據作為訓練樣本,另外60組故障數據作為待測樣本。利用函數newrb()構建RBF神經網絡。newrb()函數可自動增加網絡的隱層神經元數目,直到均方差滿足精度或者神經元數目達到最大為止。調用方式如下:Net=newrb(P,T,goal,spread)其中,P為歸一化以后的輸入向量構成的矩陣,T為歸一化以后的期望輸出向量構成的矩陣,goal為訓練精度,spread為徑向基層的散布常數。用sim()進行故障診斷測試構建的RBF神經網絡。調用方式如下:zhenduan=sim(netrbf,P1)其中,P1為歸一化以后的待測樣本的輸入向量構成的矩陣。選取精度goal為0.02,徑向基層的散布常數spread為5,構建和訓練RBF神經網絡,并用待測樣本的輸入向量P1進行故障診斷測試。RBF神經網絡訓練過程中的均方差變化情況如圖3所示。從圖中可以看到,均方差隨著訓練次數的增加而逐漸減小,當訓練次數達到150次的時候,均方差達到目標值。RBF神經網絡對待測樣本的故障診斷結果如下所示。應用最大隸屬原則,將zhenduan中的各個列向量的最大值取為1,其它分量的值取為0,然后與故障類型目標矩陣T1的各個列向量進行比較,有49個診斷結果正確,正確率為81.67%。選取精度goal為0.02,徑向基層的散布常數spread分別取為spread=10、spread=14、spread=10.5,構建和訓練RBF神經網絡,并用待測樣本的輸入向量P1進行故障診斷測試,診斷結果準正確率列于表2。經比較可以得出,當spread=10.5時準確率最高。所以選擇spread=10.5時訓練得到的RBF神經網絡模型變壓器故障診斷模型。
4徑向基神經網絡故障診斷和三比值法的比較
三比值法的基本原理是變壓器發生故障時,從變壓器油中提取五種特征氣體H2、CH4、C2H2、C2H4、C2H6的成分含量,計算出相應的三對比值C2H2/C2H4、CH4/H2、C2H4/C2H6并賦予相應的編碼,再由編碼規則,得到一組編碼表,然后根據提供的診斷標準就可找到相應的故障類型。用三比值法對上述60組樣本檢驗數據P1進行故障診斷,結果如表3。從表3可以看出,用三比值法有26組數據無法診斷故障類型,有6組故障類型診斷錯誤,故有32組數據不能正確判斷故障類型。三比值法與徑向基神經網絡模型故障診斷準確率的比較如表4所示。通過上面的實驗可知,選擇適合的spread參數,基于徑向基神經網絡模型的變壓器故障診斷方法比三比值法具有很好的優越性,診斷的準確率有很大的提高。
5總結
矩陣論在神經網絡中的應用范文5
關鍵詞:直流伺服電機;PID;Hopfield神經網絡;參數整定
中圖分類號:TP27文獻標識碼:Adoi: 10.3969/j.issn.1003-6970.2011.03.029
PID based on Hopfield neural network in the application of DC servo motor
LV Ting-ting, CHEN Li, WANG Kai
(School of Information and Electrical Engineering of CUMT, Xuzhou, 221008)
【Abstract】For the nonlinear and time-varying factors of DC servo motor,we introduced a control method based on Hopfield neural network,combining with features of the traditional PID controller,in this paper. This method used of self-learning ability of Hopfield neural network.After training in the limited time,we can get the optimalparameters for PID controller. Simulated constructed model and did tracking experiment through Matlab. Experiments show that this method not only simplified the tuning complexity of classic PID control parameters, but also enabled real-time,better stability and tracking property.The effect on the control of the controlled object is an ideal.
【Key words】DC servo motor,PID,Hopfield neural network, parameter tuning
0引言
直流伺服系統廣泛應用行器、船舵、火炮等系統[1]。隨著工業過程的不斷發展,對直流伺服系統也提出了更高的要求。由于直流伺服電機本身存在很多非線性特性,而且抗干擾的能力很差,能否設計出良好的控制器是工業生產中必須解決的問題。PID控制是工業過程控制中最常見的一種控制策略,傳統的 PID控制器具有直觀、實用和魯棒性好等優點,但對高精度的伺服系統,顯然傳統的控制理論是不能滿足需求的。神經網絡具有良好的自學習和非線性逼近能力,可以有效的克服直流伺服系統中參數時變、非線性等問題[2]。本文將Hopfield神經網絡(簡稱CHNN)與PID 控制器相結合,共同完成對直流伺服電機的控制。仿真與實驗表明,該控制器具有較強的自學習能力和良好的跟蹤性能。
1基于CHNN的PID控制器參數優化
1.1Hopfield神經網絡介紹
1986年美國物理學家J.J.Hopfield利用非線性動力學理論中的能量函數的方法去研究反饋人工神經網絡的穩定性時,提出了Hopfield神經網絡[3]?;镜腍opfield神經網絡是一個由非線性元件構成的全連接型單層反饋系統,Hopfield網絡中的每一個神經元都將自己的輸出通過連接權傳送給網絡中的其它神經元,同時又都接收其它神經元傳遞過來的信息[4]。
反饋型網絡是一種動態網絡,它需要工作一段時間才能達到穩定[5]。 反饋型Hopfield神經網絡主要采用Hebb學習規則,計算收斂快,它與電子電路存在著對應關系,使該神經網絡易于理解和硬件的實現。Hopfield神經網絡的能量函數表征網絡狀態的變化趨勢,并可以依據Hopfield工作運行規則不斷進行狀態變化,最終能夠達到的某個極小值的目標函數。網絡收斂就是指能量函數達到極小值[4]。
1.2控制模型
CHNN主要由于 PID控制器參數的優化設計,其控制結構圖如下:
圖1基于CHNN優化的PID控制結構
該控制器由兩部分組成:一部分是傳統PID控制器的結構,如圖1中虛線框圖內所示,對系統的偏差信號進行比例、積分和微分計算并加權重相加處理,而且權重值就是相應的比例、積分和微分的系數;另一部是Hopfield神經網絡,根據系統輸出輸入的相關信息,通過反復學習和調整,確定網絡的權值矩陣和閾值,從而調節PID控制器所需要的參數[6]。在圖1中,被控對象采用線性離散系統空間表達式描述,本文以單輸入單輸出二階系統進行討論。
(1)
y(k)=Cx(k)
其中:
,,C=[01]
此時PID控制器在k時刻輸出為:
(2)
其中kp、ki、kd分別為比例、積分、微分系數;e(k)為控制系統在k時刻的誤差:e(k)=r(k)-y(k);設CHNN在第k時刻的輸出為:
V(k)=[V1(k),V2(k),V3(k)]T=[kp,ki,kd]T (3)
2在直流伺服電機中的應用
2.1直流伺服電機的數學模型
圖2為永磁直流伺服電機無控驅動裝置的原理圖,根據此圖推導其傳遞函數。
圖2直流伺服電機裝置原理圖
根據直流電機的工作原理及基爾霍夫定律,直流電機的四大平衡方程:
電樞回路電壓平衡方程:
(4)
電磁轉矩方程:
Mm(t)=Kaia(t) (5)
轉矩平衡方程:
(6)
由電磁感應關系得:Ea=Kbω(t) (7)
其中,Ra和La分別為電樞回路電阻和電感,Ea為電機的反電勢,Mm(t)為電樞電流產生的電磁轉矩,Ka為電機轉矩系數,Ja為機械旋轉轉動慣量,f為旋轉的粘性摩擦系數,ua(t)為電樞電壓,ω(t)為電動機轉動速度,ia(t)為電樞回路電流。電動機負載變化為電動機轉動速度的擾動因數,用負載力矩Md(t)表示[7]。
2.2算法的實現
控制系統的輸入為階躍函數r(k)=1(k),針對直流伺服電機的數學模型,采用由兩個神經元組成的CHNN對PI控制器進行優化設計。為了描述Hopfield網絡的動態穩定性,定義網絡的能量函數為[8]:
(8)
其中權值矩陣W是對稱的,即ωij=ωji。
選擇控制系統的目標函數為:
(9)
現在將PI控制器的輸出u(k)代入式(9),我們就可以得到權值矩陣:
(10)
而Hopfield神經網絡的閾值為:
(11)
網絡選擇對稱型S非線性作用函數,其中增益為K:
(12)
這時網絡的輸出模型為:
(13)
離散化,并設則有:
(14)
3系統仿真
以直流伺服電機PI控制系統為對象,在matlab軟件軟件環境下進行仿真。被控對象的數學模型為:
(15)
當采樣周期T=0.1s時,可以得到直流伺服電機的離散表達式:
y(k)=1.2397y(k-1)-0.2397y(k-2)+0.0842u(k-1) (16)
仿真結果如圖3和圖4所示。
從圖3可以看出,整個系統在單位階躍信號的激勵下,系統響應的峰值時間為0.08s,調節時間為0.3s,超調量為0.35,而且無靜差,具有很好的動態特性;在圖4中,對正弦波進行跟蹤實驗。結果表明神經網絡有限次學習后得到的PID控制參數,可以有效的實現跟蹤控制,系統具有較好的自學習能力和很強的自適應性。
4結論
本文以直流伺服電機為背影,介紹了一種基于Hopfield神經網絡的PID控制算法。這種算法一方面繼承了經典PID控制器良好的實用性和較強的魯棒性,另一方面也利用了神經網絡的自學習、適應性強的特性,而且能夠充分結合兩者的優點對控制直流伺服電機進行有效地控制。仿真實驗表明:該方法計算量小,參數調整快,實時性好,且具有較強的魯棒性和較高的控制精度??捎糜趯崟r性要求較高的直流伺服系統的跟蹤控制,因而有較高的實用價值。
參考文獻
[1] 張菊麗,王新民,張舉中.RBF神經網絡和FC復合控制在電動伺服系統中的應用[J].微電機,2007(5):39-41
[2] 侯遠龍,童忠志.電氣傳動系統PID自適應控制研究[J].工業儀表與自動化裝置,2001(2):11-13
[3] 魏東旭,馮小勤.基于Hopfield網絡的PID模型參考自適應控制的研究與仿真[J].2009(11):113-115
[4] 劉金琨.智能控制[M].北京:電子工業出版社,2005.5
[5] 孫增圻,張再興,鄧志東.智能控制理論與技術[M].北京:清華大學出版社,1997.4
[6] 舒懷林.PID神經網絡及其控制系統[M].北京:國防工業出版社,2006.6
[7] 歷虹,楊黎明,艾紅.伺服技術[M].北京:國防工業出版社,2008.8
[8] 徐麗娜.神經網絡控制[M].北京:電子工業出版社,2009.7
矩陣論在神經網絡中的應用范文6
關鍵詞:煤礦 漸進神經網絡 煤與瓦斯突出
1 概述
對于煤礦各煤層的煤與瓦斯突出危險性的區域預測,一般是先確定突出危險性參數,建立一個初步的預測模型,然后根據該礦區已經發生的煤與瓦斯突出事故的情況來不斷驗證,直到得到合理的區域預測模型,這樣整個區域預測模型的建立需要做大量調試,耗費很長的時間。
本文嘗試利用漸進神經網絡的特點,建立利用結果反求礦井的煤與瓦斯突出危險性區域預測模型,使得建立的模型能更加適合不同礦井發生煤與瓦斯突出的實際情況。此外,還能大大減少模型調試所消耗的大量時間[3]。
2 關于建立煤與瓦斯突出區域預測模型的分析
目前為止,國內外對影響煤與瓦斯突出參數的問題進行了很多研究,而隨著力學、動力學理論等學科的發展,分析礦井煤與瓦斯突出是如何發生的方法也越來越多。在眾多的突出理論中,能讓從事該行業的絕大多數人認同和接受的就是綜合假說。
綜合假說的主要理論是:煤與瓦斯突出是礦井中一種極其復雜的動力現象,它包括三個因素:地應力、高壓瓦斯和煤的結構性能,它的發生是三個主要因素綜合作用的結果。
從能量轉換角度分析,突出的能量來自煤巖體彈性彈性潛能和煤體中的瓦斯膨脹能,這些能量在突出過程中主要轉換為煤體的破碎功和碎煤在巷道中的移動功等。因此,在由煤巖層和瓦斯組成的這樣一個力學系統中,就有四種相互作用和相互轉化的能量體系,它們之間的消長關系夠長了煤與瓦斯突出全過程的能量條件。當煤巖體彈性潛能和煤體中的瓦斯膨脹能大于煤體的破壞功和移動功時,就發生煤與瓦斯突出,否則就不發生。
3 基于漸進神經網絡的煤與瓦斯突出危險區域預測模型的建立
神經網絡是由大量的神經元相連接的網絡,針對影響煤與瓦斯突出的地應力、瓦斯壓力、煤體結構的復雜關系,通過對漸進神經網絡的訓練、控制和識辯可以反求到影響不同礦井對煤與瓦斯突出影響的參數及其權重值[2]。
基于地應力、瓦斯壓力、煤體結構參數反求流程如圖1所示。假設模型的各項參數為某一組數值,可以仿真得到相應的突出參數的神經網絡的初始訓練樣本,將各種參數值Xm輸入神經網絡,即可反求得到對于的參數Yi,并將其作為煤與瓦斯突出的影響參數,可以得到影響參數的計算值Xn。如果計算值Xm和測量值Xn偏差超過許可誤差,必須重新選取樣本,對神經網絡在訓練,直到計算值Xm和測量值Xn的偏差在許可范圍內,即為反求得到的煤與瓦斯突出影響參數Yj。
神經網絡模型的結構,需要根據具體求解問題的復雜程度決定[3]。圖2為煤與瓦斯突出影響參數反求的神經網絡結構,神經網絡由可能代表影響煤與瓦斯突出因素的N個輸入單元組成輸入層,網絡的輸出層由實際代表影響煤與瓦斯突出的M個單元組成,網絡還包含一個隱含層。通過神經網絡可以建立影響煤與瓦斯突出因素的非線性關系:
神經網絡的訓練,就是根據訓練樣本來計算權值矩陣W,根據求出影響參數及權值矩陣計算煤層的突出危險性程度。神經網絡訓練以后,不管實際問題怎么復雜,神經網絡都可以快速的計算輸出變量,因此,神經網絡是適合用于煤與瓦斯突出危險性區域預測模型的建立的。
4 結論
本文應用反求的思想,從滿足預測的觀點出發,通過建立漸進神經網絡的方法來反求滿足不同礦區實際情況的突出危險性區域預測模型,從而反求出影響不同煤礦的煤與瓦斯突出危險性的影響參數,從而避免了建立煤與瓦斯突出危險性區域預測模型過程中繁雜的調試過程,縮短了該模型建立過程,并使得區域預測模型具有較好的針對性及預測效果。
參考文獻:
[1]候媛彬,杜京義,汪梅.神經網絡[M].西安電子科技大學出版社.
[2]張青貴.人工神經網絡導論[M].中國水利水電出版社.
[3]劉海波,施式亮等.人工神經網絡對礦山安全狀態的評判能力分析[J].安全與環境學報,2004(5):69~72.
[4]胡千庭,鄒銀輝等.瓦斯含量法預測突出危險新技術[J].煤炭學報,2007(3):277~280.