反向傳播神經網絡基本原理范例6篇

前言:中文期刊網精心挑選了反向傳播神經網絡基本原理范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。

反向傳播神經網絡基本原理

反向傳播神經網絡基本原理范文1

[關鍵詞]有機碳含量評價 神經網絡

中圖分類號:TP183 文獻標識碼:A 文章編號:1009-914X(2015)45-0356-01

1 BP神經網絡基本原理

BP神經網絡,即誤差反傳誤差反向傳播算法的學習過程,由信息的正向傳播和誤差的反向傳播兩個過程組成。輸入層各神經元負責接收來自外界的輸入信息,并傳遞給中間層各神經元;中間層是內部信息處理層,負責信息變換,根據信息變化能力的需求,中間層可以設計為單隱層或者多隱層結構;最后一個隱層傳遞到輸出層各神經元的信息,經進一步處理后,完成一次學習的正向傳播處理過程,由輸出層向外界輸出信息處理結果。當實際輸出與期望輸出不符時,進入誤差的反向傳播階段。誤差通過輸出層,按誤差梯度下降的方式修正各層權值,向隱層、輸入層逐層反傳。周而復始的信息正向傳播和誤差反向傳播過程,是各層權值不斷調整的過程,也是神經網絡學習訓練的過程,此過程一直進行到網絡輸出的誤差減少到可以接受的程度,或者預先設定的學習次數為止。

2 BP神經網絡工作機理

2.1 正向傳播

圖中,表示神經元的輸入,表示輸入層與隱含層之間權值,為隱含層與輸出層之間的權值,f()為傳遞函數,為第k個神經元輸出。假設BP神經網絡輸入層有n個節點,隱含層有q個節點,輸出層m個節點。

隱含層第k個神經元的輸入:

經過傳遞函數f()后,則隱含層第k個神經元的輸出:

其中f()為單調遞增且有界,所以一定有最大值。

輸出層第j個神經元輸出:

2.2 反向傳播

輸入P個學習樣本,通過傳入網絡后,輸出,第P個樣本誤差:

式中:期望

全局誤差E:

輸出層權值的變化,通過調整,使得全局誤差E最小,得出輸出層神經元權值調整公式:

隱含層神經元的調整公式:

3 應用實例

選擇AC,DEN,CNL,GR,PE,RD作為輸入曲線。XX井的53個點的巖心數據,從中選出30個點作為訓練樣本,23個點作為預測,構建網絡,對全井段處理。結果對比(如圖3-1),發現神經網絡計算的TOC比傳統的法計算的TOC效果好。其中TOC_NN為神經網絡預測TOC,TOC_DaltalogR_AC為法計算的TOC。

4 結論

BP神經網絡預測TOC克服了常規解釋模型的缺陷,不用選擇解釋參數,計算結果與解釋人員經驗無關,預測結果精度有較大幅度的提高。利用多種測井解釋數據及巖心分析資料作為網絡訓練樣本,通過網絡的訓練、學習,建立了BP網絡TOC模型,并利用該模型預測該地區新井的TOC值,實驗證明用該模型進行TOC預測是可行的。

參考文獻

[1]楊斌.神經網絡及其在石油測井中的應用[M].北京:石油工業出版,2005:111-115.

[2]羅利,姚聲賢.神經網絡及模式識別技術在測井解釋中的應用[J].測井技術,2002.

反向傳播神經網絡基本原理范文2

關鍵詞:建筑電氣設備故障;模糊理論與神經網絡;設備故障診斷專家系統

中圖分類號:TP207 文獻標識碼:A DOI:10.11974/nyyjs.20160132074

隨著當今社會經濟的不斷發展,人們對生活品質的追求越來越高,電氣設備變得多樣化和先進化,不同區域間聯系更加緊密,而在給人們的生活帶來便利的同時,簡單的人工故障診斷方法已經無法滿足結構日益復雜、功能日益完善的電氣系統,建立電氣設備控制系統智能故障診斷專家系統已經成為目前能滿足社會需求的選擇。近年來,模糊理論被廣泛的應用于建立故障診斷神經網絡,將模糊系統與神經網絡技術結合而形成的故障診斷技術也正在發展和應用。

1 建筑電氣設備常見故障類型及危害

1.1 電氣設備常見故障類型

1.1.1 電源故障

1.1.2 線路故障

1.1.3 元器件故障

1.1.4 防雷接地處理故障

1.2 電氣設備故障危害

電氣設備的運行需要很多電器元件的相互配合,產生故障通常是因為電能或控制信息在傳遞、分配、轉換過程中失去控制。斷路、短路、異常接地、漏電、電氣設備或電器元件損壞、電子設備受電磁干擾而發生錯誤動作、控制系統元件的偶然失效都屬于電氣設備故障[1],而這些故障也很有可能造成大范圍的人員傷亡以及造成嚴重的財產損失,一旦發生,也會造成其他相關領域不同程度的癱瘓。由此可見,電氣設備出現故障的概率較高,危害范圍也比較大。

2 神經網絡與模糊理論

神經網絡是一種模仿動物神經網絡行為的特征,進行分布式并行信息處理的算法數學模型[2]。這個模型可以根據不同系統自己的特征來選擇處理不同信息的方式,在很多不同領域都有比較廣泛的應用,當然,它本身也有一些缺陷,比如它不能求解不確定性問題、不能處理符號性信息等,因此,它需要結合其它相關理論和方法來彌補自身的不足,以便更好地解決特定領域中的問題。

模糊理論是指用到了模糊集合的基本概念或連續隸屬度函數的理論[3]。模糊控制是一種基于規則的控制,它可以直接采用語言型控制規則,在設計過程中不需要建立被控對象的精確數學模型,控制原理和策略通俗易懂,便于人們接受與理解,控制效果好,具有一定的智能水平,應用起來很方便,適用于對那些數學模型難以獲取、動態特性不易掌握或變化非常顯著的對象。模糊控制器是一種比較容易控制、掌握起來比較理想的非線性控制器,具有一定的適應能力和強健性。

將模糊系統與神經網絡技術相結合而形成的模糊神經網絡可以作為對電氣設備進行故障診斷的模型,這一技術的提出為電氣設備故障的診斷帶來發展和進步,模糊理論被廣泛的應用于建立故障診斷神經網絡,這2種理論的結合將會給故障診斷研究提供解決思路,值得推廣應用[4]。

3 建立電氣設備故障診斷系統

由于電氣設備故障機理的復雜性,系統在實際運用過程中,可能會發生隨機故障模式,故障征兆信息的正確與否直接關系到故障診斷的正確性,因此利用現有的電氣設備系統控制平臺,對電氣設備控制系統的信號進行實時采集和及時與PC 機進行通信,建立電氣設備控制系統故障診斷系統便顯得特別重要。

3.1 BP神經網絡模型

BP(Back Propagation)模型是一種最常用的人工神經網絡模型,它的基本原理為利用誤差反向傳播算法,從而得到多層前向神經網絡模型。在故障診斷方面使用BP模型在一定條件下能夠加強工作效率,使得故障診斷問題變得更加直觀。利用模糊理論與神經網絡相結合的模糊神經網絡解決建筑電氣設備故障的診斷,是一種智能化控制的手段,也將逐漸發展成為未來的趨勢[5]。其模型原理圖如圖1。

要建立模糊神經網絡系統,要根據相關理論或實際工作中的經驗,將故障現象和故障原因相對應,作為系統的學習樣本。按照輸入與輸出相對應的關系輸入學習樣本,系統經過內部的算法不斷提高精度,當精度達到設定的要求時,模糊神經網絡系統的學習過程結束。此時,將測試樣本的輸入數據放入系統輸入端,如果輸出數據與測試樣本基本相同,那么模糊神經網絡系統建立成功。

在模糊神經網絡系統的實際使用時,必然會遇到輸入數據與樣本不同的狀況。根據內部算法,系統將會找到與學習樣本最相似的一組數據作為參考,自主得到輸出數據。與此同時,如果系統自主算出的結果得到采納,那么這組數據將會做為新的樣本存入數據庫,成為參考數據。

3.2 BP學習算法

目前,BP算法是應用很廣泛、完善性比較高的神經網絡訓練算法,方便、容易實現、計算量小、并行性強是這個方法領先其他算法的優勢。BP算法的基本原理[6]為先求解誤差函數的最小值,根據梯度下降法,按誤差對權值做負反饋。

BP算法需要依次根據輸入對輸出進行矯正,也就是對每組數據都要計算比對。然而,全局誤差的梯度下降算法,要求連接權和閾值的矯正是在批量進行學習樣本的輸入之后再進行的,所以要修改各個連接權值。利用梯度下降法來修改各個連接權值,以便達到近似全局誤差的算法效果。全局誤差梯度下降算法流程如圖2所示。

4 結 語

電氣設備的故障診斷已經成為值得重視的問題,為保證運行系統能夠正常運行,因此需要建立起更加科學完善的電氣設備管理系統,逐漸減少電氣設備運行出現故障的可能性,保障電力系統的穩定能力,本文簡單介紹將模糊理論與神經網絡結合,更好的解決電氣設備故障問題,結合傳感器檢測技術、自動控制技術、通信與網絡技術等方法,建立電氣設備控制故障診斷系統,希望可以早日應用到生活中的建筑電氣設備故障診斷中去。

參考文獻

[1]電氣設備及控制電路常見故障分析[EB]. 電工學習網.

[2]田景文.人工神經網絡算法研究與應用[M]. 北京理工大學出版社,2006.

[3]諸靜.模糊控制原理與應用[M].機械工業出版社,1995.

[4]龍祥,錢志博.模糊理論在設備故障診斷神經網絡中的典型應用[J].廣東工業大學學報,2006.

[5]陳流豪.神經網絡BP算法研究綜述[J].電腦知識與技術,2010.

反向傳播神經網絡基本原理范文3

關鍵詞:學生綜合素質評價;BP神經網絡;算法設計

中圖分類號:TP311文獻標識碼:A文章編號:1009-3044(2009)24-6786-03

BP neural Network Based on the Overall Quality of the Student Evaluation of Algorithm Design

ZHANG Wen-sheng

(Xiamen Gongshang Lvyou Xuexiao, Xiamen 3610012,China)

Abstract: In this paper, the overall quality of the students a variety of evaluation methods carried out in-depth analysis to explore the use of BP neural network theory to evaluate the feasibility of the overall quality, and BP neural network based on the overall quality of the student evaluation of algorithm design.

Key words: evaluation of the overall quality of students; BP neural network; algorithm design

學校德育教育是提高學生綜合素質的重要一環,在學校工作中占有舉足輕重的地位。德育涉及大量定性和定量的數據處理,為了體現其科學性和公平性,采用先進的計算機技術進行學生綜合素質量化評估勢在必行。

1 問題的提出

據調查,目前在學校里對學生素質評價的方法,主要有以下幾種:

1) 定性描述法

在學期或學年結束時,班主任根據學生在班級、學校和社會活動中的行為表現,運用文字對學生的綜合素質進行描述,作為對學生的評價。這種方法在評價學生綜合素質時起過一定的作用,但是,由于教師對學生綜合素質評價的內容不明確,要求不統一,帶有一定的主觀片面性和模糊性。

2) 等級劃分法

班主任根據平時對學生的觀察和了解,對學生的綜合素質行為劃分出優、良、中、差四個等級。它只能說明每個學生綜合素質發展的程度,在班集體中所處的地位,但缺乏具體內容,學生對于自己或他人的優點和缺點、以及個人今后的努力方向都不明確。

3) 自我總結法

這種方法是以學生為主,在教師的指導下總結自己的收獲,存在的問題、以及今后的努力方向,并寫成書面材料,然后寫在操行表的自我總結欄內。這種方法是以學生的自我評價為主,它對于提高學生的自我評價能力,具有一定的促進作用。但是,由于沒有老師和同學們參加評價,其評價結果缺乏客觀性。

4) 小組評議法

是以班級小組評議為主。通過開評議會的形式,對全組成員分別進行評議,肯定成績,提出缺點,最后把大家的意見集中起來,作為對學生的評價結果。它具有一定的客觀性,可是,沒有教師參加評議,影響了評價結果的可信度。

上述各種方法的都有一定的長處,也有一定的缺點。例如,對學生的綜合素質的結構,沒有明確統一的規定和具體要求;不能同時吸收各方面的意見參加評價;沒有制定較為符合需要的綜合素質量表和采用科學的測量手段等等。所以,評價的結果往往帶有主觀片面性,評語內容的不確定性,以及處在同一等級的同學之間存在差異的模糊性。于是最近又提出了對學生綜合素質定量進行測量和評價。

5) 定量分數法

將構成學生綜合素質的各種因素數量化,并制定出綜合素質量表。在具體的進行測量和評價時,把學生綜合素質所含每種因素的發展程度分為優、良、中、差四個等級,每個等級分別對應一定的標準值。對不同因素確定不同的權重大小,再綜合學生每個因素所取得的標準值,最后得出學生的綜合素質分。

用定量的方法對學生的綜合素質發展程度進行評價時,不同因素需要確定不同的權重大小。權重的大小對評估結果十分重要,它反映了各指標的相對重要性。由于對不同的因素的權重是人為給定的,而學生綜合素質的各項因素對學生的整體素質存在不可確定的影響程度,因些在對學生的測量和評定過程中必然受到主觀因素及模糊隨機性的影響。并且這種方法需要消耗大量的人力和時間。

為了探討這個問題,我們根據BP神經網絡的基本概念和原理,用神經網絡自我學習的方法,對中學生綜合素質進行測量和評價。BP神經網絡能利用經驗樣本對神經網絡的訓練,達到神經網絡的自我學習,在網絡中自動建立一個多輸入變量與輸出變量間的非線性映射過程,無需建立具體的數學模型和規則,可以處理那些難以用模型或規則描述的過程或系統。神經網絡具有自組織、自學習、自適應的特點,能通過連接權重的不斷調整,克服權重確定的困難,弱化人為因素,自動適應信息、學習新知識,最終通過學習訓練對實際學習樣本提出合理的求解規則,對學生的綜合素質的整體評定具有十分重要的意義。首先我們來了解BP神經網絡的基本原理。

2BP神經網絡的基本原理

1) 神經元網絡基本概念

神經網絡是單個并行處理元素的集合,從生物學神經系統得到啟發。在自然界,網絡功能主要由神經節決定,可以通過改變連接點的權重來訓練神經網絡完成特定的功能。如圖1所示。這里,網絡將根據輸出和目標的比較而進行調整,直到網絡輸出和目標匹配。

2) 神經元網絡結構

圖2所示為一個單標量輸入且無偏置的神經元。

神經元輸出計算公式為:a=f(wp+b)。神經元中的w和b都是可調整的標量參數??梢赃x擇特定的傳輸函數,通過調整權重 和偏置參量 訓練神經網絡做一定的工作,或者神經網絡自己調整參數以得到想要的結果。

3) BP結構及算法描述

在實際應用中,神經網絡用得最廣泛的是反向傳播網絡(BP網絡),典型的BP網絡是三層網絡,包括輸入層、隱含層和輸出層,各層之間實行全連接。

BP網絡是采用Widrow-Hoff學習算法和非線性可微傳輸函數的多層網絡。網絡的學習過程由正向和反向傳播兩部分組成。在正向傳播過程中,每一層神經元的狀態只影響到下一層神經元網絡,如果輸出層不能得到期望輸出,就是實際輸出值與期望輸出值之間有誤差,那么轉入反向傳播過程,將誤差信號沿原來的連接通路返回,通過修改各層神經元的權值,逐次地向輸入層傳播去進行計算,再經過正向傳播過程,這兩個過程的反復運用,使得誤差信號最小。實際上,誤差達到人們所希望的要求時,網絡的學習過程就結束了。

4) 反向傳播算法

反向傳播學習算法最簡單的應用是沿著性能函數最速增加的方向一梯度的負方向更新權重和偏置。這種遞歸算法可以寫成:

xk+1=xk-ak*gk

這里xk是當前權重和偏置向量,gk是當前梯度,ak是學習速率。在神經元中,學習速度又稱為“學習速率”,它決定每一次循環訓練中所產生的權值變化量(即該值的存在是神經元網絡的一個必須的參數)。大的學習速度可能導致系統的不穩定,但小的學習速度將會導致訓練較長,收斂速度很慢,通常情況下取值在0-01~0,8之間。

3 基于BP神經網絡的學生綜合素質量化評估模型

從上述對神經元網絡基本概念的研究,我們可以看出BP神經網絡主要根據所提供的數據,通過學習和訓練,找出輸入與輸出之間的內在聯系,從而求取問題的解,而不是完全依據對問題的經驗知識和規則,因而具有自適應功能,這對于弱化權重確定中的人為因素是十分有益的;其次能夠處理那些有噪聲或不完全的數據,具有泛化功能和很強的容錯能力;由于實際對學生量化評估往往是非常復雜的,各個因素之間相互影響,呈現出復雜的非線性關系,人工神經網絡為處理這類非線性問題提供了強有力的工具。因此與其它評定方法相比,基于神經網絡的評價方法越來越顯示出它的優越性。結合學校對學生進行綜合素質評估考核的具體問題,我們提出以下設計。

3.1量化評估內容的確定

1) 確定學生的綜合素質結構

學生的綜合素質結構,主要是根據一定歷史階段的社會要求、學校對學生的傳統要求,以及各個不同年齡階段學生心理和生理發展的特征來確定的,它具有一定的社會性、科學性、可行性。以教育部提出的職業學校學生發展目標為依據,評定內容包括:道德品質與公民素養、學習能力、交流與合作能力、運動與健康、審美與表現、職業技能等6個層次。每個層次又包括各種因素,各層次和因素之間又是相互聯系和相互促進的,它既反映了社會的、學校的具體要求,又符合學生綜合素質發展和形成的規律。當然,在實際評價學生中,可以根據學校的實際特點進一步確定各要素,進一步構成學生綜合素質評價的綜合評價指標體系。

2) 學生綜合素質評價的結構設計

用BP神經網絡進行學生綜合素質評價結構的設計如圖3所示。對學生的綜合素質進行量化評估時,從輸入層輸入評價學生綜合素質的n個評價指標因素信息,經隱含層處理后傳入輸入層,其輸出值y即為學生評估結果。這n個評價指標因素的設置,要考慮到能符合學生綜合素質發展和形成的規律,能全面評價學生的綜合素質狀況。

網絡結構的參數選擇十分重要,由于輸入層與隱含層神經元個數的增加會增加網絡的表達能力,不僅會降低系統的性能,同時也會影響其收斂速度和增加噪聲干擾。所以首先必須確定輸入層神經元的數目。為使模型即有理論價值又有可操作性,本例對應于對學生綜合素質考核結構的六個因素,本文采用6個輸入神經元,分別為道德品質與公民素養、學習能力、交流與合作能力、運動與健康、審美與表現、職業技能等評價指標。由于目前隱單元數尚無一般的指導原則,為了兼顧網絡的學習能力和學習速度,隱含層神經元的個數選擇采用試算法,在網絡訓練過程中進行調整。筆者首先選定15,用訓練樣本來學習,然后減少隱含層單元數后再進行學習,通過觀察訓練誤差變化的大小來調整隱單元數。其原則是:若在減少隱單元數進行訓練時過程平衡(即逐步收斂并達到較小的誤差)且誤差無顯著增加,則說明減少隱單元數是合適的;否則表明隱單元數不宜減少,而應增加隱單元數直到滿意為止。選擇一個輸入神經元為學生綜合素質最終評價結果,分別以0、0,5、1對應于學生評議等級的優、良、中三種不同的評價結果。經過多次實驗,最后得到適宜的網絡模型為6-4-1網絡模式。

3.2 量化評估模型

1) 指標體系的規范化處理

根據神經網絡計算規則,為了保證輸出在線性部分,不到兩端去,應保證輸入輸出在0-1之間,反傳達時也一樣,輸出應在0~1之間。因此要將原始數據歸一預處理,變換為[0,1]區間的數值,得到規范化數據,作為輸入輸出節點的樣本數據。原始數據采用我校高一年一個班級的50名學生的學生綜合素質各項指標因素樣本數據,將實際數據分為兩組:前40名學生的各項指標因素成績樣本數據作為學習樣本,后10名學生的成績數據作為測試樣本。

2) 學習算法

本模型采用6-4-1BP神經網絡結構,其中輸入層為6個指標值和一個閾值。模型初始化時對所有的連接權賦予(0,1)上分布的隨機數,閾值取1。權值的修正依據帶慣性因子的delta規則。根據多次試驗的結果,其中,慣性因子α=0.075,學習率η=0.85,將樣本數據40組為一次循環,每次循環記錄40組樣本中最大的學習誤差。經過多次的學習,最后觀察網絡輸入與期望輸出的相對誤差,當誤差小于0.005時,學習結束??梢缘玫饺绻龃髽颖镜膫€數,精度還會進一步提高。

本文探討了神經網絡在學生綜合素質評價上的應用方法,可取得較為理想的結果,它可以解決用傳統統計方法不能或不易解決的問題。但是由于它是一種黑盒方法,無法表達和分析評估系統的輸入與輸出間的關系,因此也難于對所得結果作任何解釋,對求得的結果作統計檢驗;再者,采用神經網絡作評價系統時,由沒有一個便于選定最合適的神經網絡結構的標準方法,只能花大量時間采用湊試法,從許多次實驗中找出“最合適”的一種;還有樣本數據需要足夠的多,才能得到較為理想的結果。

參考文獻:

[1] 高長梅,趙承志,白昆榮.學校德育工作全書(上)[M].北京:人民日報出版社,2005.

[2] 聞新,周露,李翔,張寶偉.MATLAB神經網絡仿真與應用[M].北京:科學出版社,2008.

[3] J.P.Marques de sa,Pattern Recognition―Concepts,Methods and Applications[M].北京:清華大學出版社,2006.

反向傳播神經網絡基本原理范文4

Abstract: Neural network is widely applied for character recognition. Through the analysis of the problems, this paper recognizes character by the application of improved BP neural network, so as to improve recognition rate. This method has high recognition rate, fast speed, strong practicability, and can be applied to various high noise environment.

關鍵詞: 神經網絡;圖像預處理;特征提取;字符識別

Key words: neural network;image preprocessing;feature extraction;character recognition

中圖分類號:TP301.6 文獻標識碼:A 文章編號:1006-4311(2014)10-0206-02

0 引言

字符識別是指采用掃描儀、數碼相機等輸入設備,把英文字母、數字、條形碼等特殊字符的圖形文件輸入計算機,由識別軟件對圖片信息上的字符信息進行識別并變換成可編輯文檔的識別技術。主要有光學字符識別(Optical

Character Recognition,OCR)、圖像字符識別(Image Character Recognition,ICR)和智能字符識別(Intelligent Character Recognition,ICR),實際上這三種自動識別技術的基本原理大致相同。

1 常用字符識別方法

字符識別方法基本上都是為了區分結構識別、統計識別以及兩者相結合的三大類方法,這三大類方法都包含具體的識別方法。

1.1 結構識別 結構識別是早期字符識別的研究的主要方法,我們也可以稱之為句法結構識別。其思想是提取含有一定規律的結構信息,作為識別的依據。識別過程類似一個邏輯推理過程。結構識別的優點在于對字符變化的適應性強,區分相似字符能力強。但是在實際獲取字符圖像的過程中,由于存在著很多扭曲、傾斜等因素,就導致不能夠準確地提取結構特征,后面的識別過程就成了無源之水。此外,結構識別的算法描述也較為復雜,匹配過程的復雜度也很高,因此,我們原有的句法識別就受到新的挑戰。

1.2 統計識別 統計決策論的發展相對較早而且成熟,是為了提取待識別字符的一組統計特征,然后按照一定的準則進行決策函數的分類判決的。而統計識別是將字符點陣看作是一個能夠經過大量統計數據得到的整體,是以后所用的特征都需要經過的。統計特征主要是以抗干擾能力強為主要特點,以實現匹配與分類的算法簡單,且容易實現的。不足之處在于細分能力較弱,區分相似字的能力差一些。

1.3 結構識別與統計識別相結合 上述方法各有優缺點,而隨著研究的深入,這些方法逐漸得到融合。網格化特征就是結合的產物。特征的統計以網格為單位,即使個別點的統計有誤差也不會造成大的影響,增強了特征的抗干擾性。這種方法正得到日益廣泛的應用。

字符的結構特征直接反映了字符的特有屬性,而用字符的統計特征進行字符識別則是利用了計算機軟件善于處理數字的特點。雖然近幾年流行的神經網絡方法主要采用的是局部特征,但其分類機理也與傳統的統計識別方法相類似,優點是靈活性強。

2 字符識別流程

字符識別技術在當今社會的許多領域都有著廣泛的商業應用前景。常見應用有條碼識別、車牌識別、盲人的輔助閱讀設備和郵包自動分檢等。本文以車牌識別為例說明字符識別的應用以及識別流程。車牌識別系統的工作流程如圖1所示。

經過字符分割后,得到可以進行字符識別的圖像。本文采用神經網絡方法進行字符識別,識別的具體過程如圖2所示。

3 基于改進型BP神經網絡的字符識別算法

3.1 BP神經網絡簡介 神經網絡最早的研究是20世紀40年代,由心理學家Mcculloch和數學家Pitts合作提出的,由此拉開了神經網絡研究的序幕。人工神經網絡是通過對人腦生物神經機理進行簡化,抽象和模擬之后建立起來的一種計算模型,屬于機器學習的重要研究領域。人工神經網絡可以應用于字符識別、人臉識別等領域。

隨著神經網絡的威力逐漸顯現以及付諸應用的現實性,大量的學者對此進行了深入研究,出現了多種神經網絡,如徑向基神經網絡和Hopfield網絡等。1986年科學家Rumelhart和McCelland提出了BP(Back Propagation)神經網絡,是一種按誤差逆傳播算法訓練的多層前饋網絡,是目前在字符識別中應用最廣泛的神經網絡模型之一。BP網絡能學習和存儲大量的輸入輸出模式映射關系,而無需事前揭示描述這種映射關系的數學方程。它的學習規則是使用最速下降法,通過反向傳播來不斷調整網絡的權值和閾值,使網絡的誤差平方和最小。

BP神經網絡的結構如圖3所示。從左至右分別是輸入層、隱含層和輸出層。

從圖3可以看出,某一層的輸出就是下一層的輸入,即:am+1=fm+1(Wm+1am+bm+1),m=0,1,…M-1……

這里,M為神經網絡的層數。第一層的神經元的輸入為a0=p,最后一層神經元的輸出是a=aM,即為整個神經網絡的輸出。BP神經網絡雖然在字符識別領域有著重要的應用價值,但其存在如下問題:①進行字符識別時存在局部極小值問題;②算法通常需要迭代幾千步甚至更多,收斂速度慢;③隱含層和隱含層節點的數量難以確定。要解決上述問題,就需對BP神經網絡算法進行改進。

3.2 基于改進型BP神經網絡的字符識別

3.2.1 圖像預處理 在字符圖像采集、輸入的過程中由于受到多種噪聲的干擾,會使圖像質量下降,為字符識別工作帶來困難,因此需要對初始圖像進行必要的預處理。圖像預處理的具體步驟如下:①選取合適的閾值進行圖像二值化;②灰度變換增強對比度,改善視覺效果;③選取合適的方法去除噪聲,常用的有中值濾波、均值濾波、高通濾波等方法;④圖像分割,即將圖像中的字符獨立的分割出來。

3.2.2 字符特征值的提取 如果直接采用分割后的字符進行對比,那么需要對比的信息量很大,程序運行的時間也會大大增加。所以需要對分割后的字符進行特征提取,本文使用了類似九宮格的方法進行特征提取,即在字符圖像的水平方向上將圖像均勻分成三部分,在每一部分用一條水平方向的掃描線從左至右穿過字符,進行查找;垂直方向上原理相同,掃描線從上到下穿過字符,進行查找。取這六條線上的特征作為字符圖像的特征,這樣就得到了每個字符的六個特征值。

3.2.3 改進型BP神經網絡 針對BP神經網絡的局限性,為了避免落入局部極小值點,提高網絡訓練的精度和速度,對其算法進行了改進,常用的方法有:①優化初始權重。由于BP網絡的誤差曲面存在多個局部最小點和算法采用誤差梯度下降的方法調整網絡權重,因此導致了網絡的訓練結果極容易落入局部極小點。所以,網絡的初始權重對網絡的最終訓練結果影響非常大,它是影響網絡最終能否達到需求精度的重要因素之一。②調整自適應學習率。學習率η也稱步長,在標準的算法中為常數。BP算法的收斂特性和收斂速度很大程度上取決于學習率,對于不同的問題,其取值范圍也會不同。η取值過大可以加快學習速度,但會導致學習過程不收斂;η取值過小,則迭代次數明顯增加,導致學習速度過慢。為了加速收斂的過程,可以自適應改變學習速率。③附加動量法。動量法是指在反向傳播的基礎上,在每個權值調整值上加上一項正比于前次權值變化的值,并根據反向傳播法來產生新的權值變化。

本文為了簡單起見,采用附加動量法只對數字和英文字母進行字符識別,利用梯度下降法,使權值沿函數的負梯度方向改變。提高了學習速度,增加了算法的可靠性。

帶有附加動量項的權值調節公式為:

Wij(k+1)=Wij(k)+η[(1-α)D(k)+αD(k-1)]

其中,α是附加的動量項,取值范圍為0

3.2.4 設計改進型BP神經網絡進行字符識別 本系統采用了兩個BP網絡來進行數字和字母的識別。BP神經網絡的建立主要是三個層的神經元數目的確定。①輸入層節點數。此節點個數即為圖像預處理后所輸出的特征的維數。本系統輸入層節點數為24×48。②隱含層節點數。確定隱含層節點數的基本原則是:在滿足精度要求的前提下取盡可能緊湊的結構,即取盡可能少的隱含層節點數。本系統的兩個神經網絡,可以根據輸出層神經元的多少來確定其個數,即輸出層神經元越多,其隱含層神經元個數也越多。③輸出層節點數。用于識別數字的BP網絡,由于只有10個數字,所以采用了8421碼進行編碼,輸出層的神經元數目為4。而識別26個字母的BP網絡,其輸出層的神經元數目為5。待識別的字符圖像和訓練好網絡后識別的結果分別如圖4和圖5所示。

4 結束語

在字符識別的過程中,每一步都會有不同程度的誤差,本文神經網絡經驗證后識別率可達95.1%,平均識別時間為0.6s。影響識別成功率的主要因素是訓練樣本的數量和訓練次數,要保證一定數量以上的訓練樣本和訓練次數,以保證識別率。另外,神經網絡的層數和各層神經元的個數,對神經網絡算法的運行速度和識別率也有著直接的影響,其數量越多,識別率越高,但也制約著識別速度,因此,如何處理好兩者關系很重要。

參考文獻:

[1]關學忠,劉勇智.基于數字圖像處理的車牌定位及字符分割方法[J].裝備制造,2010(01).

[2]武桐.基于圖像匹配的漢字識別系統研究與實現[D].上海:上海交通大學,2010.

反向傳播神經網絡基本原理范文5

關鍵詞:模擬電路;故障診斷;模糊數學;bp網絡;模糊bp網絡

0引言

電路故障是指在規定的條件下,電路工作時它的一個或幾個性能參數不能保持在要求的上、下限之間,其結構、組件、元器件等出現性能減退、老化、破損、斷裂、擊穿等現象,喪失了在規定條件和環境下完成所需功能的能力。

長期以來,學界對模擬電路工作特點的研究已相當深入,但對于故障診斷方法的研究卻困難較大,這是由于模擬電路本身的特性決定的:1)輸入激勵和輸出響應都是連續量,模擬電路中的故障模型復雜,量化難度大;2)模擬電路信號量程寬,不管電壓、電流的量程還是頻率都可達十幾個數量級,測量難度大;3)模擬電路中的元器件參數具有容差,導致電路的故障狀態的模糊性,而無法準確定位;4)模擬電路中存在廣泛的反饋回路和非線性問題,使計算的難度更加復雜。因此,學界提出了許多模型和方法來完成對某些符合特定條件的模擬電路的故障診斷。其中神經網絡法的使用就相當普遍,在硬和軟故障診斷中都有應用,因為神經網絡的技術優勢針對模擬電路故障診斷有較好的適用性,這主要體現在:1)神經網絡的大規模并行處理特點,大大提高了診斷效率;2)自適應與自組織能力使神經網絡在學習和訓練中改變權重值,發展出新的功能。同時,模糊數學也與神經網絡相結合,這是利用了模糊數學對待診斷模擬元器件的故障不確定性進行量化處理,能夠有效克服模擬電路元器件因為容差、非線性及噪聲造成的電路參數模糊性。

本文的研究目的就是分別利用單純bp神經網絡和模糊bp神經網絡的方法建立模擬電路故障診斷模型,利用電路仿真收集電路不同工作狀態下的關鍵點電壓,代入診斷模型并得到診斷結果。根據各網絡的結果分析比較各診斷模型的優缺點,找出模糊數學對改進模擬電路故障診斷模型的具體表現。

1模糊神經網絡的故障診斷模型

1.1典型模糊神經網絡診斷模型介紹

圖1顯示的是一個典型的模糊神經網絡模型,該模型由原始知識獲取(fundamental knowledge acquire,fka)、特征參數處理(characteristic parameter produce,cdp)、知識提取(knowledge extracted,ke)、經驗知識庫(experience knowledge base,ekb)、學習樣本集(learning sample set,lss)和模糊神經網絡(fuzzy neural networks,fnn)共6個模塊共同組成,其工作流程是:

圖1 典型模糊神經網絡診斷模型

1)原始知識獲取模塊通過對電路工作原理進行分析,模擬或仿真各類故障發生時輸入和輸出參數,從而獲取原始知識(x,y),將其傳入知識提取模塊中供系統學習,所得經驗集存入經驗知識庫中;

2)將原始知識和已經存放在經驗知識庫中的經驗知識(初始庫可為空)一起輸入學習樣本組織模塊中,進行學習樣本的構建,合成訓練樣本集為(x1,y1);

3)將(x1,y1)輸入到模糊神經網絡模塊,學習訓練,并在達到指定精度后停止;

4)將從模擬電路中獲得的實測參數xc輸入至特征參數提取模塊中,完成數據分析和處理,輸出特征參數數據xc';

5)將特征參數數據輸入到學習收斂后的模糊神經網絡中,進行診斷推理,得出診斷結果yc';

6)將得到的實測數據集(xc',yc')輸入學習樣本組織模塊,動態增強模糊神經網絡的自適應能力;

7)將得到的實測數據集(xc',yc')輸入知識提取模塊,進行分析和處理,如能提取出經驗知識,則歸入經驗知識庫中[1]。

1.2模糊神經網絡結構

模糊神經網絡的結構應該包括4層,如圖2所示。

模糊層的作用是將輸入量進行模糊化。每一個模糊層節點對應一個該論域中的模糊子集和隸屬函數。該層接收精確數值輸入,經過模糊化計算得出對應的隸屬度并輸出。

圖2 模糊神經網絡結構圖

輸入層、隱含層和輸出層共同構成一個完整的神經網絡。輸入層不具有運算功能,它只是將所感知的輸入值精確傳遞到神經網絡中;隱含層的作用相當于特征檢測器,提取輸入模式中包含的有效特征信息,使輸出層所處理的模式是線性可分的,該層節點是模糊神經元,與輸入層間的連接權值是隨機設定的固定值;輸出層節點也是模糊神經元,與隱含層之間采用全連接方式,其連接權值是可調的,作用是輸出用模糊量表示的結果[2]。

1.3輸入層、輸出層和隱含層節點數確定

輸入層的個數代表了電路故障診斷的關鍵測試點的個數n1,輸出點為電路所具有的潛在故障模式種類數n3。

根據輸入層和輸出層的個數,隱含層節點數n2的確定有以下4種經驗公式[3]:

(1)

(為0~10之間的常數)(2)

(為0~10之間的常數)(3)

(4)

2模糊數學和神經網絡的算法介紹

2.1模糊數學和隸屬度函數

模糊數學的作用是對測試點測得的電壓信號進行特征提取——模糊化處理。因為在模擬電路測試中,參數值會隨著故障原因的不同和故障階段不同而發生變化,所以在進行數據處理時常用方法是使用精確事實規則。即用正態分布函數作為隸屬度函數表示“大約為a”的模糊概念,此外還有如三角分布和梯形分布等[4]。在使用中,正態分布使用較多,其中的a是該測試點的理想狀態工作點,b為該測試點在各種可能狀態下的工作電壓均方差。

2.2bp神經網絡與算法

圖3bp神經網絡模型結構圖

反向傳播網絡(back-propagation network,簡稱bp網絡),是一種有隱含層的多層前饋網絡。每一層均有一個或多個神經元節點,信息從輸入層依次經各隱含層向輸出層傳遞,層間的連接關系強弱由連接權值w來表征。bp算法是一種監督的學習,基本原理是梯度最速下降法,中心思想是調整權值使網絡總誤差最小。通過連續不斷地在相對于誤差函數斜率下降的方向上計算網絡權值和偏差值的變化而逐漸逼近目標的。每一次權值和偏差的變化都與網絡的誤差的影響成正比,并以反向傳播的方式傳遞到每一層。bp網絡模型結構如圖3所示。

以bp神經網絡模型結構圖為例進行bp算法推導,其輸入為p,輸入神經元有r個,隱含層內有s1個神經元,激活函數為f1,輸入層內有s2個神經元,對應的激活函數為f2,輸出為a,目標矢量為t。

1)隱含層輸出:(i=1,2,…,s1)(5)

2)輸出層輸出: (k=1,2,…,s2) (6)

3)定義誤差函數:(7)

4)輸入層的權值變化量:(8)

其中:

同理可得:(9)

5)隱含層權值變化有: (10)

其中:

同理: (11)

bp網絡經常使用的是s型的對數、正切激活函數或線性函數[5]。

3電路故障診斷算法驗證

圖4 共集-共射電路的直流通路圖

例:如圖4所示的直流通路圖,電阻的標稱值如圖中所注。利用multism軟件在直流狀態下進行多次monte carlo分析仿真該電路[6],并考慮電阻的容差影響,取40個樣本作為模糊神經網絡的訓練樣本,另取5個樣本為測試樣本。設電阻r1~r5的容差值為-5%~5%。測試點選為a、b、c、d和e五點,所測電壓值為va、vb、vc、vd和ve。

表1 部分電路實驗樣本原始數據

表2 測試樣本原始數據

表1列舉了40組電路實驗樣本原始數據的11組,包含了該電路在11種工作狀態下的五個關鍵點電壓值,所以n1=5,n2=11,隱含層的節點數可以依據公式2.3確定為12個,其中a為5。

表2則列舉了5組測試樣本的原始數據。

步驟一:數據模糊化

根據用正態分布函數作為隸屬度函數表示“大約為a”模糊概念的思路,可以分別得到各測試點上電壓隸屬度函數的參數值。

a1=5.57、a2=4.97、a3=4.9、a4=5.7和a5=5.69以及b1=4.3729、b2=4.4817、b3=3.9091、b4=4.2870和b5=3.7944。

由各測試點的隸屬度函數可得到網絡的訓練樣本見表3。

表3 神經網絡部分輸入、輸出訓練樣本

步驟二:將訓練樣本輸入神經網絡進行訓練

將全部40個原始值和模糊化值的輸入樣本和對應的輸出樣本分別輸入bp神經網絡中進行訓練。

步驟三:將測試樣本輸入神經網絡進行檢測

將全部5個原始值和模糊化值的輸入樣本和對應的輸出樣本分別輸入已經訓練好的bp神經網絡中,輸出診斷結果見表4。

表4 輸出診斷結果

表4中的數據是經過故障診斷后得到的結果,在此只是各隨機選用了一組數據加以比較說明。通過對故障診斷的試驗觀察和結果的比較可以作出以下分析。

1)模糊化數據能夠有效減少神經網絡的收斂次數。如在bp網絡診斷中,使用模糊化數據的迭代次數由886減少到263次,收斂速度明顯加快;

2)模糊化數據能夠有效提高神經網絡訓練的效果。通過表4中數據的對比可以發現對于相同的神經網絡,經過模糊化數據的訓練,其準確性更高。這主要表現在電路所對應的狀態結果普遍高于未經模糊化數據訓練的網絡得出的結果;同時,其他狀態對應的機率更低,皆低于0.1,且更多值為0,說明數據模糊化能使神經網絡的診斷結果更集中,正確率更高,有效性更加明顯。

4結論

通過分別采用bp網絡和模糊bp網絡建立了電路故障診斷模型,對電路相同工作狀態參數的診斷結果進行比較,得出了模糊數學對提高電路故障診斷模型精度和有效性效果明顯的結論。模糊數學和神經網路理論的組合有效地提高了模擬電路故障診斷模型的收斂速度,提高了故障診斷的工作效率,還提高了診斷的準確性,有效性得到了充分顯示。

參考文獻:

[1] 呂律,魏蛟龍.基于模糊神經網絡的板級電路故障診斷研究[j].計算機與數字工程,2003(3):21-23.

[2] 李國勇.智能預測控制及其matlab實現[m].北京:電子工業出版社,2010.

[3] matlab中文論壇.matlab神經網絡30個案例分析[m].北京:北京航空航天大學出版社,2010.

[4] 朱大奇.電子設備故障診斷原理與實踐[m].北京:電子工業出版社,2004.

反向傳播神經網絡基本原理范文6

關鍵詞:工程量清單計價;工程造價;神經網絡;模糊數學;灰色系統理論;蒙特卡洛模擬

Abstract: The paper mainly research method to quickly determine the project cost in the current bill of quantities mode, select the BP neural network, fuzzy mathematics and gray system theory, Monte Carlo simulation to forecast project cost, briefly principle and operation of several methods to achieve the guidance of the actual project.Key words: engineering the bill of quantities; project cost; neural network; fuzzy mathematics; gray system theory; Monte Carlo simulation

中圖分類號:文獻標識碼:A 文章編號:2095-2104(2012)

我國傳統的定額計價是從前蘇聯引進的計劃經濟條件下的以標準和定額管理為主導的管理模式。傳統定額計價模式的“量價合一”以及要素價格的固化違背了市場規律,使得市場形成價格的競爭機制在建筑工程造價中難以實現,嚴重背離了市場形成價格、企業自主定價的原則。而且,這種投資分解和編碼體系主要是面向材料和工序進行分解劃分的,這種體系主要是為了進行投資的靜態計算和分析,不適合項目全過程的動態控制。隨著我國市場經濟的不斷發展,投資主體的日益多元化,傳統定額計價模式已經越來越不適應造價管理的需要,不僅無法實現有效控制造價的目的,而且也因抑制了建筑企業積極性的發揮,不利于建筑業市場的發展。

鑒于這些突出的問題,為了適應建筑市場改革的要求,我國在1992年提出了“控制量、指導價、競爭費”的舉措。其主要思路是:將工程預算定額中的人工、材料、機械的消耗量和相應的單價分離,人、材、機的消耗量是國家根據有關規范、標準以及社會的平均水平來確定的,指導價就是要逐步走向市場形成價格,這一措施在我國實行社會主義市場經濟初期起到了積極的作用。但是隨著建設市場化進程的發展,這種方式的弊端漸漸凸顯出來。這里的“量”指的是社會平均消耗量,反映的是社會平均水平,不能體現企業的技術裝備水平、管理水平和勞動生產率,因此,并不能體現公平競爭的原則。之后,建設部于1998年又提出“具備條件的地區和工程項目,可以按照建設行政主管部門的統一工程計算規則和工程項目劃分的規定,進行工程量清單招標,合理低價中標等試點”,并在廣東、天津等地進行了試點。2003年,建設部了《建設工程工程量清單計價規范》(GB50500-2003),作為強制性規范在全國范圍內推行。經過幾年的發展,目前通用的計價規范為《建設工程工程量清單計價規范》(GB50500-2008)。這標志著我國工程造價管理由傳統的“量價合一、政府定價”的模式發展為“量價分離”的工程量清單計價模式。

一、工程量清單計價模式

1.概念:

建筑工程項目的工程量清單由招標人在工程項目招標文件中給出工程量清單和要求,投標人根據招標人給的工程量清單確定各分部分項工程費、措施項目費、其他項目費和規費、稅金所需的全部費用的一種工程計量與計價的編制方法。

投標人在投標報價時應考慮各種不利的施工條件、自身的技術能力和管理水平、市場材料和設備的價格變化等風險。所報的價格應該是綜合價格,也就是包括完成所給工程數量的項目要發生的全部直接成本、間接成本乃至規費、利潤和稅金。一旦中標,所報的綜合單價無特殊理由將不會改動。工程結算時,工程數量允許按照實際發生的數量上下調整,工程總價也會隨著上下調整的工程數量乘以相對不變動的綜合單價上下調整。

2.編制步驟

3.清單計價計量方法。即以《全國統一工程量清單計價規范B50500- 2008》的規定計算規則計算工程量的方法。

4.工程量清單計價方法

依據工程量清單計規范對工程在招投標報價時進行計價的方法。

工程預算造價=

5. 工程量清單計價的費用構成

工程量清單計價模式的費用構成包括分部分項工程費、措施項目費、其他項目費,以及規費和稅金。

(1)分部分項工程費

分部分項工程費是指完成在工程量清單列出的各分部分項清單工程量所需的費用。包括:人工費、材料費(消耗材料費總和)、機械使用費、管理費、利潤,以及風險費。

(2)措施項目費

措施項目費是由“措施項目一覽表”確定的工程措施項目金額的總和。包括:人工費、材料費、機械使用費、管理費、利潤,以及風險費。

(3)其他項目費

其他項目費是指預留金、材料購置費(僅指由招標人購置的材料費)、總承包服務費、零星工作項目費的估算金額等的總和。

(4)規費

規費是指政府和有關部門規定必須繳納的費用總和。

(5)稅金

稅金是指國家稅法規定的應計入建筑安裝工程造價內的營業稅、城市維護建設稅及教育費附加費用等總和。

二、工程量清單快速報價方法:

建設工程具有投資大、生產和使用周期長等特點,決定了項目決策的重要性。工程造價決定著項目的一次投資費用。投資者是否有足夠的財務能力支付這筆費用,是否認為值得支付這項費用,這是項目決策中要考慮的主要問題。因此在項目決策階段,工程造價預測就成為項目財務分析和經濟評價的重要依據。

1.神經網絡法:

神經網絡應用于工程造價中是對類比法的一種發展。人們普遍認為,工程建設的資源耗量與工程的一些基本特征值之間存在著必然的聯系。但是,這種必然的聯系一般并不都能以一個簡單的以通過其內部的推理機制,解決工程特征和工程建設資源耗量之間的復雜關系問題。神經網絡也就是利用已建工程的基本資料,通過建立工程特征和資源耗量之間的聯系來完成工程估價的任務。

亚洲精品一二三区-久久