神經網絡的算法范例6篇

前言:中文期刊網精心挑選了神經網絡的算法范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。

神經網絡的算法范文1

關鍵詞:無線傳感器網絡;數據融合;神經網絡

中圖分類號:TP393文獻標識碼:A文章編號:1009-3044(2010)18-5050-02

A Wireless Sensor Network Data Fusion Algorithm Based on Neural Network

YAO Li-jun1, LIANG Hong-qian2, ZHAO Lei1

(1.Hengyang Normal University, Hengyang 421008, China;2.Xi'an Wenli College, Xi'an 710065, China)

Abstruct: This paper combined the neural network model and the wireless sensor network, proposed a wireless sensor network data fusion algorithm based on neural network. Experiments show that the algorithm can effectively reduce energy consumption of network, extend network life, it is a more practical wireless sensor network data fusion algorithm.

Key words: wireless sensor network; data fusion; neural network

無線傳感器網絡(wireless sensor network,簡稱WSN)近幾年來是計算機網絡領域中最為熱門的研究內容之一。典型的無線傳感器網絡由大量廉價的傳感器節點所構成,相互之間通過無線方式進行數據通信。這些傳感器節點可以通過其攜帶的各種類型的傳感器采集現場的各種數據,并以接力的方式通過其它傳感器節點將采集到的數據逐跳地發送到匯聚節點(Sink)[1]。其中單個傳感器節點由于能量、計算、存儲、感應及通信能力嚴格受限,所以需要高的覆蓋密度來保證整個網絡的魯棒性和檢測信息的準確性。這就導致相鄰節點間采集的數據存在一定的冗余,網絡負載隨之增加。為了節省能量和通信帶寬,減少原始數據的發送,傳感器節點需要協同在網處理所收集的原始數據。數據融合就是在網處理的方法之一[2-3]。

神經網絡(Neural Network,簡稱NN)是對人腦或自然神經網絡若干基本特性的抽象和模擬,是一門多個學科領域的邊緣交又學科。它以對大腦的生理研究成果為基礎,旨在模擬大腦的某些機理與機制,實現某個方面的功能[4]。

神經網絡與數據融合具有一個共同的基本特征,即通過對大量的數據進行一定的運算和處理,得到能夠反映這些數據特征的結論性的結果。本文提出一種新的無線傳感器網絡數據融合算法,該算法基于分簇無線傳感器網絡模型,將其中的分簇結構與神經網絡模型相結合,在簇頭節點利用神經網絡算法對簇成員節點的數據進行融合處理,以有效地減少網絡中傳輸的數據量,延長網絡使用壽命。

1 無線傳感器網絡模型與神經網絡模型

無線傳感器網絡由大量部署于監控區域的傳感器節點組成。傳感器節點分為 3類:基站、簇頭和普通傳感節點。層次化無線傳感器網絡如圖1所示。

本文采用的神經網絡模型是典型的前饋神經網絡―多層感知器(MLP)[5]。多層感知器由若干層非線性神經元組成,每個神經元都是一個感知器,每層包含多個感知器,相鄰層的神經元用權連接起來。圖2給出了多層感知器的結構示意圖,通常情況下,層與層之間是全連接的,信號沿著前饋方向,即從左邊到右邊,逐層傳遞。

2 具體數據融合算法

本算法基于三層感知器神經網絡模型,對應無線傳感器網絡中的一個簇。其中,輸入層和第一隱層位于簇成員節點中,而輸出層和第二隱層位于簇頭節點中。

假設無線傳感器網絡中一個簇內有n個簇成員節點,每個簇成員節點采集m種不同類型的數據,那么該神經網絡模型共有n×m個輸入層節點、n×m個第一隱層神經元。第二隱層神經元的數量、和輸出層神經元的數量k可以根據實際應用的需要進行調整,與簇成員節點的數量n并沒有聯系。對于不同類型的數據,第二隱層的數量可以不同。在輸入層與第一隱層之間、第一隱層和第二隱層間沒有采用全連接,只是對不同類型的數據分別進行處理;而第二隱層與輸出層之間是全連接的,可以對不同類型的數據進行綜合處理。

根據這樣一種三層感知器神經網絡模型,本文的數據融合算法首先在每個傳感器節點對所有采集到的數據按照第一隱層神經元函數進行初步處理,然后將處理結果發送給其所在簇的簇頭節點。簇頭節點再根據第二隱層神經元函數和輸出層神經元函數進行進一步地處理。最后,由簇頭節點將處理結果發送給匯聚節點。下面以第一隱層神經元功能模型為例,敘述神經元函數信息處理過程。

第一隱層神經元位于簇成員節點。每個簇成員節點中第一隱層神經元的數量是根據傳感器節點所采集的數據類型來決定的,不同類型的數據由不同的神經元來進行處理。第一隱層神經元功能模型的輸入區、處理區和輸出區三個功能函數如圖3所示。

3 性能仿真

將本文的融合算法與基于卡爾曼濾波的融合方法進行比較,在條件相同的情況下,考察兩算法性能的主要指標,包括:網絡總能耗、節點平均剩余能量和平均時延三個方面。如圖4所示。

圖中,表示基于神經網絡的融合算法, 表示基于卡爾曼濾波的融合方法,由圖可知,本文基于神經網絡的融合算法在這三方面均優于基于卡爾曼濾波的融合方法。

4 結論

本文將神經網絡功能模型與層次化無線傳感器網絡相結合,提出一種基于神經網絡的無線傳感器網絡數據融合算法,通過采用該算法,有效地減少了網絡的能耗,延長了無線傳感器網絡的生存周期,是一種較為實用的無線傳感器網絡數據融合算法。

參考文獻:

[1] 李建中,高宏.無線傳感器網絡的研究進展[J].計算機研究與發展, 2008 (1):1-15.

[2] Castelluccia C,Mykletun E,Tsudik G.Efficient aggregation of encrypted data in wireless sensor networks[J].Mobile and Ubiquitous Systems:Networking and Services MobiQuitous,2005.

[3] Chen J,Pandurangan G,Xu D.Robust computation of aggregates in wireless sensor networks:Distributed randomized algorithms and analysis[C].IPSN,2005:348-355.

神經網絡的算法范文2

關鍵詞:入侵檢測 神經網絡 人工魚群算法 模型參數

中圖分類號:TP18 文獻標識碼:A 文章編號:1674-2117(2014)20-00-01

1 前言

21世紀是網絡的時代,網絡已進入人們的日常生活,成為人們通信和交流的工具,人們對于網絡的依賴也越來越強。

針對網絡入侵檢測問題,國內外許多學者進行了深入研究,提出了許多有效的網絡入侵檢測模型。在網絡入侵檢測過程,網絡入侵分類器設計是網絡入侵檢測的關鍵,當前網絡入侵分類器主要有基于支持向量機、K最近鄰算法、神經網絡等進行設計。其中出回聲狀態神經網絡(Echo State Network,ESN)是一種新型的網絡,具有簡單、易實現、泛化能力優異等優點,成為網絡入侵檢測中的主要研究方向。人工魚群算法(Artificial Fish Swarm Algorithm,AFSA)是一種采用自下而上信息尋優模式的智能搜索算法,具有并行性、收斂速度快等優點,為回聲狀態神經網絡參數優化提供了一種新的工具。

2 人工魚算法優化神經網絡的入侵檢測模型

2.1 回聲狀態神經網絡

ESN是一種由輸入層、內部儲備池和輸出層組成的非線性遞歸神經網絡,其狀態方程為:

式中,sigmoid為激活函數;Win和Wx分別為輸入和儲備池內部的連接矩陣;μ(t),x(t)分別表示t時刻的輸入向量和儲備池內部狀態向量量,sin為輸入項比例系數;ρ為內部儲備池的譜半徑。

那么ESN的輸出方程為

(2)

式中,y(t)為t時刻的輸出向量Wout為輸出連接向量。

輸出權值對ESN性能起著關鍵作用,常采用最小二乘法進行求解,目標函數的最小化形式為

式中 ,

,N為儲備池節點數;l為訓練樣本數。

根據式(3)式得到解

(4)

式中,為的估計值。

從式(1)可知,參數sin和ρ的選取影響回聲狀態神經網絡的性能,本文采用人工魚群算法(AFSA)對參數sin和ρ的選擇,以提高網絡入侵的檢測正確率。

2.2 人工魚群算法

工魚群算模擬魚群覓食的行為,人工魚個體的狀態可表示為向量Xi=(xi1,xi2,…,xiD),食物濃度表示為Y=f(x),其中Y為目標函數值;Visual表示人工魚的感知范圍:Step表示人工魚移動的步長;δ表示擁擠度因子。人工魚的行為包括以下幾種:①覓食行為;②聚群行為;③追尾行為;④隨機行為。

2.3 人工魚群算法優化神經網絡參數

(1)初始化人工魚群算法參數,主要包括人工魚群數以及最大迭代次數;(2)初始位置為回聲狀態神經網絡的參數;(3)計算適應度函數,并選擇適應度函數值最大的人工魚個體進入公告板;(4)人工魚模擬魚群覓食行為,得到新的人工魚位置;(5)與公告板人工魚的位置進行比較,如果優于公告板,那么將該人工魚位置記入公告牌;(6)將最優公告牌的位置進行解碼,得到回聲狀態神經網絡最優參數;(7)利用最優參數建立網絡入侵檢測模型,并對其性能進行測試。

3 仿真實驗

3.1 仿真環境

數據來自網絡入侵標準測試集KDDCUP99數據集,其包括4種入侵類型:DoS、Probe、U2R和R2L,同時包括正常樣本,每一個樣本共有41個特征,7個符號型字段和34個數值型字段。由于KDDCup99數據集樣本多,從中隨機選擇部分數量的數據進行測試,數據具體分布見下表。為了使本文模型的結果具有可比性,采用PSO算法優化回聲狀態神經網絡(PSO-ESN),遺傳算法優化回聲狀態神經網絡(GA-ESN)進行對比實驗。

樣本集分布情況

入侵類型 訓練樣本 測試樣本

DoS 2000 400

Probe 1000 200

R2L 500 100

U2R 100 20

3.2 結果與分析

所有模型對網絡入侵數據進行建模,仿真結果如圖1和圖2所示。從圖1和圖2進行仔細分析,可以知道,相對于PSO-ESN、GA-ESN,人工魚群算法優化神經網絡的入侵檢測性能最優,網絡入侵檢測的誤報率更低,具有十分明顯的優勢,在網絡安全領域具有廣泛的應用前景。

圖1幾種模型的檢測率比較

圖2幾種模型的誤報率比較

4 結語

針對回聲狀態神經網絡參數優化難題,提出一種人工魚群算法優化回聲狀態神經網絡參數的入侵檢測模型。仿真結果表明,相對于對比模型,本文模型提高了網絡入侵的檢測率,同時誤報率明顯降低,具有一定的實際應用價值。

參考文獻:

[1]唐正軍,李建華.入侵檢測技術[M].北京:清華大學出版社,2004.

神經網絡的算法范文3

關鍵詞:數據挖掘;數據庫;遺傳算法;神經網絡

中圖分類號:TP392文獻標識碼:A文章編號文章編號:1672-7800(2013)012-0129-02

基金項目:佛山科學技術學院重點項目(2010)

作者簡介:劉曉莉(1961-),女,佛山科學技術學院副教授,研究方向為應用數學。

1遺傳算法基本特征

遺傳算法是模擬達爾文的遺傳選擇和自然淘汰的生物進化過程的計算模型,是一種具有廣泛適用性的通用優化搜索方法。遺傳算法主要借用了生物遺傳學的觀點,通過自然選擇、遺傳和變異等作用機制來產生下一代種群,如此逐代進化,直至得到滿足要求的后代即問題的解,是一種公認的全局搜索能力較強的算法。

遺傳算法有良好智能性,易于并行,減少了陷于局部最優解的風險。遺傳算法的處理對象不是參數本身,而是對參數集進行了編碼的個體,可以直接對集合、隊列、矩陣、圖表等結構進行操作。同時,在標準的遺傳算法中,基本上不用搜索空間的知識或其它輔助信息,而僅用適應度函數值來評估個體,并在此基礎上進行遺傳操作; 遺傳算法不是采用確定性規則,而是采用概率的變遷規則來指導它的搜尋方向。正是這些特征和優點,使得遺傳算法在數據挖掘技術中占有很重要的地位,既可以用來挖掘分類模式、聚類模式、依賴模式、層次模式,也可用于評估其它算法的適合度。

2神經網絡基本特征

神經網絡是人腦或自然神經網絡若干基本特征的抽象和模擬,是以大量的、同時也是很簡單的處理單元(神經元)廣泛地互相連接形成的復雜非線性系統。人工神經網絡本質上是一個分布式矩陣結構,它根據樣本的輸入輸出對加權法進行自我調整,從而近似模擬出輸入、輸出內在隱含的映射關系。建模時,不必考慮各個因素之間的相互作用及各個因素對輸出結果的影響機制,這恰好彌補了人們對各個因素及對輸出結果的機制不清楚的缺陷,從而解決眾多用以往方法很難解決的問題。

神經網絡具有大規模的并行處理和分布式的信息存儲,有良好的自適應、自組織性,學習能力很強,有較強的聯想功能和容錯功能,在解決機理比較復雜、無法用數學模型來刻畫的問題,甚至對其機理一無所知的問題等,神經網絡方法特別適用,是一種用于預測、評價、分類、模式識別、過程控制等各種數據處理場合的計算方法,其應用已經滲透到多個領域,在計算機視覺、模式識別、智能控制、非線性優化、信號處理、經濟和機器人等方面取得了可喜的進展。

3遺傳算法與神經網絡混合算法在數據挖掘中的應用

作為一種有效的優化方法,遺傳算法可以應用于規則挖掘,可以單獨用于數據倉庫中關聯規則的挖掘,還可以和神經網絡技術相結合,建立基于神經網絡與遺傳算法的數據挖掘體系,用于數據挖掘中的分類問題。

學習能力是神經網絡中最引人矚目的特征,學習算法的研究一直占據重要地位。可以將遺傳算法應用于神經網絡的學習過程中,這樣可以避免傳統的神經網絡算法容易陷入局部極小的問題。有研究者提出了一種基于遺傳算法的神經網絡二次訓練方法,可以提高神經網絡的模糊處理能力,有效解決神經網絡陷入局部極小的缺點,加快收斂速率,提高學習效率。也有研究者探究了基于基因重組的遺傳算法優化神經網絡的方法,通過訓練權值來實現分類,可以提高神經網絡數據分類的準確性。因此,采用遺傳算法與神經網絡模型相結合方法,可以解決多維非線性系統及模型未知系統的預測、評價與優化等問題,其成功案例有很多,下面是其中的幾例。

一些研究者針對當前專家系統知識獲取瓶頸的難題,提出了基于神經網絡與遺傳算法的汽輪機組數據挖掘方法。該方法首先將汽輪機組歷史故障數據進行模糊化及離散化處理后,建立神經網絡模型,然后再利用遺傳算法對神經網絡進行優化,實現了基于神經網絡與遺傳算法相結合的汽輪機組數據挖掘和故障診斷仿真系統,其診斷正確率達到了84%。

綜合運用人工智能、計算智能(人工神經網、遺傳算法) 、模式識別、數理統計等先進技術作為數據挖掘工具,可以建立可靠、高效的數據挖掘軟件平臺,已在很多工業控制和優化中得到應用和實驗驗證,并取得了滿意的應用效果。例如,某鋁廠根據以往不同原料成分和原料的不同配比與產品質量關系記錄的數據庫,應用數據挖掘軟件平臺,可以挖掘出適應不同原料成分的最佳配比規律,從而提高產品質量的穩定性。又如,以往在化工產品優化配方、催化劑配方優化或材料工藝優化等研究中,基本上都是采用試驗改進的方式,需經過多次試驗才能達到預期目的,但也有可能失敗。為降低消耗, 少做試驗就能達到預期目的,可采用神經網絡對產品配方實驗數據建模,在此基礎上,再應用遺傳算法對配方模型進行優化,得到優化配方。

正是遺傳算法與神經網絡等算法的支撐以及計算機技術的發展,目前,數據挖掘廣泛地應用于天文、地理、生物信息學、金融、保險、商業、電信、網絡、交通等眾多領域。例如,應用在地理數據庫上,主要挖掘地質、地貌特征,為尋找礦產或進行城市規劃等提供參考依據;在電信Web服務器方面,可以挖掘Web日志,根據用戶興趣動態鏈接Web頁面,統計頁面鏈接及權威主頁等,對檢索頁面進行聚類,方便用戶找到需要的信息;在生物醫學信息和DNA數據分析方面,進行遺傳、疾病等數據特征的挖掘,為疾病診斷、治療和預防研究提供科學依據;對金融數據進行挖掘,可以分析客戶信用度;在CRM(客戶關系模型)上使用數據挖掘,獲得客戶群體分類信息、交叉銷售安排及開發新客戶和保留老客戶的策略;在電信業中使用挖掘技術,以預防網絡欺詐等;應用在商業問題的研究包括:進行客戶群體劃分、背景分析、交叉銷售等市場行為分析,以及客戶流失性、信用度分析與欺詐發現;在電子商務方面,從服務器以及瀏覽器端的日志記錄中發現隱藏在數據中的模式信息,了解系統的訪問模式以及用戶的行為模式,作出預測性分析等等。

4結語

神經網絡和遺傳算法作為數據挖掘技術,也有一些不足和缺陷。遺傳算法除了要進一步改進基本理論和方法外,還要采用和神經網絡、模擬退火、最近臨規則等其它方法相結合的策略,提高遺傳算法的局部搜索能力,從而進一步改善其收斂速度和解的品質,提高數據挖掘技術。特別是對于單調函數或單峰函數,遺傳算法在初始時很快向最優值逼近,但是在最優值附近收斂較慢;而對于多峰函數的優化問題,它往往會出現“早熟”,即收斂于局部極值。因此,研究如何改進遺傳算法,采用合適的算法加快尋優速度和改善尋優質量,無論在理論上還是在實踐上都有重要意義。神經網絡的神經計算基礎理論框架以及生理層面的研究仍需深入與加強,如何提高神經網絡的可理解性問題,以及研究遺傳算法、神經網絡技術與其它人工智能技術更好地結合,從而獲得比單一方法更好的效果等問題,值得進一步探索。

雖然數據挖掘技術已得到了廣泛應用,但現有的數據挖掘方法并不能完全適應所面臨的具有多樣性的海量數據分析的現實,急需解決的問題是:如何研究并行處理和抽樣的方法,來處理大規模的數據以獲得較高的計算效率;如何利用統計、模糊數學來確定隱含變量及依賴關系,開發容噪的挖掘方法,以解決異質數據集的數據挖掘問題;如何更好地進行文本數據挖掘、Web數據挖掘、分類系統、可視化系統、空間數據系統和分布式數據挖掘等新技術的應用。因此,未來數據挖掘的研究表現在數據挖掘功能、工具、方法(算法) 的拓展與理論創新,其應用的范圍和深度會進一步加強。

參考文獻參考文獻:

[1]孟曉明.淺談數據挖掘技術[J].計算機應用與軟件,2004 (8).

[2]李慧芳,姚躍華,陳一棟.改進的遺傳算法對神經網絡優化的分類[J].微計算機信息,2008(15).

[3]王東龍,李茂青.基于遺傳算法的數據挖掘技術應用[J].南昌大學學報, 2005(1).

[4]宋仁國.鋁合金工藝優化的遺傳算法[J].材料科學與工程,1998(1).

[5]韓力群.催化劑配方的神經網絡建模與遺傳算法優化[J].化工學報,1999(4).

[6]郭崇慧,陸玉昌.預測型數據挖掘中的優化方法[J].工程數學學報,2005(1).

[7]楊杰.用于建模、優化、故障診斷的數據挖掘技術[J].計算機集成制造系統,2000(10).

神經網絡的算法范文4

關鍵詞 數字識別;圖像預處理;特征提??;神經網絡

引言

目前,識別技術已經廣泛地應用到了各個領域中。為了達到對一幅圖像中的數字進行識別的目的,我們要對圖像進行一些處理,這些處理工作的好壞直接決定了識別的質量,這些處理技術依次為圖像的讀取、對讀取的圖像進行灰度變換、按照量化指標對灰度變換后的圖像進行二值化、然后對二值化后的圖像中的字符信息進行切分等。在進行完上述預處理工作后進行特征提取,再輸入到已經訓練好的BP網絡進行識別。

1 識別的流程

識別的流程按照引言中的步驟進行,主要分為兩大部分,第一部分為圖像的預處理、第二部分為通過神經網絡進行印刷體數字的識別。預處理部分的流程:圖像輸入-灰度變換-圖像二值化-緊縮重排-歸一化調整-圖像分割-特征提取。神經網絡數字識別的具體流程:樣本訓練-字符特征輸入-識別并給出結果。

2 基于神經網絡的特征提取算法概述

圖像在經過了前期的預處理后,由原來雜亂無章的字符變為了整齊排列的、大小相同的一列字符,在這里圖像歸一化后的寬度為8像素,高度為16像素,這樣就大大方便了對字符特征的提取。我們把提取的特征存儲在特征向量里,然后把特征向量輸入到神經網絡中,這樣就可以對字符進行識別了。由以上的論述我們可以得出結論,特征提取的算法是整個識別過程的關鍵,它的好壞直接決定了識別的成敗。對圖像中的字符進行特征提取的算法有很多,下面對幾種重要的分別進行介紹。

2.1骨架特征提取法

由于圖像的來源不同,這就使得圖像的線條所使用的像素不同,在圖像上表現出來就是線條的粗細的不同,這樣就使得它們的差別很大。如果我們將不同的圖像統一到相同的像素水平,那么它們的差別也就不那么明顯了。我們使用骨架特征提取算法,就會使得識別具有一定的適應廣度和寬度。

2.2逐像素特征提取法

這種圖像的特征提取算法是最為常用的方法,它的特點是能夠保留圖像中的全部特征信息,不過這種特征提取算法對圖像的噪聲較為敏感,對原始圖像的質量要求較高,它采用逐行掃描的辦法,對圖像進行掃描,為整個圖像建立一個以圖像中的像素個數相同的特征向量矩陣。矩陣值為0或1,圖像中的黑色像素記為1,白色像素記為0。

2.3垂直方向數據統計特征提取法

此算法是對逐像素提取算法的改進,他使得特征向量矩陣的維數降低,便于后期的識別。該算法首先對圖像進行水平掃描,在這一過程中,統計沒一列的黑色像素數,然后進行對圖像進行垂直掃描,并記錄每一行上的黑色像素數,對于一個字符寬度和長度為W和H的字符,他的特征向量的維數就為W+H。

2.4特征點提取法

這一特征提取算法首先對字符進行分割,利用實現設定的四條線將字符分為八個部分,分別統計每個部分中黑色像素的數目,可以得到八個特征。然后統計水平和垂直兩個方向上,穿過四條線的黑色像素數,得到四個特征,最后將整個圖像中黑色像素的數目作為一個特征,一共得到十三個特征。該方法具有很強的適應性,但是由于特征點較少,使得在樣本的訓練過程中很難收斂。

可以看出,識別算法各有特點,根據實踐需要,本識別算法中的特征提取算法采用逐像素特征提取法。原因是這種算法的執行效率高,方法簡單容易實現,且對于神經網絡來說有很快的收斂性,具有較好的訓練效果。

3 BP網絡進行數字識別算法設計

BP網中中各層中的節點數是設計BP網絡最基本的一點,對于神經網絡的輸入層而言,其節點數為經過圖像預處理里后特征向量的維數??梢灾苯永妹總€點的像素值作為特征,這里特征提取采用逐像素提取法,歸一化后圖像的寬度為8,高度為16,因此對于輸入樣本來說,每一個樣本都會由128個特征,因此神經網絡的輸入層的特征數為128。

對于神經網絡內部隱藏層的節點數來說,其節點數沒有特別的規定,總的來說,隱藏層的神經元的數目與神經網絡的精度成正比,與訓練時間成反比。如果神經網絡的神經元設置的過多,會對識別率造成較大影響,使得識別率大幅下降。因此在這里根據多年的實踐經驗在神經網絡的隱藏層選取10神經單元。 對于輸出層而言,要根據設定的輸出標準來確定輸入層的節點數。在本算法中采用8421的編碼進行編碼。對于0-9這十個數字,分別對應十個8421碼,例如,0的8421碼為(0,0,0,0),1的8421碼為(0,0,0,1),依次類推,因此神經元的數目選定為4,就可以表示這十個數字,然而,因為神經元的激勵函數(傳輸函數)是S型函數,期望輸出只能是大于0小于1的數,而不能是1或者0,因此用0.1來代表0,0.9代表1,否則算法將不能收斂。

神經網絡搭建好后,要對神經網絡進行訓練,也就是確定神經網絡中各個參數的權值。本程序的訓練樣為圖片。首先將圖片進行預處理,然后提取特征,將特征值輸入到神經網絡中進行訓練。在這里使用10個字符的圖片進行訓練,在圖片里包含了ARIAL字體0-9十個數字。

通過50個相關訓練樣本進行訓練后,BP網絡對于數字字體的識別率能夠達到百分之九十以上。訓練好的神經網絡就可以對數數據進行識別了。

4結論

本文以VC為平臺,運用人工神經網絡的思想(主要采用BP神經網絡),實現了對印刷體數字識別。系統實現分為圖像預處理和神經網絡識別兩大模塊。首先,掃描進入電腦的圖像需保存為256色位圖或者是256級灰度圖像。首先對圖像進行預處理,然后進行特征提取,再輸入BP網絡進行識別。BP神經網絡進行字符識別的過程主要包括網絡的訓練、數據的讀取、字符的判定、結果的輸出等。本系統通過對樣本數據進行學習和訓練,形成了具有良好識別能力的網絡,對印刷體數字進行識別檢測,達到了一定的準確度,滿足了設計要求。

參考文獻

神經網絡的算法范文5

關鍵詞:BP神經網絡;預測模型;METLAB仿真實驗

中圖分類號:F27

文獻標識碼:A

文章編號:16723198(2015)23006701

1 引言

人工神經網絡(Artificial Neural Networks,簡寫為ANNs)是一種模仿動物神經網絡行為特征,進行分布式并行信息處理的算法數學模型。20世紀80年代,美國物理學家J.J.Hopfield建立全互連神經網絡模型,以及Rumelhart,McClelland等學者提出反向傳播(Back Propagation,簡稱BP)學習算法,人工神經網絡的研究才獲得了飛速發展,目前,對人工神經網絡理論的應用已滲透到多個領域,如在智能控制、模式識別、自適應濾波和信號處理、傳感技術和機器人、非線性優化、知識處理、生物醫學工程、金融預測和管理等方面都取得了令人鼓舞的成果。

本文在前人研究的基礎之上,通過搜集相關的數據,建立BP神經網絡模型并通過MATLAB仿真實驗得出預測的結果對于鄭州市政府和市民在進行房地產管理和購房上面提供了一定的參考和決策依據,從這方面來說本文具有一定的現實意義。

2 基于動量BP算法的神經網絡模型構建

2.1 BP神經網絡結構

在人工神經網絡的實際應用中,80%-90%的人工神經網絡模型都是用的BP神經網絡(圖1)或者是它的變形形式,它也被稱為是前向網絡的核心部分。

2.2 房價預測模型構建

經濟因素,主要是國家、地區或城市的經濟發展水平、經濟增長狀況、產業結構、就業情況、居民收入水平、投資水平、財政收支、金融狀況。這些因素會影響房地產市場的總體供求,特別是影響需求;社會因素,包括人口、家庭、城市化狀況等。其中,人口因素包括人口的數量、密度、結構(如文化結構、職業結構、收入水平結構等);影響房價的因素還有很多,比如房地產自身及其周邊環境狀態,建筑物的外觀、設備配置狀況等。但在建立BP神經網絡預測模型的時候,這些因素不容易被量化,無法納入模型的訓練樣本中。在本文的模型構建中,選取5個(地區GDP、人均可支配收入、常住人口數、房產開發投資、居民CPI)與房價密切相關的因素作為模型的輸入變量。

本文使用動力BP算法計算出2015年的數據,即根據2004和2005年的數據預測2006年的數據,以此類推來預測2015年的數據。

3 實證分析

為了提高算法訓練速度和靈敏性,現將數據進行歸一化處理。利用MATLAB軟件建立BP網絡,輸入

樣本數據,初始化Epochs值和精度值,設置最大迭代

次數和誤差,并設置動量因子mc、學習率。應用sim函數進行仿真,最后對結果進行反歸一化。

由上圖可以看出,網絡在經過8次訓練之后,誤差低于0.1,迭代進行到12次之后,誤差達到預期的目的,網絡停止訓練。利用編好的程序,預測2012和2013年的房價,由于2012和2013年的房價已經公布,因此可以將預測得到的值與實際值進行比較,得到表2。

通過比較可知,2013、2014年對房價預測的誤差在訓練要求的范圍內,通過MATLAB軟件進行預測得到2015年的房價為10068元/平方米。

4 結論及展望

(1)通過以上結果可以看出,利用動量BP算法進行房價的預測是有良好效果的。

(2)文中只選取了對房價影響較為重要的5個因素作為輸入變量,在以后的研究中,可以考慮把較為重要的其他因素考慮進去,看看考慮多方面因素是否能夠提高BP神經網絡對房價預測的精準度。

參考文獻

[1]TsungJung Hsieh,HsiaoFen Hsiao,WeiChang Yeh.Forecasting stock markets using wavelet transforms and recurrent neural networks:An integrated system based on artificial bee colony algorithm[J].Applied Soft Computing,2011,(11).

[2]Pan Zhili,Huang Zhongmin,Wang Na,etal.Prediction of shelf life for quickfrozen dumping based on BP neural network and effective accumulated temperature theory[J].Transactions of the Chinese Society of Agricultural Engineering,2012.

[3]Melike Bildirici.Improving forecasts of GARCH family models with the artificial neural networks:An application to the daily returns in Istanbul Stock Exchang[J]. Expert Systems with Applications,2009.

[4]Chunqiao Mi,Jianyu Yang,Shaoming Li,etal.Prediction of accumulated temperature in vegetation period using artificial neural network[J].Mathematical and Computer Modelling,2010.

[5]朱英.改進的BP神經網絡預測模型及其應用[J].武漢理工大學學報(交通科學與工程版),2012.

[6]柳冬,王雯B,謝海濱等.我國房地產價格影響要素分析與趨勢預測[J].管理評論,2010.

神經網絡的算法范文6

【關鍵詞】列車自動駕駛系統;神經網絡;控制算法

Abstract:The speed control process for Automatic Train Operation is analyzed, and as the traditional PID algorithm lacks adaptability, a single neuron adaptive PID controller based on RBF neural network is designed. The result of simulation shows that the controller can meet the speed control requirements for Automatic Train Operation.

Keywords:Automatic Train Operation;neural network;control algorithm

引言

隨著中國經濟的飛速發展和城市化進程的加快,我國的城市軌道交通行業已步入了一個跨越式發展的新階段。“十二五”期間,我國將有25個城市、完成78條線路,期間的建設規模為2500公里左右,總投資達1.2萬億元左右,到2020年末,全國建成總里程將達7000公里左右,中國已經成為世界最大的城市軌道交通市場。在城市軌道交通蓬勃發展的過程中,安全和高效始終是其追求的兩大目標。在城市軌道交通系統中,列車的運行速度雖然不高,但站間距離短,列車間的追蹤間距和行車間隔都比較小,行車間隔最短可達到90s,甚至更短。如此短的追蹤間距和行車間隔,對司機的駕駛技術提出了更高要求,任何一點點疏忽都可能造成重大行車事故。因此必須采用機械的、電氣化的、智能化的信號系統,以保證列車行車安全,保護乘客生命財產安全。這些系統包括向司機指示列車運行條件、保障列車行車安全的列車自動控制系統和聯鎖系統。其中,列車自動控制系統的一個重要子系統――列車自動駕駛系統ATO(Automatic Train Operation),是替代司機控制列車自動運行的設備,它在列車自動防護系統ATP(Automatic Train Protection)的安全防護下,利用車載固化信息和地面信息給出最優控制力以控制列車的牽引/制動,從而實現列車的自動駕駛。

為了確保列車能夠在兩站之間平穩高效地運行,ATO在控制列車的行駛速度時,需要滿足準點、節能、舒適等運行指標。因此,研究ATO的一個重要內容就是對其控制算法的設計,它是使列車實現節能運行、準點運行和平穩運行的關鍵技術[1]。對于ATO系統的控制算法來說,首先是要根據已知信息得到一條最優目標速度曲線,該最優目標速度曲線是ATO控制列車自動駕駛的理論依據,它反映了列車運行過程中的準點、節能、舒適等運行指標的情況。其次是要輸出控制量控制列車跟隨最優目標速度曲線運行,然而在列車的實際運行過程中,由于受到各種內外因素的干擾,其運行軌跡很難與目標速度曲線完全重合,所以ATO在控制列車運行過程中能否給出最優控制力使列車的實際運行軌跡與目標速度曲線最為貼近,ATO的速度控制算法是至為關鍵的一個部分。本文主要目的就是在最優目標速度曲線已知的情況下,利用神經網絡理論設計一套速度控制算法使控制器輸出的控制量實施后,列車能夠緊密跟隨目標速度曲線運行。

1.ATO速度控制過程分析

ATO系統控制列車實現自動駕駛的過程實質上就是要根據列車運行的即時速度信息和位置信息,以及地面設備和控制中心傳來的信息,科學、合理地控制列車的運行速度,其速度控制過程如圖1所示。

圖1 ATO速度控制過程

列車在運行過程中,ATP系統利用安裝在輪軸上的速度傳感器實時地測量列車的運行速度,同時由于車輪的磨損、空轉、打滑等情況會造成一定的測量誤差,所以還需要用加速度計對所測速度進行校正,最終計算得到實際的列車速度。有了列車的即時速度,通過對其積分就可得到列車的運行距離,該距離是列車運行的相對距離,要獲得列車的絕對位置還需要通過分布在線路上的信標(應答器)進行定位校正,最終得到列車的實際位置。ATO系統根據得到的速度信息和位置信息再結合線路地理條件、ATP限速和控制中心發來的移動授權等信息就可以得到目標速度。車載控制器將實際速度與目標速度進行比較,將兩者之差作為輸入,再根據一定的控制算法得出控制量,并執行控制命令,控制列車的牽引/制動系統,完成列車的牽引、惰行和制動,從而實現自動駕駛。

2.傳統PID算法

在工程實際應用中,最常用的控制規律為比例、積分、微分控制,簡稱PID控制。PID控制器因其結構簡單、工作可靠、穩定性好、調整方便,自問世七十多年以來一直都是工業控制的主要技術,所以本節首先利用傳統PID控制算法設計ATO速度控制器。

國防科學技術大學王洪坡等人以試驗線工程樣車為研究對象,通過列車主控PLC采集列車運行參數,利用最小二乘法辨識得出了列車運行模型[2],本文即采用該模型作為被控對象,其傳遞函數為:

(1)

PID控制器的控制效果完全取決于PID參數的設置是否合理。自PID控制器問世以來,PID控制器參數主要是由一些經驗豐富的技術人員進行人工調整,這種方法不僅費時費力,而且理論上無法保證獲得最佳的性能。所以,對PID控制器的參數進行整定一直都是PID控制器設計的核心內容[3]。傳統的整定方法主要有極點配置和零極點對消兩種方法,近年來,除了傳統的整定方法外還出現了一些智能整定方法,本文即采用粒子群算法對PID參數進行整定[4]。為了衡量實際速度對目標速度的跟隨性能,本文選用LAE指標作為粒子群算法的適應函數,其中,即絕對誤差的積分。

粒子群算法整定PID參數的過程如圖2所示:

圖2 粒子群整定PID參數流程圖

最終得到的最優PID參數為:

Kp=43.59;Ki=3.24;Kd=99.99。

將該PID控制器用于列車速度控制,得到的列車運行速度距離曲線如圖3所示:

圖3 列車運行速度距離曲線

從圖3可以看出在沒有施加干擾時,列車的實際速度曲線幾乎與目標速度曲線完全重合,速度跟隨性較好,從而確保了列車的準點、節能、舒適等各項指標都得以實現。然而列車的實際運行過程是一個非常復雜的過程,線路條件、天氣情況等外部環境因素以及乘客上下車等內部自身因素的變化都會給列車的行駛造成干擾,為了說明干擾對PID控制造成的影響,本文在仿真時間第10s開始對列車施加一系列干擾信號。從圖3可以看出施加干擾之后的列車運行速度距離曲線在ATO目標速度曲線之間來回搖擺,很多部分已經脫離了目標速度曲線,嚴重影響了列車運行的各項性能指標。這是因為列車在實際行駛過程中,隨著乘客上下客以及線路條件的改變等運行條件的變化,被控對象的特性參數也在發生變化,即列車的傳遞函數已經發生變化,此時應當重新調整PID參數,而參數固定的PID控制器參數一旦選定之后就不再改變,所以其控制策略自然就不符合實際需求,從而無法達到滿意的控制效果。為了彌補傳統PID控制缺乏自適應能力的缺陷,本文接下來將利用神經網絡理論設計ATO速度控制器,以取得更好的控制效果。

3.基于神經網絡的ATO速度控制器

3.1 單神經元自適應PID控制器

針對傳統PID控制器參數固定,無法適應環境變化而自動調節的缺陷,本文基于通用神經元模型構成單神經元網絡自適應PID控制器,其控制框圖如圖4所示:

圖4 單神經元自適應PID控制框圖

本文采用增量式PID控制,控制算法為:

(2)

上式中,T為采樣周期,k為采樣序號,e(k)為第k時刻的誤差信號,u(k)為控制量,Δu(k)為控制量的增量。由此可知該單神經元網絡具有3個輸入量,分別為:

(3)

相應的輸入權值為:

(4)

神經網絡的整定指標為:

(5)

采用梯度下降法來調節權值,使E最小,權值調整算法如下:

(6)

即:

(7)

上式算法中的η為學習速率,其在神經網絡的學習過程中始終保持不變,本文為了取得更好的控制效果,對傳統神經元學習算法做出了一定的改進,使神經元的學習速率隨誤差的改變而做出相應的調整,其調整的主要思想如下:

首先設定一個誤差閾值,然后在控制過程中,不斷地檢測實際輸出與目標輸入的誤差,當誤差的絕對值小于該閾值時,令學習速率保持不變;當誤差的絕對值大于等于該閾值時,檢測誤差的變化,若誤差和誤差的變化符號相同,說明此時誤差在增大,則根據當前誤差為正還是負對學習速率做出相應的調整;若誤差和誤差的變化符號相反,說明此時誤差在縮小,則保持當前學習速率不變,調整算法如式(8)所示:

(8)

上式中,ε為誤差閾值,φ為誤差為正時的學習速率調整系數,δ為誤差為負時的學習速率調整系數,e(k)為第k時刻的誤差,η(k)為第k時刻的學習速率。式(7)中的為

Jacobian信息,反映了輸出對輸入的敏感度,由于該值無法直接得到,所以本文將利用RBF神經網絡辨識得出Jacobian信息。

3.2 RBF網絡辨識

RBF網絡又稱徑向基函數神經網絡,是由J.Moody和C.Darken于20世紀80年代末提出的一種具有單隱層的3層前饋神經網絡,RBF網絡能夠以任意精度逼近任意連續函數,本文接下來將設計RBF網絡對被控對象進行辨識以獲取Jacobian信息。

將式(1)寫成脈沖傳遞函數形式為:

(9)

將上式寫成差分方程形式為:

(10)

根據式(10)的表達式,取RBF辨識網絡的輸入量為:

(11)

本文選取的RBF網絡為4-6-1結構,其網絡結構如圖5所示:

圖5 RBF辨識網絡結構

選擇RBF網絡逼近的性能指標函數為:

(12)

其中,y(k)為實際輸出,ym(k)為RBF網絡辨識輸出。輸出層節點權值、隱層節點基寬參數及隱層節點中心向量的調整算法如下:

(13)

上式中,i=1,2,3,4,5,6,j=1,2,3,4,η為學習速率,α為動量因子,由式(13)可辨識得出Jacobian信息:

(14)

3.3 仿真結果分析

將RBF辨識網絡加入到單神經元自適應PID控制中,最終得到的控制框圖如圖6所示:

圖6 基于RBF網絡辨識的單神經元自適應PID控制

取單神經元的初始權值為:w1=43.59、w2=3.24、w3=99.99,誤差閾值ε=0.01m/s,并利用粒子群算法,以IAE為性能指標,對神經元的初始學習速率ηp、ηi、ηd及其相應的調整系數φp、φi、φd、δp、δi、δd進行優化,優化結果如下:

將單神經元自適應PID控制器用于列車速度控制,得到的列車運行速度距離曲線如圖7所示,從圖7可以看出,即便存在干擾的情況下,單神經元自適應PID控制器亦能使列車的實際速度緊密跟隨目標速度曲線運行,從而確保了列車的準點、節能、舒適等運行指標得以實現。

圖7 列車運行速度距離曲線

RBF網絡辨識得到的Jacobian信息以及神經元對kp、ki、kd的調節過程如圖8和圖9所示:

圖8 Jacobian信息

圖9 kp、ki、kd調節曲線

4.結束語

在未來城市軌道交通發展過程中,自動駕駛代替人工駕駛是實現列車智能化控制的必然趨勢[5]。因此,以速度控制為基礎的列車自動駕駛系統是軌道交通的一個非常重要而又有研究價值的系統。本文針對傳統PID算法參數固定,缺乏自適應能力的缺陷,設計了基于RBF網絡辨識的單神經元自適應PID控制器,通過仿真實驗表明,該控制器能夠確保列車在運行過程中具有良好的速度跟隨性。

參考文獻

[1]唐濤,黃良驥.列車自動駕駛系統控制算法綜述[J].鐵道學報,2003,25(2):98-102.

[2]王洪坡.磁懸浮列車速度控制與自動駕駛系統研究[D].長沙:國防科學技術大學研究生院控制理論與控制工程系,2002.

[3]楊光,唐禎敏.基于MATLAB的磁浮列車自動駕駛控制系統的仿真[J].鐵路計算機應用,2007,16(6):49-51.

[4]張家駿.基于粒子群算法的PID控制器參數優化研究[J].計算機仿真,2010,27(10):191-193.

[5]賈文婷.城市軌道交通列車運行控制[M].北京:北京交通大學出版社,2012.

作者簡介:

亚洲精品一二三区-久久