神經網絡的特性范例6篇

前言:中文期刊網精心挑選了神經網絡的特性范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。

神經網絡的特性范文1

關鍵詞:圖像復原 BP神經網絡 Hopfield神經網絡 應用

中圖分類號:TP391.41 文獻標識碼:A 文章編號:1007-9416(2013)11-0040-02

1 引言

圖像復原是一項富有現實意義的工作,它涉及到廣泛的技術領域,是圖像處理領域研究的焦點之一。在得到圖像的過程中,由于各種各樣的原因,包括與觀測對象的相對運動、介質散射、成像系統缺陷和環境噪聲等原因,使得最終的圖像都會有一定程度的退化。圖像復原就是從退化的圖像中恢復圖像的本來面目。傳統的圖像復原處理問題的關鍵在于建立退化模型,估計退化過程中的參數,由此通過相應的逆過程得到原始圖像。獲得準確的圖像退化模型是比較困難的事情。大多數圖像復原的實際問題是點擴展函數以及原始圖像均未知的盲復原問題,這類問題具有更嚴重的病態性因而進一步增加了解決的難度。人工神經網絡(Artificial Neural Network,ANN)為圖像復原問題的解決提供了另外一條路徑,這是基于人工神經網絡具有的模擬人類神經的非線性、自組織、自學習、自適應特性。一般而言,人工神經網絡適合于解決無法或很難精確建立數學模型、不完全清楚內部機理的問題,人工神經網絡的很多特性適合解決圖像復原問題。近些年來,對人工神經網絡應用于圖像復原的研究越來越多,形成了很多豐富的神經網絡模型和算法。BP(Back Propagation反向傳播)和Hopfield(霍普菲爾德)是典型的人工神經網絡類型,也是在圖像復原領域應用較多的神經網絡類型。

2 BP神經網絡在圖像復原中的應用

2.1 BP神經網絡的特性

BP神經網絡是上世紀80年代美國加州大學的Rumelhart、McClelland及其團隊研究并行分布信息處理時提出的采用反向傳播算法的多層前饋網絡。BP神經網絡具有良好的泛化能力,其隱層的非線性傳遞函數神經元可以學習輸入輸出之間的線性或非線性關系。在1989年,RobertHecht-Nielson證明了對于任何一個在閉區間內連續的函數都可以由具有一個隱含層的BP網絡來逼近,這樣,一個三層(輸入層、隱層和輸出層)的BP神經網絡即能完成對多維度函數的逼近。這些特性,使得選用BP神經網絡簡單地實現在未知點擴展函數的情況下,擬合原始圖像與退化圖像之間的關系,從而得到滿意的圖像復原結果成為可能。

2.2 BP神經網絡應用于圖像復原

BP神經網絡用退化圖像與相對應的原始圖像進行訓練,退化圖像為網絡的輸入,原始圖像為網絡的輸出。訓練完成的神經網絡會在退化圖像與原始圖像之間建立非線性的映射關系,使得利用這種非線性關系即可實現在只有退化圖像的情況下對齊進行復原。

利用BP神經網絡進行圖像復原,一般用輸入圖像的N×N鄰域內的N2個像素點對應輸出圖像的一個像素點。這樣的對應方法會使整個運算量增大,但正由于參與運算的像素點增加,使得網絡具有更好的泛化和魯棒能力。由于三層BP神經網絡可以任意精度逼近某一多維度函數,因而其應用于圖像復原時使用三層網絡結構。輸入層和輸入層節點數分別由輸入圖像像素數量和輸出圖像像素數量決定,隱層節點數量和訓練方法在很大程度上決定了網絡性能。

為了便于網絡計算,通過神經網絡計算前通常將輸入圖像進行歸一化。以灰度圖像為例,將圖像數據[0~255]轉換到[-1~1]或[0~1]。圖像經過神經網絡復原后還需進行反歸一化轉換,將計算得到的數據轉換為圖像數據,即將[-1~1]或[0~1]轉換到[0~255]。

通常,運用BP網絡進行圖像復原算法流程包括:(1)圖像的預處理,得到歸一化的便于神經網絡計算的數據;(2)使用退化圖像與對應的原始圖像(訓練BP神經網絡;(3)將待復原圖像輸入訓練好的BP神經網絡進行圖像復原;(4)數據的后處理,將網絡輸出數據進行反歸一化,得到復原圖像。

3 Hopfield神經網絡在圖像復原中的應用

3.1 Hopfield神經網絡的特性

不同于BP神經網絡,Hopfield神經網絡是一種單層反饋網絡,信號在網絡中不僅向前傳遞,還在神經元之間傳遞。圖1是有三個神經元的Hopfield神經網絡結構圖。Hopfield神經網絡由美國加州理工學院物理學家J·J·Hopfield在上世紀80年代提出,并首次在神經網絡研究中引入了計算能量函數的概念,通過研究網絡的穩定性與計算能量函數的相關性給出了網絡的穩定性判據。J·J·Hopfield運用Hopfield神經網絡成功地探討了旅行商問題(TSP)的求解方法。HNN神經網絡采用灌輸式學習方式,其網絡權值是事先按一定規則計算出來的,確定之后不再改變,各神經元的狀態在運行過程中不斷更新,網絡穩定時各神經元的狀態便是問題的解。Hopfield神經網絡的這些自身特征使其適于應用于聯想記憶和求解最優化問題。

3.2 Hopfield神經網絡應用于圖像復原

利用神經網絡進行圖像復原的方法分為兩類:一種是用原始圖像和模糊圖像構成的樣本訓練神經網絡,在訓練好的網絡中建立起原始圖像與模糊圖像的非線性映射關系,然后以帶復原的模糊圖像作為網絡的輸入,經過網絡輸出的圖像數據就是經過復原的圖像,BP神經網絡就是運用這種方法進行圖像復原的典型神經網絡。另一種是經過神經網絡反復的數學迭代計算復原,運用Hopfield神經網絡進行圖像復原屬于這類方法。

其中是神經網絡的狀態向量,為網絡的權值矩陣,為由網絡中各神經元閾值構成的向量。Hopfield神經網絡的運行結果即網絡達到穩定狀態就是達到最小值時的狀態。由式(4)和(5)可以看出圖像復原的目標函數與Hopfield神經網絡能量函數具有相似的表達形式,因而可以建立兩者之間的聯系,從而將圖像復原問題轉變為神經網絡的運算問題,這也就是Hopfield神經網絡應用于圖像復原的基本原理。

運用Hopfield神經網絡解決圖像復原問題首先要確定網絡的權值矩陣。可以按照Hebb學習規則得出[4]。完成網絡初始化后,將退化圖像輸入網絡,從網絡中選取一個神經元按照Hopfield神經網絡的運算規則得出神經元的輸出,將所有神經元求出輸出后判斷該網絡是否達到穩定狀態,即計算前后的網絡能量函數的誤差是否小于要求的范圍。如果網絡不穩定,需要重復迭代計算;網絡達到穩定狀態時,神經網絡的狀態向量就是要求的原始圖像。經過一定的后處理就能得到具有一定精度的原始圖像。

4 結語

人工神經網絡在圖像復原問題中的應用已經擴展到了很多方面,包括三維顯微圖像、高能閃光照相等領域[5-6]。神經網絡在圖像復原中的應用機理也不斷得到深入研究。這些得益于神經網絡算法不依賴求解問題本身數學模型的特點,以及自身強大的泛化能力。BP和Hopfield神經網絡都能成功地運用在圖像復原問題中,在選用神經網絡進行圖像復原研究時要注意到BP神經網絡強烈地依賴退化圖像與原始圖像構成的樣本集合對網絡進行訓練,這就要求得到足夠的先驗知識或者通過某種算法得到退化圖像與原始圖像相對應的樣本群。Hopfield神經網絡不依賴于退化圖像與原始圖像的先驗知識,可以直接針對退化圖像進行復原。這就需要根據不同的實際情況選取合適的網絡類型來解決問題。

參考文獻

[1]尚鋼,鐘珞,陳立耀.神經網絡結構與參數選取[J].武漢工業大學學報,1997,19(2).

[2]王晗.基于Hopfield神經網絡的圖像恢復[D].武漢:華中科技大學南京理工大學,2006年4月.

[3]席旭剛,羅志增.用Hopfield神經網絡實現觸覺圖像恢復[J].儀器儀表學報,2008,30(10).

[4] Bianchini M,Frasconi P.Learning without local minima in radial basis function networks[J].IEEE Transaction on Neural Networks,1995,6(3):749~756.

神經網絡的特性范文2

關鍵詞:暫態混沌神經網絡;優化問題;非線性函數優化;TSP

中圖分類號:TP183 文獻標識碼:A 文章編號:1004-373X(2009)04-076-04

Transient Chaotic Neural Netwgork and Its Optimization ofthe Applied Research

PENG Jingbin1,2,YE Jinbao2,3,WANG Xuejiao3

(1.Hengyang Transport Machinery Co.Ltd.,Hengyang,421002,China;2.Hunan Sci.and Tech.Economy Trade Vocational College,Hengyang,421009,China;

3.University of South China,Hengyang,421001,China)

Abstract:For analysing and studing the characteristic and optimized mechanism of transient chaotic neural network,based on analysis of transient chaotic neuron model,through programming the simulation analysis in the Matlab software to compare the neural network dynamic characteristic and various parameters regarding the network optimization process influence.Transient chaotic neural network model by the chaos inherent in the use of random traversal of the track,and carries on the search in wide range according to its own rule,the search process,according to traverse chaotic orbit,free from restrictions on the objective function,which has overcome the local minimum The ability to effectively can solve a series of combinatorial optimization problems.The control network parameter is selected according to the network dynamic characteristic,through the simulation,problems of non-linear function optimization and 10 city TSP problems are solved.The optimization results is satisfied.And thus is conducive to such a chaotic neural network optimization problem in the promotion.

Keywords:transient chaotic neural network;optimization;non-liear function optimization;TSP

0 引 言

生物神經網絡是一個非常復雜的非線性巨系統,存在各種復雜的動力學行為,在生物學實驗中人們已觀察到人腦和動物神經系統中的各種混沌行為。由于人工神經網絡是對生物神經網絡的模擬,因而深入研究人工神經網絡中的復雜動力學(特別是混沌)對于提高人工神經網絡的智能化程度具有重要意義。人工神經網絡的一個重要應用領域是用于優化。神經網絡的尋求穩定平衡點的大規模并行計算能力對于優化問題是強有力的工具,但由于其利用梯度下降的動力學,因此在求解許多實際優化問題時常陷入局部極小值。由于混沌具有遍歷性、隨機性、規律性的特點,混沌運動能在一定范圍內按其自身的規律不重復地遍歷所有狀態,因此,利用混沌變量進行優化搜索,無疑會比隨機搜索更為優越。混沌動力學為人們研究神經網絡提供了新的契機,用神經網絡研究或產生混沌以及構造混沌神經網絡,混沌神經網絡具有更加豐富和遠離平衡點的動力學特性。混沌動力學是以對初始條件的敏感性以及在相空間的不停運動為特征的,這一特點使得混沌成為很好地在狀態空間進行搜索的機制,當將其用于優化時,它具有逃離局部極值的能力。正是基于這個機制,這里研究了暫態混沌神經網絡模型和其優化問題中的應用,它具有暫態的混沌動力學行為,可以對狀態空間做暫時的搜索。

1 暫態混沌神經元

混沌神經元是標定混沌神經網絡的基本單位,對于單個神經元的混沌特性的了解可為混沌神經網絡提供必要前提和認識基礎。在混沌神經元的研究中,振蕩子是一種典型的研究對象,因為振蕩子或它們的組合可表現出豐富的混沌動力學行為,為了理解混沌神經網絡的運行機理,在此以單個神經元為例檢驗該網絡的混沌動力學行為。首先給出暫態混沌神經網絡模型:

Иui(t+1)=kui(t)+α\j≠1wijvj+θ-s1(k)\〗-

gi(t)\И

當Е聯=0時單個神經元的網絡模型:

Иu(t+1)=ku(t)-g(t)\(1)

v(t)=11+exp{-μu(t)\}(2)

gi(t)=(1-β)gi(t+1)(3)

η(t+1)=η(t)ln{e+λ\}(4)И

在Matlab中仿真混沌神經元模型進行模擬仿真,對式(1)~式(4)隨機取參數Е=0.7,β=0.001,λ=0.006,μ=300Щ煦縞窬元內部狀態的演變如圖1所示。

圖1 混沌神經元狀態演化圖

對于這里的單個混沌神經元的動力學特性和控制參數的演化過程進行仿真與研究。

圖2、圖3是在式(1)~式(4)取參數k=0.9,β=0.001,λ=0.006,g(0)=0.08時單個神經元的動力學特征和控制參數的退化曲線,可以看出式(1)~式(4)組成的網絡具有暫態混沌動力學的行為,隨著控制參數在時間上的不斷衰減,通過一個倍周期倒分叉過程,網絡將逐漸趨于穩定的平衡點。

圖2 單個神經元的動力學特征

圖3 控制參數的退化曲線

圖4、圖5中k=0.9,β=0.003,λ=0.006,g(0)=0.08,由于圖4,圖5相對于圖2和圖3只是β增大,但可以知道β增大有利于加速收斂,但優化質量會有所下降,從網絡的動態方程可知,β增大使能量函數對動態方程的影響增大,如影響過大,將不能產生充分地混沌動態;反之太小的β使能量函數的變化不能充分的影響動態的演變,從而搜索過程難以收斂到對應最小能量值的最優解,同時過分的混沌搜索將導致優化過程變長。

圖4 單個神經元的動力學特征

圖5 控制參數的退化曲線

圖6、圖7中k=0.9,β=0.001,λ=0.008,g(0)=0.08,由圖6,圖7相對于圖2和圖3只是λ增大,然而可以知道λ增大有利于加速收斂,但優化質量會下降,λ的大小反應控制參數Z(t)的下降速率的快慢,過大的λ會使Щ煦綞態消失的過快,從而容易收斂到局部最小或非法狀態;反之混沌動態持續太久,將嚴重影響收斂速度。

圖6 單個神經元的動力學特征

圖7 控制參數的退化曲線

圖8、圖9中k=0.9,β=0.001,λ=0.008,g(0)=0.10,由圖8和圖9相對于圖2和圖3只是Z(0)增大,但可以知道Z(0)減小有利于加速收斂,但算法收斂到次優解的概率將增加,加快Z的下降速度,一旦混沌行為不充分則必然影響優化性能;反之Z(0)過大將使得下降過程過慢,從而混沌對系統演化過程的影響過大,收斂必然緩慢。

圖8 單個神經元的動力學特征

圖9 控制參數的退化曲線

2 暫態混沌神經網絡

上述部分對單個無反饋神經元的動力學特性和控制參數進行了仿真與研究,下面系統地對混沌神經網絡進行研究。顯然暫態混沌神經網絡有反饋項,而且還是許多單個的神經元構成,其構成是將混沌機制引入到Hopfield神經網絡中,構造出具有自組織特性和克服局部極小能力的暫態混沌神經網絡,其數學模型如下:

Иui(t+1)=kui(t)+α\j≠1wijvj+θ-s1(K)\〗-

gi(t)\(5)

vi(t)=11+exp{-μui(t)\}(6)

gi(t)=(1-β)gi(t+1)(7)

ηi(t)=ηi(t-1)ln{e+λ\}(8)И

其中:式(5)為混沌神經網絡的動態方程;式(6)為神經網絡的激勵函數。ui和vj為神經網絡在K時刻的輸入和輸出;wij為從第j個神經元到第i個神經元的連接權值;k為比例常數;θ為神經元偏置;S1(K),S2(K)為外加的混沌變量;β和λ為時變量gi(t)和ηi(t)У乃ゼ躋蜃印Hopfield神經網絡離散型模型為:

Иui(K+1)=(1-Δtτ)ui(K)+Δtβ′[∑njwijvj(K)+θ]

=kui(K)+β[∑njwijvj(K)+θ](9)И

比較混沌神經網絡和Hopfield神經網絡模型只是在Hopfield神經網絡后面加上Вgi(t)\項,變量gi(t)表示每個神經元的抑制自反饋鏈接的強度,當t0,gi(t)0,Щ煦縞窬網絡退化為神經網絡暫態混沌神經網絡模型綜合了隨機性和確定性算法的優點。優化過程分為基于混沌的“粗搜索”和基于Hopfield神經網絡“細(梯度)搜索”兩個階段。粗搜索中的混沌搜索同時具有隨機性和軌道遍歷性,具有克服陷入局部極小的能力。隨機性保證大范圍搜索能力,軌道遍歷性使算法能按系統自身的行為不重復地遍歷所有可能狀態,有利于克服一般隨機算法中以分布遍歷性的機制搜索帶來的局限性。粗搜索過程結束,轉入HHN梯度搜索及細搜索階段,隨著粗搜索結束,系統方程中控制參數決定項的作用很弱,及暫態混沌動力行為消失后,網絡優化過程基本按能量函數的梯度下降方向進行。此時的行為類似于Hopfield神經網絡尋優過程。系統最終收斂于一個穩定的平衡點,即收斂到全局意義下較滿意的解。

算法流程圖如圖10所示。

3 暫態混沌神經網絡模型在優化問題中的應用

3.1 在函數優化中的應用

求解下述非線性優化問題:

ИF(x)=(x1-0.8)2\+

(x2-0.6)2\И

目標函數的全局最小點為:(0.8,0.6);局部極小點為有3個:(0.7,0.5),(0.7,0.6),(0.8,0.5)。以min F(x)為網絡的能量函數進行優化求解并給定相應的網絡參數和網絡初始值。

計算結果見表1。

表1 計算結果

全局最優解對應最優解迭代次數

理論解0.000.8,0.6-

混沌解1.478E-0070.799,0.59990

在此給出網絡的神經元的輸出X(t)隨時間的演化過程(隨時間變化):如圖11所示。

圖10 優化流程圖

圖11 神經元1的輸出X1(t)和神經元2的輸出X2(t)

兩個神經元的輸出函數的初始狀態是不可預測的混沌運動,隨著非線性反饋強度的逐漸減弱,經過短暫的分叉過程后,最終收斂到網絡的穩定狀態(0.8,0.6)處。因此該網絡具有避免陷入局部極小值的能力,從而實現全局優化。

3.2 應用于TSP問題(10個城市TSP問題)

TSP問題是一類典型的組合優化難題,它要求旅行商用最短的路徑走遍地圖上的n個城市而且只能訪問一次,最后回到起始點。TSP問題分為對稱TSP(dij=dji)和非對稱TSP(dij≠dji)。其中:dij表示城市i與城市j之間的距離;對稱TSP的可能路徑有(n-1)!/2條,非對稱的有(n-1)!條。顯然,用窮舉法來尋找最短路徑將花費大量的時間,而且若城市數量大,則該方法幾乎是無法解決TSP問題的。1985年,Hopfield與Tank構造了TSP問題滿足所有限制條件的一個能量公式:

ИE=w12\ni=1(∑njxij-1)2+∑nj=1(∑nixij-1)2\〗

+w22∑ni=1∑nj=1∑nk=1(xkj+1+xkj-1)xijdikИ

同時,結合HNN算法成功地解決了TSP問題。但是對于10個城市的TSP問題,20次實驗中,只得到16次合法解,10次最優解通過分析得到解決TSP問題的差分方程:

yij(t+1)=kyij(t)+α{-w1\ni≠jxij(t)+

∑nk≠ixkj(t)\〗-w2\nk≠idik(xkj+1(t)+xkj-1)\〗+

w1}-zi(t)\, i=1,2,…,n

對于10個城市的TSP問題,原始數據取自文,參數選取如下:k=0.9; W1=1;W2=1;I0=0.65;γ=100;z(0)=0.05;εi=250;變動β,λ,隨機選取初始值仿真120次得到表2的仿真結果。

表2 仿真結果

Е力婁霜ё鈑漚猹な目次優解な目平均迭代ご問

0.020.060.011173320

0.020.040.011200289

0.020.040.024254

0.030.020.012241

從表2中取出1組數據Е=0.03,β=0.02,λ=0.01,神經元輸出能量函數演化圖以及最優路徑如圖12所示。

圖12 10個城市TSP最短路徑仿真圖

對圖12分析可以得到:模型中存在很多參數需要選取。輸入正比例系數Е劣跋斕代步數的多少與模型混沌動態性能,過小的α值使迭代步數增加,過大的α值則減弱模型混沌動態性能,故應該仔細選取該參數;β控制增益函數的衰減速率,這個參數將顯著影響尋優過程的收斂速度,較小的β值將會加快收斂速度;較大的λ值會加快收斂速度但會使混沌動態消失過快,從而影響尋優結果,較小的λ值會使混沌動態作用時間加長而使收斂速度變慢。

4 結 語

暫態混沌神經網絡利用混沌所固有的隨機性和軌道遍歷性在大范圍內按其自身規律進行搜索,搜索過程按混沌軌道遍歷,不受目標函數限制,從而具有克服陷入局部極小的能力。當混沌搜索結束以后,網絡進入類似Hopfield網絡的梯度搜索過程,由于混沌搜索為梯度搜索提供了一個好的位于全局最優解附近的初始值,因而可以較快地獲得全局意義下的最優解。通過實例仿真分析,比較暫態混沌神經網絡在優化方面顯示出了其優化方面的優勢和較好的發展前景。

參 考 文 獻

[1]Aihara K,Takabe T,Toyada M.Chaotic Neural Networks[J].Phys.Letters A,1990,144(6/7):333-340.

[2]Nozawa H.Solutions ofthe Optimization Problem Using the Neural Network Model as a Globally Coupled Map[J].Physica D,1994,75(1-3):179-189.

[3]張學義,胡仕誠,謝榮生,等.一種混沌神經網絡及其在優化計算中的應用[J].系統工程與電子技術,2000,22(7):69-71.

[4]王凌,鄭大鐘.一種基于退火策略的混沌神經網絡優化算法[J].控制理論與應用,2000,17(1):139-142.

[5]竇春霞,張淑清.基于混沌神經網絡預測模型的最優控制決策及應用[J].動力工程,2004,24(1):68-72.

[6]Chen Luonan,Aihara Kazuyuk.Global Searching Ability of Chaotic Neural Networks [J].IEEE Transactions on Circuits and System I:Fundamental Theory and Application,1999,46(8):974-993.

[7]竇春霞.基于混沌一神經網絡模型最優控制及應用[J].系統工程學報,2004,19(3):229-233.

[8]李薪宇,呂炳朝.暫態混沌神經網絡中的模擬退火策略優化[J].計算機應用,2005(10):198-200.

[9]周婷,賈振紅,劉秀玲.一種用于函數優化的小波混沌神經網絡[J].計算機應用,2007,27(12):2 910-2 912.

[10]高海昌,馮博琴,朱利.智能優化算法求解TSP問題[J]控制與決策,2006(3):241-247.

神經網絡的特性范文3

關鍵詞:公路工程;造價;估算;模糊

神經網絡對于公路工程建設企業來說,工程估價的準確性與合理性,直接決定著項目投資決策的正確性,是分析工程項目可行性的主要環節,同時也是公路工程項目標底編制的主要控制標準,因此工程造價估算的準確性,是各建設單位研究的重點內容,其對加強公路工程項目成本管理,有著積極的作用。

1公路工程造價估算的必要性

公路工程管理工作中,造價管理是主要內容,此項工作直接影響著建設企業的效益與工程的質量,歷來都是管理的核心部分。工程造價估算是項目前期管理的重要內容,是實現項目成本控制目標的基礎。造價估算能夠為項目施工方提供成本控制方案編制的依據。在設計招標前,明確工程預計造價,能夠避免招標環節惡意行為的發生。

2模糊神經網絡應用流程優勢

2.1模糊神經網絡應用流程。近年來,公路工程造價估算工作中,多采取模糊神經網絡來進行估算。公路工程造價估算,多是通過輸入公路工程相關要求與特點,最后輸出估算結果,這與模糊神經網絡應用原理極為相似,其具體流程如下。(1)構建信息庫基于已有工程信息,包括工程特征因素與工程造價等材料,構建造價信息庫。(2)取值結合公路工程施工要求,明確各類特征因素,包括評價指標,確定數據取值。(3)選取輸入與輸出向量基于模糊神經思想法,在造價信息庫內,至少選擇3個已完成施工的項目,作為基礎數據,以供神經網絡學習與訓練。輸入向量選擇為各類特征因素值,輸出向量為造價估算值。(4)迭達運算基于系統內的造價數據來編制算法程序,以供神經網絡學習,設計學習率,通過多次迭達運算,保障造價估算的準確性。2.2模糊神經網絡的應用優勢。公路工程造價估算中,采取模糊神經網絡法,具有以下優點。(1)造價模型化利用模糊數學,可以高效處理模糊信息。采取對比已建設和新建的公路工程,進行定量化描述,使得相關問題可以模型化。(2)結果更為科學開展公路工程造價估算,應用模糊神經網絡,再通過構建數學模型,進行數學計算分析,能夠減少人為計算的誤差,計算結果的準確性與科學性較高。(3)適應性強公路工程造價具有動態變化特性,模糊神經網絡模型能夠很好地適應此特性。此估算方法的應用,主要是依靠計算機,不僅運算速度快,而且運算精度較高。

3模糊神經網絡在公路工程造價估算中的應用

模糊神經網絡估算方法較多,文中選擇BP神經網絡法,是基于仿人腦的神經系統結構,具有較強的學習能力,為非線性自適應動態系統[1]。現對其在公路工程造價估算中的應用,做以下的分析。3.1公路工程樣本描述與定量。公路工程構件主要包括底層、基層、面層等,工程造價是由各構件類型與價格等因素決定,實物工程量取決于工程結構設計參數。已建工程造價變動,主要是受到構件因素的影響,被稱作是工程特征。基于工程特性,將公路工程劃分為不同類別,若按照路面形式劃分,主要包括瀝青路面和水泥路面等,為特征類目。對于工程定量化,是按照特征類目,依據定額水平與工程特征,填入相關數據,如表1所示。由表1能夠看出,每個公路工程模式均可以利用表格的形式來定量化描述,一個特征可以由多個類目組成,按照比例來計算量化結果。3.2BP神經網絡學習算法。在BP神經網絡中,需要將信息傳遞到網絡隱節點上,使用S型激活函數,把信息傳出,接著發揮激活函數的作用,成功輸出結果。在網絡隱節點以及輸出節點位置處,選擇S型激活函數,即f(x)=11+ex,若此結果未能按照正常程序開展,此時要轉變成反向傳播。假設存在N個樣本,定義描述為(Xk,yk)(k=1,2,⋯,N),其中某個輸入值為Xk,對應的神經網絡輸出值是yk,而隱層節點I的輸出值是Oj[2]。3.3工程造價估算模型。基于BP神經網絡,構建公路工程造價快速估算模型。針對以往工程案例,開展估算研究,將工程特征定量化數值,設為Xij(i=1,2,3,⋯,n;j=1,2,3,⋯,n),將相應的工程造價定額預算相關資料,設為yis(i=1,2,3,⋯,n;s=1,2,3...n),不考慮市場價格調整。明確BP神經網絡結構系統參數,包括輸入層節點數m、輸出層節點數n、隱層節點數L。以Xij為輸入,以yis為輸出,開始神經網絡訓練,獲得新建工程的造價估算神經網絡,反向估算新建工程造價[3]。3.4計算實例。以某省道一級公路和二級公路工程為例,其中一級公路使用的是瀝青混凝土路面,記為T19;二級公路使用的是水泥混凝土路面,記為T20,檢驗18個樣本工程造價數據,基于檢驗結果能夠了解,T19造價指數是0.98,T20造價指數為0.96,獲得預算資料如下:T19路面類型是半柔性路面;基層為水泥穩定碎石;底層材料為石灰土;路面結構為瀝青混凝土;面層厚度為15cm;基層厚度為14cm;底層厚度為10cm;T20路面類型是剛性路面;基層為工業廢渣穩定土;底層材料為石灰土;路面結構為水泥混凝土;面層厚度為12cm;基層厚度為16cm;底層厚度為12cm。將獲得的預算材料和表1資料進行對比分析,能夠明確T19工程特征定量化描述是T19=(3,1,2,2,2,6,2.5),T20工程特征定量化描述是T20=(5,4,7,3,4,3,4.1),將T19與T20,輸入到經過訓練的BP神經網絡中,獲得的結果為T19=(0.4029,0.4056,0.5005,0.4365),T20=(0.6277,0.6156,0.4290,0.5661),經過反算,獲得工程造價資料預測值,其中V19=(481.74,16.44,0.0046,145.85),V20=(1185.82,37.16,0.0033,247.07),預測的相對誤差O19=(1.61%,4.65%,4.15%,1.40%),O20=(3.76%,3.67%,5.70%,1.84%),由此能夠看出,基于BP神經網絡預測的工程造價估算精度較高[4]。

4結語

模糊神經網絡的應用,主要是基于模糊數學與神經網絡理論,借助類似工程之間存在的相似性,采用BP神經網絡法進行公路工程造價估算,能夠快速獲得估算結果,具有較強的應用優勢。

作者:錢強 單位:中建路橋集團有限公司

參考文獻:

[1]王運琢.基于BP神經網絡的高速公路工程造價估算模型研究[J].石家莊鐵道大學學報(自然科學版),2011,24(2):61-64.

[2]劉湘雄.人工神經網絡在工程造價估算中的應用[J].建筑,2012(12):68-69.

神經網絡的特性范文4

關鍵詞: 正交基神經網絡; 非線性; 衛星信道; 預失真

中圖分類號: TN927?34 文獻標識碼: A 文章編號: 1004?373X(2013)09?0040?03

0 引 言

高功率放大器是衛星通信系統中的重要組成部分,當其工作在飽和區附近時,衛星信道具有嚴重的非線性。這種非線性對信號的影響主要有兩方面[1]:一是信號星座圖發生變形,造成碼間串擾(ISI);二是頻譜再生,引起鄰近信道干擾(ICI)。

隨著現代通信技術和多媒體業務的高速發展,大容量高速率的信息傳輸十分必要,衛星通信也以不可抵擋之勢向高速率大容量的方向迅猛發展。由于通信速率和通信帶寬的迅猛增加,頻譜資源越來越緊張,現代衛星通信更趨向于采用比恒包絡調制頻譜效率更高的幅度相位聯合調制方式,如DVB?S2標準中的APSK等調制方式[2?3]。與傳統的相位調制技術相比,APSK信號由于其信號幅度的變化,對衛星信道的非線性失真更加敏感。為保證通信性能,必須對信道的非線性失真進行補償。

1 高功放的非線性特性及其對系統性能的影響

高功放的工作特性分為線性區和非線性區,當輸入信號功率較低時,輸出和輸入功率關系是線性的;當輸入功率較高時,輸出和輸入功率關系呈現出非線性,當輸出功率達到飽和,再增加輸入功率,輸出功率不會增大還可能會減小。

高功放非線性模型非常多,本文采用經典的Saleh模型,該模型中幅度和相位的輸出僅與輸入信號的幅度有關。其幅度和相位轉移特性曲線如圖1所示,當輸入信號歸一化幅度小于0.6時,幅度轉移和相位轉移呈現線性,大于0.6時,其轉移特性呈現非線性。

圖2為16APSK信號經過非線性高功放的收發信號星座圖??梢钥闯?,接收信號星座圖已經發生嚴重畸變,外圈星座點半徑被壓縮,內圈星座點半徑擴大,內外圈星座點歐式距離被縮??;星座點相對原來位置發生逆時針旋轉;碼間串擾很大,星座點扭曲嚴重。由于高功放非線性效應的影響,在不加補償的情況下,接收機已經不能正常工作。

2 正交基神經網絡

正交基前向神經網絡模型如圖3所示。該網絡模型由輸入層、隱藏層和輸出層組成。其中輸入層、輸出層各有一個神經元,使用線性激勵函數[f(x)=x],隱藏層有[n]個神經元,采用一組階次逐漸增高的正交多項式[φ(x)]作為其激勵函數。

傳統的神經網絡存在收斂速率慢和易陷入局部極小等缺點,文獻[4]提出了一種Chebyshev正交基神經網絡,該網絡的隱藏層神經元采用Chebyshev正交多項式,即文獻[4]采用基于偽逆的方法,實現了一步權值直接確定,不需要迭代,具有更高的計算速率和工作精度,同時不存在局部極小的問題??紤]到Chebyshev正交基神經網絡的優點,將其應用到衛星非線性信道的補償技術中。

3 基于正交基神經網絡的預失真補償算法

正交神經網絡預失真系統框圖如圖4所示。[x(n)]為預失真器的輸入,[y(n)]為預失真器的輸出、高功放的輸入,[z(n)]為高功放的輸出,用[M(?)]和[N(?)]分別表示預失真器的幅度和相位轉移特性,預失真器的輸入輸出關系為[1]:

神經網絡的特性范文5

關鍵詞:相似性;可塑性;阻變機理

DOI:10.16640/ki.37-1222/t.2016.03.102

0 引言

人工神經網絡是一種旨在模仿人腦結構及其功能的信息處理系統。神經元之間突觸的聯系強度是可變,這是學習和記憶的基礎。人工神經網絡可以通過“訓練”而具有自學習和自適應的能力。神經網絡技術的關鍵是權重設計,權重的硬件實現需要一個長期保持記憶且不耗能的納米級元件。傳統的人工神經網絡技術都是在傳統計算機基礎上進行的,其主要缺點是運算量巨大且運算不是并行處理。如果在硬件上實現人工神經網絡的并行分布式處理、非線性處理,自我學習功能和自適應性等功能,就能夠解決了人工神經網絡在傳統計算機上運算量巨大的缺點。而單個憶阻器便可實現神經突觸功能的模擬,而且憶阻器能夠很容易與納米交叉連接技術相結合,具有大規模并行處理、分布式信息存儲、巨大存儲量等優勢。所以利用憶阻系統是人工神經網絡實現神經突觸功能的模擬的最好的方式之一,因而成為近年來研究的熱點。

1 憶阻與神經突觸的相似性

神經元是大腦處理信息的基本單元。人腦大約含有1011-1012個神經元,神經元互相連接成神經網絡。突觸是神經元間信息傳遞的關鍵部位,決定了前后神經元之間的聯系強度。圖1.神經突觸的結構示意圖。神經遞質通過突觸前膜釋放到突觸間隙,作用于突觸后膜上的受體,使突觸后膜發生電位變化,使下一個神經元產生興奮或抑制。生物系統記憶和學習功能是以精確控制通過神經元及突觸的離子流為基礎建立的。突觸能夠隨外界的電位刺激變化,粒子流產生動態連續的變化,聯系強度增強或者減弱,即突觸的可塑性。在憶阻器件出現之前,人工神經網絡突觸的的硬件實現需要集成電路甚至超大規模的集成電路,而且人工神經網絡的密度也很難達到生物神經網絡的密度,因而電路復雜體積龐大,制約了人工神經網絡對于復雜的人腦功能模擬的實現。憶阻器的出現解決了這個問題,世界各地多個研究小組已實現了具有不同憶阻模型和憶阻特性的憶阻器件。由于憶阻器的電阻可變和電阻記憶特性,與突觸的功能上有很強的相似性,因此憶阻在人工神經網絡電路中可以模擬突觸在生物神經網絡中的作用。

2 神經突觸的可塑性特性

神經突觸一個重要的特征是突觸的可塑性,電信號刺激能夠加強或者弱化突觸,突觸連接強度可連續調節。利用憶阻器模擬生物突觸最基本的依據是由于它具有電阻緩變的特性,當施加電壓下器件的阻值可實現從高(低)阻值到低(高)阻值的緩變過程,器件的導電性(或阻值)相當于突觸權重,導電性增大和減小的過程分別對應突觸的增強和抑制過程。記憶是通過大腦中大量突觸之間的相互連接所表現出來,因此,突觸可塑性被認為是學習和記憶重要的神經化學基礎。實現突觸學習功能時,一個典型特性是電脈沖時間依賴可塑性(STDP)。人類大腦中記憶或者突觸可塑性按保留時間可以分為短程記憶和長程記憶。短時程可塑性與神經元的信息傳遞和處理有著密切的關系。神經系統每時每刻都接受數以千計來自外界的刺激,短時可塑性對如何在大量的輸入信息中提取有用信息扮演重要角色。長時程可塑性促使突觸在數小時到數天之內發生持續性的變化,人們認為其在學習和記憶存儲的突觸機制中發揮重要作用。

3 憶阻器件的阻變機理

早在1971年,美國校華裔科學家蔡少棠就通過理論計算預言,在電阻、電容和電感之外必定存還在第四種無源電子元件,即憶阻器。如圖3所示,電路的3個基本元件電阻、電感和電容,可以分別有由4個電路變量變量電壓(v)、電流 (i)、電荷量(q)和磁通量(φ)中的兩個來定義,分別為:由電壓和電流定義的電阻R、由電荷和電壓定義的電容 C 以及由磁通量和電流定義的電感L。出于邏輯完備性,蔡紹棠認為應該還存在由電荷量和磁通量定義的第4類基本電路元器件即憶阻器。然而學界卻一直沒有找到這個在理論上成立的無源元器件,直到37年后(2008年),美國惠普公司宣布在Pt/TiO2Cx/Pt兩端器件實現了具有憶阻功能的器件結構(圖4),從而找到這個一直缺失的電路元件,至此憶阻器開始引起更多學者的研究興趣,并迅速成為電路、材料、生物等領域的研究熱點。

隨著人們對憶阻器研究的深入,多種憶阻器件和模型在各研究領域相繼提出和實現。目前,阻變機理主要有邊界遷移模型、絲電導模型、電子自旋阻塞效應、氧化還原反應等。中科院諸葛飛課題組在錐形納米孔洞結構的非晶碳薄膜材料中,實現了納米導電絲機制的憶阻器件。非晶碳膜阻變器件的電致電阻效應決定于通孔中的納米導電細絲的通斷(如圖4)。

4 結論與展望

本文對神經網絡的概念、憶阻器與神經突觸的相似性、神經突觸的可塑性、憶阻器的阻變機理進行了綜述,指出了目前很多憶阻器是利用人工神經網絡實現人工智能及超級計算機的硬件基礎。目前憶阻器材料研究存在的兩個主要問題是阻 變機理不夠清楚和阻變性能不夠穩定。憶阻器材料非常之多,甚至把任意絕緣材料做到納米級,就很有可能具有阻變特性。找出隱藏在眾多阻變現象之后的機理有無共同的規律,研究阻變特性是由材的化學成分決定還是由材料的微 觀結構決定,這將是以后研究中需要回答的問題。

神經網絡的特性范文6

關鍵詞:灰色神經網絡;商品銷售;算法;銷售預測

中圖分類號:F71文獻標識碼:A文章編號:1009-3044(2009)27-7743-02

市場銷售是根據根據市場過去和現在的信息,運用一定的數學方法,對產品的需求進行評估推測,市場預測可以減少企業風險,為企業決策提供依據。做為市場預測組成部分的需求預測,是直接影響企業生產企業,投資取向,庫存保有量的重要依據,精確的需求預測可以減少庫存,降低訂單流失率,更有效的配置資源。對于商品銷售預測來說,有很多種方法,本文采用灰色神經網絡來預測商品銷量。

1 灰色系統和神經網絡概述

1.1 灰色系統

灰色系統理論是一種研究少數據、貧信息、不確定性問題的新方法,它以“部分信息已知,部分信息未知”的“小樣本”,“貧信息”不確定系統為研究對象,通過對“部分”已知信息的生成、開發、提取有價值的信息,實現對系統運行行為、演化規律的正確描述和有效監控。它是我國學者鄧聚龍教授在1982年首先提出的,經過20年的發展,灰色系統已基本建立起一門新興學科的結構體系,其主要內容包括以灰色朦朧集為基礎的理論體系,以灰色關聯空間為依托的分析體系,以灰色序列生成為基礎的方法體系,以灰色模型為核心的模型體系和以系統分析、評估、建模、預測、決策、控制、優化為主體的技術體系。

灰色系統中建立的模型稱為灰色模型(GreyModel)簡稱GM模型,是以原始數據序列為基礎做某種生成后建立的微分方程。建模中最有代表性的是針對時間序列的GM建模,它直接將時間序列數據轉化為微分方程,利用系統信息,使抽象的模型量化,量化的概念模型化,最后進行模型優化,從而使所建的GM模型在尋求不到系統的概率特性或隸屬特性的情況下顯示其優越性。

1.2 神經網絡

人工神經網絡理論(ArtificialNeuralNetworks)是智能算法理論的一種,由于其具有大規模并行處理、分布式信息存儲,容錯性,自組織性和自適應性等特點,目前已經得到了國內外學者的廣泛關注。目前,人工神經網絡已成功應用在函數擬合、數據預測、模式識別、優化控制等很多工程領域,并在一些傳統方法難以解決的問題上取得了滿意的結果。

人工神經是由一些稱為神經元的基本部件按一定規則組合形成的,它由神經元,神經元間連接方式和訓練規則三個因素組成。其中最主要的部分是神經元,它由由輸入,非線性變換和輸出三部分構成,是一個基本計算單元,計算過程為,輸入經過權值連接到內部后求和,和值首先與一個閥值做比較,然后經過非線性變化,得到輸出。神經元的非線性變換有多種形式,比較常用的有Sigmoid函數,限幅函數等。神經元間不同的連接方式構成了不同類型的神經網絡,比如信號由一層單向傳播到另一層的前饋型神經網絡,信號在層與層之間傳播的反饋型神經網絡等。目前,比較典型的神經網絡包括BP網絡,RBF網絡、小波網絡等。

2 基于灰色神經網絡的銷量建模

2.1 網絡建模

對于銷量預測的問題來說,灰色模型GNNM(1,N)的微分表達式為:

其中, y1是商品的銷售量,y2-yn是影響銷售量的因子。

求解微分方程(1)可得如下的離散響應方程:

令 ,則式2變為:

y1的閥值設為: 。

BP網絡LB層神經元的激活函數取為Sigmoid函數:

將式(3)變型后映射到BP網絡中,得到如下的映射銷量問題的灰色神經網絡模型,如圖1所示。

2.2 學習算法

該模型中各個參數根據網絡輸出和實際輸出的誤差進行調整,從而是網絡輸出不斷逼近實際輸出,學習算法如下:

Step 1.根據系統數據列特征,選取兩個較小的值做為 a,b1,b2,…,bn-1

Step 2.根據網絡權值定義計算ω11,ω21,ω22, …,ω2n,ω31,ω32,…,ω3n

Step 3.對每一個輸入序列(t,y(t)),(t=1,2,3,…,N)進行如下操作:

t輸入LA層節點,對LB、LC、LD層的節點進行如下計算:

計算每層輸出

計算網絡輸出與期望輸出的誤差

調整隔層權值:

調整LB到LC的連接權值:

調整LA到LB的連接權值:

調整閥值:

Step 4重復步驟3,直至滿足結束條件為止。

2.3 總體設計

采用灰色神經網絡進行銷量預測,總的步驟分為灰色神經網絡構建,灰色神經網絡訓練和灰色神經網絡預測三步,其中灰色神經網絡構建是根據輸入輸出變量構建灰色神經網絡,灰色神經網絡訓練是對網絡進行訓練,灰色神經網絡預測是對訓練好的網絡對數據進行預測,其灰色神經網絡預測系統總體框圖如圖2所示。

3 基于灰色神經網絡的銷量預測

采用灰色神經來對某型冰箱的銷售的做預測,分析得出影響該型冰箱的市場需求的因素為以下幾個指標,1)競爭對手;2)市場特征;3)成本;4)廣告力度;5)品牌認可;6)售后服務;7)價格性價比。輸出數據為銷售量,用模糊神經網絡進行訓練預測,設置輸入節點數為8,輸出節點數為1,即為預測銷售量,網絡共迭代100次,得到的預測值和實際值的結果如圖3所示。

從圖3中可以看到,灰色神經網絡預測的銷量值和實際值非常接近,說明了灰色神經網絡預測的有效性。

亚洲精品一二三区-久久