前言：中文期刊網精心挑選了神經網絡范文供你參考和學習，希望我們的參考范文能激發你的文章創作靈感，歡迎閱讀。
神經網絡范文1
人工神經網絡是近年來迅猛發展的前沿課題，它對突破現有科學技術的瓶頸起到重大的作用。本文剖析了人工神經網絡的特征、模型結構以及未來的發展趨勢。
【關鍵詞】人工神經網絡 神經元 矩陣
1 人工神經網絡概述
人工神經網絡（ANN）是一種用計算機網絡系統模擬生物神經網絡的智能神經系統，它是在現代神經生物學研究成果的基礎上發展起來的，模擬人腦信息處理機制的一種網絡系統，它不但具有處理數值數據的計算能力，而且還具有處理知識的學習、聯想和記憶能力。
人工神經網絡模擬了大腦神經元的組織方式，反映了人腦的一些基本功能，為研究人工智能開辟了新的途徑。它具有以下基本特征：
1.1 并行分布性
因為人工神經網絡中的神經元排列并不是雜亂無章的，往往是以一種有規律的序列排列，這種結構非常適合并行計算。同時如果將每一個神經元看作是一個基本的處理單元，則整個系統可以是一個分布式處理系統，使得計算快速。
1.2 可學習性和自適應性
一個相對很小的人工神經網絡可存儲大量的專家知識，并能根據學習算法，或利用指導系統模擬現實環境（稱為有教師學習），或對輸入進行自適應學習（稱為無教師學習），可以處理不確定或不知道的事情，不斷主動學習，不斷完善知識的存儲。
（3）魯棒性和容錯性
由于采用大量的神經元及其相互連接，具有聯想映射與聯想記憶能力，容錯性保證網絡將不完整的、畸變的輸入樣本恢復成完整的原型，魯棒性使得網絡中的神經元或突觸遭到破壞時網絡仍然具有學習和記憶能力，不會對整體系統帶來嚴重的影響。
1.3 泛化能力
人工神經網絡是大規模的非線性系統，提供了系統協同和自組織的潛力，它能充分逼近任意復雜的非線性關系。如果輸入發生較小變化，則輸出能夠保持相當小的差距。
1.4 信息綜合能力
任何知識規則都可以通過對范例的學習存儲于同一個神經網絡的各連接權值中，能同時處理定量和定性的信息，適用于處理復雜非線性和不確定對象。
2 人工神經網絡模型
神經網絡是在對人腦思維方式研究的基礎上，將其抽象模擬反映人腦基本功能的一種并行處理連接網絡。神經元是神經網絡的基本處理單元。
在神經網絡的發展過程中，從不同角度對神經網絡進行了不同層次的描述和模擬，提出了各種各樣的神經網絡模型，其中最具有代表性的神經網絡模型有：感知器、線性神經網絡、BP網絡、自組織網絡、徑向基函數網絡、反饋神經網絡等等。
3 神經元矩陣
神經元矩陣是神經網絡模型的一種新構想，是專門為神經網絡打造的一個矩陣，它符合神經元的一切特征。
神經元矩陣采用矩陣形式，它可為n維向量組成。引入向量觸頭和信使粒的概念，向量觸頭可生長，即長度可變，方向可變，信使?？伞坝问帯痹诰仃囍校⒏鞣N聯系。如圖1即是神經元矩陣模型
（1）容器可產生一種無形的約束力，使系統得以形成，容器不是全封閉的，從而保證系統與外界的溝通和交互；各向量間可用相互作用的力來聯系，而各個信使粒則受控于容器、中空向量以及其它的信使粒。各神經元之間自主交互，神經元矩陣是一種多層次的管理，即一層管理一層。系統具有明顯的層級制和分塊制，每層每塊均獨立且協同工作，即每層每塊均含組織和自組織因素。
（2）向量觸頭是中空的，信使?？梢酝ㄟ^向量或存儲于向量中，所以又稱為中空向量。向量存儲了信使粒后，可以吸引更多的信使粒在附近，或使鄰近向量轉向、伸長，進而形成相對穩定的信息通路。
（3）當兩條或更多的信息通路匯集時，可能伴隨著通路的增強、合并，以及信使粒的聚集、交換，這是神經元矩陣運算的一種主要形式。通路的形成過程，也就是是神經元矩陣分塊、分層、形成聯接的過程，也為矩陣系統宏觀管理、層級控制的實現奠定了基礎。
神經元矩陣亦是一種具有生物網絡特征的數學模型，綜合了數學上矩陣和向量等重要概念，是一種立體的矩陣結構。尤其是將矩陣的分塊特性和向量的指向特征結合起來，更好的體現了神經網絡的整體性和單元獨立性，系統的組織和自組織特征也更為凸顯。信使粒以“點”的數學概念，增強了系統的信息特征，尤其是增強了矩陣的存儲和運算功能。
4 人工神經網絡的發展趨勢
人工神經網絡是邊緣叉科學，它涉及計算機、人工智能、自動化、生理學等多個學科領域，研究它的發展具有非常重要意義。針對神經網絡的社會需求以及存在的問題，今后神經網絡的研究趨勢主要側重以下幾個方面。
4.1 增強對智能和機器關系問題的認識
人腦是一個結構異常復雜的信息系統，我們所知道的唯一智能系統，隨著信息論、控制論、計算機科學、生命科學的發展，人們越來越驚異于大腦的奇妙。對人腦智能化實現的研究，是神經網絡研究今后的需要增強的地發展方向。
4.2 發展神經計算和進化計算的理論及應用
利用神經科學理論的研究成果，用數理方法探索智能水平更高的人工神經網絡模型，深入研究網絡的算法和性能，使離散符號計算、神經計算和進化計算相互促進，開發新的網絡數理理論。
4.3 擴大神經元芯片和神經網絡結構的作用
神經網絡結構體現了結構和算法的統一，是硬件和軟件的混合體，神經元矩陣即是如此。人工神經網絡既可以用傳統計算機來模擬，也可以用集成電路芯片組成神經計算機，甚至還可以生物芯片方式實現，因此研制電子神經網絡計算機潛力巨大。如何讓傳統的計算機、人工智能技術和神經網絡計算機相融合也是前沿課題，具有十分誘人的前景。
4.4 促進信息科學和生命科學的相互融合
信息科學與生命科學的相互交叉、相互促進、相互滲透是現代科學的一個顯著特點。神經網絡與各種智能處理方法有機結合具有很大的發展前景，如與專家系統、模糊邏輯、遺傳算法、小波分析等相結合，取長補短，可以獲得更好的應用效果。
參考文獻
[1]鐘珞.饒文碧.鄒承明著.人工神經網絡及其融合應用技術.科學出版社.
神經網絡范文2
原理與方法
神經網絡是一個具有高度非線性的超大規模連續時間動力系統。是由大量的處理單元(神經元)廣泛互連而形成的網絡。它是在現代神經科學研究成果的基礎上提出的，反映了腦功能的基本特征。但它并不是人腦的真實描寫，而只是它的某種抽象、簡化與模擬。網絡的信息處理由神經元之間的相互作用來實現；知識與信息的存儲表現為網絡元件互連間分布式的物理聯系；網絡的學習和計算決定于各神經元連接權系的動態演化過程。因此神經元構成了網絡的基本運算單元。每個神經元具有自己的閾值。每個神經元的輸入信號是所有與其相連的神經元的輸出信號和加權后的和。而輸出信號是其凈輸入信號的非線性函數。如果輸入信號的加權集合高于其閾值，該神經元便被激活而輸出相應的值。在人工神經網絡中所存儲的是單元之間連接的加權值陣列。
神經網絡的工作過程主要由兩個階段組成，一個階段是工作期，此時各連接權值固定，計算單元的狀態變化，以求達到穩定狀態。另一階段是學習期(自適應期，或設計期)，此時各計算單元狀態不變，各連接權值可修改(通過學習樣本或其他方法)，前一階段較快，各單元的狀態亦稱短期記憶(STM)，后一階段慢的多，權及連接方式亦稱長期記憶(LTM)〔1〕。
根據網絡的拓撲結構和學習規則可將人工神經網絡分為多種類型，如不含反饋的前向神經網絡、層內有相互結合的前向網絡、反饋網絡、相互結合型網絡等〔2〕。本文的人工神經網絡模型是采用BP算法的多層前饋網絡。
該模型的特點是信號由輸入層單向傳遞到輸出層，同一層神經元之間互不傳遞信息，每個神經元與鄰近層所有神經元相連，連接權用Wij表示。各神經元的作用函數為Sigmoid函數，設神經網絡輸入層的p個節點，輸出層有q個節點，k-1層的任意節點用l表示，k層的任意節點用j表示，k+1層的任意節點用l表示。Wij為k-1層的第i個神經元與k層的第j個神經元相連接的權值。k-1層的節點i輸出為O(k-1)i，k層節點j的輸出為：
k層節點j的輸出為：
Okj=f(netkj)
設訓練樣本為(X，Ye),X為p維向量，加到輸入層；Ye為q維向量，對應于期望輸出；網絡的實際輸出Y也是q維向量。網絡在接受樣本對的訓練過程中，采用BP算法，其權值調整量為：
ΔWij=-ηδkjO(k-1)i
其中，對于輸出層為：
δkj=yj(1-yj)(yej-yj)
對于非輸出層為：
η為訓練步長，取0＜η＜1。
用樣本集合反復訓練網絡，并不斷修改權值，直到使實際輸出向量達到要求，訓練過程結束〔3〕。
上述人工神經網絡可以完成多種信息處理任務，如從二進制數據中提取相關知識，完成最近鄰模式分類，實現數據聚集等。而本文要用的是其極強的數學逼近映射能力，即開發合適的函數f：ARnBRn，以自組織的方式響應以下的樣本集合：(x1,y1),(x2,y2)…，(xm,ym)，其中yi=f(xi)。這里描述的是一般的數學抽象，像識別與分類這些計算都可以抽象為這樣的一種近似數學映射。
所謂診斷，實質上是一個分類問題。即根據候診者的癥狀，醫學檢查結果(如體溫、心跳等)等一些情況，它們可以用一向量(e1,e2,…，em)來表示，將其歸類為病人或非病人。這也可以轉化為尋找一差別函數f使得：
(1)f(e1，e2，…，em)＞ε，(e1，e2，…，em)∈T
(2)f(e1，e2，…，em)＞ε，(e1，e2，…，em)T
其中集合T表示患病。
因此，病情診斷最終也可作為一類函數的逼近問題。
而許多研究已表明，前向神經網絡可作為非線性逼近的標準型。對于實數空間的任一函數，只要它滿足一定的條件，一定存在唯一的具有單一隱層的前向網絡作為它的最優最佳逼近。而含有兩個隱含層的前向網絡可在任意的平方誤差內逼近某一實函數〔3〕。
診斷步驟
肺癌病例數據選自1981～1994年在某醫院住院的病人，共計551例。其中486例(88%)經病理學、細胞學診斷證實為肺癌。每一病例都包括多項數據，其中用于診斷的數據項有：病人的一般情況(如年齡、性別等)，家族史、既往史、吸煙史、術后病理、X射線檢查、CT檢查、纖維支氣管鏡檢查、PAT痰檢等多達58項。因此，原則上58項數據應作為神經網絡的輸入項，而神經網絡的輸出值就是病人是否患肺癌的結果。
1.網絡訓練集的確定：在最原始的551例病人數據中存在著各種各樣的差別，如性別差異(419例男性，132例女性)，診斷結果的差異(486例經證實為肺癌)，所患肺癌種類的差異(鱗癌、小細胞癌、大細胞癌等)，患病程度上的差異(早、中晚期的不同)等等。顯然，訓練數據集應最大限度地保證兼顧各種病例情況。經過仔細篩選，選擇了含有460個病例的集合作為肺癌診斷用的網絡的訓練集。
2.神經網絡輸入和輸出數據的預處理
按照人工神經網絡的理論，神經網絡的輸入輸出數據都應該屬于(0，1)區間的實數，為此我們需對原始數據進行如下的規一化處理：
其中xi為原始數據項，而Max=max｛xi∶xi∈X｝，Min=min｛xi∶xi∈X｝。這里X為原始數據集。經過(7)式變換后，yi將在(0，1)區間。因此，可作為神經網絡的輸入輸出。
3.應用神經網絡進行肺癌診斷
將描述病人各種情況的數據作為前向網絡的輸入數據加到其輸入端，并按(1)～(6)式計算各神經元的輸入和輸出，同時調整神經元之間的連接權值以使網絡的輸出和實際的病例情況相符。即當病人確實患肺癌時網絡的輸出結果也恰好指示為肺癌，反之亦然。如果對所有的訓練樣本集網絡的輸出基本上(95%或更高)能保證與實際結果一致，則訓練過程結束。我們認為神經網絡已建立起病人的各種因素與他是否是肺癌患者之間的函數映射關系。對于一個新的候診病人來說，只要將他的情況輸入到訓練好的神經網絡中去，根據網絡的輸出結果就可以知道他是否已患肺癌。
表1基于不同發病因素的診斷網絡模型
類型訓練集精度測試集精度
基于遺傳因素的診斷網53.8%46.3%
基于個人生活習慣的診斷網57.1%44.9%
基于病癥的診斷網89.4%83.3%
基于醫學檢查結果的診斷網98.5%92.6%
上述結果表明不同類型的因素應分開來考慮。于是我們將58項輸入數據分成四類，這四類有各自的BP診斷網，依次稱為診斷一、診斷二、診斷三、診斷四。它們先單獨測定，然后再將它們各自的結果綜合起來得出最后的判斷。
上述四種診斷網絡所得結果的可靠性各不相同。其中，根據醫學檢查結果所作的診斷準確性最高，因此在最后的綜合分析中要重點考慮它的診斷結果，我們給它設一個相對最高的權值。其次，根據病人的癥狀所作的診斷往往也具有較高的準確性，因此給它的權值也較高，但比醫學檢查結果的稍低。其他兩類因素在有關肺癌的診斷中僅具參考作用，因而所設的權值相對較小。轉
最后的結果O為：
O=a1.O1+a2.O2+a3.O3+a4.O4
a1+a2+a3+a4=1
其中Oi，ai,i=1,2,3,4分別為各診斷網的輸出及其對應的權值。
當O＞0.5時最后的診斷結果為患肺癌，反之則正常。對所有的病例數據經上述方法的診斷結果見表2。
表2神經網絡對肺癌診斷結果分析
神經網絡
診斷結果訓練數據測試數據
肺癌患者非肺癌患者肺癌患者非肺癌患者
+4602253
-038122
其中對于訓練集，肺癌病人的正確檢出率為100%，非肺癌病人誤診率為5%。對于測試集，肺癌病人的正確檢出率為96.2%；非肺癌患者正確檢出率為88%，誤診率為12%。
討論
1.本研究所采用的人工神經網絡的肺癌診斷方法的結果較好地符合了已知數據，具有較高的準確性，特別是對于肺癌患者一般都能準確地做出診斷，有利于肺癌的早期發現和治療。
2.要想進一步提高該方法的準確性，應該注意收集更多更全面的病例數據。人工神經網絡主要是利用它能自動從數據集中抽取函數的關系的功能。如果我們所使用的數據越多越全面，則其中所蘊含的事物本身的規律性就越強，利用人工神經網絡從中所抽取的函數關系就越具有普遍性，因而就更準確。
3.實現對肺癌的診斷的關鍵在于準確找到罹患肺癌的判定函數，可利用前向網絡的函數逼近功能來實現。但是這里涉及到兩個問題。首先，由于差別函數和預測率函數都是利用人工神經網絡從已知的病例數據集中抽取出來的，它實際反映的是這些數據集中輸入輸出對的映射關系。因此要想保證診斷具有較高的準確性，就應該使用來建立函數關系的這些數據集(稱訓練集)具有充分的代表性，即這些數據應基本蘊含肺癌診斷的醫學原理。這就涉及到如何選擇網絡合理的訓練集及關鍵的輸入項。另一個問題涉及到神經網絡本身的要求，即網絡的輸入輸出數據值都應在區間(0，1)中。這可以通過數據的編碼和歸一化來實現。
4.由于某些原因有些病人的病例數據不完整，約占總病例數據的10%左右。顯然，如果按照傳統的方法來建立肺癌病人的診斷模型〔4〕，這些有缺項的數據是不太好處理的，但是由于人工神經網絡有較強的容錯性，輸入數據在某些項上的錯誤對網絡最終結果的正確性影響不大。
參考文獻
1.焦李成.神經網絡系統理論.第1版.西安：西安電子科技大學出版社，1995，3
2.WangZhenni,ThamMingT,MorrisA.MultilayerFeedforwardNeuralNetworks:ACanonicalformApproximationofNonlinearity,IntJ.Control,1992,56(3):655～672.
神經網絡范文3
引言
分子蒸餾是一種新型的在高真空條件下進行的液-液分離技術，具有蒸餾溫度低(低于物質沸點溫度)真空度高，物料受熱時間短，分離程度高等特點;且分離過程不可逆，沒有沸騰鼓泡現象［1］。特別適用于分離高沸點、熱敏性、高粘度和易被氧化的物質。但是分子蒸餾過程是一個極其復雜的過程，實際生產中除了發揮其優點外，還要要兼顧生產效率及產品質量，因此，分子蒸餾生產工程的工藝參數優化是一個多目標組合優化問題［2］。生產中根據生產目標選擇相應的工藝指標，這就需要進行反復實驗來獲取目標下的最佳工藝參數值。由于分子蒸餾過程的復雜性，導致其工藝參數比較多，難以用數學方法來解決。而人工神經網絡具有人體腦神經系統的信息處理機制，可以映射任何較為復雜的非線性關系，具有自學習能力。本文采用應用較為廣泛的BP神經網絡和遺傳算法相結合，將其運用到分子蒸餾過程中的工業參數優化中，通過給定分子蒸餾的工藝參數及生產指標，經過大量樣本的學習訓練使網絡達到允許的誤差范圍，映射工藝參數與生產指標之間的復雜非線性關系［3-4］。以該模型的預測性能輸出作為目標函數，對工藝參數進一步優化，從而實現預定的工藝指標下的分子蒸餾工藝參數的優化。
1分子蒸餾參數測試實驗
1．1分子蒸餾過程模型氣體分子從液體表面溢出，由于其自由程的不同，與其他分子碰撞前的飛行距離各不相同。分子蒸餾技術就是利用不同種類分子逸出液面后平均自由程不同的性質實現分離的。Langmuir［5］根據理想氣體的動力學理論提出了分子自由程的數學模型:式中，p為分子所處環境壓強;λm為分子運動平均自由程;d為分子有效直徑;T為分子所處環境溫度;k為玻爾茲曼常數。由式(1)分子平均自由程公式可知，氣體分子平均自由程與溫度成正比，與壓強反比。當加熱板上的物料達到一定溫度時，分子平均自由程大于板間距離的輕組分脫離加熱板飛向冷凝板，在冷凝板上捕獲，而平均自由程小于板間距的重組分到達不了冷凝板，從而實現了物質的分離。其分離過程如圖1所示。
1．2實驗設備本文在DCH-300三級分子蒸餾裝置的基礎上進行參數測試實驗研究。實驗裝置的刮膜式短程蒸發器分子蒸餾過程為:液料放入原料罐被計量泵抽取。泵用穩定流量輸送物料，經過管道被送入降膜器內的旋轉分配器，在離心力的作用下，被甩向夾套加熱室內壁，這時物料液體受重力的作用，沿著內壁向下流動，與此同時裝在轉軸上的刮板，把料液刮成簿膜，這樣料液受加熱而蒸發，由于在重力及離心力的作用下，不斷地更新液膜。根據分子運動理論知道，液體混合物的分子受熱后運動會加劇，當接受到足夠的能量時，輕組分首先就會從液面溢出而成為氣體分子，當氣體分子逸出碰到內冷凝列管時，瞬即從氣體變為液體并被柱下氣相罐收集，重組分因達不到逸出溫度，而仍然以液體狀態流出蒸餾柱，由液相罐收集。圖2為蒸餾裝置的工藝原理圖，其中，H1、H2、H3為三級的蒸發器，蒸發器面積分別為0．02m2，0．26m2，1．1m2。L1、L2、L3為三級的冷凝器，并且每一級的蒸發器都配有各自的刮膜電機，可以控制刮膜轉速，提高蒸發速率，每一級的冷凝系統都與冷機相連，保證具有合適的冷凝溫度。第二級包括一個水環真空泵、2個羅茨真空泵，1個增壓真空泵構成的泵組，第三級包括旋片真空泵和增壓泵，三級真空度越來越高，蒸餾的溫度就可以逐級降低，達到負壓低溫蒸發的降低能耗的目的。
1．3實驗方案及結果本實驗采用了3次蒸餾，第一級蒸餾為預脫氣、脫水處理階段，即薄膜蒸發階段，為確保后續蒸餾時具有足夠高的真空，而除去物料的空氣和溶劑等組份。物料進蒸餾器之前，經一級除氣裝置進行脫氣處理，然后以一定的速率進入二級、三級分子蒸餾刮膜器中，在高真空和適宜的蒸餾溫度下進行，分離出殘余物和餾出物。實驗安排采用在改變一個因素的單因素實驗設計下，固定其他參數，對得到的實驗結果進行比較，以便對這一因素的影響作出結論。實驗水平如表1所示。本次實驗共采用9組進行試驗，通過改變蒸餾溫度、進料速率和真空度等參數，對實驗所得精油含量與得率的影響。實驗結果如表2所示通過上述試驗結果可以看出，并不是工藝參數(即蒸餾溫度、進料速率和真空度的值)越大越好，且沒有規律可循。也有采用正交試驗進行工藝參數優化的方法，但對于分子蒸餾采取該種方法不可行，因為正交實驗法是當真空度不變時，通過多次實驗得到最佳溫度，在此溫度下再通過多次蒸餾實驗摸索最佳真空度，而分子蒸餾的蒸發器的溫度與真空度是具有耦合關系的量，當真空度改變，物質的沸點發生改變，即真空度變化，最佳蒸餾溫度隨之改變，因此為了提高生產效率及產品指標，進行高效、高質地分離提取，本文采用了基于BP網絡和遺傳算法的分子蒸餾工藝參數優化方法。
2BP神經網絡及遺傳算法優化模型的建立
2．1基本原理人工神經網絡信息處理、魯棒性、自學習及非映射能力較強，遺傳算法具有并行、隨機和自適應搜索等優點［6］。本文采用神經網絡與遺傳算法相結合的優化設計方法，充分利用二者優點?；驹硎?首先通過試驗獲得目標函數與工藝參數之間的離散試驗數據關系。將試驗數據作為網絡的樣本，對網絡進行訓練，當網絡達到誤差要求時，存儲權值閾值，利用網絡的記憶功能，建立起工藝參數與指標之間的非線性映射關系。再利用遺傳算法對這一黑匣型的函數求解。上述優化問題的數學表達形式為:其中，xi表示神經網絡的輸入，yi表示神經網絡的輸出，f是評價函數。算法的實現過程為:運用試驗獲得的大量樣本對網絡進行訓練，建立穩定的BP網絡預測模型，對訓練好的模型在一定范圍內隨機產生多組輸入向量，通過BP預測出相應的輸出量，再通過評價函數，計算個體適應度值，再利用遺傳算子通過適應度值調整輸入向量，產生具有更好適應性的新的種群。通過遺傳算子的計算得到優化目標，相應輸入即為目標的優化結果。
2．2BP神經網絡預測模型BP神經網絡是目前應用最廣、最為成熟的1種采用誤差反向傳播的前饋型多層神經網絡。包括輸入層、中間層和輸出層。選取1組訓練樣本提供給神經網絡，經過隱含層激活函數后向輸出層傳播，隱含層的輸出作為輸出層的輸入，最后獲得網絡的輸入響應。接下來進行的誤差的反向傳播階段，即按照網絡輸出與目標值之間的誤差減小方向傳播，從輸出層到隱含層再到輸入層，逐層修正各層之間的連接權值［7-8］。含有一個隱層的3層BP神經網絡可以任意精度逼近任何有理函數。本文采用單隱含層的BP神經網絡作為預測模型，其模型結構如圖3所示。大量學習樣本對BP神經網絡進行訓練后，分子蒸餾工藝參數與產品指標之間就會通過神經網絡建立起1種能映射二者之間內在關系的連接關系，即獲得產品指標預測的BP神經網絡模型。本文在Matlab7．0神經網絡工具箱的基礎上［8-9］，安排了18組試驗樣本，選擇9組作為訓練樣本，其余9組作為測試樣本，網絡結構為3×6×2，輸入層節點為3，分別為蒸餾溫度，真空度及進料速率;隱層節點為6，輸出層為2，分別為產品的含量和得率。數據歸一化處理，訓練時，不同的訓練函數的訓練速度和精度不同，這里采用梯度下降法，訓練誤差曲線如圖4所示。經過42次的網絡訓練，網絡的訓練誤差值就收斂到預定的目標誤差0．001。訓練后的神經網絡用于產品指標預測，由預測結果與試驗結果進行比較可知，訓練后的神經網絡具有較高的預測精度。
2．3優化模型的建立遺傳算法是1種通過模擬自然進化過程，根據自然選擇和遺傳算法，進行隨機、自適應搜索最優解的方法。遺傳算法將自然界適者生存、劣者淘汰的生物進化原理引入到待優化參數問題中，將待優化變量進行編碼，組成初始種群，將其按一定的適應度函數及遺傳算子的操作，即選擇、交叉和變異，選擇適應度值較大的個體，形成高適應值的新群體，經過反復進行，最終找到適應度最大的個體［10］，此時的個體即為優化結果。本文以遺傳算法作為蒸餾工藝參數的優化方法。式中，W1和W2分別為工藝權值，T1，T2分別為含量與得率的目標值?？梢娔繕撕瘮翟叫☆A測值越接近目標值，當目標函數最小時對應的工藝參數值為最優值。遺傳算法在進化搜索中基本不利用外部信息，僅以適應度函數為依據，個體的適應度越大，表明其適應能力越強［12-15］。建立的目標函數需符合適應度函數要求，本文采用的適應度函數就是目標函數的倒數。工藝參數優化流程如圖5所示。經過遺傳算子作用后的工藝參數作為神經網絡的輸入，通過訓練好的神經網絡模型輸出目標函數值，再計算個體適應度函數值，再進行選擇，交叉概率為0．8，變異概率為0．01等遺傳操作獲得新一代種群。通過反復進化計算，直至適應度函數值趨于穩定，此時的輸入值為最優解，優化結果如圖6所示。此時W1=W2=0．5，達到穩定后的適應度值為38．97。此時蒸餾溫度為120℃，進料速率295r/min，進料速率60L/h。
神經網絡范文4
關鍵詞： 小波神經網絡； 網絡流量； 預測研究； 訓練樣本
中圖分類號： TN711?34 文獻標識碼： A 文章編號： 1004?373X（2016）23?0098?02
Research on network traffic prediction based on wavelet neural network
LI Xin， SUN Shanshan
（College of Information Engineering， Suihua University， Suihua 152000， China）
Abstract： The relevant theory and method of wavelet neural network are used to establish and predict the network traffic situation of a certain uptown. The acquired network traffic change situation is used as the training sample of the wavelet network to realize the traffic prediction of the network. The simulation results show that the constructed wavelet neural network model has high precision to predict the network traffic.
Keywords： wavelet neural network； network traffic； prediction research； training sample
0 引 言
隨著互聯網規模的不斷增大以及各種網絡“新應用”、“新服務”的不斷涌現，網絡信息變得越來越龐大和多變，對網絡訪問流量進行精確地預測從而實現對網絡運行狀態的有效管理，已經逐步成為目前的一個研究熱點。網絡流量預測是實現網絡控制、網絡規劃，保證網絡安全以及提高網絡服務質量的重要前提。
網絡流量具有自相似性、長相關性和多重分形性等復雜性質，對其進行精確地預測一直以來都是一個難點。目前，常見的網絡流量預測方法主要有自回歸分析法、馬爾科夫分析法、分形布朗運動分析法和神經網絡分析法。與前面三種傳統方法相比，利用神經網絡對網絡流量進行預測具有預測精度高、方法簡單、泛化性強和穩定性好的特點，正在逐步成為網絡流量預測研究中的主流方法。
文獻[1]根據網絡流量的變化特征，基于BP神經網絡提出了一個P2P網絡流量預測模型，實現了網絡流量的較高精度預測。文獻[2]結合小波變換和人工神經網絡的優勢，建立一種網絡流量預測的小波神經網絡模型，通過將流量時間序列進行小波分解，獲得了網絡的訓練和驗證樣本，試驗表明采用這種方法進行流量預測，要比直接采用神經網絡對樣本進行預測的精度高。文獻[3]根據網絡流量自身的特征，研究了BP神經網絡和小波神經網絡在校園流量預測中的應用，其所建立的模型，經仿真驗證證明，可以較好地預測學校網絡的流量變化情況，可以為校園網絡的規劃和管理提供一定參考。
小波神經網絡是一種以BP神經網絡拓撲結構為基礎，把小波基函數作為隱含節點的傳遞函數，其拓撲結構如圖1所示。它類似于BP神經網絡權值修正算法，采用梯度修正法修正網絡的權值和小波基函數參數，從而使小波神經網絡預測輸出不斷逼近期望輸出[4?5]。
采用小波神經網絡進行網絡流量預測的基本流程如圖2所示。
1 網絡流量預測
1.1 試驗數據來源
采用網絡流量監測軟件對某小區的網絡流量進行實時采集，得到了該小區5天內的網絡流量數據，每隔15 min記錄一次該時間段內的網絡流量值，一共獲得了480個時間點的數據。用4天共384個網絡流量的數據訓練小波網絡，最后用訓練好的小波神經網絡預測第5天的網絡流量。為了避免局部數值偏移造成的誤差，本文采用編組的方式提高模型預測精度，用前三個時間點的網絡流量來綜合預測后一個時間點的網絡流量情況[6?7]。
圖1 小波神經網絡的拓撲結構
圖2 小波神經網絡進行預測的流程圖
1.2 構建小波神經網絡模型
本文采用的小波基函數為Mexican Hat小波基函數，其表達式為：
[ψ（t）=（1-t2）e-t22ψ（ω）=2πω2e-ω22]
函數的時域和頻域波形圖如圖3所示[7?8]。
圖3 Mexican Hat函數的時域和頻域特征
本文采用的小波神經網絡結構為3?5?1；輸入層有3個節點，表示預測時間節點前3個時間節點的網絡流量；隱含層有5個節點；輸入層有1個節點，為預測的網絡流量。設置網絡預期誤差值為[1×10-2，]將訓練數據輸入到Matlab軟件中進行訓練，訓練過程中小波神經網絡的誤差變換情況如圖4所示。由圖4可知，該小波神經網絡經過58步運算后收斂到預定精度要求。
用訓練好的小波神經網絡對該小區內第五天的網絡流量情況進行預測，預測結果與交通流量的實際值比較如圖5所示。在圖5中，加“*”曲線對應預測數據，加“[]”曲線對應實際數據，可以看到小波神經網絡可以較好地預測網絡流量。
為了進一步分析仿真結果，采用絕對值誤差均值（MAE）和絕對百分比誤差均值（MAPE）兩個指標進行評價分析，其中MAE和MAPE分別用下式計算[9]：
[MAE=1ni=1nxi-xiMAPE=1ni=1nxi-xixi×100%]
式中：[xi]表示模型的預測值；[xi]表示模型預測值的算術平均值；[n]為樣本數。
小波神經網絡的MAE和MAPE值如表1所示。
從表1可以看出，本文構建的小波神經網絡的MAE值在3.36 GB左右，而MAPE值小于0.1，說明該預測模型可以較好地預測網絡流量的變化情況，反應該小區的流量信息變化，為小區網絡的規劃和管理提供可靠的依據。
2 結 論
本文在網絡流量的預測研究中引入了小波神經網絡模型，利用收集到的某小區5天內的網絡流量變化數據作為訓練和測試樣本對構建的小波神經網絡進行訓練和測試研究。試驗結果表明，本文構建的小波神經網絡具有較高的預測精度，可以對該小區網絡的流量變化情況進行較高精度的預測。
參考文獻
[1] 韓志杰，王汝傳.一種新的 P2P 網絡流量預測模型[J].計算機科學，2008（9）：39?14.
[2] 雷霆，余鎮危.一種網絡流量預測的小波神經網絡模型[J].計算機應用，2006（3）：526?528.
[3] 張昕.校園網絡流量分析與預測研究[D].西安：西安電子科技大學，2012.
[4] 王鳴，孫奕鳴.小波支持向量機的網絡流量預測研究[J].計算機仿真，2012，29（11）：198?201.
[5] ZHANG Li， ZHOU Weida， JIAO Licheng. Wavelet support vector machine [J]. IEEE transactions on systems， man， and cybernetics， 2004， 34（1）： 34?39.
[6] 鄧遠.BP神經網絡評價方法在交通流量評價方面的應用[J].中國交通，2011，35（5）：146?151.
[7] 李遠航.網絡流量預測技術的應用[J].計算機工程應用研究，2014，34（1）：131?138.
神經網絡范文5
關鍵詞 神經網絡；BP；優化算法
中圖分類號：TP183 文獻標識碼：A 文章編號：1671-7597（2014）13-0066-01
1 人工神經網絡模型
人工神經網絡簡稱ANN，它是一種將人類大腦的組織結構和運行機制作為其研究基礎來模擬人類大腦內部結構和其智能行為的處理系統。人工神經網絡中的神經元細胞將其接收到的所有信號進行處理，如加權求和等操作，進行操作后經軸突輸出。
2 人工神經網絡的分類
2.1 前饋型神經網絡
前饋型神經網絡通過對其網絡中的神經元之間的連接關系進行復合映射，因此這種網絡模型具有非常強的非線性處理的能力。如圖1所示，在這里前饋型神經網絡模型被分為三層，分別為輸入層、輸出層和隱含層，一般常用的前饋型神經網絡有BP神經網絡、RBF神經網絡、自組織神經網絡等。
圖1 前向神經網絡模型
2.2 反饋型神經網絡
反饋型神經網絡其結構，在這個模型中我們假設網絡總的神經元個數為N，則每個神經元節點都有N個輸入值及一個輸出值，每個神經元節點都如此，節點之間相互聯系。現在被大量使用的反饋型神經網絡一般有離散Hopfield神經網絡模型、Elman神經網絡模型等等。
3 BP神經網絡
3.1 BP神經網絡簡介
1986年，Rumelhant和McCelland提出了BP神經網絡的一般模型，BP神經網絡是一種具有多層網絡的反向傳播學習算法。BP神經網絡模型的基本思想是：整個過程主要由信號的正向傳播和誤差的反向傳播兩個過程組成。目前，BP神經網絡的應用范圍為數據壓縮、數據分類、預測分析和模式識別等領域。
3.2 BP神經網絡的結構
如圖2所示，這里是BP神經網絡的一種模型結構，在這種模型結構中輸入信號量為m，具有隱含層的數量為j，輸出信號量為q的模型結構。
BP神經網絡一般具有一個或多個隱含層單元，其差別主要體現在激活函數的不同。針對BP神經網絡所使用的激活函數一
圖2 BP神經網絡模型結構
般采用S型對數函數或者采用正切激活函數，而輸出層則一般采用線性函數作為激活函數。
3.3 BP神經網絡的改進方法
BP神經網絡作為當今對研究電力負荷預測應用最多的一種神經網絡，但標準的BP神經網絡算法存在的一些缺陷，這里就對一些經常使用的典型改進方法進行描述。
1）增加動量項。在一般的BP神經網絡算法中，其模型中的各層權值在進行更新的過程中，是按照t時刻誤差曲線進行梯度下降方式進行調整的，在這里并沒有考慮其之間的梯度下降的方向，如果使用這種方式進行調整則會造成訓練的過程不穩定，容易發生振蕩，導致收斂過程緩慢的結果。因此有些學者就為了使網絡訓練的速度提高，收斂過程加快，就在一般網絡模型的權值更新環節添加了一個動量項因子即：
（1）
在這個式子中，W表示BP神經網絡中每一層的權值矩陣，O則表示神經網絡中每一層的輸出向量矩陣，α則被稱為該神經網絡的動量系數因子，其取值范圍在0到1之間，在該網絡在進行訓練的過程中，如果其誤差梯度網線出現了局部極小值現象，雖然在這里的第一項會趨摟于零，但是這一項，
這樣就會使該訓練過程避免了限入局部極小值區域的形勢，從而加快了其訓練速度，使該神經網絡收斂速度加快，因此這種帶有動量項因子的BP神經網絡算法應用到了很多的BP網絡中。
2）學習速度的自適應調節方法。學習速度η在一個標準的BP神經網絡中是以一個常數出現的我們也稱為之步長，而在實際的運算過程中，很難找到一個數值作為最優學習速度。我們從誤差曲面圖形中可以看出，當曲面中區域處于一個平坦區域時，我們需要設置一個比較大的η值，使它能夠跳出這個平坦的區域；而當曲面中的區域處于變化比較很大的區域時，這時的η的數值我們又需要將其進行減小或者增大操作。自適應調整學習速度η則可以根據網絡的總誤差來進行自我調整，在網絡經過多次調整后，如果E總繼續上升，則表明這里的調整是無效的，且η=βη， ；而經常調整這里的E總下降了，則表明這里的調整是有效果的，且η=αη，。
3）引入陡度因子（防止飽和）。在網絡訓練的過程中，由于其誤差曲面具有平坦區，當處于這個區域時，由于S型激活函數有飽和特性，促使權值的調整速度放慢，從而影響了調整的速度。在訓練的過程中，如果算法調整進入了這個區域，我們可以減小神經元的輸入量，使其輸出值迅速脫離激活函數的飽和區域，這里誤差函數的數值則會隨之發生改變，其權值的調整也就脫離了該平坦區。想要實現以上思路則需要在激活函數中引入一個陡度因子λ。
（2）
當趨近于0時，而數值較大時，調整其進入誤差曲面中的平坦區，此時λ的值應選擇大于1的數值；而當調整脫離平坦區域后，再設置λ大于1，使激活函數能夠恢復到原始數值。
4 總結
綜上所述，設計一個人工神經網絡應用到實際問題中，可以歸結為網絡自身權值參數的學習與合理的設計網絡拓撲結構這兩大類優化問題。由于人工神經網絡的訓練是一個非常復雜的問題，使用傳統的學習算法進行訓練則要花費很長的時間，BP算法用到了梯度下降法，才只能在一定范圍內找到合適的參數值及其模型結構。因此，為了更好的提高神經網絡的泛化能力，及將網絡拓撲結構設計的更加合理，大量關于神經網絡的優化算法相繼產生。
參考文獻
神經網絡范文6
關鍵詞：神經網絡；應用研究
中圖分類號：TP393文獻標識碼：A文章編號：1009-3044(2008)22-635-02
Application of Neural Network Study
WANG Ying1,LI Bing-fu2
(1.Information Science and Technology College,Zhanjiang Normal College,Zhanjiang 524048,China;2.Registry,Information Science and Technology College,Zhanjiang Normal College,Zhanjiang 524048,China)
Abstract:The study of the purpose of Artificial Neural Network,from the neural network of research and advantages, and other aspects proceed, the statement focused on neural networks in the economic field, the food industry, environmental science and engineering applications.
Key words: Neural Networks; Applied Research
1 引言
人工神經網絡（Artificial Neural Network， ANN）簡稱神經網絡，是由具有適應性的簡單單元組成的廣泛并行互連的網絡，它的組織能夠模擬生物神經系統對真實世界物體所做出的交互反應，并利用機器模仿人類的智能是長期以來人們認識自然、改造自然和認識自身的理想。研究人工神經網絡的主要目的包括：探索和模擬人的感覺、思維和行為的規律，設計具有人類智能的計算機系統；探討人腦的智能活動，用物化了的智能來考察和研究人腦智能的物質過程及其規律。
2 神經網絡（ANN）的研究內容
1)理論研究：ANN模型及其學習算法，試圖從數學上描述ANN的動力學過程，建立相應的ANN模型，在該模型的基礎上，對于給定的學習樣本，找出一種能以較快的速度和較高的精度調整神經元間互連權值，使系統達到穩定狀態，滿足學習要求的算法；2)實現技術的研究：探討利用電子、光學、生物等技術實現神經計算機的途徑；3)應用的研究：探討如何應用ANN解決實際問題，如模式識別、故障檢測、智能機器人等;4)基本模型如圖1示。
■
圖1生物神經元功能模型
3 神經網絡（ANN）的研究在各領域的優缺點
人工神經網絡的理論研究和應用研究已取得豐碩成果，對于在各領域的應用具有以下優點：1)學習能力：人工神經網絡具有學習的能力，通過學習，人工神經網絡具有很好的輸入-輸出映射能力。學習方式可分為：有導師學習（Learning With a Teacher）和無導師學習（Learning Without a Teacher）；2)容錯性：容錯包括空間上的容錯、時間上的容錯和故障檢測。容錯性是生物神經網絡所具有的特性，靠硬件或軟件實現的人工神經網絡也具有容錯性。由于在人工神經網絡中信息存儲具有分布特性，這意味著局部的損害會使人工神經網絡的運行適度地減弱，但不會產生災難性的后果；3)適應性：人工神經網絡具有調整權值以適應變化的能力，尤其是在特定環境中訓練的神經網絡能很容易地被再次訓練以處理條件的變化，這反映了人工神經網絡的適應性；4)并行分布處理：采用并行分布處理方法，同時由于計算機硬件的迅猛發展，使得快速進行大量運算成為可能；5)仿真軟件的逐步完善：人工神經網絡仿真軟件的逐步完善，將人們從繁瑣的編程中解放出來，同時也為人工神經網絡在各領域的應用研究提供了可進行分析和預測的能力。
缺點：研究受到腦科學研究成果的限制；缺少一個完整、成熟的理論體系；研究帶有濃厚的策略和經驗色彩；與傳統技術的接口不成熟。
4 神經網絡在各領域的應用研究探討
4.1 神經網絡在經濟領域的應用研究探討
神經網絡在經濟領域的應用主要有：1)價格預測影響商品和服務：價格變動的因素是復雜、多變的，傳統的統計經濟學方法存在不適合動態系統、建模復雜等局限性，難以對價格變動做出科學的預測，人工神經網絡容易處理不完整的、模糊不確定或規律性不明顯的數據，所以用人工神經網絡進行價格預測是可行的，且有著傳統方法無法比擬的優勢；2)風險評估：風險是由于從事某項特定活動過程中存在的不確定性而產生的經濟或財務的損失、自然破壞或損傷的可能性。防范風險的最好辦法就是事先對風險做出科學的預測和評估，傳統的專家評估依賴于專家的經驗，存在著人為和主觀的因素，人工神經網絡的預測思想是建立風險來源和風險評價系數的非線性映射，提供定量的解決方案，彌補了主觀評估的不足。商業銀行的風險管理問題是我國加入WTO后的一個突出問題。目前，信用風險仍然是我國商業銀行最主要的風險。我國商業銀行目前正處在轉軌時期，用傳統方法評估信用風險難以達到滿意的效果，而神經網絡學習能力強，容錯性好，具有很強的魯棒性，適合評價信息不全的系統。根據我國的具體現實，運用人工神經網絡技術，構造出適合中國的信用風險模型，并對某國有銀行提供的數據進行了實證研究。
4.2 神經網絡在食品工業中的應用研究探討
神經網絡在食品工業中的應用研究主要有：1)外來物的探測：對食品中偶爾混入極少量的外來物采用先進的儀器探測方法，如X射線衍射，可較為快速而準確地檢測出食品中夾帶的外來物。儀器探測法產生大量的測量數據可以利用分析運算方法能快速地從大量的數據中找出差異而判別出外來物，從而提高生產的效率。分析方法很多，但目前較為有效的是ANN法――例如對于軟質外來物如木屑和塑料，在X射線數據上外來物與食品原料的差異很小，情況更為復雜，很難做出判別。根據ANN自學習自適應的特點，不是只采用一個簡單的ANN，而是構造了一組子網絡。讓每一子網絡用來識別一種外來物，各自訓練子網絡，然后將結果最后融合輸入一個決策單元，讓決策單元決定食品是否合格；2)摻假食品的鑒別：摻假物是人為地故意地加入食品中，可根據不同食品初步估計加入的摻假物的種類，選用相應的檢測方法，并結合ANN算法對測量數據分析，可獲得較滿意的結果；3)分類與分級：果蔬外觀特征很多，隨季節、產地和品種不同而不同，可抽取主要特征，再運用ANN模式識別算法進行分類。顏色往往是衡量果蔬外部品質的一個重要指標，也間接反映果蔬的成熟度和內部品質，高品質的果蔬一般著色好。此外，ANN除可進行果蔬分類（分級）外，還可以對肉類分級。從肉類的圖像處理數據中提取“大理石紋值”（marbling score，表征脊肉中脂肪分布密度）來表征肉類質量，運用三層前向型ANN進行模式識別，效果令人滿意；4)加工過程的仿真與控制：食品加工過程總是難以規范地操作，因為食品物料的性質與季節、產地與氣候緊密地聯系，同是由于缺乏合適的傳感器或不足夠和不精確的在線測量，以及食品的物性的時變性。在傳統的過程仿真中，需要建立假設、簡化和大量的參數用來建立數學模型，這有可能與實際情況相差很遠。因此，具有對非線性和非穩態系統有強處理能力的ANN尤適合應用于食品加工；5)感觀評價與預測、食品配方設計等：以往常用的建模方法是多元回歸法，但是在多因子、非線性的條件下多元回歸法并不適用。ANN則有效地解決這一問題。采用ANN先對已有的27組數據進行擬合；然后用ANN進行模擬，輸入各種配方成分的含量，ANN就會輸出預測結果，從中挑選出最佳的配方。
4.3 神經網絡在環境科學與工程中的應用探討
神經網絡在環境科學與工程中的應用主要有：1)環境質量評價；2)環境系統因素預測；3)環境因素定量關系模擬構效分析、成因分析；4)污染防治系統建模。由于BP神經網絡具有優良的非線性逼近能力，1994年以來，已在環境科學與工程的環境質量評價與預測、監測點的優化布置、社會經濟環境可持續發展、污染物降解與釋放、水（處理、生態）系統的模擬與預測等方面獲得了廣泛的應用。
5 結束語
由于神經網絡學科的范圍涉及很廣泛，文中僅在那些有發展前途的領域中，列舉出少數幾個方向，應該說明的是，除了上述列舉的以外，還有形形的、規?？捎^的研究工作正在進行，其未來的發展必將是激動人心的。神經網絡理論的前沿問題必將滲透在21世紀科學的挑戰性問題中，并將取得重大的突破。
參考文獻：
