對神經網絡的認識范例6篇

前言:中文期刊網精心挑選了對神經網絡的認識范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。

對神經網絡的認識范文1

摘要:工程造價估算是招標投標中的重要一環,探尋一套快速、簡捷、實用的工程造價估算方法已經成為建筑行業的迫切需要。為了建設工程造價估算技術的發展及文聯面臨的問題,提出在建設工程造價估算技術系統中應用人工神經網絡技術來提高估算精確度,并且給出系統的設計模型。

關鍵詞:人工神經網絡;工程造價;造價估算

人工神經網絡(ArtificialNeuralNetworks,簡寫為ANNs)也簡稱為神經網絡(NNs)或稱作連接模型(ConnectionistModel),它是一種模范動物神經網絡行為特征,進行分布式并行信息處理的算法數學模型。這種網絡依靠系統的復雜程度,通過調整內部大量節點之間相互連接的關系,從而達到處理信息的目的。人工神經網絡具有自學習和自適應的能力,可以通過預先提供的一批相互對應的輸入-輸出數據,分析掌握兩者之間潛在的規律,最終根據這些規律,用新的輸入數據來推算輸出結果,這種學習分析的過程被稱為“訓練”。

一、神經網絡的建立

雖然人們還并不完全清楚生物神經網絡是如何進行工作的,但還是幻想能否構造一些“人工神經元”,然后將這些神經元以某種特定的方式連接起來,模擬“人腦”的某些功能。

在1943年,心理學家W. McCulloch和數學家W. Pitts合作,從數理邏輯的角度,提出了神經元和神經網絡最早的數學模型(MP模型),是神經網絡研究的開端,更為后面的研究發展奠定了基礎。經歷了半個多世紀,神經網絡度過了萌芽期、第一次期、反思低潮期、第二次期、再認識與應用研究期五個階段。目前,神經網絡已成為涉及多種學科和領域的一門新興的前沿交叉學科。

神經元分為分層網絡和相互連接型網絡。所謂分層網絡,就是一個網絡模型中的所有神經元按功能分層,一般分為輸入層、中間層(隱含層)、輸出層,各層按順序連接,隔層之間均采用的是全互連接,但對于同一單元間,不互相連接。分層網絡可細分為簡單前向網絡、反饋前向網絡和層內互相連接的網絡。人工神經網絡結構是一種多層的網絡結構,一個典型的前向網絡。

某個神經元 j 的輸入―輸出關系為

其中,θj為閥值,ωji為連接權,f(•)為變換函數,也稱活化函數(activation function)

對于人工神經網絡模型,我們只可能在某種程度上去描述我們所了解的情況。同樣,人工神經網絡也只可能是在某種程度上對真實的神經網絡的一種模擬和逼近。

二、在工程造價中的運用

成都市工程造價計價模式后選取了基礎類型、結構類型、工期、層數、建址、層高、內裝修、門窗、單位造價等10個影響工程造價和工程量的特征作為模型的輸入。考慮到各個工程中門和窗數量差別很大為提高估算的精度我們把門數量和窗數量作為輸入,其數量在工程施工圖紙上很容易查得,不需作復雜的計算。對于其他文字性表達的工程特征需轉變成數字后作為網絡的輸入。

很明顯的看出,測試樣本總體誤差率比較小,平均誤差為283%,基本滿足估算要求,隨著工程資料的不斷積累,選取有代表性的數據作為樣本,誤差將不斷縮小。

意義:

通過這次研究,我們了解了人工神經網絡的基本原理,即通過誤差反向傳播建立多層前饋網絡的學習收斂過程,該過程主要包括三個層次,即輸入層、隱含層和輸出層。在訓練中通過計算輸出值與期望值之間的誤差,來求解輸出層單元的一般化誤差,再將誤差進行反向傳播,求出隱含層。并了解了基于人工神經網絡之上的建設項目的投資估算模型,了解了平滑指數法、類比系數法、模糊數學估算法的基本原理與其自身的優勢與不足,也讓我們更深刻地認識到,人工神經網絡,作為90年代逐漸被運用的人工智能技術之一,能像一個經驗深厚的造價師,根據工程類型、特征及其相關情況,結合數據和經驗,準確的估算出其造價。我們也通過計算驗證了模型的可行性。對于我們從事建筑造價的大學生來說,是一次難能可貴的研究機會,能夠較深層次的了解行業中的專業知識。隨著中國改革開放和市場經濟的不斷深入,中國建筑企業在面臨很好的機遇的同時,也面臨著嚴峻的考驗?,F在的市場競爭機制已表現得越來越明顯,他要求我們提高效率,盡快拿出自己招投標方案,但是傳統的預算方法以及現行的計算軟件都必須花費較長的時間才能計算出結果,而且計算的結果準確度還不是很高。怎樣解決這個問題,成了建筑界的熱門話題。同時作為建設方的業主,他們同樣對快速預算很感興趣。因為確定工程造價是建設工作中十分重要的一環,在不同階段有著不同的方法。如建設前期的工程造價估算、初步設計階段編制概算、施工圖設計階段編制預算,特別是建設前的估算是我們工作的重點,因為它是我們進行成本控制的起點。對于建設單位而言,它們不僅能在進行設計招標之前大致確定該工程的造價,而且還能在工程施工招標前定出合理的標底??梢娍焖兕A算有其很現實的發展研究背景。近幾年許多學者都在這方面努力探索,并取得了很好成果。 神經網絡和模糊數學的快速發展應用為工程快速預算提供了很好的思路。我們通過查閱資料了解了模糊數學和神經網絡的結合原理,認識了基于模糊神經網絡和工程預算原理的工程快速估價的模型,并通過住宅建筑估價模型的建立,說明模型的實現方法且驗證其實用性。這次研究對于行業經驗不足的我們十分寶貴,我們通過書籍等資料更加全方位的了解了我們未來所講從事的行業的知識,為我們以后的工作做了良好的鋪墊,積累了寶貴財富,我們將在了解這些專業知識之后熟練地運用,以更好地促進行業的發展。(西華大學;四川;成都;610039)

參考文獻:

① 汪應洛、楊耀紅,工程項目管理中的人工神經網絡方法及其應用[J].中國工程科學.2004,6(7):26-33.

② 袁曾仁,人工背景:神經網絡及其應用[M]清華大學出版社,1991

對神經網絡的認識范文2

80年代初,在美國、日本、接著在我國國內都掀起了一股研究神經網絡理論和神經計算機的熱潮,并將神經網絡原理應用于圖象處理、模式識別、語音綜合及機器人控制等領域。近年來,美國等先進國家又相繼投入巨額資金,制定出強化研究計劃,開展對腦功能和新型智能計算機的研究。

人腦是自生命誕生以來,生物經過數十億年漫長歲月進化的結果,是具有高度智能的復雜系統,它不必采用繁復的數字計算和邏輯運算,卻能靈活處理各種復雜的,不精確的和模糊的信息,善于理解語言、圖象并具有直覺感知等功能。

人腦的信息處理機制極其復雜,從結構上看它是包含有140億神經細胞的大規模網絡。單個神經細胞的工作速度并不高(毫秒級),但它通過超并行處理使得整個系統實現處理的高速性和信息表現的多樣性。

因此,從信息處理的角度對人腦進行研究,并由此研制出一種象人腦一樣能夠“思維”的智能計算機和智能信息處理方法,一直是人工智能追求的目標。

神經網絡就是通過對人腦的基本單元---神經元的建模和聯結,來探索模擬人腦神經系統功能的模型,并研制一種具有學習、聯想、記憶和模式識別等智能信息處理功能的人工系統。本文介紹神經網絡的特點以及近年來有關神經網絡與混沌理論、模糊計算和遺傳算法等相結合的混合神經網絡研究的動態。

一.神經網絡和聯結主義

回顧認知科學的發展,有所謂符號主義和聯結主義兩大流派。符號主義從宏觀層次上,撇開人腦的內部結構和機制,僅從人腦外在表現出來的智能現象出發進行研究。例如,將記憶、判斷、推理、學習等心理活動總結成規律、甚至編制成規則,然后用計算機進行模擬,使計算機表現出各種智能。

符號主義認為,認識的基本元素是符號,認知過程是對符號表示的運算。人類的語言,文字的思維均可用符號來描述,而且思維過程只不過是這些符號的存儲、變換和輸入、輸出而已。以這種方法實現的系統具有串行、線性、準確、簡潔、易于表達的特點,體現了邏輯思維的基本特性。七十年代的專家系統和八十年代日本的第五代計算機研究計劃就是其主要代表。

聯接主義則與其不同,其特點是從微觀出發。聯接主義認為符號是不存在的,認知的基本元素就是神經細胞(神經元),認知過程是大量神經元的聯接,以及這種聯接所引起的神經元的不同興奮狀態和系統所表現出的總體行為。八十年代再度興起的神經網絡和神經計算機就是這種聯接主義的代表。

神經網絡的主要特征是:大規模的并行處理和分布式的信息存儲,良好的自適應、自組織性,以及很強的學習功能、聯想功能和容錯功能。與當今的馮.諾依曼式計算機相比,更加接近人腦的信息處理模式。主要表現如下:

神經網絡能夠處理連續的模擬信號。例如連續灰度變化的圖象信號。

能夠處理混沌的、不完全的、模糊的信息。

傳統的計算機能給出精確的解答,神經網絡給出的是次最優的逼近解答。

神經網絡并行分布工作,各組成部分同時參與運算,單個神經元的動作速度不高,但總體的處理速度極快。

神經網絡信息存儲分布于全網絡各個權重變換之中,某些單元障礙并不影響信息的完整,具有魯棒性。

傳統計算機要求有準確的輸入條件,才能給出精確解。神經網絡只要求部分條件,甚至對于包含有部分錯誤的輸入,也能得出較好的解答,具有容錯性。

神經網絡在處理自然語言理解、圖象模式識別、景物理解、不完整信息的處理、智能機器人控制等方面有優勢。

符號主義和聯接主義兩者各有特色,學術界目前有一種看法:認為基于符號主義得傳統人工智能和基于聯接主義得神經網絡是分別描述人腦左、右半腦的功能,反映了人類智能的兩重性:精確處理和非精確處理,分別面向認識的理性和感性兩個方面,兩者的關系應該是互補而非互相代替。理想的智能系統及其表現的智能行為應是兩者相互結合的結果。

接下去的問題是,符號AI和聯接AI具體如何結合,兩者在智能系統中相互關系如何?分別扮演什么角色?目前這方面發表的文獻很多,大致有如下幾種類型:

1.松耦合模型:符號機制的專家系統與聯接機制的神經網絡通過一個中間媒介(例如數據文件)進行通訊。

2.緊耦合模型:與松耦合模型相比較,其通訊不是通過外部數據進行,而是直接通過內部數據完成,具有較高的效率。其主要類型有嵌入式系統和黑板結構等。

3.轉換模型:將專家系統的知識轉換成神經網絡,或把神經網絡轉換成專家系統的知識,轉換前的系統稱為源系統,轉換后的系統稱為目標系統,由一種機制轉成另一種機制。如果源系統是專家系統,目標系統是神經網絡,則可獲得學習能力及自適應性;反之,可獲得單步推理能力、解釋能力及知識的顯式表示。當然,轉換需要在兩種的機制之間,確定結構上的一致性,目前主要問題是還沒有一種完備而精確的轉換方法實現兩者的轉換。有待進一步研究。

4.綜合模型:綜合模型共享數據結構和知識表示,這時聯接機制和符號機制不再分開,兩者相互結合成為一個整體,既具有符號機制的邏輯功能,又有聯接機制的自適應和容錯性的優點和特點。例如聯接主義的專家系統等。

近年來神經網絡研究的另一個趨勢,是將它與模糊邏輯、混沌理論、遺傳進化算法等相結合,即所謂“混合神經網絡”方法。由于這些理論和算法都是屬于仿效生物體信息處理的方法,人們希望通過她們之間的相互結合,能夠獲得具有有柔性信息處理功能的系統。下面分別介紹。

二.混沌理論與智能信息處理

混沌理論是對貌似無序而實際有序,表面上看來是雜亂無章的現象中,找出其規律,并予以處理的一門學科。早在七十年代,美國和歐洲的一些物理學家、生物學家、數學家就致力于尋求在許許多多不同種類的不規則性之間的聯系。生物學家發現在人類的心臟中有混沌現象存在,血管在顯微鏡下交叉纏繞,其中也有驚人的有序性。在生物腦神經系統中從微觀的神經膜電位到宏觀的腦電波,都可以觀察到混沌的性態,證明混沌也是神經系統的正常特性。

九十年代開始,則更進一步將混沌和神經網絡結合起來,提出多種混沌神經網絡模型,并探索應用混沌理論的各種信息處理方法。例如,在神經元模型中,引入神經膜的不應性,研究神經元模型的混沌響應,研究在神經網絡的方程中,不應性項的定標參數,不定性時間衰減常數等參數的性質,以及這些參數于神經網絡混沌響應的關系,并確定混沌---神經網絡模型具有混沌解的參數空間。經過試驗,由這種混沌神經網絡模型所繪出的輸出圖形和腦電圖極為相似。

現代腦科學把人腦的工作過程看成為復雜的多層次的混沌動力學系統。腦功能的物理基礎是混沌性質的過程,腦的工作包含有混沌的性質。通過混沌動力學,研究、分析腦模型的信息處理能力,可進一步探索動態聯想記憶、動態學習并應用到模式識別等工程領域。例如:

對混沌的隨機不規則現象,可利用混沌理論進行非線性預測和決策。

對被噪聲所掩蓋的微弱信號,如果噪聲是一種混沌現象,則可通過非線性辨識,有效進行濾波。

利用混沌現象對初始值的敏銳依賴性,構成模式識別系統。

研究基于混沌---神經網絡自適應存儲檢索算法。該算法主要包括三個步驟,即:特征提取、自適應學習和檢索。

模式特征提取采用從簡單的吸引子到混沌的層次分支結構來描述,這種分支結構有可能通過少數幾個系統參數的變化來加以控制,使復雜問題簡單化。自適應學習采用神經網絡的誤差反傳學習法。檢索過程是通過一個具有穩定吸引子的動力學系統來完成,即利用輸入的初始條件與某個吸引子(輸出)之間的存在直接對應關系的方法進行檢索。利用這種方法可應用于模式識別。例如黑白圖象的人臉識別。

三.模糊集理論與模糊工程

八十年代以來在模糊集理論和應用方面,也有很大進展。1983年美國西海岸AI研究所發表了稱為REVEAL的模糊輔助決策系統并投入市場,1986年美國將模糊邏輯導入OPS---5,并研究成功模糊專家系統外殼FLOPS,1987年英國發表采用模糊PROLOG的智能系統FRIL等。除此通用工具的研制以外,各國還開發一系列用于專用目的的智能信息處理系統并實際應用于智能控制、模式識別、醫療診斷、故障檢測等方面。

模糊集理論和神經網絡雖然都屬于仿效生物體信息處理機制以獲得柔性信息處理功能的理論,但兩者所用的研究方法卻大不相同,神經網絡著眼于腦的微觀網絡結構,通過學習、自組織化和非線性動力學理論形成的并行分析方法,可處理無法語言化的模式信息。而模糊集理論則著眼于可用語言和概念作為代表的腦的宏觀功能,按照人為引入的隸屬度函數,邏輯的處理包含有模糊性的語言信息。

神經網絡和模糊集理論目標相近而方法各異。因此如果兩者相互結合,必能達到取長補短的作用。將模糊和神經網絡相結合的研究,約在15年前便已在神經網絡領域開始,為了描述神經細胞模型,開始采用模糊語言,把模糊集合及其運算用于神經元模型和描述神經網絡系統。目前,有關模糊---神經網絡模型的研究大體上可分為兩類:一類是以神經網絡為主,結合模糊集理論。例如,將神經網絡參數模糊化,采用模糊集合進行模糊運算。另一類以模糊集、模糊邏輯為主,結合神經網絡方法,利用神經網絡的自組織特性,達到柔性信息處理的目的。

與神經網絡相比,模糊集理論和模糊計算是更接近實用化的理論,特別近年來美國和日本的各大公司都紛紛推出各種模糊芯片,研制了型號繁多的模糊推理板,并實際應用于智能控制等各個應用領域,建立“模糊工程”這樣一個新領域。日本更首先在模糊家電方面打開市場,帶有模糊控制,甚至標以神經---模糊智能控制的洗衣機、電冰箱、空調器、攝象機等已成為新一代家電的時髦產品。我國目前市場上也有許多洗衣機,例如榮事達洗衣機就是采用模糊神經網絡智能控制方式的洗衣機。

四.遺傳算法

遺傳算法(Genetic Algorithm :GA)是模擬生物的進化現象(自然、淘汰、交叉、突然變異)的一種概率搜索和最優化方法。是模擬自然淘汰和遺傳現象的工程模型。

GA的歷史可追溯到1960年,明確提出遺傳算法的是1975年美國Michigan大學的Holland博士,他根據生物進化過程的適應現象,提出如下的GA模型方案:

1.將多個生物的染色體(Chromosmoe)組成的符號集合,按文字進行編碼,稱為個體。

2.定義評價函數,表示個體對外部環境的適應性。其數值大的個體表示對外部環境的適應性高,它的生存(子孫的延續)的概率也高。

3.每個個體由多個“部分”組合而成,每個部分隨機進行交叉及突然變異等變化,并由此產生子孫(遺傳現象)。

4.個體的集合通過遺傳,由選擇淘汰產生下一代。

遺傳算法提出之后,很快得到人工智能、計算機、生物學等領域科學家的高度重視,并在各方面廣泛應用。1989年美國Goldberg博士發表一本專著:“Genetic Algorithms in Search,Optimization and Machine Learning”。出版后產生較大影響,該書對GA的數學基礎理論,GA的基本定理、數理分析以及在搜索法、最優化、機器學習等GA應用方面進行了深入淺出的介紹,并附有Pascal模擬程序。

1985年7月在美國召開第一屆“遺傳算法國際會議”(ICGA)。以后每隔兩年召開一次。近年來,遺傳算法發展很快,并廣泛應用于信息技術的各個領域,例如:

智能控制:機器人控制。機器人路徑規劃。

工程設計:微電子芯片的布局、布線;通信網絡設計、濾波器設計、噴氣發動機設計。

圖象處理:圖象恢復、圖象識別、特征抽取。

調度規劃:生產規劃、調度問題、并行機任務分配。

優化理論:TSP問題、背包問題、圖劃分問題。

人工生命:生命的遺傳進化以及自增殖、自適應;免疫系統、生態系統等方面的研究。

神經網絡、模糊集理論和以遺傳算法為代表的進化算法都是仿效生物信息處理模式以獲得智能信息處理功能的理論。三者目標相近而方法各異;將它們相互結合,必能達到取長補短、各顯優勢的效果。例如,遺傳算法與神經網絡和模糊計算相結合方面就有:

神經網絡連續權的進化。

傳統神經網絡如BP網絡是通過學習,并按一定規則來改變數值分布。這種方法有訓練時間過長和容易陷入局部優化的問題。采用遺傳算法優化神經網絡可以克服這個缺點。

神經網絡結構的進化。

目前神經網絡結構的設計全靠設計者的經驗,由人事先確定,還沒有一種系統的方法來確定網絡結構,采用遺傳算法可用來優化神經網絡結構。

神經網絡學習規則的進化。

采用遺傳算法可使神經網絡的學習過程能夠適應不同問題和環境的要求。

基于遺傳算法的模糊推理規則的優化,以及隸屬度函數的自適應調整也都取得很好效果。

上述神經網絡、模糊計算、遺傳算法和混沌理論等都是智能信息處理的基本理論和方法。近年來學術界將它們統稱為“計算智能”。有關這方面更詳細的內容,可參閱我們編著的下列著作:

“神經網絡與神經計算機”(1992年科學出版社出版)

對神經網絡的認識范文3

關鍵詞:BP神經網絡;混凝土收縮;預測

中圖分類號:TU 文獻標識碼: A 文章編號:2095-2104(2012)01-0020-02

Concrete Shrinkage Prediction based on Artificial Neural Network

XU Xiang-dong

(Department of Building Engineering, Tongji University, Shanghai 200092, China)

Abstract: The concrete shrinkage prediction model was built based on BP network considering the water cement ratio, the compressive strength, the volume surface area ratio and relative humidity of environment as the input factors. The prediction model can be used to predict the concrete shrinkage.

Key words: BP neural network, concrete shrinkage, prediction

混凝土的收縮可導致混凝土結構的開裂,引發混凝土結構的一系列危害[1];因此國內外學者對收縮變形的預測展開了廣泛的研究。傳統的收縮預測模型,因相關學者對收縮機理的認識不同而差異較大。近年來,人工神經網絡(Artificial Neural Network)方法以其優越的自學習、非線性擬合、預測等性能,受到了各領域廣泛的關注;在混凝土領域,韓敏等[2]采用神經網絡方法建立了混凝土強度預測模型,預測達到較高精度,為神經網絡在混凝土方面的應用提供了參考。

本文采用BP神經網絡建立混凝土收縮變形的預測模型,并通過預測結果與期望結果的比較說明神經網絡方法應用于混凝土的可行性。

混凝土收縮樣本數據庫建立

采用RILEM B3 (1995)模型[3]的計算結果建立混凝土收縮變形的數據庫??紤]以下幾個影響因素確定神經網絡的輸入內容:水灰比、強度、體積表面積比、環境相對濕度等。

考慮以上四因素各4水平正交設計,設定其他條件為:1) 類,PO42.5水泥;2) 干燥起始齡期;3) 水泥含量為。根據RILEM B3(1995)收縮預測模型計算所得的混凝土收縮變形結果見表1。

表1

另在各影響因素的考慮范圍內,任取四組按照RILEM B3(1995)收縮預測模型計算收縮變形作為測試數據,以評價網絡的預測性能。測試數據見表2。

表2

BP神經網絡模型建立及預測

利用BP神經網絡建立混凝土收縮的預測模型并進行預測。輸入層神經元數為4,輸出層神經元數為1;采用單隱層網絡,多次訓練后確定隱層神經元數為5,所建立的BP拓撲結構如圖1所示。

網絡訓練前對數據進行歸一化處理,訓練取Levenberg-Marquadt算法,以提高收斂速度。采用初期終止方法提高網絡的泛化性能,取訓練樣本庫75%數據作為訓練數據(training data),其余25%為驗證數據(validation data),監督網絡訓練,網絡輸出誤差變化圖見圖2。

圖1 BP網絡拓撲結構 圖2 BP網絡輸出誤差變化圖

網絡的測試結果及相對誤差見表2最后兩列。測試數據中網絡的最大相對誤差為-6.07%,可見采用BP網絡預測混凝土收縮變形可基本滿足工程需要。

結論

采用BP神經網絡建立預測模型可實現混凝土收縮的預測;對于影響因素復雜的混凝土領域,基于積累的試驗資料,可運用神經網絡方法進行相關研究。

參考文獻

黃國興, 惠榮炎. 混凝土的收縮[M]. 北京:中國鐵道出版社,1990.

對神經網絡的認識范文4

1 引言

神經網絡是近年來得到廣泛關注的一種非線性建模預報技術。它具有自組織、自學習、自適應和非線性處理、并行處理、信息分布存儲、容錯能力強等特性,對傳統方法效果欠佳的預報領域有很強的吸引力?;谏窠浘W絡的非線性信息處理方法已應用于軍事信息處理及現代武器裝備系統的各個方面,并有可能成為未來集成智能化的軍事電子信息處理系統的支撐技術。該技術在一些先進國家已部分形成了現實的戰斗力。

    船舶在波浪中航行,會受到風、浪和流的影響,因而將不可避免地發生搖蕩運動。嚴重的搖蕩會使船員工作效率下降、物品損壞、軍艦的戰斗力下降。如果能夠預知未來一段時間船舶的運動情況,不僅有利于盡早采用先進控制算法控制艦載武器平臺隔離船舶運動的影響,使其始終穩定瞄準目標,而且還可獲得未來一個海浪周期內的船舶運動情況,以研究船載武器上層的控制策略,從而提高火力密度,因此,有必要研究在海浪中具有一定精度的海浪中船舶運動的短期預報。此外,如能有效準確地預報船舶的橫搖運動,對于提高船舶的耐波性和適航性也有重要意義。

國內外學者也將神經網絡用于船舶運動預報研究,但往往沒有考慮實時性等實現問題,因而不能實用化。神經網絡實現技術是神經網絡研究的一個重要方面。神經網絡實現可分為全硬件實現和軟件實現兩種。目前神經網絡的實現還主要以軟件模擬為主,由于現行的馮諾曼計算機體系結構不能實現并行計算,因而神經網絡軟件的實時應用還受到一定限制。

目前,一些著名集成電路制造公司如Intel、Mo-torola、松下、日立、富士通等均已推出自己的模擬或數字神經網絡芯片,這些芯片無論在網絡規模還是運行速度上都已接近實用化的程度,因而給神經網絡應用的發展以極大的推動。由于艦載武器系統,需選用具有在片學習功能的神經網絡芯片,即將網絡訓練所需的反饋電路及權值存儲、計算和修正電路都集成在了一個芯片,因而可實現全硬件的、具有自學習能力的神經網絡系統,也可以說,這是一種具有自適應能力的神經網絡。

2 ZISC78的功能及工作原理

ZISC78是由IBM公司和Sillicon聯合研制的一種低成本、在線學習、33MHz主頻、CMOS型100腳LQFP封裝的VLSI芯片,圖1所示是ZISC78的引腳排列圖。ZISC78的特點如下:

內含78個神經元;

采用并行結構,運行速度與神經元數量無關;

支持RBF/KNN算法;

內部可分為若干獨立子網絡;

采用鏈連接,擴展不受限制;

具有64字節寬度向量;

L1或LSUP范數可用于距離計算;

具有同步/異步工作模式。

2.1 ZISC78神經元結構

ZISC78采用的神經元結構如圖2所示,該神經元有以下幾種狀態:

(1)休眠狀態:神經網絡初始化時,通常處于這種狀態。

(2)準備學習狀態:任何時侯,神經網絡中的神經元都處于這種狀態。

(3)委托狀態:一個包含有原型和類型的神經元處于委托狀態。

(4)激活狀態:一個處于委托狀態的神經元,通過評估,其輸入矢量處于其影響域時,神經元就被激活而處于激活狀態。

(5)退化狀態:當一個神經元的原型處于其它神經元類型空間內,而大部分被其他神經元類型空間重疊時,這個神經元被宣布處于退化狀態。

    2.2 ZISC78神經網絡結構

從圖3所示的ZISC78神經網絡結構可以看出,所有神經元均通過“片內通信總線”進行通信,以實現網絡內所有神經元的“真正” 并行操作?!捌瑑韧ㄐ趴偩€”允許若干個ZISC78芯片進行連接以擴大神經網絡的規模,而這種操作不影響網絡性能。

ZISC78片內有6 bit地址總線和16 bit數據總線,其中數據總線用于傳輸矢量數據、矢量類型、距離值和其它數據。

2.3 ZISC78的寄存器組

ZISC78使用兩種寄存器:全局寄存器和神經元寄存器。全局寄存器用于存儲與所有神經元有關的信息,每片僅有一組全局寄存器。全局寄存器組中的信息可被傳送到所有處于準備學習狀態和委托狀態的神經元。神經元寄存器用于存儲所屬神經元的信息,該信息在訓練學習操作中寫入,在識別操作中讀出。

2.4 ZISC78的操作

ZISC78的操作包括初始化、矢量數據傳播、識別和分類等三部分。

初始化包括復位過程和清除過程。

矢量數據傳播包括矢量數據輸入過程和神經元距離計算過程。神經元距離就是輸入矢量和神經元中存儲的原型之間的范數。通??蛇xL1范數或Lsup范數:

其中,Xi為輸入矢量數據,Xs為存貯的原型數據。

對于識別和分類,ZISC78提供有兩種可選擇的學習算法RBF和KNN。其中RBF是典型的徑向基函數神經網絡。在該RBF模式下,可輸出識別、不確定或不認識的狀態;KNN模式是RBF模式的限制形式,即在KNN模式下,新原型的影響域總被設為1,輸出的是輸入向量和存儲原型之間的距離。需要指出的是,ZISC78具有自動增加或減小神經元個數以適應輸入信號的分類和識別功能,神經元個數的最大值和最小值在全局寄存器組中設定。

2.5 ZISC78的組網

一個ZISC78芯片內可以通過寄存器操作定義若干個獨立的網絡。若干個ZISC78芯片通過層疊可以組成一個更大的神經網絡,組網芯片數量沒有限制,小于10個ZISC78組網時,甚至連電源中繼器件也不需要。所以,ZISC78具有最大的靈活性,能夠滿足不同的需要。

3 仿真實例

為了驗證ZISC78用于船舶運動實時預報的精度,本文對徑向基函數神經網絡預報進行了仿真,圖4給出了基于徑向基函數神經網絡和船舶運動慣導實測信號預報的0.3秒(15步)誤差曲線圖。

通過以慣導實測數據ZHX_lg.dat為例預報0.3秒(15步)以后的船舶運動,作者運用相空間重構理論已經判斷出本數據為非線性信號。

該仿真的最大預報誤差方差為6.4666e-004,該數據可以滿足戰技指標。

4 結束語

對神經網絡的認識范文5

關鍵詞:人工神經網絡 反向傳播算法 故障診斷

1 引言

隨著經濟的發展,空調系統得到了越來越廣泛的應用,空調設備已成為重要的生活必備品之一。這就要求空調系統可靠性高且功能齊全,而且在故障診斷維修服務方面達到一定的水平。國內目前的大部分空調系統中無故障診斷系統,當空調系統出現故障后,維保人員往往不能及時、準確地了解系統出現故障的原因及相關信息,空調系統無法得到及時修復,這種情況急需得到改善。

2 關于故障診斷技術

故障診斷FD(fault diagnosis)是一種了解和掌握設備在使用過程中的技術,確定其整體或局部是否正常,早期發現故障及其原因并能預報故障發展趨勢的技術。在診斷過程中,必須利用被診斷對象表現出來的各種有用信息,經過適當地處理和分析,做出正確的診斷結論。在制冷暖通空調領域,1987年在彥啟森教授的建議下,才開始了故障診斷專家系統在制冷暖通空調領域的研究應用[1]。

3 人工神經網絡用于空調系統故障診斷的基本原理

人工神經網絡(Artificial Neural Network.簡稱ANN)正是在人類對其大腦神經網絡認識理解的基礎上人工構造的能夠實現某種功能的神經網絡。它是理論化的人腦神經網絡的數學模型,是基于模仿大腦神經網絡結構和功能而建立的一種信息處理系統。它實際上是由大量簡單元件相互連接而成的復雜網絡,具有高度的非線性,能夠進行復雜的邏輯操作和非線性關系實現的系統。

典型的神經網絡結構如圖1所示。

在眾多的人工神經網絡模型中,最常用的是BP(Back Propagation)模型,即利用誤差反向傳播算法求解的多層前向神經網絡模型[2]。BP網絡在故障診斷、模式識別、圖像識別、管理系統等方面都得到了廣泛的應用。本文討論利用神經網絡中的BP模型進行空調系統的故障診斷。

首先需要進行知識的獲取。由專家提供關于各種空調系統故障現象(征兆集)及相應的故障原因(故障集)實例作為學習樣本。將數據分為兩部分,一部分用于訓練網絡,另一部分用于測試。將訓練網絡的數據按一定順序編碼,分別賦給網絡輸入、輸出節點,通過神經網絡學習算法對樣本進行學習,經過網絡內部自適應算法不斷修正權值,直到達到所要求的學習精度為止。此時在大量神經元之間聯結權值上就分布著專家知識和經驗。訓練完畢后,再將測試網絡的數據從初始狀態出發,向前推理,將顯示出的故障結果與實際的測試數據結果相比較,如果誤差很小,說明網絡的權值建立正確;如果誤差較大,說明網絡的權值建立有誤,需要重新進行網絡的訓練。

將訓練樣本訓練完畢后,即可進行空調系統的故障診斷。只要實際輸入模式接近于某一個訓練時的學習樣本的輸入模式,則可產生出接近學習樣本的輸出結果,也就是所謂的自聯想功能。同時,由于網絡計算上的大量并行性,當機器運行狀況改變,出現網絡學習未考慮的情況時,系統亦能給出正確分類結果。同時將新數據并入網絡,實現系統的自適應。一般來說,學習的故障實例樣本越多,診斷結果的準確率越高。

4 BP學習算法

BP算法因其簡單、易行、計算量小、并行性強等優點,是目前神經網絡訓練采用最多也是最成熟的訓練算法之一。BP算法的實質是求解誤差函數的最小值問題,由于它采用非線性規劃中的梯度下降法(Gradient Descent),按誤差函數的負梯度方向修正權值 [3]。其主要思路是如果求出訓練網絡的指標函數誤差:

一般的BP算法稱為標準誤差逆傳播算法,也就是對應每一次輸入都校正一次權值。這種算法不是全局誤差意義上的梯度下降計算。對各個神經元的輸出求偏導數,那么就可以算出誤差對所有連接權值的偏導數,從而可以利用梯度下降法來修改各個連接權值。真正的全局誤差意義上的梯度下降算法是在全部訓練模式都學習完后才校正連接權和閾值。其計算流程如圖2所示:

5 故障診斷實例 5.1 空調系統故障診斷的BP網絡建立

空調系統故障模式及故障機制分析[4]如表1所示

表1 空調系統故障模式及故障機制分析 表示

符號

表示

符號

房間溫度均偏高

1.冷凍機產冷量不足

2.噴水堵塞

3.通過空氣處理設備的風量過大,熱交換不良

4.回風量大于送風量

5.送風量不足(可能空氣過濾氣堵塞)

6.表冷器結霜,造成堵塞

相對濕度均偏低

7.室外空氣未經加濕處理

系統實測風量大于設計風量

8.系統的實際阻力小于設計阻力

9.設計時選用風機容量偏大

房間氣流速度超過允許流速

10.送風口速度過大

對神經網絡的認識范文6

關鍵詞:城市產業結構;BP神經網絡模型;灰色GM(1,1)等維新息模型;預測

Abstract: According to the present situation of urban industrial structure and its change tendency, BP NN model and GM(1, 1)constant dimension mew information model are established to forecast the evolutionary tendency of urban industrial structure for the accuracy of forecast. Then the industrial percentage is modified on the basis of the weight in the evolutionary process of urban industrial structure to ensure the amount of industrial percentage as constant 1, which offer exact information to recognize the evolutionary tendency of urban industrial structure correctly and the relationship among them.

Key words: urban industrial structure;BP NN model;GM(1, 1)constant dimension mew information model;forecast

中圖分類號:TU-856 文獻標識碼:A 文章編號:1674-4144(2009)04-14(4)

作者簡介:王福林 武漢理工大學產業經濟學在職博士教授級高工

吳丹 河海大學博士生

1前言

城市產業結構是國民經濟中產業構成及所占比例的綜合概念,即在一定空間范圍內的三大產業構成及其各產業內部構成。正確認識和研究在一定地域空間范圍內的產業結構演變規律、經濟社會運行機制,深刻理解地區經濟發展的核心問題和資源的有效性、可用性,將有利于國民經濟的協調發展。

目前,許多學者對城市產業結構演變趨勢進行了系統深入地預測研究。張無畏①根據我國云南省及云南省各地建國以來產業結構的變動情況,利用三次產業分類法對云南省產業結構的發展和現狀進行了分析,并對云南省未來25年產業結構的發展作出預測。王惠文等②基于北京市三次產業結構的動態規律,對于一序列按照時間順序收集的成分數據,提出建立一種成分數據的非線性降維方法和預測模型,用于分析成分數據中各個份額隨時間的變化規律。周瑜等③針對江蘇省第三產業比重及其影響因素進行分析,提出運用灰色系統理論,建立灰色動態預測數學模型,對江蘇省第三產業比重進行預測?;诖?為提高城市產業結構演變趨勢預測的精度,采用BP神經網絡方法和灰色GM(1,1)等維新息模型對城市產業結構演變趨勢進行組合預測分析,以提高預測的精確性,并對城市產業結構演變過程中各產業比重進行權重修正,為正確認識城市產業演變趨勢和內部關系提供準確的信息。

2基于組合模型的城市產業結構演變趨勢預測

城市產業結構演變趨勢反映了城市各產業在產業結構中所占比重隨著時間變化而發生的變化趨勢,可結合其現狀及其變化趨勢,對未來城市產業結構的演變趨勢進行預測分析,根據產業結構布局的變化,為城市社會經濟發展過程中水資源以及各種能源資源的優化配置提供決策依據。為提高城市產業結構演變趨勢預測精度,采用BP神經網絡方法和灰色GM(1,1)等維新息模型對城市產業結構演變趨勢進行組合預測。

2.1 基于BP神經網絡模型的城市產業結構演變趨勢預測

人工神經網絡是一種包含許多簡單的非線性計算單元或連接點的非線性動力系統,具有很強的自適應、自學習及容錯能力,是一種強大的非線性信息處理工具,在模式識別、智能控制、圖形處理、預測和非線性優化等領域取得了成功的應用。BP神經網絡算法稱為誤差逆傳播算法,從結構上來講,它是一種分層型網絡,具有輸入層、中間層(隱含層)和輸出層,如圖1。

基于BP神經網絡強大的預測能力和預測精度,其在各個領域都得到廣泛的應用。這里,以歷年各產業在國民經濟中的比例為樣本,采用BP神經網絡,對城市產業結構演變趨勢進行預測,分析未來各產業在國民經濟中所占比重。設觀測到的某一產業在國民經濟中歷年的比重數據序列為x(1),x(2),… x(n),根據其中的n個觀測值,預測n+1所對應年份該產業在國民經濟中的比重。其具體步驟可表述為:

(1)BP網絡學習算法訓練網絡,見表1。

(2)訓練完畢后檢驗網絡預測精度,見表2。

利用BP神經網絡預測所得數據與x(n-1),x(n)所對應年份的實際數據進行對比。精度符合要求,網絡預測能力滿足要求,即以此對城市產業結構演變趨勢進行預測;精度不符合要求,預測能力不能滿足要求,需要對網絡重新訓練,返回1。

(3)預測n+1期所對應年份該產業在國民經濟中的比重,見表3。

采用BP神經網絡模型,可預測n+1期的城市產業結構演變趨勢,并在n+1期預測值的基礎上,進一步預測n+2期所對應年份城市產業結構演變趨勢,其中,n+2期所對應年份城市產業結構演變趨勢是以n+1期城市產業結構演變趨勢預測值為前提所進行的預測研究。

2.2 基于灰色GM(1,1)等維新息模型的城市產業結構演變趨勢預測

灰色系統預測理論對于信息不完整或不完全的實際情況具有良好的適用性,其中GM(1,1)模型具有充分利用“少數據”進行預測的優點,因此,可將各產業在國民經濟產業結構中所占的比重隨時間變化的數列作為原始序列,采用GM(1,1)模型對各產業在產業結構中的比重進行預測,以分析城市產業結構的演變趨勢。但GM(1,1)模型采用的是現實時刻t=n為止的過去的數據,然而,任何一個灰系統的發展過程中,隨著時間的推移,將會不斷地有一些隨機擾動或驅動因素進入系統,使系統的發展相繼的受其影響。故隨著系統的發展,舊數據的信息意義將逐步降低,而新數據的信息意義將逐步提高。因此,GM(1,1)模型在預測城市產業結構演變趨勢時本身存在一定的缺陷,針對其不足之處,為更好地反映系統將來的發展趨勢,可采用GM(1,1)等維新息模型對城市產業結構演變趨勢進行預測分析,灰色GM(1,1)等維新息模型通過不斷補充新信息,使建模數列更能反映系統目前的特征,更好地揭示了系統的發展趨勢,從而獲得較高的城市產業結構演變趨勢預測精度。預測各產業在城市產業結構中演變趨勢的灰色GM(1,1)等維新息模型的建模步驟可表述為:

記城市某產業在產業結構中所占比重按照時間先后順序排列而成的原始數列為x(0)

根據灰色系統理論對城市某產業在產業結構中所占比重的原始數列進行一階累加(1-AGO)生成后,得生成列x(1) ,即

z(1)為x(1)的緊鄰均值生成數列:

(1)灰微分方程的最小二乘估計參數滿足

(2)灰微分方程的白化方程 的時間響應式為

,t=1,2,……,n

(3)還原值

,t=1,2,……,n

① 當t≤n時,稱 為城市某產業在產業結構中所占比重的現狀模擬值;② 當t>n時,稱 為城市某產業在產業結構中所占比重的預測值。

(4)將最新信息x(1)(n+1)加入到城市某產業在產業結構中所占比重的現狀原始數列,利用建立等維新息模型,確定城市某產業在產業結構中所占比重的預測值。

2.3城市產業結構演變趨勢組合預測

2.3.1基于灰色神經網絡模型的城市產業結構演變趨勢組合預測

為了進一步提高城市產業結構演變趨勢預測的精度,結合BP神經網絡和灰色GM(1,1)等維新息模型的預測結果,對城市產業結構的演變趨勢進行組合預測,其公式為:

式中:xi(t)――t年i(i=1,2,……,I)產業在產業結構中所占比重的組合預測值;

xi(1)(t)―― t年i產業在產業結構中所占比重的神經網絡模型預測值;

xi(2)(t)―― t年i產業在產業結構中所占比重的灰色GM(1,1)等維新息模型預測值;

――為權重系數,通過預測值與實際值的差別,根據實際情況而定, 。

2.3.2 城市產業結構權重修正

通過灰色神經網絡模型的組合預測,可初步得出各產業在產業結構中所占比重,但其比重之和卻不等于常數1,為保障城市產業結構比重之和恒定為常數1,可根據式(7),對城市產業結構演變過程中各產業比重進行權重修正,即式中: :t年i(i=1,2,……,I)產業在產業結構中所占比重的修正組合預測值。

3算例分析

根據某城市社會經濟發展和產業結構的布局變化,對城市產業結構的演變趨勢進行預測分析。假定1990-2007年城市三產在國民經濟產業結構中所占比重數據,見表4。

根據表4中的數據,采用灰色神經網絡模型預測城市產業結構演變趨勢。

(1)BP神經網絡模型預測

利用matlab工具箱④,構建三層BP神經網絡,輸入層和隱層之間使用 sigmoid函數,隱層和輸出層之間使用pureline函數。訓練函數選擇trainlm,訓練最大步長5000次,均方誤差為10-5精度。經過訓練對比,預測第一產業隱層設計成8個結點,第二產業為15個節點,第三產業為10個節點。并通過檢驗,最終使用成功網絡完成預測。城市產業結構演變趨勢的檢驗和預測結果,見表5。

(2)灰色G(1,1)等維新息模型預測

城市產業結構演變趨勢的檢驗和預測結果,見表6。

(3)灰色神經網絡模型預測

為提高組合預測模型的擬合精度,調整BP神經網絡模型和灰色G(1,1)等維新息模型的權重系數,確定城市產業結構演變趨勢組合預測的組合預測結果,見表7。

根據表7結果可知,采用灰色神經網絡模型對城市產業結構演變趨勢進行組合預測,繼承了BP神經網絡模型和灰色G(1,1)等維新息模型預測精準的優勢,并在此基礎上增強了預測精度。利用式(8),對2008年―2009年的預

測結果進行修正,最終得到2008年―2009年三產產業比重的組合預測結果。

4結論

基于城市產業結構發展現狀及其變化趨勢,在建立BP神經網絡模型和灰色GM(1,1)等維新息模型的基礎上,結合算例分析,對城市產業結構演變趨勢進行組合預測,根據組合預測結果可知,灰色神經網絡模型在預測城市產業結構演變趨勢過程中,具有較高的精確度。

①張無畏.云南省產業結構現狀分析及發展趨勢預測[J].楚雄師范學院學報,2002,17(5):79-82.

②王惠文,黃薇,劉強.北京市三次產業預測分析[J].系統工程理論與實踐,2003,(6):123-126.

亚洲精品一二三区-久久