前言:中文期刊網精心挑選了神經網絡學習規則范文供你參考和學習,希望我們的參考范文能激發你的文章創作靈感,歡迎閱讀。
神經網絡學習規則范文1
【關鍵詞】神經網絡 手寫 識別系統 應用
隨著計算機技術的快速發展,其在人們的辦公學習和日常生活成了不可替代的工具。鍵盤已經幾乎完全替代了筆在人們生活中的地位,隨之而來的后果就是人們越來越少的區書寫漢字,導致越來越多的中國人甚至都忘記了漢字該如何書寫,這種現象在很多研究和報道中都有體現。計算機和鍵盤是由西方國家發明的,其符合西方國家的語言習慣,對于中國人來說,用字母、符號去完成方塊漢字的輸入就需要使用者非常熟悉漢語拼音或者五筆編碼,對于文化程度較低的使用者來說,這些都限制著他們使用計算機。鑒于計算機鍵盤的這些缺陷,聯機手寫輸入法應運而生,這為計算機的輸入帶來了新的發展機遇和挑戰。
1 聯機漢字手寫識別的意義及難點
聯機漢字識別是用書寫板代替傳統紙張,筆尖通過數字化書寫板的軌跡通過采樣系統按時間先后發送到計算機中,計算機則自動的完成漢字的識別和顯示。
1.1 聯機漢字手寫識別的意義
聯機手寫漢字識別的誕生具有非常重要的意義。首先這種輸入方法延續了幾千年中華文明的寫字習慣,實現用戶的手寫輸入,對于長時間不提筆寫字的用戶來說能夠加強其對漢字書寫方面的認識,防止“提筆忘字”現象的繼續惡化。其次,手寫漢字輸入不需要學習和記憶計算機的漢字編碼規則,其完全符合中國人的寫字習慣,使人機之間的交流更人性化,更方便快捷。另外,隨著移動智能終端的不斷普及,聯機漢字手寫識別的應用范圍將進一步擴大,以適用于不同層次人群對信息輸入的需要,具有較大的市場發展前景。
1.2 聯機手寫漢字識別問題的難點
手寫漢字識別是光學字符讀出器中最難的部分,也是其最終的目標,手寫漢字識別的應用主要依賴于其正確識別率和識別速度[1]。手寫漢字識別系統的問題具有其特殊性:
(1)中國漢字量大。我國目前的常用漢字大概在4000個左右,在實際應用中的漢字識別系統應該能夠完全識別這些常用的字才能夠滿足需要,由于超大的漢字量,使得手寫識別的正確率和識別速度一直不高。
(2)字體多,結構復雜。漢字的手寫字體豐富多彩,且漢字的筆畫繁多,以及復雜的結構,再加上漢字中的形近字頗多,這些都為漢字識別系統的發展造成了很大的困難。
(3)書寫變化大。不同用戶在進行手寫輸入時其字體的變化是很大的,這種變化因人而異,對漢字識別造成了很大的干擾,增加了漢字匹配的難度。
2 人工神經網絡概述
人工神經網絡是一種應用類似于大腦神經突觸聯接的結構進行信息處理的數學模型,通常簡稱為神經網絡,是一種仿生物神經的信號處理模型。在二十世紀四十年代初人們開始進行神經網絡的研究,經過幾十年的發展,神經網絡也產生了一系列的突破,目前應用最多的是Hopfield模型和BP算法。
神經網絡的一般模型一般包括十個方面:環境、處理單元、傳播規則、神經網絡的狀態、互聯模式、穩定狀態、操作模式、活躍規則、活化函數和學習算法。其中,神經元、互聯模式、學習算法是神經網絡模型中的三個關鍵因素。神經網絡的一個重要內容就是學習,其學習方式可以分為監督學習和無監督學習,其學習過程一般遵循Hebb規則,誤差修正學習算法以及勝者為王的學習規則,其中Hebb規則是神經網絡學習中最基本的規則。
人工神經網絡具有獨特的優越性。首先其具有主動學習的功能,在漢字識別過程中,先將漢字模板及可能的識別結果輸入到神經網絡中,神經網絡能夠通過其自身的學習過程來實現對漢字的識別,自學功能對于神經網絡的預測功能具有非常重要的意義。其次,神經網絡系統具有聯想存儲功能,其反饋功能能夠實現這種聯想。另外,通過計算機的高速運算能力,神經網絡具有高速尋找優化解的能力。
3 人工神經網絡在聯機手寫識別系統中的應用
漢字識別屬于大類別模式識別,人工神經網絡可以通過函數逼近、數據分類、數據聚類三種作用方式以及“聯想”的特殊模式對漢字進行識別。Hopfield神經網絡作為反饋網絡的一種,其自聯想記憶網絡可以使系統不需要通過大量的訓練即可對漢字進行識別,因此Hopfield神經網絡對于漢字識別來說具有獨特的優勢。其中的離散型Hopfield神經網絡能夠通過串行異步和并行同步的工作方式,使其反饋過程具有非常好的穩定性,而網絡只有通過不斷的演變穩定在某一吸引子狀態時,才能夠實現正確的聯想。
聯機手寫識別可以分為訓練階段和識別階段。訓練階段流程依次為:標準書寫字符圖像預處理,提取特征并建立特征庫,建立Hopfield網絡模型,訓練網絡,保存權值。識別階段的流程為:坐標序列轉化為bmp圖像,預處理測試樣本,提取特征,送入網絡運行,運行網絡到平衡狀態,分析結果值。根據聯機手寫識別的工作流程以及Hopfield網絡模型的理論,基于Hopfield神經網絡的聯機手寫識別系統在Matlab環境下得到了仿真模擬,效果非常理想。
4 總結
手寫識別系統能夠彌補普通鍵盤的不足,在提高漢字書寫頻率的同時,能夠滿足不同層次人群對計算機應用的技術需要?;贖opfield神經網絡的聯機手寫識別系統一起自身獨特的性能,不僅能夠滿足手寫漢字識別的正確率,而且其識別過程速度非??臁R虼怂鼘τ趯崿F聯機手寫識別以及圖像識別具有非常重要的意義。
參考文獻
[1]俞慶英.聯機手寫漢字識別系統的研究與實現[D].安徽大學,2005(5).
[2]郭力賓.交叉點的神經網絡識別及聯機手寫字符的概率神經網絡識別初探[D].大連理工大學,2003(03).
[3]趙蓉.基于神經網絡的聯機手寫識別系統研究與實現[D].西安電子科技大學,2011(01).
作者簡介
周珍娟(1979-), 女,江西撫州人。計算機專業碩士。現為江蘇城市職業學院講師。主要研究方向為網絡安全,模式識別。
神經網絡學習規則范文2
【關鍵詞】傅里葉變換;BP神經網絡;自適應濾波
1.引言
BP神經網絡具有很強的非線性函數逼近、自適應學習和并行信息處理能力,為解決未知不確定非線性信息處理和自適應濾波提供了一條新途徑[1]。但隨著BP神經網絡輸入向量維數增加,其隱含層層數和學習次數也會相應增加,降低了網絡的自適應性且延長了學習時間。傅里葉變換是數字信號處理領域一種很重要的算法,其思想是將原始信號從時域變換到頻域,通過對頻譜圖的分析,去除高頻處的頻率分量,再將頻域變換回時域,達到信號去噪濾波的功能[2]。利用傅里葉變換與神經網絡相結合的方法,對信息進行預處理,減少信息處理量,再利用神經網絡強大的非線性函數逼近能力,從而實現信號的自適應濾波,減少網絡的待處理信息,增強網絡的自適應能力,其工作過程如圖1所示。
2.BP神經網絡模型
2.1 神經元結構模型
人工神經網絡是人腦的某種抽象、簡化或模擬,它由大量的神經元廣泛互聯而成。網絡的信息處理由神經元之間的相互作用來實現,網絡的學習和識別取決于神經元間連接權系數的動態演化過程[3],其模型可以用圖2來表示。
輸入向量與輸出y之間的關系式;
其中權值向量,輸入向量,閾值,活化函數。
2.2 BP神經網絡
BP神經網絡(Back-Propagation Neural Network)是一種無反饋的前向網絡,網絡中的神經元分層排列,除了有輸入層、輸出層之外,還至少有一層隱含層,BP學習算法是調整權值使網絡總誤差最小。具有隱含層BP網絡的結構如圖3所示,圖中設有M個輸入節點,L個輸出節點,隱含層含有n個神經元。其中為網絡輸入向量,為實際輸出向量,為網絡的目標輸出,為網絡的輸出誤差。BP網絡學習流程:
(1)網絡初始化,確定輸入向量與輸出向量的維數、目標向量、學習次數以及允許的誤差值。
(2)輸入學習規則,初始化權值W。
(3)計算輸出層的輸出與目標向量的誤差。
(4)判斷誤差精度是否達到預定值,沒有則調整權值W并改變學習規則。
(5)誤差精度達到預定值,學習結束。
3.數值仿真與分析
在MATLAB神經網絡工具箱中提供了實現BP神經網絡的創建,仿真環境以單輸入單輸出的非線性函數,分別作為輸入函數和目標函數。本文同時采取傅里葉變換、BP神經網絡以及基于傅里葉變換的BP神經網絡分別進行仿真濾波[5][6],表1給出了三種算法在MATLAB軟件中的仿真主要步驟。圖4為y(t)與x(t)函數的波形圖,圖5是經傅里葉變換處理后的x(t)波形,圖6是BP網絡自適應濾波后的x(t)波形,圖7是基于傅里葉變換的BP網絡作用后的x(t)自適應濾波后的波形。通過比較圖5、6、7可以明顯看出傅里葉變換的濾波效果出現高頻振蕩,BP網絡自適應濾波在形狀上幾乎與元波形一致,但是在某些點位置出現疵點,而基于傅里葉變換的BP神經網絡自適應濾波后波形幾乎和目標函數y(t)波形完全一致。
4.結束語
本文通過三種算法在MATLAB中的仿真分析,可以得出在輸入向量維數比較大時,可以采用基于傅里葉變換的BP神經網絡的方法對含噪信息進行處理,不僅可以降低隱含層的層數,增加自適應能力和減少學習時間,而且在波形擬合上可以達到更好的效果。
參考文獻
[1]華,李雷,趙力.基于BP神經網絡的自適應補償控制方法[J].計算仿真,2012,29(7):202-205.
[2]張德豐.MATLAB小波分析[M].北京:機械工業出版社,2009,39-48.
[3]楊芳,馬建偉.基于神經網絡自適應濾波的低頻Prony分析[J].中國水能及電氣化,2012,86(4),32-37.
[4]李國勇,楊麗娟.神經模糊預測控制及其MATLAB實現[M].北京:電子工業出版社,2013:17-22.
神經網絡學習規則范文3
80年代初,在美國、日本、接著在我國國內都掀起了一股研究神經網絡理論和神經計算機的熱潮,并將神經網絡原理應用于圖象處理、模式識別、語音綜合及機器人控制等領域。近年來,美國等先進國家又相繼投入巨額資金,制定出強化研究計劃,開展對腦功能和新型智能計算機的研究。
人腦是自生命誕生以來,生物經過數十億年漫長歲月進化的結果,是具有高度智能的復雜系統,它不必采用繁復的數字計算和邏輯運算,卻能靈活處理各種復雜的,不精確的和模糊的信息,善于理解語言、圖象并具有直覺感知等功能。
人腦的信息處理機制極其復雜,從結構上看它是包含有140億神經細胞的大規模網絡。單個神經細胞的工作速度并不高(毫秒級),但它通過超并行處理使得整個系統實現處理的高速性和信息表現的多樣性。
因此,從信息處理的角度對人腦進行研究,并由此研制出一種象人腦一樣能夠“思維”的智能計算機和智能信息處理方法,一直是人工智能追求的目標。
神經網絡就是通過對人腦的基本單元---神經元的建模和聯結,來探索模擬人腦神經系統功能的模型,并研制一種具有學習、聯想、記憶和模式識別等智能信息處理功能的人工系統。本文介紹神經網絡的特點以及近年來有關神經網絡與混沌理論、模糊計算和遺傳算法等相結合的混合神經網絡研究的動態。
一.神經網絡和聯結主義
回顧認知科學的發展,有所謂符號主義和聯結主義兩大流派。符號主義從宏觀層次上,撇開人腦的內部結構和機制,僅從人腦外在表現出來的智能現象出發進行研究。例如,將記憶、判斷、推理、學習等心理活動總結成規律、甚至編制成規則,然后用計算機進行模擬,使計算機表現出各種智能。
符號主義認為,認識的基本元素是符號,認知過程是對符號表示的運算。人類的語言,文字的思維均可用符號來描述,而且思維過程只不過是這些符號的存儲、變換和輸入、輸出而已。以這種方法實現的系統具有串行、線性、準確、簡潔、易于表達的特點,體現了邏輯思維的基本特性。七十年代的專家系統和八十年代日本的第五代計算機研究計劃就是其主要代表。
聯接主義則與其不同,其特點是從微觀出發。聯接主義認為符號是不存在的,認知的基本元素就是神經細胞(神經元),認知過程是大量神經元的聯接,以及這種聯接所引起的神經元的不同興奮狀態和系統所表現出的總體行為。八十年代再度興起的神經網絡和神經計算機就是這種聯接主義的代表。
神經網絡的主要特征是:大規模的并行處理和分布式的信息存儲,良好的自適應、自組織性,以及很強的學習功能、聯想功能和容錯功能。與當今的馮.諾依曼式計算機相比,更加接近人腦的信息處理模式。主要表現如下:
神經網絡能夠處理連續的模擬信號。例如連續灰度變化的圖象信號。
能夠處理混沌的、不完全的、模糊的信息。
傳統的計算機能給出精確的解答,神經網絡給出的是次最優的逼近解答。
神經網絡并行分布工作,各組成部分同時參與運算,單個神經元的動作速度不高,但總體的處理速度極快。
神經網絡信息存儲分布于全網絡各個權重變換之中,某些單元障礙并不影響信息的完整,具有魯棒性。
傳統計算機要求有準確的輸入條件,才能給出精確解。神經網絡只要求部分條件,甚至對于包含有部分錯誤的輸入,也能得出較好的解答,具有容錯性。
神經網絡在處理自然語言理解、圖象模式識別、景物理解、不完整信息的處理、智能機器人控制等方面有優勢。
符號主義和聯接主義兩者各有特色,學術界目前有一種看法:認為基于符號主義得傳統人工智能和基于聯接主義得神經網絡是分別描述人腦左、右半腦的功能,反映了人類智能的兩重性:精確處理和非精確處理,分別面向認識的理性和感性兩個方面,兩者的關系應該是互補而非互相代替。理想的智能系統及其表現的智能行為應是兩者相互結合的結果。
接下去的問題是,符號AI和聯接AI具體如何結合,兩者在智能系統中相互關系如何?分別扮演什么角色?目前這方面發表的文獻很多,大致有如下幾種類型:
1.松耦合模型:符號機制的專家系統與聯接機制的神經網絡通過一個中間媒介(例如數據文件)進行通訊。
2.緊耦合模型:與松耦合模型相比較,其通訊不是通過外部數據進行,而是直接通過內部數據完成,具有較高的效率。其主要類型有嵌入式系統和黑板結構等。
3.轉換模型:將專家系統的知識轉換成神經網絡,或把神經網絡轉換成專家系統的知識,轉換前的系統稱為源系統,轉換后的系統稱為目標系統,由一種機制轉成另一種機制。如果源系統是專家系統,目標系統是神經網絡,則可獲得學習能力及自適應性;反之,可獲得單步推理能力、解釋能力及知識的顯式表示。當然,轉換需要在兩種的機制之間,確定結構上的一致性,目前主要問題是還沒有一種完備而精確的轉換方法實現兩者的轉換。有待進一步研究。
4.綜合模型:綜合模型共享數據結構和知識表示,這時聯接機制和符號機制不再分開,兩者相互結合成為一個整體,既具有符號機制的邏輯功能,又有聯接機制的自適應和容錯性的優點和特點。例如聯接主義的專家系統等。
近年來神經網絡研究的另一個趨勢,是將它與模糊邏輯、混沌理論、遺傳進化算法等相結合,即所謂“混合神經網絡”方法。由于這些理論和算法都是屬于仿效生物體信息處理的方法,人們希望通過她們之間的相互結合,能夠獲得具有有柔性信息處理功能的系統。下面分別介紹。
二.混沌理論與智能信息處理
混沌理論是對貌似無序而實際有序,表面上看來是雜亂無章的現象中,找出其規律,并予以處理的一門學科。早在七十年代,美國和歐洲的一些物理學家、生物學家、數學家就致力于尋求在許許多多不同種類的不規則性之間的聯系。生物學家發現在人類的心臟中有混沌現象存在,血管在顯微鏡下交叉纏繞,其中也有驚人的有序性。在生物腦神經系統中從微觀的神經膜電位到宏觀的腦電波,都可以觀察到混沌的性態,證明混沌也是神經系統的正常特性。
九十年代開始,則更進一步將混沌和神經網絡結合起來,提出多種混沌神經網絡模型,并探索應用混沌理論的各種信息處理方法。例如,在神經元模型中,引入神經膜的不應性,研究神經元模型的混沌響應,研究在神經網絡的方程中,不應性項的定標參數,不定性時間衰減常數等參數的性質,以及這些參數于神經網絡混沌響應的關系,并確定混沌---神經網絡模型具有混沌解的參數空間。經過試驗,由這種混沌神經網絡模型所繪出的輸出圖形和腦電圖極為相似。
現代腦科學把人腦的工作過程看成為復雜的多層次的混沌動力學系統。腦功能的物理基礎是混沌性質的過程,腦的工作包含有混沌的性質。通過混沌動力學,研究、分析腦模型的信息處理能力,可進一步探索動態聯想記憶、動態學習并應用到模式識別等工程領域。例如:
對混沌的隨機不規則現象,可利用混沌理論進行非線性預測和決策。
對被噪聲所掩蓋的微弱信號,如果噪聲是一種混沌現象,則可通過非線性辨識,有效進行濾波。
利用混沌現象對初始值的敏銳依賴性,構成模式識別系統。
研究基于混沌---神經網絡自適應存儲檢索算法。該算法主要包括三個步驟,即:特征提取、自適應學習和檢索。
模式特征提取采用從簡單的吸引子到混沌的層次分支結構來描述,這種分支結構有可能通過少數幾個系統參數的變化來加以控制,使復雜問題簡單化。自適應學習采用神經網絡的誤差反傳學習法。檢索過程是通過一個具有穩定吸引子的動力學系統來完成,即利用輸入的初始條件與某個吸引子(輸出)之間的存在直接對應關系的方法進行檢索。利用這種方法可應用于模式識別。例如黑白圖象的人臉識別。
三.模糊集理論與模糊工程
八十年代以來在模糊集理論和應用方面,也有很大進展。1983年美國西海岸AI研究所發表了稱為REVEAL的模糊輔助決策系統并投入市場,1986年美國將模糊邏輯導入OPS---5,并研究成功模糊專家系統外殼FLOPS,1987年英國發表采用模糊PROLOG的智能系統FRIL等。除此通用工具的研制以外,各國還開發一系列用于專用目的的智能信息處理系統并實際應用于智能控制、模式識別、醫療診斷、故障檢測等方面。
模糊集理論和神經網絡雖然都屬于仿效生物體信息處理機制以獲得柔性信息處理功能的理論,但兩者所用的研究方法卻大不相同,神經網絡著眼于腦的微觀網絡結構,通過學習、自組織化和非線性動力學理論形成的并行分析方法,可處理無法語言化的模式信息。而模糊集理論則著眼于可用語言和概念作為代表的腦的宏觀功能,按照人為引入的隸屬度函數,邏輯的處理包含有模糊性的語言信息。
神經網絡和模糊集理論目標相近而方法各異。因此如果兩者相互結合,必能達到取長補短的作用。將模糊和神經網絡相結合的研究,約在15年前便已在神經網絡領域開始,為了描述神經細胞模型,開始采用模糊語言,把模糊集合及其運算用于神經元模型和描述神經網絡系統。目前,有關模糊---神經網絡模型的研究大體上可分為兩類:一類是以神經網絡為主,結合模糊集理論。例如,將神經網絡參數模糊化,采用模糊集合進行模糊運算。另一類以模糊集、模糊邏輯為主,結合神經網絡方法,利用神經網絡的自組織特性,達到柔性信息處理的目的。
與神經網絡相比,模糊集理論和模糊計算是更接近實用化的理論,特別近年來美國和日本的各大公司都紛紛推出各種模糊芯片,研制了型號繁多的模糊推理板,并實際應用于智能控制等各個應用領域,建立“模糊工程”這樣一個新領域。日本更首先在模糊家電方面打開市場,帶有模糊控制,甚至標以神經---模糊智能控制的洗衣機、電冰箱、空調器、攝象機等已成為新一代家電的時髦產品。我國目前市場上也有許多洗衣機,例如榮事達洗衣機就是采用模糊神經網絡智能控制方式的洗衣機。
四.遺傳算法
遺傳算法(Genetic Algorithm :GA)是模擬生物的進化現象(自然、淘汰、交叉、突然變異)的一種概率搜索和最優化方法。是模擬自然淘汰和遺傳現象的工程模型。
GA的歷史可追溯到1960年,明確提出遺傳算法的是1975年美國Michigan大學的Holland博士,他根據生物進化過程的適應現象,提出如下的GA模型方案:
1.將多個生物的染色體(Chromosmoe)組成的符號集合,按文字進行編碼,稱為個體。
2.定義評價函數,表示個體對外部環境的適應性。其數值大的個體表示對外部環境的適應性高,它的生存(子孫的延續)的概率也高。
3.每個個體由多個“部分”組合而成,每個部分隨機進行交叉及突然變異等變化,并由此產生子孫(遺傳現象)。
4.個體的集合通過遺傳,由選擇淘汰產生下一代。
遺傳算法提出之后,很快得到人工智能、計算機、生物學等領域科學家的高度重視,并在各方面廣泛應用。1989年美國Goldberg博士發表一本專著:“Genetic Algorithms in Search,Optimization and Machine Learning”。出版后產生較大影響,該書對GA的數學基礎理論,GA的基本定理、數理分析以及在搜索法、最優化、機器學習等GA應用方面進行了深入淺出的介紹,并附有Pascal模擬程序。
1985年7月在美國召開第一屆“遺傳算法國際會議”(ICGA)。以后每隔兩年召開一次。近年來,遺傳算法發展很快,并廣泛應用于信息技術的各個領域,例如:
智能控制:機器人控制。機器人路徑規劃。
工程設計:微電子芯片的布局、布線;通信網絡設計、濾波器設計、噴氣發動機設計。
圖象處理:圖象恢復、圖象識別、特征抽取。
調度規劃:生產規劃、調度問題、并行機任務分配。
優化理論:TSP問題、背包問題、圖劃分問題。
人工生命:生命的遺傳進化以及自增殖、自適應;免疫系統、生態系統等方面的研究。
神經網絡、模糊集理論和以遺傳算法為代表的進化算法都是仿效生物信息處理模式以獲得智能信息處理功能的理論。三者目標相近而方法各異;將它們相互結合,必能達到取長補短、各顯優勢的效果。例如,遺傳算法與神經網絡和模糊計算相結合方面就有:
神經網絡連續權的進化。
傳統神經網絡如BP網絡是通過學習,并按一定規則來改變數值分布。這種方法有訓練時間過長和容易陷入局部優化的問題。采用遺傳算法優化神經網絡可以克服這個缺點。
神經網絡結構的進化。
目前神經網絡結構的設計全靠設計者的經驗,由人事先確定,還沒有一種系統的方法來確定網絡結構,采用遺傳算法可用來優化神經網絡結構。
神經網絡學習規則的進化。
采用遺傳算法可使神經網絡的學習過程能夠適應不同問題和環境的要求。
基于遺傳算法的模糊推理規則的優化,以及隸屬度函數的自適應調整也都取得很好效果。
上述神經網絡、模糊計算、遺傳算法和混沌理論等都是智能信息處理的基本理論和方法。近年來學術界將它們統稱為“計算智能”。有關這方面更詳細的內容,可參閱我們編著的下列著作:
“神經網絡與神經計算機”(1992年科學出版社出版)
神經網絡學習規則范文4
關鍵詞:液壓挖掘機 功率匹配 模糊神經網絡 BP算法
中圖分類號:TU621 文獻標識碼:A 文章編號:1007-9416(2013)03-0038-03
1 引言
模糊控制是一種不依賴于被控對象數學模型的仿人思維的控制技術,它利用領域專家的先驗知識進行近似推理,而神經網絡對環境的變化具有很強的學習能力。將二者有機結合起來,取長補短,就形成了既具有模糊推理能力,又具有很強學習能力的模糊神經網絡(FNN)。模糊神經網絡融合了模糊邏輯和神經網絡的優點,既能表示定性知識,又具有自學習和處理定量數據的能力,具有邏輯性和透明性強的特點,從而提高了整個系統的學習能力和表達能力,并且可以很容易的利用先前已知的專家知識來確定網絡的初始參量,所以模糊神經網絡已經廣泛地應用在系統控制領域中[1]。本文將模糊神經網絡引入到液壓挖掘機節能控制系統。根據發動機—變量泵功率匹配原理,研究了FNN控制器通過對變量泵的流量調節從而使發動機和變量泵的功率匹配,達到節能的目的。
2 液壓挖掘機節能控制系統
2.1 發動機—變量泵功率匹配原理
節能型液壓挖掘機多采用分工況控制[5]。工作時,在發動機設定工況下,通過調節變量泵的排量,使發動機輸出功率與變量泵吸收功率達到最佳匹配,從而穩定發動機轉速、減少燃油消耗,達到節能的目的。發動機—變量泵的匹配關系如下:
發動機的輸出功率為: (1)
泵的吸收功率為:
(2)
:發動機輸出功率(KW);:發動機轉矩(N·m);:發動機轉速(r/min);:泵的吸收功率(KW);:泵出口壓力(bar);:泵出口流量(L/min);:泵的排量(mL/r);:泵的轉速(r/min);:泵的吸收扭矩。
發動機和泵是直接相聯的,所以。在不考慮機械傳動效率時,若,則發動機的輸出功率與泵的吸收功率相等,系統無功率損失(即功率最佳匹配)。挖掘機工作時負載變化比較大,又取決于負載,因此,如果不及時對泵的排量進行控制,就會使發動機的轉速下降,或者會出現泵不能完全吸收發動機的輸出功率,造成功率損失。由式(2)可見,當負載變化即發生變化時,實時調整泵的排量,使泵的吸收扭矩與發動機的輸出扭矩相一致,維持發動機運行平穩,從而實現發動機與泵的功率匹配[5]。
2.2 節能控制系統結構
節能控制系統主要解決挖掘機發動機和變量泵的功率匹配問題[3],其控制思想是:挖掘機采用分工況控制。設定工作工況,在作業過程中,負載的變化引起發動機轉速的改變,根據轉速的變化和變化率,了解挖掘機在作業過程中阻力的變化情況,通過模糊神經網絡節能控制器的控制算法,實現對泵的流量的在線調整,從而穩定發動機的轉速,使發動機始終工作在設定的最佳工作點,以達到較低的油耗和較高的工作效率,同時也降低了液壓系統的壓力和流量損失[4]??刂葡到y的結構框圖如(圖1)所示。
節能控制系統采用閉環控制,設定給定值轉速,由轉速傳感器測得發動機實際轉速,形成偏差,通過設計好的模糊神經網絡控制器輸出電壓信號控制控制液壓泵排量的比例閥,改變液壓泵的排量,使變量泵吸收扭矩始終追蹤發動機輸出扭矩,穩定發動機的轉速,從而達到節能的目的。
3 模糊神經網絡節能控制器的設計
3.1 確定模糊神經網絡節能控制器的輸入和輸出
模糊神經網絡節能控制器選用發動機的轉速誤差和誤差的變化率作為輸入語言變量,其中的基本模糊集取8個變量{NB,NM,NS,NO,PO,PS,PM,PB},量化后的論域取{-6,-5,-4,-3,-2,-1,-0,+0,1,2,3,4,5,6},量化因子。的基本模糊集取7個變量{NB,NM,NS,0,PS,PM,PB},量化后的論域取{-6,-5,-4,-3,-2,-1,0,1,2,3,4,5,6},量化因子。得到56條模糊規則;把控制變量泵斜盤傾角的電控量的變化量作為輸出語言變量,也將其模糊化為7個語言變量等級,等級劃分同,并且。
3.2 控制器結構設計
本模糊神經網絡節能控制器采用基于標準模型的結構[2],如(圖2)所示,分別是輸入層,模糊化層,規則層,規范化處理和輸出層,確定模糊神經網絡控制器各層如(圖2)
3.2.1 輸入層
以發動機的轉速誤差和誤差變化率作為輸入,節點數為2。有
輸入
輸出 (3)
3.2.2 模糊化層
第二層為模糊化層。該層的每個節點代表一個語言變量值,如NB、NS等,作用是計算各輸入分量屬于各語言變量值模糊集合的隸屬度函數,由上所述可知,輸入量被分為8個語言變量,被分為7個語言變量,因此該層的節點數為15,采用高斯函數來求隸屬度,則該層的輸出為:
(4)
式中,和分別表示隸屬函數的中心和寬度。
3.2.3 規則層
第三層為規則層。該層共有56個神經元,每個神經元各代表1條結合挖掘機操作人員經驗得出的控制規則(見表1),是整個挖掘機節能控制系統的關鍵。
該層的作用是用來匹配模糊規則的前件,計算出每條規則的適用度,代表著模糊規則的規則強度,并將這些強度傳遞給下一層。計算時采用乘積法,即該層的輸出為:
(5)
其中,;;
3.2.4 規范化處理
第四層為規范化處理。本層的節點數為56,所實現的是歸一化計算,即
(6)
3.2.5 輸出層
第五層為輸出層。該層的作用是實現解模糊,輸出控制變量泵電磁閥的電壓值,這里采用中心平均反模糊方法進行計算,計算公式為:
(7)
其中,為最后一層的權值,可通過學習算法進行調整。
4 模糊神經網絡的學習算法
本系統各輸入量的模糊分割數是預先確定的,需要學習的參數是最后一層的連接權以及模糊化層的隸屬度函數的中心值和寬度。采用BP算法調整以上各個參數[1,2]。定義誤差函數為
(8)
其中,是學習樣本數,是期望輸出,為被控對象的實際輸出。
學習算法如下:
(9)
(10)
(11)
5 系統仿真
為了驗證基于此模糊神經網絡的挖掘機節能控制器的合理性,根據泵和發動機所組成系統的數學模型,利用MATLAB7.4對其仿真。首先,對基于標準模型的模糊神經網絡控制器進行離線訓練,所采用的樣本是根據表1所示的模糊控制規則推導出的基于各自論域的模糊控制查詢表。即將模糊控制查詢表中的每一組對應關系轉化為神經網絡的一組輸入、輸出樣本,共14×13=182個樣本。神經網絡最后一層的權值取[-1,+1]之間的隨機值,高斯函數的中心初始值取,,寬度一律取為4,網絡的學習參數取。當訓練目標誤差為0.01時停止訓練,記錄下此時的權值和高斯函數的參數,根據以上所述模糊神經網絡的結構,將訓練好的各個參數通過matlab語言編制成S函數模塊[7]。此模塊也就代表了所要設計的模糊神經網絡控制器,在simlink中接入系統當中(如圖1所示),輸出單位階躍響應曲線如(圖3)所示。
由(圖3)和(圖4)比較可知:模糊神經網絡控制變量泵反應速度較快,超調較小,系統穩定性優于常規PID控制。當負載突然變化,導致發動機轉速變化時,該模糊神經網絡節能控制器能快速改變泵的排量,使得變量泵的吸收扭矩始終追蹤發動機的輸出扭矩,穩定發動機的轉速,最終實現節能。
6 結語
由于基于神經網絡的模糊控制主要是利用神經網絡來記憶模糊控制表中的模糊規則,使得無需查表,節省內存空間。同時神經網絡具有學習和聯想功能,所以在挖掘機節能控制過程中,當誤差及其變化率與樣本點匹配時,控制器直接復現所記憶的“原則”;當與樣本不匹配時,控制器通過聯想以相近的“原則”處理,實現系統的連續模糊控制。將模糊神經網絡應用于液壓挖掘機節能控制系統中,大大提高了控制系統的智能化水平。
參考文獻
[1]孫增圻等.智能控制理論與技術[M].北京:清華大學出版社,2007.
[2]劉金琨.智能控制[M].北京:電子工業出版社,2008.
[3]何清華,郝鵬,常毅華.基于功率協調控制的液壓挖掘機節能系統研究[J].機械科學與技術,2007,26(2):188-191.
[4]國香恩,趙丁選,尚濤,張紅彥.模糊控制在液壓挖掘機節能中的應用[J].吉林大學學報,2004,34(2):217-221.
[5]吳彤峰,謝國進,謝冰.液壓挖掘機單雙泵功率匹配控制策略[J].廣西工學院學報,2008,19(1):30-33.
神經網絡學習規則范文5
[關鍵詞]BP神經網絡農業工程農業管理農業決策
一、引言
采用神經網絡算法的信息處理技術,以其較強的計算性和學習性,現如今已經在各工程領域內得到了廣泛應用。隨著科技不斷的發展和研究的不斷深入,農業系統中采用的傳統分析和管理的方法已經不能滿足農業工程領域快速發展的需要。在農業系統中采用神經網絡技術可在一定程度上可彌補傳統方法的不足,現已成為實現農業現代化的一個重要途徑。神經網絡現已在農業生產的各個環節得到廣泛的應用,從作物營養控制、作物疾病診斷、產量預測到產品分級,顯示了巨大的潛力,并正以很快的速度與生產實際相結合。目前應用比較多的BP神經網絡,可通過學習以任意精度逼近任何連續映射,在農業生產與科研中展示出了廣闊的應用前景。
BP人工神經網絡方法。人工神經網絡是對生物神經網絡的簡化和模擬的一種信息處理系統,具有很強的信息存貯能力和計算能力,屬于一種非經典的數值算法。通常可分為前向神經網絡、反饋神經網絡和自組織映射神經網絡。BP神經網絡(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經網絡,可通過連續不斷的在相對于誤差函數斜率下降的方向上計算網絡權值以及偏差的變化而逐漸逼近目標值,每一次數字和偏差的變化都與網絡誤差的影響成正比,并以反向傳播的方式傳遞到每一層,從而實現了神經網絡的學習過程。BP人工神經網絡的結構如圖所示,BP神經網絡可分為輸入層、中間層(隱含層)和輸出層,其中輸入和輸出都只有一層,中間層可有一層或多層。同層的網絡結點之間沒有連接。每個網絡結點表示一個神經元,其傳遞函數通常采用Sigmoid型函數。BP神經網絡相當于從輸入到輸出的高度非線性映射,對于樣本輸入和輸出,可以認為存在某一映射函數g,使得y0=g(xi),i=1,2,3,…,m,其中m為樣本數,xi為輸入樣本,yo為輸出結果。
BP神經網絡的一個顯著優點就是其可進行自學習,能夠通過訓練得到預期的效果。其學習過程由正向傳播和反向傳播組成,神經網絡的輸入值經過非線性變換從輸入層經隱含層神經元的逐層處理傳向輸出層,此為正向傳播過程。每一層神經元的狀態將影響到下一層神經元狀態。如果輸出層得到的數值與期望輸出有一定的偏差,則轉入反向傳播過程。神經網絡通過對輸入值和希望的輸出值(教師值)進行比較,根據兩者之間的差的函數來調整神經網絡的各層的連接權值和各個神經元的閾值,最終使誤差函數達到最小。其調整的過程是由后向前進行的,稱為誤差反向傳播BP算法。具體學習過程如下:
(1)隨機給各個權值賦一個初始權值,要求各個權值互不相等,且均為較小的非零數。
(2)輸入樣本集中每一個樣本值,確定相應的網絡實際輸出值。
(3)計算實際的輸出值與相應的樣本集中的相應輸出值的差值。
(4)按極小誤差方式調整權值矩陣。
(5)判斷網絡誤差是否小于訓練前人為設定的一個較小的值,若小于,則跳出運算,此時的結果為神經網絡的最終訓練結果;若大于,則繼續計算。
(6)判斷最大迭代次數是否大于預先設定的數,若小于,返回(2);若大于,則中止運算,其結果為神經網絡的最終訓練結果。
上述的計算過程循環進行,直到完成給定的訓練次數或達到設定的誤差終止值。
二、BP神經網絡在農業工程領域中的應用
1.在農業生產管理與農業決策中的應用
農業生產管理受地域、環境、季節等影響較大,用產生式規則完整描述實際系統,可能會因組合規則過多而無法實現。神經網絡的一個顯著的優點就是其具有較強的自學習、自適應、自組織能力,通過對有代表性的樣本的學習可以掌握學習對象的內在規律,從而可以在一定程度上克服上述信息量大的問題。神經網絡在農業生產管理方面可用于農作物生長過程中對農作物生長需求進行預測,從而通過對養分、水分、溫度、以及PH值的優化控制達到最優的生長狀況。采用神經網絡預測算法的主要思想可描述為:(1)收集一定規模的樣本集,采用BP算法進行訓練,使網絡收斂到預定的精度;(2)將網絡權值矩陣保存到一存儲介質中,例如文本文件或數據庫中;(3)對于待預測數據的輸入部分,從存儲介質中讀出網絡連接權值矩陣,然后通過BP神經網絡的前向傳播算法計算網絡輸出,輸出結果既是預測出來的數值向量。如霍再林等針對油葵不同階段的相對土壤含鹽濃度對其產量的影響有一定的規律的現象,以油葵的6個成長階段的土壤溶液含鹽的相對濃度為輸入樣本,相對產量為輸出樣本,通過比較發現,訓練后的神經網絡能較好預測油葵產量,采用此方法可補充傳統模型的不足,為今后進一步的研究開辟了新路。
在農業決策方面,主要將農業專家面對各種問題時所采取的方法的經驗,作為神經網絡的學習樣本,從而采用神經網絡建立的專家系統將從一定程度上彌補了傳統方法的不足,將農業決策智能化。如何勇、宋海燕針對傳統專家系統自學習能力差的缺點,利用神經網絡可自我訓練的優點,將神經網絡引入專家系統中。將小麥缺素時的田間宏觀表現,葉部、莖部、果實癥狀及引起缺素的原因這五個方面的可信度值作為神經網絡的輸入量,將農業專家診斷的結論作為輸出量,將這些數據作為神經網絡的訓練數據。實際應用表明此系統自動診斷的結果與專家現場診斷的結果基本一致,從而采用該系統能夠取代專家,實現作物的自我診斷,為農業管理方面提供了極大的幫助。如馬成林等針對于傳統施肥決策方法中非線性關系描述不足的問題,基于數據包分析和BP神經網絡,建立了施肥決策模型,應用表明,在有限的范圍內,模型預測結果較為合理,可以反映玉米的需肥特性。劉鋮等人提出采用神經網絡應用在農業生產決策中,以莜麥播種方式決策為例,通過對產生式規則的分析導出神經網絡輸入、輸出單元數,并通過多次試驗確定隱層單元數,用MATLAB方針結果表明,采用神經網絡作為農業生產決策的方法,取得了較好的效果。譚宗琨提出將基于互聯網環境下的神經網絡應用在玉米智能農業專家系統中,根據農作物發育進程分成若干個發育期,分別對各個發育期建立管理模型,依照作物各發育期進程時間間隔,由計算機系統自動選取相應的模型進行決策。應用分析的結果表明采用神經網絡的玉米智能專家系統已初步接近農業生產的實際。
2.在農產品外觀分析和品質評判
農產品的外觀,如形狀、大小、色澤等在生產過程中是不斷變化的,并且受人為和自然等復雜因素的影響較大。農產品的外觀直接影響到農產品的銷售,研究出農作物外觀受人為和自然的影響因素,通過神經網絡進行生產預測,可解決農產品由于不良外觀而造成的損失。如Murase 等針對西紅柿表皮破裂的現象,西紅柿表皮應力的增長與西紅柿果肉靠近表皮部分水分的增加有關,當表皮應力超過最大表皮強度時,將導致表皮破裂。用人工神經網絡系統,預測在環境溫度下的表皮應力,可通過控制環境變量來減少西紅柿表皮破裂所造成的損失。
在農業科研和生產中,農產品的品質評判大多是依賴于對農產品外觀的辨識。例如對果形尺寸和顏色等外觀判別果實的成熟度,作物與雜草的辨別,種子的外觀質量檢測。由于農業環境的復雜性和生物的多樣性,農產品的外觀不具有較確定的規律性和可描述性,單一采用圖像處理技術辨識農產品的外觀時不宜過多采取失真處理和變換,否則則增加圖像處理的復雜性,特征判別也相對困難。人工神經網絡由于其具有自學習、自組織的能力,比較適宜解決農業領域中許多難以用常規數學方法表達的復雜問題,與圖像處理技術相結合后,可根據圖像特征進行選擇性判別。采用此方法可以部分替代人工識別的工作,提高了生產效率,也有利于實現農業現代化。如Liao等將玉米籽粒圖像用34個特征參數作為神經網絡的輸入變量,將輸出的種粒形態分為5類,經過學習的神經網絡對完整籽粒分類的準確率達到93%,破籽粒分類的準確率達91%。
3.蔬菜、果實、谷物等農產品的分級和鑒定
在農業生產中,蔬菜、果實、谷物等農產品的分級和鑒定是通過對農產品外觀的辨識進行的。傳統的農產品外觀的辨識方法費時費力、預測可靠度很低,而且多采用人工操作,評價受到操作者主觀因素的影響,評判的精度難以保證。利用人工神經網絡技術結合圖像處理技術可部分代替以往這些主要依靠人工識別的工作,從而大大提高生產效率,實現農業生產與管理的自動化和智能化。
利用BP神經網絡技術對農產品果形尺寸和顏色等外觀評判,目前國內外已有不少成果用于實際生產中。何東健等以計算機視覺技術進行果實顏色自動分級為目的,研究了用人工神經網絡進行顏色分級的方法。分別用120個著色不同的紅星和紅富士蘋果作為訓練樣本集對網絡進行離線訓練。兩個品種的蘋果先由人工依據標準按著色度分成4級,對每一個品種分別求出7個模式特征值作為BP網絡的輸入,用訓練好的神經網絡進行分級。結果表明紅富士和紅星果實的平均分級一致率分別為94.2%和94.4%。劉禾等用對稱特征、長寬特征、寬度特征、比值特征等一系列特征值來描述果形。采用BP網絡與人工智能相結合,建立果形判別人工神經網絡專家系統。試驗水果品種為富士和國光。試驗表明系統對富士學習率為80%,對非學習樣本的富士蘋果的果形判別推確率為75%,系統對國光學習率為89%,對非學習樣本的國光蘋果果形判別系統的難確率為82%。
三、未來的發展方向
人工神經網絡的信息處理技術現已在農業工程領域內得到了迅速的應用,采用人工神經網絡算法的農業系統能夠從一定程度上改善控制效果,但此技術在農業范圍內還不夠成熟,有待于進一步的研究。今后科研的方向大體上可以從以下幾方面著手:
1.人工神經網絡算法的改進
人工神經網絡算法由于本身具有一定的缺點,從而采用人工神經網絡的算法的信息處理技術在應用過程中具有一定的局限性。在今后的研究中,可以從人工神經網絡方向著手,改進人工神經網絡算法,從而實現其在農業領域內更好的應用。近年來隨著模糊算法、蟻群算法等算法的相繼出現,將神經網絡與其他算法結合在一起已經成為了研究的熱門話題,也是未來算法研究的主要方向之一。
2.應用領域的擴展
人工神經網絡算法在農業工程方面現已得到了迅速的發展,擴展其在農業工程領域的應用范圍是未來的一個主要研究方向。人工神經網絡由于其具有自學習能力,可對農業系統的非線形特性進行較好的描述,采用人工神經網絡可解決傳統方法的不足,從而實現農業現代化。如何將神經網絡較好地引入到農業系統,解決農業工程中的部分問題,已是今后農業科研中的一個方向。
四、結束語
神經網絡作為一種人工智能范疇的計算方法,具有良好的自學習與數學計算的能力,可通過計算機程序進行模擬運算,現已廣泛用于模式識別、管理決策等方面。隨著計算機硬件和軟件的不斷發展與農業工程方面的研究的不斷深入,神經網絡將在農業管理、農業決策、農作物外觀分類、品質評判等方面充分發揮其自學習能力強,計算能力強的優勢,通過對樣本數據的學習,神經網絡可較好地解決農作物生長過程中的作物分類、預測等非線形的問題。在農業工程領域內,神經網絡擁有廣闊的科研前景。
參考文獻:
[1]余英林李海洲:神經網絡與信號分析[M]. 廣州: 華南理工大學出版社,1996:45
[2]霍再林史海濱孔東等: 基于人工神經網絡的作物水―鹽響應初步研究[J].內蒙古農業大學學報,2003,24(3):66~70
[3]何勇宋海燕:基于神經網絡的作物營養診斷專家系統[J]. 農業工程學報,2005,21(1):110~113
[4]馬成林吳才聰張書慧等:基與數據包絡分析和人工神經網絡的變量施肥決策方法研究[J].農業工程學報,2006,20(2):152~155
[5]劉鋮楊盤洪: 莜麥播種方式決策的BP神經網絡模型[J]. 太原理工大學學報,2006,37(5):119~121
[6]譚宗琨: BP人工神經網絡在玉米智能農業專家系統中的應用[J].農業網絡信息,2004(10):9~1
[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92~3579
神經網絡學習規則范文6
摘要:旅游需求的預測預報研究一直是旅游學研究的一個重要課題。本文在對到訪澳門地區中國內地游客量分析的基礎上,運用人工神經網絡(ANN)的理論和方法,構建了ANN模型分析中的3層BP模型,以澳門近10年(1996-20__)入境來訪的中國內地旅游人數為例進行模型驗證,模擬結果表明,BP神經網絡預測的結果能夠高程度的吻合原始數據,在旅游市場預測中,BP神經網絡預測是一種有效的預測方法。一.問題的提出與分析近年來,對澳門地區的旅游業來說,中國內地旅客是旅游收入的主要來源。目前旅游業已成為澳門地區經濟發展特別是第二產業發展的支柱。建立科學的可操作的旅游預測模型是實現澳門地區旅游業持續健康穩定發展的理論基石和前提。由于影響某地旅游人數的因素各異,還不存在普遍適用的神經網絡模型?;诖?,本文擬用3層BP神經網絡模型來仿真模擬分析和預測澳門地區旅游需求,以此為旅游需求預測提供一種新的方法。二.模型的假設與符號說明1.基本假設1)交通在旅游中通常不是重要的,為了研究的方便(主要是無法獲得交通數據),把交通這個影響忽略。2)假設澳門的接待能力都滿足需求。3)在本例旅游需求預測模型中,我們考慮的主要因素有:客源地的人口,客源地的總收入,客源地的消費水平,旅游目的地的生活水平。4)為了研究的方便,假定以上四因子之間相互獨立,本例旅游需求即為上述四因子的函數,即y=f(GDI,POP,GDE,M-GP)。就用這四個因素作為人工神經網絡模型輸入層的神經元。2.符號說明T澳門內地游客量GDI中國內地國民總收入POP中國內地人口總數GDE中國內地國民消費水平M-GP澳門生產總值三.模型的建立與求解1.人工神經網絡模型理論原理
人工神經網絡(ArtificialNeuralNetwork)是由大量的、簡單元件(神經元)廣泛相互聯結而成的非線性的、動態的復雜網絡信息處理系統,它是在現代神經學研究成果基礎上提出的,能模擬人腦的若干基本功能[1]。它具有并行分布的信息處理結構,可以通過“自學習”或“訓練”的方式完成某一特定的工作。它可以從積累的工作案例中學習知識,盡可能多地把各種定性或定量的因素作為變量加以輸入,從而建立各種影響因素與結論之間的高度非線性映射,采用自適應模式識別方法來完成預測工作[2]。人工神經網絡模型尤其是對處理內部規律不甚了解、不能用一組規則或方程進行描述的復雜的、開放的非線性系統顯得較為優越。人工神經網絡模型一般由處理單元、激活狀態、單元輸出、連接模式、激活規則、學習規則等6個部分組成。一個多層神經網絡中包含有很多個信息處理單元,分布于不同的層次中。根據每項輸入和相應的權重獲取一個綜合信號,當信號超過閾值則激活神經元而產生輸出。各類影響因素和最終輸出結果之間可以假定存在一種映射,即輸出結果=F(影響因素)。為了尋求最佳的映射關系F,將訓練樣本集合和輸入、輸出轉化為一種非線性關系,通過對簡單非線性函數的復合,從而建立一個高度的非線性映射關系F,最終實現輸出值的最優逼近[3]。在人工神經網絡的實際應用中,80~90的人工神經網絡是采用前饋反向傳播網絡(back-propagation-network,簡稱BP網絡)或它的變化形式。BP神經網絡(如圖一)是一種單項傳播的多層前向神經網絡,分為輸入層、隱含層和輸出層,層與層之間采用全連接方式,同一層單元之間不存在相互連接。它是前向網絡的核心部分,體現了人工神經網絡最精華的部分[4]。標準的BP網絡是根據W-H學習規則,采用梯度下降算法,對非線性可微函數進行權值訓練的多層網絡。圖一:BP神經網絡的每一層的權值通過學習來調節,其基本處理單元為非線性輸入-輸出關系,選用S型作用函數:其中:xj為該神經元第i個輸入;wij為前一層第i個神經元至該神經元j的連接權值,i=0時的權值為閾值。其計算步驟如下:(1)給定一組隨機的權值和閾值初始值及步長系數η與勢態因子α;(2)取學習樣本數據,根據學習樣本、權值及閥值計算輸出,并與學習期望輸出比較,當誤差滿足要求時結束訓練,否則將誤差向后逐層傳播,并修正各層連接權值,調整公式為:其中:k取j結點所在層的前一層所有結點。5)澳門內地旅客人數神經網絡模型的建立(一)BP網絡設計網絡設計是一個綜合性問題,它應滿足多種不同要求,例如,希望所涉及的網絡有較好的推理能力,易于硬件實現,訓練速度快等,其中有較好的推理能力是最主要的。一般來說,推廣能力決定于3個主要因素,即問題本身的復雜程度、網絡結構以及樣本量大小。在一般情況下,旅游需求預測研究中樣本的數量是一定的,因此可歸結為在樣本量一定的情況下,如何選擇網絡規模的問題。在進行BP網絡預測模型設計中,我們主要考慮以下因素:網絡的層數、每層中的神經元個數、初始值的選擇、學習速率和期望誤差。i)網絡的層數已證明:具有偏差和至少一個S型隱含層加上一個線性輸出層的網絡,能夠逼近任何有理函數。所以,本文選擇一個3層的BP網絡。ii)每層中神經元的個數輸入層和輸出層神經元的個數根據解決具體問題的復雜程度而定。為了提高網絡訓練的精度,可以通過采用一個隱含層,再加上1到2個神經元以加快誤差的下降速度即可。因此,本文輸入層神經元個數選擇為4個,隱含層神經元個數分別選擇了9、12、15個,輸出層神經元個數選擇為1個。iii)初始值的選擇由于人工神經網絡是一個非線性系統,初始值的選擇對于網絡學習是否達到局部最小、是否能夠收斂以及訓練時間的長短都有較大影響。在初始值的選擇上一般是使經過初始值加權后的每個神經元的輸出值都接近零,這樣可以保證每一個神經元的連接權值都能夠在它們的S型激活函數變化最大處進行調解。所以,初始值一般選擇在(-1,1)之間的隨機數。本文的初始值為默認值。iv)學習速率對于任何一個網絡都對應一個合適的學習速率。學習速率決定每一次循環訓練中所產生的權值的變化量。大的學習速率可以導致網絡的不穩定,但是小的學習速率又會導致訓練時間延長,收斂速度較慢,不能保證網絡的誤差能最終趨于最小。綜合上述考慮,在學習速率的選擇上傾向于選擇較小的學習速率以保證網絡的穩定性,本文選擇的學習速率為0.01。v)期望誤差值期望誤差值的確定也是通過網絡對不同誤差值分別進行訓練比較后確定的最適合值。所謂的最適合值是相對于所需要的隱含層的節點數來確定的,一個較小的誤差值的獲得需要增加隱含層的節點以及訓練時間。本文經過不斷測試,選擇0.0001為期望誤差值。(二)1.網絡訓練模式的選擇訓練網絡有兩類模式:逐變模式和批變模式。在逐變模式中,每一個輸入被作用于網絡后,權重和偏置量被更新一次。在批變模式中,所有的輸入被應用于網絡后,權重和偏置量才被更新 一次。使用批變模式不需要為每一層的權重和偏置量設定訓練函數,而只需為整個網絡制定一個訓練函數,使用起來相對方便,因此,本文在進行網絡訓練時采用批變模式。表格一:年度
澳門的內地游客量(T)(千人)中國內地國民總收入(GDI)(億元)中國內地人口數(POP)(萬人)中國內地居民消費水平(GDE)(元)澳門生產總值(M-GP)(億美元)1996604.270142.5122389278966.31997529.877653.1123626300266.71998816.883024.3124761315961.919991645.288189.0125786334659.220__2274.798000.5126743363261.020__3005.7108068.2127627386961.920__4240.4119095.7128453410668.220__5742.0135174.0129227441179.220__9529.7159586.71299884925103.320__10463183956.11307565439115.62.數據和模型的建立神經網絡模型要求數據具有:A、易獲得性B、可靠性C、可測度性。本項研究采用很可靠的官方發表的數據作為分析的數據源(見表1),主要來自于中國統計局網。用3層BP網絡模型對本例旅游需求進行模擬,根據BP網絡的映射原理,對于樣本集合X和輸出Y,可以假設存在一映射F。為了尋求F的最佳映射值,BP網絡模型將樣本集合的輸入、輸出轉化為非線性優化,通過對簡單的非線性函數的復合,建立一個高度的非線性映射關系,實現F值的最優逼近。對于本例旅游需求模型的模擬:其輸入層結點數(4個神經元):中國內地國民總收入(GDI)、中國內地人口總數(POP)、中國內地國民消費水平(GDE)、澳門生產總值(M-GP)。把澳門內地游客量(T)作為輸出結點。從而得出3層前饋反向傳播神經網絡模型。四.模型結果及分析1網絡訓練性能的檢查。不同個數的隱層單元組成的BP網絡訓練曲線如圖1,2,3所示。通過比較發現,中間層神經元個數為9和12時,網絡的收斂速度比較快。2網絡預測性能的考查。在數據列表中選取1996年到20__年的數據作為網絡的測試數據。20__、20__年的(文秘站:)游客量檢驗誤差曲線如圖4。其仿真結果令人滿意,達到預期的效果。圖1圖2圖3圖4五.模型的應用與評價(優缺點與改進)從上面的分析可以看出,3層BP神經網絡模型的仿真模擬效果是鄰人滿意的。可以看出,人工神經網絡的擬合精度比較高,主要是基于人工神經網絡抗干擾能力強,穩定性好,能自動準確地找出各種輸入和輸出之間的線性或非線性關系,具有較強的模擬適應能力等特點。在本例對于澳門的內地游客量的旅游預測中BP神經網絡模型是一種有效的預測方法。這一研究方法為旅游學的定量預測研究提供了一種新的思路,也為工程實踐問題中的一些研究工作提供了一種非常好的指導方法。雖然BP網絡得到了廣泛應用,但其自身也存在一些缺陷和不足,主要包括幾個方面的問題。首先,由于學習速率是固定的,因此,網絡的收斂速度慢,需要較強的訓練時間。再次,網絡隱含層的層數和單元數的選擇尚無理論上的指導,一般是根據應驗或者通過反復試驗確定的。因此,網絡往往存在很大的冗余性,在一定上也增加了網絡學習的負擔。六.原題附帶問題簡析通過對本例旅游需求模型的分析,我們認為在利用數學建模的方法對旅游需求進行預測預報時,對于數據的采集和整理工作需要認真做好。對于數據的分析有助于我們尋求變量間的關系,以形成初步的想法。如何獲得數據以及如何獲得準確的數據對于我們研究實際問題具有相當重大的意義。收集數據并非多多益善,而是要弄清究竟需要哪些數據,剔除不必要的數據,從而減少冗余的工作。同時,需要什么形式的數據也是我們應該思考的一個問題,這與建立模型的目的和所選擇的模型的特點有關。[參考文獻][1]王士同,等.問題求解的人工智能:神經網絡方法[M].北京:氣象出版社,1995.[2]HillT,MarquezO’connorM,RemusW.ArtificialNeuralNetworkMedelsfor
ForecastingandDecisionMaking[J].InternationalJournalofForecasting,1993,