訓練神經網絡的方法精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的訓練神經網絡的方法主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：訓練神經網絡的方法范文

關鍵詞： 神經網絡；工程造價；Vague集貼近度

0 引言

對建筑工程造價進行科學有效的測算和控制，會使工程造價的組成比較合理，進而節(jié)約工程開銷成本。現在，經典的建筑工程造價測算方法主要有下面幾種：定額法、類比工程法、回歸分析法和模糊數學法[1]。其中，定額法必須對定額成本、定額差異和定額變動差異進行單獨核算，任務較重，現實中很難實施；類比工程法是通過類比工程的相似性實現工程造價的測算，該方法估算準確度不夠高；回歸分析法的估算準確度同樣不高，該方法將很多重要因素忽略了；模糊數學法是通過模糊數學的思想對工程造價進行估算，該方法的不足主要是特征隸屬度不好準確確定。由于人工神經網絡可以自學并進行推理，本文通過人工神經網絡和Vague集貼近度理論對住宅樓的工程造價進行估算和控制，可以為建筑工程造價估算提供很好的服務。

1 BP神經網絡

BP神經網絡是一種前饋型神經網絡，包含三種層次或者多層次，各種層次之間相互連接，同一層次可以自由結合，BP神經網絡的構成見圖1。所屬模型的神經元數量決定了BP神經網絡的層數，各個層次之間通過相互的權值實現聯(lián)接[2]。

人工神經元（Artificial Neuron）模型：

人工神經元是神經網絡的基本元素，其原理可以用圖2表示。

圖中x1～xn是從其他神經元傳來的輸入信號，wij表示表示從神經元j到神經元i的連接權值，θ表示一個閾值（threshold），或稱為偏置（bias）。則神經元i的輸出與輸入的關系表示為：

BP神經網絡的結構非常簡潔，包括正向傳播和逆向傳播。下面分別對BP神經網絡信息的正向傳播和誤差信息的反向傳播原理進行介紹。

1.1 信息的正向傳播

式（1）中，n為信息的總個數。

1）輸入向量為

多層神經元網絡（BP網絡圖3）。

BP（Back Propagation）神經網絡，即誤差反傳誤差反向傳播算法的學習過程，由信息的正向傳播和誤差的反向傳播兩個過程組成。由圖3可知，BP神經網絡是一個三層的網絡：

輸入層（Input Layer）：輸入層各神經元負責接收來自外界的輸入信息，并傳遞給中間層各神經元；

隱藏層（Hidden Layer）：中間層是內部信息處理層，負責信息變換，根據信息變化能力的需求，中間層可以設計為單隱層或者多隱層結構；最后一個隱層傳遞到輸出層各神經元的信息，經進一步處理后，完成一次學習的正向傳播處理過程；

輸出層（Output Layer）：顧名思義，輸出層向外界輸出信息處理結果。

2 建筑工程造價估算模型

2.1 BP神經網絡訓練 建立BP神經網絡模型，對工程特征向量進行歸一化處理，可以開始神經網絡訓練，目標是使網絡性能函數極小化，實現非線性映射的目的。本文利用Nguyen-Widrow方法[5]對權值和閾值的初值進行確定。Nguyen-Widrow方法具體原理為

上式中，W是數值矩陣，θ是權值矩陣，S、N是節(jié)點的個數。rand（S，N）為s行n列的平均自由分布任意矩陣，I（S，N）為s行n列標準矩陣。

2.2 BP神經網絡訓練調整與測試 BP神經網絡訓練調整與測試連接強度加權值調整方法，具體公式為：

BP算法在按步驟經行的收斂過程中，每一步的學習率都將發(fā)生變化，而不是固定不變。此時BP神經網絡不應用連接強度加權值的調整方法，同時也不使用誤差函數對梯度調整和η調整方法；最終應用相對權重增加量Δwij進行網絡調整與測試，權值wij的修正值Δwij，如下所示：

以上的分析表明，運用BP神經網絡進行建筑工程單方造價估算是可行的，然而該方法對建筑工程項目總造價的估算還不夠精確。當前建筑工程項目需要考慮的影響因素非常多，雖然可以引入大量的特征因素，然而里面有很多因素都非常模糊化；即使可以對特征因素進行具體說明，提高輸入點的數量，這時樣本數據會隨著增加，此時神經網絡將會復雜化，求解效率會降低。所以，本文通過以上運用BP神經網絡對建筑工程項目單方造價的估算，采用Vague集貼近度對BP神經網絡進行改進，對建筑工程總造價進行估算[3]。

2.3 加入Vague集貼近度改進BP神經網絡 文獻[4]采用普通模糊集理論來對工程隸屬度進行確定。本文中建筑工程特征因素隸屬度是指建筑工程特征值隸屬于準備建設的項目特征值的大小程度：

3 實例分析

選取2013年西安市某工程項目數據進行實例分析，工程造價指數以2013年為基準，通過加權平均法求解造價年綜合指數。通過選擇，最后選取了二十個樣本，前面十八個樣本為訓練樣本，剩余的兩個當作檢測樣本。神經網絡訓練數據見表1。

3.1 BP神經網絡訓練 采用BP神經網絡對模型進行構建，對建筑工程特征向量數據處理結束后，可以開展神經網絡訓練。神經網絡訓練基本的訓練公式為

net，tr=train（NET，P，T）

訓練公式中net為最終的網絡，tr為數值統(tǒng)計， P是輸入矩陣，T是輸出矩陣。

3.2 BP神經網絡與Vague集貼近度預測 采用Vague集貼近度的數據，基于BP神經網絡訓練樣本進行預測，通過訓練好的網絡對與本文樣本數據相類似工程項目的單方造價進行預估，求得單方造價均值為1800元/m2。緊接著可以對建筑工程的總造價進行預估，通過對10項樣本進行造價估算預測，采用BP神經網絡和Vague集貼近度相結合的方法進行造價預估，估計誤差在±10%范圍內（見表2），造價估算結果非常準確。

4 結論

本文應用BP神經網絡造價預測和Vague集貼近度理論，從理論和實際應用兩方面對建筑工程造價估算進行了研究。文中的方法能更準確地反應工程造價的不確定性，為建筑工程項目造價估算方法研究提供了一種新的視角和方法。

參考文獻：

[1]史峰.BP神經網絡在工程量清單中快速估價的應用研究[M].北京航空航天大學出版社，2010.4.

[2]張風文.基于MATLAB神經網絡的工程實例分析[J].華東交通大學學報，2010，8（3）：26-33.

[3]郭一斌，王紅革，王翔.基于Vague集貼近度的工程項目投資快速估算方法[J].現代經濟信息，2011，12（2）：50-55.

第2篇：訓練神經網絡的方法范文

關鍵詞：BP人工神經網絡；RBF人工神經網絡；經濟增長預測

中圖分類號：TP183文獻標識碼：A文章編號：1009-3044(2011)10-2345-03

The Study of Forecast of Zhejiang Province's Economic Growth Using BP and RBF Artificial Neural Network

BAI Xue-bing

(Zhengjiang University of Technology, Hangzhou 310014, China)

Abstract: Based on existing studies of economic forecasting methods, the article studies the Zhejiang province'sEconomic Growth Forecastusing BP and RBF Artificial Neural Network.Thedata research shows Artificial Neural Network hasgood precision, but different Artificial Neural Network have different behavior, some have big error. Artificial Neural Network can provide good reference for the making policy of sector of economy.

Key words: BP artificial neural network; RBF artificial neural network; economic growth forecast

1 經濟預測概論

經濟預測是與未來有關的旨在減少不確定性對經濟活動影響的一種經濟分析。它是對將來經濟發(fā)展的科學認識活動。經濟預測不是靠經驗、憑直覺的預言或猜測，而是以科學的理論和方法、可靠的資料、精密的計算及對客觀規(guī)律性的認識所作出的分析和判斷。

2 人工神經網絡經濟預測技術

由于人工神經網絡具有大規(guī)模并行處理、容錯性、自適應和聯(lián)想功能強等特點，作為非線性智能預測方法的人工神經網絡預測方法成為國內外經濟預測研究的一個熱點。

人工神經網絡不斷應用于證券預測分析、企業(yè)經濟戰(zhàn)略預測、經濟理論創(chuàng)新、經濟預測預警等研究中，都得到了一定的效果。

3 BP與RBF神經網絡預測模型分析

3.1 經濟增長神經網絡設計模型

3.1.1 宏觀經濟預測指標

經濟增長率是判斷宏觀經濟運行狀況的一個主要指標。經濟增長率指的就是不變價國內生產總值增長率(簡稱國內生產總值增長率。因此，判斷宏觀經濟運行狀況要落腳到對國內生產總值的核算上。在本文中我們采用GDP的增長率來作為預測目標。

3.1.2 神經網絡設計模型經濟模型的設計

本論文采用兩種模型對經濟進行預測。

1) 第一種 GDP預測模型：第n年的一、二、三產業(yè)的增長率作為輸入，第n+1年GDP增長率作為輸出。

2) 第二種預測模型。第n-3、n-2、n-1、n年的經濟增長率作為輸入，第n-1、n、n+1年經濟增長率作為輸出。

這里還要說明兩個問題。第一我們用到的數據來自2009年 浙江省統(tǒng)計年鑒，它的網址是 。

3.1.3 神經網絡模型結構

設計經濟預測神經網絡模型前，首先需要確定神經網絡的結構，主要包括如下內容：網絡的層數，每層的神經元數和激活函數等。采用的神經網絡結構如圖1。

3.2 使用BP在以浙江省過去的每年的GDP增長指數的基礎上進行BP神經網絡預測

3.2.1 學習樣本的選擇

本次實驗使用Matlab 軟件采用3層BP神經網絡建立浙江省經濟發(fā)展的的預測模型。輸入層節(jié)點數為n=4，輸出層節(jié)點m=3.而隱含層節(jié)點數的選擇是人工神經網絡最為關鍵的一步，它直接影響網絡隊復雜問題的映射能力，實驗中我們采用試湊法來確定最佳節(jié)點數?，F設置較少的隱節(jié)點訓練網絡，然后逐漸增加網絡節(jié)點數，用同一樣本進行訓練，從中確定網絡誤差最小時對應的節(jié)點數，隱層、輸出層神經元的轉移函數，隱含層和輸出層轉移函數分別采用tansig和logsig，訓練函數選擇traindx。

3.2.2 數值歸一化處理

對于浙江省經濟增長序列Q=（Q1，Q2…，Qt）。設序列的最大值、最小值分別為Qmax、Qmin。對時間序列的值作歸一化處理。

令xi=(Qi-Qmin)/(Qmax-Qmin)

3.2.3 樣本數據訓練和數據預測

采用1978～2003年的數據樣本在MatLab7.0軟件中對輸入網絡進行訓練.隱層節(jié)點數先從4開始訓練，逐步增加到12時，當數值 為10時預測結果較好。允許誤差為0.001，訓練3217次達到訓練要求。

采用1978～2004年的數據作為第一組訓練數據，2005-年數據作為仿真預測數據，通過神經網絡預測GDP。采用1978～2005年的數據作為第一組訓練數據，2006年數據作為仿真預測數據，通過神經網絡預測GDP， 采用1978～2006年的數據作為第一組訓練數據，2007-年數據作為仿真預測數據，通過神經網絡預測GDP，依次類推，產生結果如表1所示。

3.2.4 數據分析

從2000-2004的擬合數據來看，相對誤差比較小，BP網絡對整個模擬數據的擬合程度還是比較好的，但是從2005-2009的預測數據來看預測數據的誤差還是比較大的，這也說明對未來的預測是很難的。各種不確定的因素在起作用。

3.3 三種產業(yè)增加率BP確定法預測GDP

3.3.1 樣本數據訓練

將1978-2004年數據對輸入網絡進行訓練。然后把需要預測的樣本2000-2004年的樣本數據輸入網絡，得到結果，然后用反歸一化公式獲得結果。在Matlab7.0中調用newff函數，建立一個3個輸入節(jié)點、18個隱含層節(jié)點、一個輸出結點的BP神經網絡，隱含層和輸出層轉移函數分別采用tansig和logsig，訓練函數選擇traindx，允許誤差為0.001，訓練1748次達到訓練要求。

采用1978～2004年的數據作為第一組訓練數據，2005年數據作為仿真預測數據，通過神經網絡預測GDP。采用1978～2005年的數據作為第一組訓練數據，2006年數據作為仿真預測數據，通過神經網絡預測GDP， 采用1978～2006年的數據作為第一組訓練數據，2007年數據作為仿真預測數據，通過神經網絡預測GDP，依次類推，產生結果如表2所示。

3.3.2 數據分析

從預測數據來看預測數據的誤差盡管比上一種類型的數據要好，但是誤差還是比較大的，但是考慮到預測的能力 ，數據還是可以接受的 。但是數據誤差還是比較大的，這也說明對未來的預測是很難的，不是十分確定的，有些文章的數據精確度挺高的，但我想應該是不太可能的，也許有故意湊數據的嫌疑。如果預測一年的話，可以通過調整參數獲得近似結果，但是很多年就很困難。

3.4 使用RBF在以浙江省過去的每年的GDP增長指數的基礎上進行RBF神經網絡預測.

3.4.1 RBF 神經網絡模型設計

該種方式與第一種BP神經網絡預測方法類似， 以以前四年的GDP增長率作為輸入，后兩年加以預測的年作為輸出。輸入層節(jié)點數為n=4，輸出層節(jié)點m=3.而隱含層節(jié)點數的選擇是采用matlab的newrbe自動來設置.然后用同一樣本進行訓練。

3.4.2 樣本數據訓練和數據預測

1) 采用1978～2004年的數據作為第一組訓練數據，2005年數據作為仿真預測數據，通過神經網絡預測GDP。采用1978～2005年的數據作為第一組訓練數據，2006年數據作為仿真預測數據，通過神經網絡預測GDP，依次類推，產生結果如表3所示。這兒采用newrbe函數，spread參數為0.25。這是因為通過測試采用0.25獲得的數據結果較好。

3.4.3 數據分析

從實驗數據看，RBF對整個模擬數據的曲線擬合程度是相當完美，但是從2005-2009的預測數據來看預測數據的誤差還是比較大的，這也說明RBF神經網絡盡管曲線的擬合程度比BP網絡好 ，但是從預測的能力來講，并不比BP網絡好，反而通過試驗顯得更差一些。這仍然表明對未來的預測是很難的。各種不確定的因素在起作用。神經網絡的預測也只能作為參考之用，不能對各種的突發(fā)事件進行預測。

3.5 使用RBF三種產業(yè)增加率確定法預測GDP

3.5.1 RBF神經網絡模型設計

該種方式與對應的BP神經網絡預測方法類似， 以一年的三種產業(yè)增長率作為輸入，后一年的GDP增長率預測作為輸出。本次實驗采用RBF神經網絡建立浙江省經濟發(fā)展的的預測模型。輸入層節(jié)點數為n=3，輸出層節(jié)點m=1.而隱含層節(jié)點數的選擇采用RBF自動的newrbe方法實現。

3.5.2 數據處理

1) 采用1978～2004年的數據作為第一組訓練數據，2005年數據作為仿真預測數據，通過神經網絡預測GDP。采用1978～2005年的數據作為第一組訓練數據，2006年數據作為仿真預測數據，通過神經網絡預測GDP， 采用1978～2006年的數據作為第一組訓練數據，2007-年數據作為仿真預測數據，通過神經網絡預測GDP，依次類推，產生結果如表4所示。

3.5.3 數據分析

但是從2005-2009的預測數據來看預測數據的誤差比上一組得RBF的誤差還要大，幾乎有點難以接受。這也說明RBF神經網絡盡管曲線的擬合程度比BP網絡好，但是從預測的能力來講，并不比BP網絡好，反而我通過試驗更差一些。2009年的數據變得極為不合理，從而導致數據的偏差性很高。，從測試數據可看出，但是由于經濟運行的復雜性，以及不可預知性，特別是由于2008的美國金融導致的世界范圍的經濟危機，導致經濟數據的不可靠性大大增加，歷史數據變得用處不太大。2009年的數據變得極為不合理，從而導致數據的偏差性很高。

4 總結與歸納

從我們的試驗來看，各種神經網絡的確可以對未來進行預測，但是精度多高卻有一些問題，從我們的試驗來看BP神經網絡的數據要比RBF神經網絡的數據要好，但是也只在一定范圍內 ，四種檢測方法，只有一種數據還略微能夠接受。神經網絡預測仍然需要不斷的完善。

參考文獻：

[1] 張德豐.Matlab神經網絡應用設計[M].北京:機械工業(yè)出版社,2009.

[2] 高雋.人工神經網絡原理及仿真實例[M].2版.北京:機械工業(yè)出版社,2007.

[3] 韓力群.人工神經網絡理論、設計與應用[M].2版.北京:化學工業(yè)出版社,2007.

第3篇：訓練神經網絡的方法范文

[關鍵詞] 光伏系統(tǒng)；發(fā)電量預測；模糊神經網絡

doi ： 10 . 3969 / j . issn . 1673 - 0194 . 2017. 13. 077

[中圖分類號] TM615 [文獻標識碼] A [文章編號] 1673 - 0194（2017）13- 0180- 04

0 引 言

目前光伏發(fā)電量預測的方法主要有神經網絡法、灰色預測法、多元線性分析法這三種方法，通過對這三種預測模型進行比較，發(fā)現多元線性回歸和灰色理論雖然方法較為簡單，但是預測誤差也較大，而神經網絡法預測則可以比較準確但是預測過程較為繁雜。在基于神經網絡的預測中，多是以傳統(tǒng)的BP神經網絡為基礎模型，在此基礎上采用一些新的方法對BP網絡加以改進。例如在BP網絡的學習過程中采用Fletcher-Reeves共軛梯度算法，可以提高學習率，部分地簡化了預測過程，但輸入量過多，且預測的局限性較大。

在對比了眾多方法的優(yōu)缺點之后，發(fā)現BP神經網絡普遍存在中間隱層數難以確定、輸入數據量過多，且學習時間過長等劣勢。因此本文提出了一種基于模糊神經網絡的預測模型，所選取的輸入量是和當天的發(fā)電量相關程度比較大的當天的平均氣溫以及當天的總日照量，模糊神經網絡的結構是由大量的先驗知識而設計出來的。在不影響預測精度的情況下，為了降低整個網絡的復雜程度，對整個網絡的模糊化層中的隸屬度函數及去模糊化層的輸出函數都做了適當的變化，解決了傳統(tǒng)神經網絡收斂速度慢的問題，從而使整個神經網絡結構簡潔，訓練速度較快，且預測精度較高。

1 模糊神經網絡

模糊神經網絡是在神經網絡和模糊系統(tǒng)的基礎上發(fā)展起來的，在模糊神經網絡出現之前，神經網絡與模糊系統(tǒng)都已有了多年的研究歷史，都有著較完備的理論基礎。

模糊神經網絡是一種將模糊邏輯推理的知識性結構和神經網絡的自學習能力結合起來的一種局部逼近網絡，融合彌補了神經網絡在數據處理方面的不足和模糊邏輯在學習方面的缺陷，是一個集語言計算、邏輯推理、分布式處理和非線性動力學過程為一身的系統(tǒng)。因此，它具有處理不確定信息的模糊推理能力和依據樣本數據進行學習的能力。模糊神經網絡主要利用神經網絡結構來實現模糊推理，從而使神經網絡的權值具有在模糊邏輯中推理參數的物理意義。

常見的模糊神經網絡有基于Mamdani推理的和基于Takgai-Sugeno推理的這兩種模糊神經網絡。基于Mamdani推理的模糊神經網絡多用于模糊邏輯控制器、模糊邏輯決策系統(tǒng)、模糊邏輯辨識系統(tǒng)等方面；基于Takgai-Sugeno推理的模糊神經網絡則是一種非線性模型，宜于表達復雜系統(tǒng)的動態(tài)特性。光伏系統(tǒng)的發(fā)電量由于受日照量、溫度、濕度、材料轉換率等多方面因素的影響，因此，光伏系統(tǒng)的輸出是一個不穩(wěn)定的非線性變化的動態(tài)工程，所以本文所采用的就是基于Takgai-Sugeno推理的模糊神經網絡（簡稱TS模糊神經網絡）。

2 TS模糊神經網絡

2.1 TS模糊邏輯

在TS模糊邏輯系統(tǒng)中，模糊規(guī)則有著如下的特殊形式：

R（1）：if x1 is F1l，…，if xnis Fnl then

y l=P0l+P1lx1+…+Pnlxn

3 預測模型的建立

3.1 輸入量的確定

光伏電池之所以能發(fā)電，是由于當陽光照射到半導體材料的太陽能電池板上時，光能被吸收在太陽能電池內，并且產生電子（-）和空穴（+），而負價的電子多向n型聚集，正價的空穴多向p型聚集，因此，將太陽能電池的正面和背面接上電極與燈泡等負荷連接，就能產生流。因此，日照量是影響光伏發(fā)電發(fā)電量的重要因素之一，所以日照量應作為輸入量之一。此外光伏發(fā)電的發(fā)電量還受溫度、濕度、安裝角度、材料轉換率等眾多因素的影響，在這眾多因素中，溫度對光伏發(fā)電量的影響是較大的，因此將溫度作為另一個輸入量輸入到預測模型中。

本文的輸入量為日照量與溫度組成的一個2×1的列向量，因為本文所預測的是晴天一整日的發(fā)電量（單位kW?h/日），因此，日照量取一整日的日照量（單位kW?h/日），溫度取一整日的平均溫度（單位℃）。若輸入向量用x表示，一整天的日照量用h表示，溫度用t表示，則輸入量可表示為下面的形式：

x=[h，t]T

3.2 TS型模糊神經網絡結構與初始參數的確定

本文是針對全年晴天的當天發(fā)電量做出預測的，所以按季節(jié)劃分將全年的數據劃分成了春、夏、冬，由于秋天的日照量與溫度和春天的接近，所以在本文中并沒有單獨列出秋季，而是只按春、夏、冬三季的數據來建模預測。

由已有的先驗知識，可將數據按照春、夏、冬三季進行劃分，所以模糊神經網絡的規(guī)則層的隱層節(jié)點數也就為三，由于規(guī)則層已經確定，故可以知道模糊化層與去模糊化層的隱層節(jié)點數均為三個，因此可知本文的模糊神經網絡的預測模型結構如圖2所示。

3.3 TS型模糊神經網絡學習算法

設有輸入、輸出樣本為{（xl，dl），l=1，2，…，L}，在這里L表示訓練樣本的數量，為輸入向量，在本文中表示由當天日照量與當天平均溫度組成的一個2×1的列向量。將網絡誤差E設為：

E=■（yl-dl）2-||y-d|22

其中，y=[y1，y2，…，yL]T，表示神經網絡的實際輸出；d=[d1，d2，…dL]T，表示神經網絡的期望輸出；||.|2表示向量的2范數。

本文中，在不影響結果的前提下，為了降低神經網絡學習算法的復雜度，故將隸屬度函數變?yōu)椋?/p>

ωij=exp-■（bij（xil-cij））2

將神經網絡的輸出函數變?yōu)椋?/p>

yl =■ωij=（p0j+p1jx1l+…+pnjxnl）

因為本文是在MATLAB中進行編程預測，所以將各種數據都表示成矩陣的形式，通過對矩陣的處理，使模糊神經網絡的理解難度和操作難度都大大降低，因此，規(guī)定X=[x1，x2，…，xL]表示輸入樣本組成的n×L維矩陣；Ω=[ω1，ω2，…，ωL]表示輸入樣本X的隸屬度函數值ωl j所組成的m×L維矩陣；P=[p0，p1，…，pn]表示線性系數pi j所組成的m×（n+1）維矩陣；C=[c1，c2，…，cm]表示中心ci j所組成的n×m維矩陣；B=[b1，b2，…，bm]表示中心寬度bi j所組成的n×m維矩陣。

在訓練神經網絡時，首先計算隸屬度函數值ωl j所組成的矩陣Ω=[ω1，ω2，…，ωL]，在此基礎上計算神經網絡的輸出y及相應的誤差E；然后計算誤差E對系數矩陣P，B，C的偏導數，根據梯度下降法更新P，B，C；最后利用P，B，C來更新Ω，E等參數。如果未達到退出條件，則繼續(xù)迭代，達到了，則退出整個迭代過程，最終，就可以完成整個模糊神經網絡的訓練。在MATLAB中矩陣P和B的初始值可以由normrnd函數隨機生成，而矩陣C則可以由kmeans函數得到相應的初始聚類中心，通過訓練數據的學習過程，得到一個符合要求的模糊神經網絡。

4 預測模型的訓練與結果分析

為了使模糊神經網絡的訓練有較高的精度，需要大量的數據對模型進行評估訓練，本次模擬采用了120組數據進行預測，其中90組作為訓練樣本，30組作為測試樣本，所用的數據均是隨機模擬5kW光伏逆變器日發(fā)電量數據， 在訓練過程中，共取了90組數據來訓練，因此L=90；而規(guī)則數共有3條，因此這里m=3；而輸入的是有溫度與日照量組成的兩行一列的列向量，因此n=2；為了使訓練結果更加精確化，這里O置的最大迭代步數為1 000，迭代步長為0.001，圖3是訓練預測結果與實際結果的折線圖。

在圖中，實線表示預測輸出，用“+”表示實際輸出，而用虛線表示實際輸出與預測輸出之間的差值，從圖中可以明顯看出訓練好的模糊神經網絡符合要求。隨后，再將用于測試的數據帶入已訓練好的模糊神經網絡中，結果如圖4所示。

圖4是用于測試的數據的實際輸出與預測輸出的比較，“+”表示實際輸出，實線表示預測輸出，虛線表示實際輸出與預測輸出的差值。從預測的結果來看，相較于傳統(tǒng)的預測方法來說，本文所提出的模糊神經網絡的預測方法，不論是在預測精度上還是在訓練收斂速度上，都有一定程度的提高，雖說本文的原始數據并非實測數據，但是本文所用的數據皆是參考了大量資料之后擬合出的數據，所以有實際參考價值。

5 結 語

為了提高光伏并網系統(tǒng)的穩(wěn)定性與安全性，本文提出了一種基于模糊神經網絡的電量預測模型。根據光伏系統(tǒng)的發(fā)電原理與大量的研究資料，確定了以每一天的日照量與平均溫度為整個系統(tǒng)的輸入量，來對這一整天的光伏系統(tǒng)的發(fā)電量做出預測，并且根據已有的先驗知識與相關理論，確定了本文所用的模糊神經網絡的結構。再通過擬合的符合實際的數據來訓練整個模型，最后通過一組測試數據來測試本預測模型是否達到要求。實驗結果表明，本模型能較為準確地預測出光伏發(fā)電系統(tǒng)一整天的發(fā)電量，具有一定的工程應用價值。

主要參考文獻

第4篇：訓練神經網絡的方法范文

［關鍵詞］BP神經網絡農業(yè)工程農業(yè)管理農業(yè)決策

一、引言

采用神經網絡算法的信息處理技術，以其較強的計算性和學習性，現如今已經在各工程領域內得到了廣泛應用。隨著科技不斷的發(fā)展和研究的不斷深入，農業(yè)系統(tǒng)中采用的傳統(tǒng)分析和管理的方法已經不能滿足農業(yè)工程領域快速發(fā)展的需要。在農業(yè)系統(tǒng)中采用神經網絡技術可在一定程度上可彌補傳統(tǒng)方法的不足，現已成為實現農業(yè)現代化的一個重要途徑。神經網絡現已在農業(yè)生產的各個環(huán)節(jié)得到廣泛的應用，從作物營養(yǎng)控制、作物疾病診斷、產量預測到產品分級，顯示了巨大的潛力，并正以很快的速度與生產實際相結合。目前應用比較多的BP神經網絡，可通過學習以任意精度逼近任何連續(xù)映射，在農業(yè)生產與科研中展示出了廣闊的應用前景。

BP人工神經網絡方法。人工神經網絡是對生物神經網絡的簡化和模擬的一種信息處理系統(tǒng)，具有很強的信息存貯能力和計算能力，屬于一種非經典的數值算法。通常可分為前向神經網絡、反饋神經網絡和自組織映射神經網絡。BP神經網絡(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經網絡，可通過連續(xù)不斷的在相對于誤差函數斜率下降的方向上計算網絡權值以及偏差的變化而逐漸逼近目標值，每一次數字和偏差的變化都與網絡誤差的影響成正比，并以反向傳播的方式傳遞到每一層，從而實現了神經網絡的學習過程。BP人工神經網絡的結構如圖所示，BP神經網絡可分為輸入層、中間層(隱含層)和輸出層，其中輸入和輸出都只有一層，中間層可有一層或多層。同層的網絡結點之間沒有連接。每個網絡結點表示一個神經元，其傳遞函數通常采用Sigmoid型函數。BP神經網絡相當于從輸入到輸出的高度非線性映射，對于樣本輸入和輸出，可以認為存在某一映射函數g，使得y0=g(xi)，i＝1，2，3，…，m，其中m為樣本數，xi為輸入樣本，yo為輸出結果。

BP神經網絡的一個顯著優(yōu)點就是其可進行自學習，能夠通過訓練得到預期的效果。其學習過程由正向傳播和反向傳播組成，神經網絡的輸入值經過非線性變換從輸入層經隱含層神經元的逐層處理傳向輸出層，此為正向傳播過程。每一層神經元的狀態(tài)將影響到下一層神經元狀態(tài)。如果輸出層得到的數值與期望輸出有一定的偏差，則轉入反向傳播過程。神經網絡通過對輸入值和希望的輸出值(教師值)進行比較，根據兩者之間的差的函數來調整神經網絡的各層的連接權值和各個神經元的閾值，最終使誤差函數達到最小。其調整的過程是由后向前進行的，稱為誤差反向傳播BP算法。具體學習過程如下：

（1)隨機給各個權值賦一個初始權值，要求各個權值互不相等，且均為較小的非零數。

（2)輸入樣本集中每一個樣本值，確定相應的網絡實際輸出值。

（3)計算實際的輸出值與相應的樣本集中的相應輸出值的差值。

（4)按極小誤差方式調整權值矩陣。

（5)判斷網絡誤差是否小于訓練前人為設定的一個較小的值，若小于，則跳出運算，此時的結果為神經網絡的最終訓練結果；若大于，則繼續(xù)計算。

（6）判斷最大迭代次數是否大于預先設定的數，若小于，返回（2）;若大于，則中止運算，其結果為神經網絡的最終訓練結果。

上述的計算過程循環(huán)進行，直到完成給定的訓練次數或達到設定的誤差終止值。

二、BP神經網絡在農業(yè)工程領域中的應用

1.在農業(yè)生產管理與農業(yè)決策中的應用

農業(yè)生產管理受地域、環(huán)境、季節(jié)等影響較大，用產生式規(guī)則完整描述實際系統(tǒng)，可能會因組合規(guī)則過多而無法實現。神經網絡的一個顯著的優(yōu)點就是其具有較強的自學習、自適應、自組織能力，通過對有代表性的樣本的學習可以掌握學習對象的內在規(guī)律，從而可以在一定程度上克服上述信息量大的問題。神經網絡在農業(yè)生產管理方面可用于農作物生長過程中對農作物生長需求進行預測，從而通過對養(yǎng)分、水分、溫度、以及PH值的優(yōu)化控制達到最優(yōu)的生長狀況。采用神經網絡預測算法的主要思想可描述為：（1）收集一定規(guī)模的樣本集，采用BP算法進行訓練，使網絡收斂到預定的精度；（2）將網絡權值矩陣保存到一存儲介質中，例如文本文件或數據庫中；（3）對于待預測數據的輸入部分，從存儲介質中讀出網絡連接權值矩陣，然后通過BP神經網絡的前向傳播算法計算網絡輸出，輸出結果既是預測出來的數值向量。如霍再林等針對油葵不同階段的相對土壤含鹽濃度對其產量的影響有一定的規(guī)律的現象，以油葵的6個成長階段的土壤溶液含鹽的相對濃度為輸入樣本，相對產量為輸出樣本，通過比較發(fā)現，訓練后的神經網絡能較好預測油葵產量，采用此方法可補充傳統(tǒng)模型的不足，為今后進一步的研究開辟了新路。

在農業(yè)決策方面，主要將農業(yè)專家面對各種問題時所采取的方法的經驗，作為神經網絡的學習樣本，從而采用神經網絡建立的專家系統(tǒng)將從一定程度上彌補了傳統(tǒng)方法的不足，將農業(yè)決策智能化。如何勇、宋海燕針對傳統(tǒng)專家系統(tǒng)自學習能力差的缺點，利用神經網絡可自我訓練的優(yōu)點，將神經網絡引入專家系統(tǒng)中。將小麥缺素時的田間宏觀表現，葉部、莖部、果實癥狀及引起缺素的原因這五個方面的可信度值作為神經網絡的輸入量，將農業(yè)專家診斷的結論作為輸出量，將這些數據作為神經網絡的訓練數據。實際應用表明此系統(tǒng)自動診斷的結果與專家現場診斷的結果基本一致，從而采用該系統(tǒng)能夠取代專家，實現作物的自我診斷，為農業(yè)管理方面提供了極大的幫助。如馬成林等針對于傳統(tǒng)施肥決策方法中非線性關系描述不足的問題，基于數據包分析和BP神經網絡，建立了施肥決策模型，應用表明，在有限的范圍內，模型預測結果較為合理，可以反映玉米的需肥特性。劉鋮等人提出采用神經網絡應用在農業(yè)生產決策中，以莜麥播種方式決策為例，通過對產生式規(guī)則的分析導出神經網絡輸入、輸出單元數，并通過多次試驗確定隱層單元數，用MATLAB方針結果表明，采用神經網絡作為農業(yè)生產決策的方法，取得了較好的效果。譚宗琨提出將基于互聯(lián)網環(huán)境下的神經網絡應用在玉米智能農業(yè)專家系統(tǒng)中，根據農作物發(fā)育進程分成若干個發(fā)育期，分別對各個發(fā)育期建立管理模型，依照作物各發(fā)育期進程時間間隔，由計算機系統(tǒng)自動選取相應的模型進行決策。應用分析的結果表明采用神經網絡的玉米智能專家系統(tǒng)已初步接近農業(yè)生產的實際。

2.在農產品外觀分析和品質評判

農產品的外觀，如形狀、大小、色澤等在生產過程中是不斷變化的，并且受人為和自然等復雜因素的影響較大。農產品的外觀直接影響到農產品的銷售，研究出農作物外觀受人為和自然的影響因素，通過神經網絡進行生產預測，可解決農產品由于不良外觀而造成的損失。如Murase 等針對西紅柿表皮破裂的現象，西紅柿表皮應力的增長與西紅柿果肉靠近表皮部分水分的增加有關，當表皮應力超過最大表皮強度時，將導致表皮破裂。用人工神經網絡系統(tǒng)，預測在環(huán)境溫度下的表皮應力，可通過控制環(huán)境變量來減少西紅柿表皮破裂所造成的損失。

在農業(yè)科研和生產中，農產品的品質評判大多是依賴于對農產品外觀的辨識。例如對果形尺寸和顏色等外觀判別果實的成熟度，作物與雜草的辨別，種子的外觀質量檢測。由于農業(yè)環(huán)境的復雜性和生物的多樣性，農產品的外觀不具有較確定的規(guī)律性和可描述性，單一采用圖像處理技術辨識農產品的外觀時不宜過多采取失真處理和變換，否則則增加圖像處理的復雜性，特征判別也相對困難。人工神經網絡由于其具有自學習、自組織的能力，比較適宜解決農業(yè)領域中許多難以用常規(guī)數學方法表達的復雜問題，與圖像處理技術相結合后，可根據圖像特征進行選擇性判別。采用此方法可以部分替代人工識別的工作，提高了生產效率，也有利于實現農業(yè)現代化。如Liao等將玉米籽粒圖像用34個特征參數作為神經網絡的輸入變量，將輸出的種粒形態(tài)分為5類，經過學習的神經網絡對完整籽粒分類的準確率達到93％，破籽粒分類的準確率達91％。

3.蔬菜、果實、谷物等農產品的分級和鑒定

在農業(yè)生產中，蔬菜、果實、谷物等農產品的分級和鑒定是通過對農產品外觀的辨識進行的。傳統(tǒng)的農產品外觀的辨識方法費時費力、預測可靠度很低，而且多采用人工操作，評價受到操作者主觀因素的影響，評判的精度難以保證。利用人工神經網絡技術結合圖像處理技術可部分代替以往這些主要依靠人工識別的工作，從而大大提高生產效率，實現農業(yè)生產與管理的自動化和智能化。

利用BP神經網絡技術對農產品果形尺寸和顏色等外觀評判，目前國內外已有不少成果用于實際生產中。何東健等以計算機視覺技術進行果實顏色自動分級為目的，研究了用人工神經網絡進行顏色分級的方法。分別用120個著色不同的紅星和紅富士蘋果作為訓練樣本集對網絡進行離線訓練。兩個品種的蘋果先由人工依據標準按著色度分成4級，對每一個品種分別求出7個模式特征值作為BP網絡的輸入，用訓練好的神經網絡進行分級。結果表明紅富士和紅星果實的平均分級一致率分別為94.2％和94.4％。劉禾等用對稱特征、長寬特征、寬度特征、比值特征等一系列特征值來描述果形。采用BP網絡與人工智能相結合，建立果形判別人工神經網絡專家系統(tǒng)。試驗水果品種為富士和國光。試驗表明系統(tǒng)對富士學習率為80％，對非學習樣本的富士蘋果的果形判別推確率為75％，系統(tǒng)對國光學習率為89％，對非學習樣本的國光蘋果果形判別系統(tǒng)的難確率為82％。

三、未來的發(fā)展方向

人工神經網絡的信息處理技術現已在農業(yè)工程領域內得到了迅速的應用，采用人工神經網絡算法的農業(yè)系統(tǒng)能夠從一定程度上改善控制效果，但此技術在農業(yè)范圍內還不夠成熟，有待于進一步的研究。今后科研的方向大體上可以從以下幾方面著手：

1.人工神經網絡算法的改進

人工神經網絡算法由于本身具有一定的缺點，從而采用人工神經網絡的算法的信息處理技術在應用過程中具有一定的局限性。在今后的研究中，可以從人工神經網絡方向著手，改進人工神經網絡算法，從而實現其在農業(yè)領域內更好的應用。近年來隨著模糊算法、蟻群算法等算法的相繼出現，將神經網絡與其他算法結合在一起已經成為了研究的熱門話題，也是未來算法研究的主要方向之一。

2.應用領域的擴展

人工神經網絡算法在農業(yè)工程方面現已得到了迅速的發(fā)展，擴展其在農業(yè)工程領域的應用范圍是未來的一個主要研究方向。人工神經網絡由于其具有自學習能力，可對農業(yè)系統(tǒng)的非線形特性進行較好的描述，采用人工神經網絡可解決傳統(tǒng)方法的不足，從而實現農業(yè)現代化。如何將神經網絡較好地引入到農業(yè)系統(tǒng)，解決農業(yè)工程中的部分問題，已是今后農業(yè)科研中的一個方向。

四、結束語

神經網絡作為一種人工智能范疇的計算方法，具有良好的自學習與數學計算的能力，可通過計算機程序進行模擬運算，現已廣泛用于模式識別、管理決策等方面。隨著計算機硬件和軟件的不斷發(fā)展與農業(yè)工程方面的研究的不斷深入，神經網絡將在農業(yè)管理、農業(yè)決策、農作物外觀分類、品質評判等方面充分發(fā)揮其自學習能力強，計算能力強的優(yōu)勢，通過對樣本數據的學習，神經網絡可較好地解決農作物生長過程中的作物分類、預測等非線形的問題。在農業(yè)工程領域內，神經網絡擁有廣闊的科研前景。

參考文獻:

[1]余英林李海洲:神經網絡與信號分析[M]. 廣州: 華南理工大學出版社,1996:45

[2]霍再林史海濱孔東等: 基于人工神經網絡的作物水―鹽響應初步研究[J].內蒙古農業(yè)大學學報，2003，24（3）：66～70

[3]何勇宋海燕:基于神經網絡的作物營養(yǎng)診斷專家系統(tǒng)[J]. 農業(yè)工程學報,2005,21（1）:110～113

[4]馬成林吳才聰張書慧等:基與數據包絡分析和人工神經網絡的變量施肥決策方法研究[J].農業(yè)工程學報,2006，20（2）:152～155

[5]劉鋮楊盤洪: 莜麥播種方式決策的BP神經網絡模型[J]. 太原理工大學學報，2006,37(5):119～121

[6]譚宗琨: BP人工神經網絡在玉米智能農業(yè)專家系統(tǒng)中的應用[J].農業(yè)網絡信息，2004(10):9～1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92～3579

第5篇：訓練神經網絡的方法范文

關鍵詞：圖像復原 BP神經網絡 Hopfield神經網絡 應用

中圖分類號：TP391.41 文獻標識碼：A 文章編號：1007-9416（2013）11-0040-02

1 引言

圖像復原是一項富有現實意義的工作，它涉及到廣泛的技術領域，是圖像處理領域研究的焦點之一。在得到圖像的過程中，由于各種各樣的原因，包括與觀測對象的相對運動、介質散射、成像系統(tǒng)缺陷和環(huán)境噪聲等原因，使得最終的圖像都會有一定程度的退化。圖像復原就是從退化的圖像中恢復圖像的本來面目。傳統(tǒng)的圖像復原處理問題的關鍵在于建立退化模型，估計退化過程中的參數，由此通過相應的逆過程得到原始圖像。獲得準確的圖像退化模型是比較困難的事情。大多數圖像復原的實際問題是點擴展函數以及原始圖像均未知的盲復原問題，這類問題具有更嚴重的病態(tài)性因而進一步增加了解決的難度。人工神經網絡（Artificial Neural Network，ANN）為圖像復原問題的解決提供了另外一條路徑，這是基于人工神經網絡具有的模擬人類神經的非線性、自組織、自學習、自適應特性。一般而言，人工神經網絡適合于解決無法或很難精確建立數學模型、不完全清楚內部機理的問題，人工神經網絡的很多特性適合解決圖像復原問題。近些年來，對人工神經網絡應用于圖像復原的研究越來越多，形成了很多豐富的神經網絡模型和算法。BP（Back Propagation反向傳播）和Hopfield（霍普菲爾德）是典型的人工神經網絡類型，也是在圖像復原領域應用較多的神經網絡類型。

2 BP神經網絡在圖像復原中的應用

2.1 BP神經網絡的特性

BP神經網絡是上世紀80年代美國加州大學的Rumelhart、McClelland及其團隊研究并行分布信息處理時提出的采用反向傳播算法的多層前饋網絡。BP神經網絡具有良好的泛化能力，其隱層的非線性傳遞函數神經元可以學習輸入輸出之間的線性或非線性關系。在1989年，RobertHecht-Nielson證明了對于任何一個在閉區(qū)間內連續(xù)的函數都可以由具有一個隱含層的BP網絡來逼近，這樣，一個三層（輸入層、隱層和輸出層）的BP神經網絡即能完成對多維度函數的逼近。這些特性，使得選用BP神經網絡簡單地實現在未知點擴展函數的情況下，擬合原始圖像與退化圖像之間的關系，從而得到滿意的圖像復原結果成為可能。

2.2 BP神經網絡應用于圖像復原

BP神經網絡用退化圖像與相對應的原始圖像進行訓練，退化圖像為網絡的輸入，原始圖像為網絡的輸出。訓練完成的神經網絡會在退化圖像與原始圖像之間建立非線性的映射關系，使得利用這種非線性關系即可實現在只有退化圖像的情況下對齊進行復原。

利用BP神經網絡進行圖像復原，一般用輸入圖像的N×N鄰域內的N2個像素點對應輸出圖像的一個像素點。這樣的對應方法會使整個運算量增大，但正由于參與運算的像素點增加，使得網絡具有更好的泛化和魯棒能力。由于三層BP神經網絡可以任意精度逼近某一多維度函數，因而其應用于圖像復原時使用三層網絡結構。輸入層和輸入層節(jié)點數分別由輸入圖像像素數量和輸出圖像像素數量決定，隱層節(jié)點數量和訓練方法在很大程度上決定了網絡性能。

為了便于網絡計算，通過神經網絡計算前通常將輸入圖像進行歸一化。以灰度圖像為例，將圖像數據[0～255]轉換到[-1～1]或[0～1]。圖像經過神經網絡復原后還需進行反歸一化轉換，將計算得到的數據轉換為圖像數據，即將[-1～1]或[0～1]轉換到[0～255]。

通常，運用BP網絡進行圖像復原算法流程包括：（1）圖像的預處理，得到歸一化的便于神經網絡計算的數據；（2）使用退化圖像與對應的原始圖像（訓練BP神經網絡；（3）將待復原圖像輸入訓練好的BP神經網絡進行圖像復原；（4）數據的后處理，將網絡輸出數據進行反歸一化，得到復原圖像。

3 Hopfield神經網絡在圖像復原中的應用

3.1 Hopfield神經網絡的特性

不同于BP神經網絡，Hopfield神經網絡是一種單層反饋網絡，信號在網絡中不僅向前傳遞，還在神經元之間傳遞。圖1是有三個神經元的Hopfield神經網絡結構圖。Hopfield神經網絡由美國加州理工學院物理學家J·J·Hopfield在上世紀80年代提出，并首次在神經網絡研究中引入了計算能量函數的概念，通過研究網絡的穩(wěn)定性與計算能量函數的相關性給出了網絡的穩(wěn)定性判據。J·J·Hopfield運用Hopfield神經網絡成功地探討了旅行商問題（TSP）的求解方法。HNN神經網絡采用灌輸式學習方式，其網絡權值是事先按一定規(guī)則計算出來的，確定之后不再改變，各神經元的狀態(tài)在運行過程中不斷更新，網絡穩(wěn)定時各神經元的狀態(tài)便是問題的解。Hopfield神經網絡的這些自身特征使其適于應用于聯(lián)想記憶和求解最優(yōu)化問題。

3.2 Hopfield神經網絡應用于圖像復原

利用神經網絡進行圖像復原的方法分為兩類：一種是用原始圖像和模糊圖像構成的樣本訓練神經網絡，在訓練好的網絡中建立起原始圖像與模糊圖像的非線性映射關系，然后以帶復原的模糊圖像作為網絡的輸入，經過網絡輸出的圖像數據就是經過復原的圖像，BP神經網絡就是運用這種方法進行圖像復原的典型神經網絡。另一種是經過神經網絡反復的數學迭代計算復原，運用Hopfield神經網絡進行圖像復原屬于這類方法。

其中是神經網絡的狀態(tài)向量，為網絡的權值矩陣，為由網絡中各神經元閾值構成的向量。Hopfield神經網絡的運行結果即網絡達到穩(wěn)定狀態(tài)就是達到最小值時的狀態(tài)。由式（4）和（5）可以看出圖像復原的目標函數與Hopfield神經網絡能量函數具有相似的表達形式，因而可以建立兩者之間的聯(lián)系，從而將圖像復原問題轉變?yōu)樯窠浘W絡的運算問題，這也就是Hopfield神經網絡應用于圖像復原的基本原理。

運用Hopfield神經網絡解決圖像復原問題首先要確定網絡的權值矩陣?？梢园凑誋ebb學習規(guī)則得出[4]。完成網絡初始化后，將退化圖像輸入網絡，從網絡中選取一個神經元按照Hopfield神經網絡的運算規(guī)則得出神經元的輸出，將所有神經元求出輸出后判斷該網絡是否達到穩(wěn)定狀態(tài)，即計算前后的網絡能量函數的誤差是否小于要求的范圍。如果網絡不穩(wěn)定，需要重復迭代計算；網絡達到穩(wěn)定狀態(tài)時，神經網絡的狀態(tài)向量就是要求的原始圖像。經過一定的后處理就能得到具有一定精度的原始圖像。

4 結語

人工神經網絡在圖像復原問題中的應用已經擴展到了很多方面，包括三維顯微圖像、高能閃光照相等領域[5-6]。神經網絡在圖像復原中的應用機理也不斷得到深入研究。這些得益于神經網絡算法不依賴求解問題本身數學模型的特點，以及自身強大的泛化能力。BP和Hopfield神經網絡都能成功地運用在圖像復原問題中，在選用神經網絡進行圖像復原研究時要注意到BP神經網絡強烈地依賴退化圖像與原始圖像構成的樣本集合對網絡進行訓練，這就要求得到足夠的先驗知識或者通過某種算法得到退化圖像與原始圖像相對應的樣本群。Hopfield神經網絡不依賴于退化圖像與原始圖像的先驗知識，可以直接針對退化圖像進行復原。這就需要根據不同的實際情況選取合適的網絡類型來解決問題。

參考文獻

[1]尚鋼，鐘珞，陳立耀.神經網絡結構與參數選取[J].武漢工業(yè)大學學報，1997，19（2）.

[2]王晗.基于Hopfield神經網絡的圖像恢復[D].武漢：華中科技大學南京理工大學，2006年4月.

[3]席旭剛，羅志增.用Hopfield神經網絡實現觸覺圖像恢復[J].儀器儀表學報，2008，30（10）.

[4] Bianchini M，Frasconi P.Learning without local minima in radial basis function networks[J].IEEE Transaction on Neural Networks，1995，6（3）：749～756.

第6篇：訓練神經網絡的方法范文

關鍵詞：人工神經網絡；電力變壓器；故障診斷

中圖分類號：TP393 文獻標識碼：A 文章編號：1009-3044（2016）32-0174-03

1引言

電力變壓器在長期的運行中，故障是不可避免的。變壓器一旦損壞會造成大面積停電且故障修復耗時長，因此變壓器故障的及早發(fā)現和處理具有非常重要的意義。

電力變壓器的故障一般有機械故障、熱性故障和電性故障，由于機械故障一般都以熱性故障和電性故障的形式體現，因此主要以熱性故障和電性故障為主。熱性故障一般為中低溫過熱和高溫過熱，電性故障一般為低能放電和高能放電。傳統(tǒng)的變壓器故障診斷方法存在著效率偏低以及診斷準確率不高的問題，因此我們可以利用人工神經網絡的方法對電力變壓器的故障進行自動診斷。

2人工神經網絡

2.1 人工神經網絡概述

人工神經網絡（ANNs）是對人腦或生物神經網絡若干基本特性的抽象和模擬。

依靠系統(tǒng)的復雜程度，ANNs可通過調整內部大量節(jié)點之間相互連接的關系，進而對有效信息進行可靠處理。而BP神經網絡通常是指基于誤差反向傳播（Back Propagation）算法的多層前向神經網絡， 不僅能對輸入-輸出模式映射關系進行學習和存儲，而且對描述此種映射關系的數學方程不需要事前揭示。最速下降法為BP神經網絡的學習規(guī)則，通過反向傳播來持續(xù)調整網絡的權值和閾值，使其誤差平方和最小。

本文采用BP神經網絡的三層前饋結構，分別為（input）、隱含層（hide layer）和輸出層（output layer）。輸入層的節(jié)點數為5（對應電力變壓器油中氣體H2、CH4、C2H4、C2H2、C2H6），輸出層則有5個節(jié)點（對應無故障，中低溫過熱，高溫過熱，低能放電，高能放電），隱含層的節(jié)點數根據經驗公式確定：

其中，r為隱層的節(jié)點數，n為輸入的節(jié)點數，m為輸出的節(jié)點數，a則為1～10之間的常數。經試驗，本文r取13。各層間神經元相互連接，且各層內沒有連接。如圖1所示：

BP神經網絡的訓練首先對每一層的權值和偏差進行初始化（用小的隨機數），以免被大的加權輸入飽和，并且需對一些參數進行設定及初始化（期望的誤差最小值、最大循環(huán)次數、修正權值的學習效率）；第二步需要對網絡各層輸出矢量及網絡誤差進行計算；第三步需要對各層反向傳播的誤差變化、各層權層的修正值及新的權值進行計算，最后需要對權值修正后的誤差平方和進行計算，若符合要求則訓練完成，若不符合要求則繼續(xù)。

2.2電力變壓器故障診斷的BP神經網絡設計

2.2.1樣本數據的定義

電力變壓器的故障主要體現為中低溫過熱、高溫過熱、低能放電和高能放電。電力變壓器的故障數據一共為70組，其中樣本集數據為50組，測試集數據為20組，且分別定義樣本數據如下：

無故障，記為10000；

中低溫過熱，記為01000；

高溫過熱，記為00100；

低能放電，記為00010；

高能放電，記為00001。

2.2.2樣本數據的預處理

為提高神經網絡的訓練效率，本論文對數據進行了標準化處理，使其落入[-1，1]區(qū)間；并且對輸入樣本集數據進行了主元分析，以減小各樣本矢量的相關性，從而達到降維的目的。

2.2.3 BP神經網絡設計參數設置

MATLAB中，BP神經網絡設計需要定義有關參數：訓練步數、顯示訓練結果的間隔步數、訓練目標誤差、訓練允許時間和訓練中最小允許梯度值等，最終可返回訓練后的權值、循環(huán)訓練的總數和最終誤差。神經網絡對象的一些主要訓練參數及含義如表1所示。

2.2.4 BP神經網絡驗證

表2列出了20組測試集數據，最后一列為網絡期望輸出，對應變壓器的實際故障類型。

由電力變壓器故障診斷的誤差變化曲線可知：在使用BP神經網絡法對網絡進行訓練時，網絡只訓練了112步，速度非常的快。網絡的訓練均方誤差此時已經達到目標誤差0.01的數量級，因此該網絡可用。對樣本集數據進行訓練后，我們可得到一個相關的BP神經網絡模型，再用測試集數據對改模型進行驗證，驗證結果如表3所示。（注：圖中*號表示該BP神經網絡模型診斷錯誤的數據組）

由以上BP神經網絡自動診斷結果可以得知：電力變壓器故障診斷正確的個數為18個，故診斷正確率為90%左右。

3 結論

本文應用人工神經網絡的方法對電力變壓器的故障進行了自動診斷，診斷正確率可達90%。隨著計算機技術和人工智能技術的發(fā)展，利用人工神經網絡進行變壓器的故障診斷有利于有效地實現對故障的綜合診斷，從而提高故障診斷的準確性，可靠性和診斷效率，為變壓器故障診斷技術的發(fā)展拓展新的途徑。

參考文獻：

[1] 張錚，徐超，任淑霞，等.數字圖像處理與機器視覺――Visual C++與Matlab實現[M].北京：人民郵電出版社，2014.

[2] 馬銳.人工神經網絡原理[M].北京：機械工業(yè)出版社，2010.

[3] 郭磊，董秀成.BP神經網絡在變壓器故障診斷中的應用[J] .西華大學學報，2008（5）：10-13.

[4] 殷躍.基于BP神經網絡的電力變壓器故障診斷的研究[D].吉林：吉林大學通信工程學院，2007.

[5] 王連成.基于神經網絡的DGA法在變壓器故障診斷中的應用研究[D].黑龍江：哈爾濱工業(yè)大學電氣工程及自動化學院，2009.

[6] 李霖.基于BP神經網絡的變壓器故障診斷方法研究[D].湖南：長沙理工大學電氣與信息工程學院，2013.

[7] 曾成碧，蒲維，曾先鋒.BP神經網絡在油浸式變壓器過熱性故障診斷中的應用[J]. 四川電力技術，2012（4）：60-63.

[8] 陳小玉.改進的神經網絡在變壓器故障診斷中的應用[J].計算機仿真，2012（8）：318-321.

[9] 宋彩利， 吳宏岐.神經網絡在變壓器故障診斷中的應用研究[J].微計算機信息，2008（34）：155-157.

第7篇：訓練神經網絡的方法范文

關鍵詞：匯率預測 非線性 神經網絡

一、神經網絡模型

關于神經網絡，學界尚無一個嚴格統(tǒng)一的定義，一般來說，人工神經網絡就是基于模仿生物大腦的結構和功能，由許多簡單的并行工作的處理單元組成的，采用數學和物理方法進行研究而構成的一種信息處理系統(tǒng)或計算機，該系統(tǒng)是依據對外部輸入信息的動態(tài)響應來處理信息的。人工神經網絡已經完全不同于一般計算機的串行工作方式，其操作既不是串行的，也不是預先設定操作程序的，其基礎是訓練而非優(yōu)化，目的是尋找到一個最優(yōu)的權重集合使輸出結果與實際最接近。

本文選用反饋型神經網絡中的Elman網絡模型進行匯率預測。反饋型神經網絡是一種從輸出到輸入具有反饋連接的神經網絡，其結構比前饋網絡要復雜得多，擁有比前饋型神經網絡更強的計算能力，其突出優(yōu)點是具有很強的聯(lián)想記憶和優(yōu)化計算功能。

Elman網絡的非線性狀態(tài)空間表達式為：

其中，u表示r維輸入向量，x表示n維隱藏層節(jié)點單元向量，xc表示 維反饋狀態(tài)向量，y表示m維輸出節(jié)點向量。ω1、ω2、ω3分別表示輸入層到隱藏層、連接層到隱藏層、隱藏層到輸出層的連接權值。G（?）為輸出神經元函數，F（?）是隱藏層輸出的線性組合。 為隱藏層神經元的傳遞函數，即激活函數，一般采用Sigmoid函數。

二、數據選擇與處理

本文選擇從2003年1月2日到2013年12月31日這11年的歐元兌美元匯率日平均價格數據，樣本數均為2759，利用Matlab軟件進行分析。

為了使數據在模型訓練過程中更好地收斂，在進行網絡訓練之前，首先對匯率數據進行歸一化處理，使得匯率波動處在0到1之間，歸一化公式為，

其中，ut表示t期歸一化日匯率，pt表示t期匯率價格，pmin表示匯率樣本集中的最小值，pmax表示匯率樣本集中的最大值，結果如圖1所示。

圖1

網絡訓練完成后需要進行樣本外預測，為了度量預測效果，需要選擇性能指標對神經網絡的預測性能進行檢測，本文選擇均方根誤差（RMSE）。

其中，Y為模型預測所得數據，T為目標數據，N為數據量。

三、實證分析

本文用試湊法選擇Elman神經網絡的滯后期數，也就是決定了模型的輸入層和隱藏層神經元數，用Matlab檢測，用不同數量的輸入變量訓練網絡，以達到預期誤差為目標，歐元兌美元匯率最優(yōu)滯后期數可以為3、5、8、10，分別用Elman（3）、Elman（5）、Elman（8）、Elman（10）表示。

本文選擇RMSE、MAE指標來檢測Elman模型對匯率波動的樣本內預測效果，計算結果如下表1所示，

歐元兌美元 RMSE

Elman（3） 0.0070

Elman（5） 0.0087

Elman（8） 0.0025

Elman（10） 0.0040

表1歐元兌美元匯率Elman模型樣本內預測檢驗

RMSE和MAE兩個指標用來比較各個模型樣本內預測能力，指標值越小說明神經網絡對樣本內數據的擬合能力及預測效果越好。觀察表1， 滯后期數為8階時，Elman網絡對歐元兌美元匯率序列樣本內預測的RMSE最小，因此滯后期數為8階時Elman模型對歐元兌美元匯率序列的樣本內預測效果最好。

為了更直觀地了解不同滯后期數的Elman模型對貨幣匯率時間序列的樣本內擬合及預測情況，下圖2給出了不同滯后期數的Elman神經網絡對歐元匯率時間序列樣本集合進行預測的誤差結果。

圖2歐元兌美元匯率時間序列樣本內訓練預測標準差

本文發(fā)現Elman（10）比其他三個模型擁有更好的樣本內擬合能力。直觀上來看，兩條曲線重合效果越好說明模型擬合能力越強。顯然，10階滯后的Elman神經網絡對歐元匯率的擬合能力更好。

根據圖2，本文發(fā)現Elman（8）的樣本內預測能力優(yōu)于其他，且Elman（10）的絕對誤差和標準差波動幅度均大于其他。證明對于神經網絡模型來說，擁有更多的外部輸入信息并不一定可以改善模型訓練效果。原因是訓練過程中存在過擬合的現象。

歐元兌美元 RMSE

Elman（3） 0.0121

Elman（5） 0.0126

Elman（8） 0.0108

Elman（10） 0.0111

表2歐元兌美元匯率樣本外預測檢驗

由表2中結果可以看出，與樣本內預測一樣，神經網絡模型預測效果均隨著階數變化而改變，證明高階的神經網絡模型比低階神經網絡模型預測效果更好。隨著網絡階數改變，本文發(fā)現在四個不同階數的Elman神經網絡中Elman（8）在RMSE指標上的表現均優(yōu)于其他三組訓練結果。

為了更直觀地了解兩個模型對歐元匯率時間序列的樣本外預測情況，下圖3給出了不同階數的Elman神經網絡對匯率時間序列樣本集合進行預測的誤差結果。

圖3歐元兌美元匯率樣本外預測標準差

根據圖3，根據樣本外預測圖的直觀比較，以及標準差的波動幅度比較，Elman（8）的預測效果要優(yōu)于另外三組預測結果。

四、結論

為了更好地提供匯率波動預測的有效工具，在分析了傳統(tǒng)匯率預測研究中線性模型的局限性，并對歐元兌美元匯率時間序列進行了正態(tài)性和序列相關性檢驗等非線性檢驗的基礎上，本文采用非線性方法中的神經網絡模型對歐元匯率序列進行擬合及預測。本文構建了反饋型神經網絡Elman模型，在實證研究中根據歐元匯率時間序列的特征估計出了影響神經網絡模型預測能力的各關鍵參數，研究了Elman網絡對匯率序列的樣本內擬合及預測能力和樣本外預測能力，得出的主要結論有：

1.Elman神經網絡模型對4種匯率時間序列的樣本內預測能力和樣本外預測能力都可以達到較為準確的水平。

2.隨著滯后階數的改變，各神經網絡對匯率序列樣本內預測的RMSE和MAE兩個指標均隨之改變，并且隨著模型輸入層和隱藏層神經元數的增加，各神經網絡模型的樣本內預測能力大體上都增強了。

參考文獻：

[1]張興會，劉玲，陳增強，袁著祉. 應用Elman神經網絡的混沌時間序列預測[J]. 華東理工大學學報， 2002，S1：30-33.

[2] 董曉娜，蘇道磊，李希亮，曲利，張慧峰，吳晨. 基于粗糙集的BP神經網絡在震例中的應用研究[J]. 地震研究，2012，02：251-259+296.

第8篇：訓練神經網絡的方法范文

關鍵詞：短期負荷預測；神經網絡；遺傳算法

作者簡介：黃國棟（1976-），男，廣東陽江人，廣東電網湛江供電局，工程師。（廣東 湛江 524005）

中圖分類號：TM714 文獻標識碼：A 文章編號：1007-0079（2014）06-0261-02

電力短期負荷預測是對未來一周以內（通常為一周或一天）的負荷進行預測。短期負荷預測在電網運行實時控制和發(fā)電規(guī)劃中具有重要地位，短期負荷的預測結果是調度中心制定發(fā)電計劃、電力系統(tǒng)運行安全評估、電力企業(yè)日常經營管理的重要依據。[1]在當前電力系統(tǒng)市場化形勢下，提高負荷預測精度對于電力系統(tǒng)的經濟運行、合理制定機組檢修計劃和進行電力需求管理等具有重要意義。

一、電力系統(tǒng)負荷變化的特點及預測方法

電力系統(tǒng)負荷變化受到很多因素的影響。一方面，負荷變化存在由未知不確定因素引起的隨機波動；另一方面，具有周期變化的規(guī)律性，這也使得負荷曲線具有相似性；同時，由于受天氣、節(jié)假日等特殊情況的影響，負荷變化又會體現出差異性。[2]整體上講，負荷曲線是與很多因素相關而且難以用數學公式表達的非線性函數。

相對于早期的統(tǒng)計技術法和專家系統(tǒng)法，神經網絡的優(yōu)點在于它不依靠專家經驗，只利用觀察到的數據，可以在訓練過程中通過學習來逼近任意的非線性輸入/輸出關系，因此，將神經網絡方法應用于電力負荷預測有著明顯的優(yōu)勢。但是，神經網絡存在兩個主要問題：收斂速度慢和容易陷入局部極小點。因此，本文采用遺傳算法優(yōu)化人工神經網絡，建立電力短期負荷預測模型，并將結合廣東省某城市的電力負荷的實際情況對預測方法進行探討和研究。

二、人工神經網絡模型

BP（Back Propagation）神經網絡是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W絡，神經網絡模型中的所有神經元按照功能一般分成三層（輸入層、隱含層和輸出層），各層順次連接。[3]其三層模型拓撲結構如圖1所示。

BP算法的學習過程分為正向傳播過程和反向傳播過程兩個階段。

1.正向傳播過程

輸入信息從輸入層經隱含層逐層計算各單元的實際輸出值，各神經元的狀態(tài)只對下一層神經元的狀態(tài)產生影響。設BP網絡的輸入層有n1個節(jié)點，隱含層有n2個節(jié)點，輸出層有n3個節(jié)點，輸入為xi，輸入層與隱含層之間的權值為wki，隱含層與輸出層之間的權值為wjk；隱含層的閾值為bk，輸出層的閾值為bj；隱含層的傳遞函數為f1（·），輸出層的傳遞函數為f2（·）。則隱含層節(jié)點輸出zk和輸出層節(jié)點輸出yj分別為：

k=1，2，……n2

（1）

j=1，2，……n3

（2）

2.反相傳播過程

若網絡實際輸出值與期望值之差，即誤差超出允許值，則逆向逐層修正連接權值。設BP網絡有P個輸入樣本，采用平方型誤差函數，于是得到全局誤差為：

（3）

式中：為第p個樣本的實際輸出，為期望輸出。

采用累計誤差BP算法依次調整輸出層權值wjk和隱含層權值wki誤差使全局誤差變小，即：

（4）

（5）

式中：η為學習率。

如此往復不斷調整權值，直到使網絡的誤差滿足要求。

三、遺傳算法

1.遺傳算法的基本原理

遺傳算法（Genetic Algorithms，簡稱GA）是一種高度并行、自適應全局優(yōu)化搜索方法。[4]它借鑒自然界遺傳和選擇機理，首先初始化一個種群，然后按照某種指標在每一代選取較優(yōu)個體，利用遺傳算子（選擇、交叉和變異）對這些個體進行組合，產生新一代個體，重復此過程，直到滿足優(yōu)化準則為止。遺傳算法是基于對生物遺傳和進化過程的計算機模擬，它能使各種人工系統(tǒng)具有良好的自適應能力和優(yōu)化能力。目前，遺傳算法已經廣泛應用于規(guī)劃設計、組合優(yōu)化、自適應控制、經濟運行、模式識別、人工智能、分子生物學、故障診斷以及計算機技術等領域，并取得了很好的效果。

2.遺傳算法的實現過程

（1）將問題的解以編碼形式表示出來，并隨機生成若干個體，即初始群體。

（2）譯碼，計算目標函數得出個體適應度值，判斷是否滿足停止條件。

（3）根據個體適應度值的高低，應用選擇、交叉和突變算子進行遺傳操作，產生下一代群體。

（4）返回步驟（2），反復執(zhí)行，直到滿足停止條件。最后，搜索到最優(yōu)個體，即問題的最優(yōu)解。[5]

3.遺傳算法優(yōu)化BP網絡權值、閾值

由于遺傳算法是以最大值作為優(yōu)化目標，為適應神經網絡算法的要求，將適應度函數取反，即變?yōu)橐宰钚≈禐閮?yōu)化目標。遺傳算法優(yōu)化BP神經網絡算法的步驟：

（1）構建BP網絡，確定遺傳算法個體長度。

（2）生成初始種群，確定種群規(guī)模。對遺傳算法個體進行編碼，編碼由神經網絡的輸入層與隱含層的連接權值、隱含層閾值、隱含層與輸出層的連接權值和輸出層閾值四部分組成。

（3）根據個體得到BP網絡的權值和閾值，應用訓練數據訓練，得到網絡的輸出。計算實際輸出與期望輸出的誤差，并依據此誤差計算個體適應度值。

（4）根據個體的適應度進行選優(yōu)操作，選擇若干適應度強的個體直接進入下一代，適應度差的個體被淘汰。

（5）進行交叉、變異操作，生成下一代群體，然后返回步驟（3），直到得到最優(yōu)解。

四、實例分析

本試驗分別采用單一神經網絡預測法、遺傳算法和神經網絡的組合預測法，分別對廣東省某城市某一日的時負荷進行預測與分析。以該市2010年6月2日～21日和2010年6月3日～22日（只選取工作日）的整點負荷訓練樣本集，根據6月23日各整點的時負荷數據和24日各整點的溫度與天氣，預測6月24日的時負荷。

1.數據預處理

根據神經網絡的建模原理，訓練樣本的準確性對于模型的預測準確性至關重要。由于系統(tǒng)故障、線路停電檢修、通信錯誤等原因，歷史負荷數據中經常存在一些不良數據。這些不良數據具有很強的隨機性，會對網絡的預測精度和預測速度產生嚴重影響。因此，在建立電力短期負荷預測模型前，先對訓練用的數據樣本進行預處理。應用格拉布斯準則判別是否有不良數據，如果有要直接消除并以相應的插值代替，從而提高數據的準確度和可信度。經計算，本實例的樣本數據正常，符合實際情況。

數據歸一化方法是神經網絡預測前對數據常做的一種處理方法。數據歸一化處理把所有的數據都轉化為[0，1]之間的數，其目的是取消數據間數量級差別，避免因為輸入/輸出數據數量級差別較大而造成網絡預測誤差較大。最后需要進行反歸一化，得到最終預測結果。[6]數據歸一化的方法主要有最大最小值法和平均數方差法。本文采用最大最小值法。

2.確定BP神經網絡結構

考慮到該城市位于中國南端，緯度較低，影響電力負荷最主要的因素是溫度等天氣情況。采集預測日前一天每小時的負荷數據和預測日當天各小時的溫度值（取平均值）、氣象類型（晴、陰、雨）作為預測條件。由此確定BP神經網絡模型的輸入節(jié)點數為3；輸出節(jié)點數為1；隱含層節(jié)點數取8。為方便計算，將氣象類型數字化、歸一化處理，溫度值和負荷數據歸一化處理。本文采用分散式建模方法，即為一天的24小時各建立一個模型，共建立24個。分散式建模方法相對于集中建模方法（24小時用一個模型），雖然模型多，但是預測準確度高。每個整點的時負荷采用相應的BP神經網絡模型進行預測。建模工具選用matlab7.0。[7]

3.遺傳算法優(yōu)化神經網絡

以整點負荷、溫度數據和氣象數據作為網絡的訓練樣本集，應用遺傳算法對基于單一神經網絡建立的各個模型（每小時各建一個模型，共24個）進行優(yōu)化，得到每個模型近似最優(yōu)權值和閾值。應用優(yōu)化的權值和閾值對BP神經網絡進行訓練，并保存訓練好的網絡。最后，應用訓練好的網絡對各整點時負荷進行預測。

表1 2010年6月24日負荷預測值與誤差

時間 實際值 BP神經網絡

方法預測 誤差/% 遺傳算法神經網絡方法預測 誤差/%

0：00 404.743 412.375 1.886 397.470 -1.797

1：00 382.280 376.397 -1.539 382.009 -0.071

2：00 359.937 369.208 2.576 352.735 -2.001

3：00 355.508 352.308 -0.900 357.115 0.452

4：00 347.836 341.504 -1.820 346.528 -0.376

5：00 347.545 342.354 -1.494 346.586 -0.276

6：00 354.184 356.650 0.696 360.655 1.827

7：00 364.504 363.920 -0.160 360.123 -1.202

8：00 395.881 392.358 -0.890 390.042 -1.475

9：00 462.394 471.572 1.985 464.239 0.399

10：00 500.344 502.904 0.512 494.610 -1.146

11：00 514.415 515.950 0.298 513.479 -0.182

12：00 477.935 489.898 2.503 485.792 1.644

13：00 479.680 473.516 -1.285 472.638 -1.468

14：00 470.148 477.403 1.543 462.066 -1.719

15：00 482.950 490.302 1.522 474.556 -1.738

16：00 487.295 483.800 -0.717 486.028 -0.260

17：00 501.225 503.265 0.407 505.465 0.846

18：00 470.361 462.391 -1.694 466.165 -0.892

19：00 455.995 443.791 -2.676 463.788 1.709

20：00 493.266 494.178 0.185 494.682 0.287

21：00 489.909 498.115 1.675 486.195 -0.758

22：00 474.146 486.493 2.604 480.348 1.308

23：00 446.201 436.293 -2.221 441.855 -0.974

單一神經網絡方法和遺傳算法優(yōu)化神經網絡方法得出的預測結果見表1和圖3。從圖3中3條曲線對比可以看出，應用遺傳算法優(yōu)化神經網絡預測模型得到的預測結果比單一神經網絡的更接近實際負荷曲線。單一神經網絡預測的負荷最大誤差為-2.676%，平均誤差1.408%，而用基于遺傳算法優(yōu)化神經網絡預測的負荷最大誤差為-2.001%，平均誤差為1.034%，精度顯然大于單一神經網絡。

五、結論

本文利用遺傳算法優(yōu)化了BP神經網絡結構，并且應用此模型對實際電力短期負荷進行了預測試驗分析。實證證明，遺傳算法的全局優(yōu)化搜索能力有效彌補了BP神經網絡容易陷入局部極小值的缺陷，在此基礎上建立的預測模型的可靠性、準確性都有所增強，證明了基于遺傳算法優(yōu)化的神經網絡的短期負荷預測方法是可行的。

參考文獻：

[1]牛東曉，曹樹華，趙磊，等.電力負荷預測技術及其應用[M].北京：中國電力出版社，2002.

[2]陳金賽，張新波.基于改進BP人工神經網絡的電力負荷預測[J].杭州電子科技大學學報，2011，34（4）：173-176.

[3]田景文，高美娟.人工神經網絡算法研究及應用[M].北京：北京理工大學出版社，2006.

[4]王小平，曹立明.遺傳算法[M].西安：西安交通大學出版社，

2002.

[5]李玲純，田麗.基于遺傳算法和BP神經網絡的短期電力負荷預測[J].安徽工程科技學院學報，2009，24（3）：57-60.

第9篇：訓練神經網絡的方法范文

摘要：

為更全面準確地評價產品造型設計，在近幾年國內外產品評價系統(tǒng)研究的基礎上，綜合運用主成分分析法、聚類分析法、BP神經網絡技術，對產品設計造型要素的感性意象進行定量化研究，建立和完善了產品設計評價的神經網絡模型．并以園林工具割草機產品設計為例訓練模型，驗證了模型的可行性和有效性．

關鍵詞：

產品設計評價；主成分分析；聚類分析；BP神經網絡；感性工學

產品造型設計和評價是產品設計開發(fā)過程中的重要組成部分．近年來，國內外學者結合感性工學對產品造型設計和產品造型評價進行了大量的研究．產品造型設計是一項復雜的系統(tǒng)運行過程，除受客觀條件如經濟、技術、構造等要素的影響外，同時，社會審美、目標消費群的偏好、設計師經驗、背景等因素也相互影響［1］．人工神經網絡是伴隨著生物學、數學、計算機等學科的發(fā)展而產生的一門新興的綜合交叉性學科．其中，最常見的是BP神經網絡，它具備任意精度的函數逼近能力，具有自組織、自適應、自學習、高度非線性映射性、泛化性、容錯性的優(yōu)點［2］．BP神經網絡因其很強的學習能力、抗故障性、并行性的優(yōu)點，特別適合于解決上述非線性很高的復雜系統(tǒng)．割草機產品應用具有較強的地域性和個性化的消費者群細分，造型設計目前未形成系統(tǒng)的理論和方法．將BP神經網絡法和遺傳算法等應用于產品造型設計的評價系統(tǒng)中尚屬于摸索階段．文獻［3］提出了BP神經網絡技術與產品評價系統(tǒng)結合的可行性．文獻［4］通過將遺傳算法與神經網絡相結合，進一步優(yōu)化了產品設計評價模型的精度．產品造型設計與評價是個復雜的過程，需要多層次的系統(tǒng)分析．為此，本文將綜合運用主成分分析法、聚類分析法與BP神經網絡技術，定量地研究感性意象與產品造型設計之間的關系．以園林工具割草機產品為例，把產品造型要素的集合分組為由類似對象組成的多個類，分析影響割草機產品感性意象的主要造型特征，基于MatlabR2014a平臺，建立BP神經網絡模型，檢測產品造型與目標消費者群體偏好之間的對應關系，以驗證和提高產品設計評價模型的可行性和準確度．

1研究流程

本文以割草機產品為例，綜合應用主成分分析、聚類分析方法和BP神經網絡技術，對感性意象進行定量化研究，建立和完善產品造型特征與感性意象關系評價的神經網絡模型．研究流程如圖1所示．具體流程如下：

（1）通過網絡調研并篩選得到描述割草機外形的形容詞．

（2）通過網絡搜集各國割草機圖片樣本，對圖片進行去色、去標志處理，排除顏色和品牌對試驗樣本的影響．

（3）把7點量表建立在已經選擇出來的感性意象形容詞上，讓每個測試者針對這些選定的形容詞對每個試驗樣本打分．將試驗所得數據運用主成分分析，并結合專家意見，確定最終描述詞匯．

（4）將樣本進行聚類分析，并通過專家對同類內樣本共同特征的提取，明確影響割草機外形意象的造型特征，并分析各造型特征組合與感性意象的關系．

（5）建立BP神經網絡模型，以試驗數據訓練神經網絡模型．

（6）神經網絡準確率檢測，總結分析．

2割草機外觀特征與感性意象認知關系量化試驗

2．1試驗準備

通過調研，共搜集整理近5年銷售生產的割草機產品圖片150張，分別來自不同國家和地區(qū)．對圖片進行去色、去標志處理，以排除顏色、品牌及其他因素對試驗樣本的影響．利用KJ法［5］篩選得到20個圖片樣本，部分樣本圖片如圖2所示．經過表1的分析可以得到形容詞的意象空間，專家設計師結合這一意象空間進行總結和分析，得到其3個維度上的感性意象描述形容詞，分別為“科技－落后”“樸素－華麗”“易用－復雜”．

2．3關鍵造型特征提取和聚類分析

將意象空間的樣本進行聚類分析，把產品造型要素的集合分組為由類似的對象組成的多個類，分析影響割草機產品感性意象的主要造型特征．通過專家設計師評價和問卷調查統(tǒng)計，抽取同類樣本內的共同特征，得到最主要的影響割草機感性意象的造型特征．聚類分析的結果如表2所示．

3BP神經網絡模型建立、訓練、預測

3．1BP神經網絡模型建立

選用MatlabR2014a為平臺進行BP神經網絡結構的建立與模擬，其模型如圖3所示．通過歷史數據的訓練，用以檢測產品造型與其感性意向的對應關系，建立產品造型設計評價體系．經過數次預先進行的試驗，確定神經網絡結構為3層，輸入層（包含2個節(jié)點）、隱含層（包含4個節(jié)點）、輸出層（包含1個節(jié)點）．輸入層是2個設計元素的編號組合，輸出層是關于“科技的－落后的”這個語匯對的感性意象評價值．

3．2BP神經網絡模型訓練設置

BP神經網絡的學習次數為5000次，采用梯度下降法，目標誤差值為0．001，訓練結果采用均方誤差衡量，將表4中樣本1?！?5＃的數據導入建立的網絡，訓練BP神經網絡，在1753次訓練時結果收斂，停止訓練，其訓練的結果如圖4所示．由圖4可得，其實際訓練的誤差值為0．00908．

3．3BP神經網絡模型測試選用

表4中樣本16?！?0＃測試神經網絡預測能力，即將5個樣本造型特征組合導入網絡的輸入層，將調查得到的數據與神經網絡預測的感性評價值進行對比，結果如表5所示．由表5可見，實際感性評價值與預測感性評價值相對誤差較小，說明網絡精度達到要求，驗證了割草機產品評價模型的可行性和有效性．

4結語

本文將主成分分析法、聚類分析法與BP神經網絡模型相結合，對割草機產品造型設計與感性意象之間的關系進行分析，為產品造型設計符合目標消費群體需求提供客觀評價幫助．但是本文只針對割草機的主要產品造型要素進行了試驗，隨著研究方法及科技的不斷進步，結合色彩、材質、紋理甚至人機工程學等綜合因素的研究將成為下一步的研究重點．基于神經網絡的意象認知模型，還存在一定局限性，隨著科技的發(fā)展，結合認知心理學、腦科學、人工智能等技術和方法將使相關研究得到更深入的發(fā)展．

參考文獻：

［1］王愛華，孫峻．BP神經網絡在工程項目管理中的應用［J］．建筑管理現代化，2009（4）：306－309．

［2］周美玉，李倩．神經網絡在產品感性設計中的應用［J］．東華大學學報（自然科學版），2011，37（4）：509－513．

［3］趙萬芹．基于BP神經網絡的產品造型設計評價［J］．計算機工程與設計，2009，30（24）：5715－5717．

［4］林琳，張志華，張睿欣．基于遺傳算法優(yōu)化神經網絡的產品造型設計評價［J］．計算機工程與設計，2015，36（3）：789－813．

［5］川喜田二郎．KJ法［M］．京都：中央公論新社，1986．