導(dǎo)語：如何才能寫好一篇經(jīng)典神經(jīng)網(wǎng)絡(luò)算法，這就需要搜集整理更多的資料和文獻(xiàn)，歡迎閱讀由公務(wù)員之家整理的十篇范文，供你借鑒。

篇1

關(guān)鍵詞:負(fù)荷預(yù)測;神經(jīng)網(wǎng)絡(luò);唐山電網(wǎng);電力系統(tǒng);電力負(fù)荷

中圖分類號:TM714文獻(xiàn)標(biāo)識碼:A文章編號:1009-2374 (2010)13-0124-02

一、預(yù)測意義

唐山是具有百年歷史的沿海重工業(yè)城市,是河北省經(jīng)濟中心,同時也是中國經(jīng)濟發(fā)展前景最好的城市之一。特別是最近幾年,隨著國家產(chǎn)業(yè)結(jié)構(gòu)與河北戰(zhàn)略布局的調(diào)整,重大項目紛紛在唐山興建,預(yù)計在未來幾年唐山地區(qū)經(jīng)濟仍將快速增長。根據(jù)唐山電網(wǎng)用電情況統(tǒng)計數(shù)據(jù),唐山電網(wǎng)2001年用電量158.266億千瓦時,2008年用電量538.509億千瓦時,平均年增長17.9%。綜合考慮唐山地區(qū)經(jīng)濟發(fā)展與用電量增長因素,預(yù)計未來幾年唐山電網(wǎng)電力負(fù)荷將保持較高的增長。中長期電力負(fù)荷預(yù)測是電力系統(tǒng)規(guī)劃的基礎(chǔ),它在電力系統(tǒng)規(guī)劃、新發(fā)電廠和發(fā)配電系統(tǒng)的建立過程中起到重要的指導(dǎo)作用。為了滿足唐山電網(wǎng)負(fù)荷不斷增長的需要,增加供電可靠性,對該地區(qū)進(jìn)行科學(xué)合理的電力系統(tǒng)規(guī)劃勢在必行。因此,對唐山電網(wǎng)中長期的電力負(fù)荷進(jìn)行預(yù)測具有重要意義。

二、預(yù)測方法選擇

目前,電力負(fù)荷預(yù)測的研究已經(jīng)十分成熟,許多方法和模型被引用到電力負(fù)荷預(yù)測中,其中比較常用的預(yù)測方法有以下幾種:回歸分析法、時間序列法、指數(shù)平滑法、神經(jīng)網(wǎng)絡(luò)法、灰色模型法、優(yōu)選組合預(yù)測法、小波分析預(yù)測技術(shù)等。以上負(fù)荷預(yù)測的方法都有自身的優(yōu)缺點以及適用范圍。電力系統(tǒng)專家經(jīng)過長期負(fù)荷預(yù)測實踐,建議中長期電力負(fù)荷預(yù)測使用時間序列法與灰色模型法。由于未來幾年唐山市將投產(chǎn)幾個重大項目,唐山電網(wǎng)負(fù)荷將呈現(xiàn)不規(guī)則的跳躍式增長。因此,按照常規(guī)的預(yù)測方法對唐山電網(wǎng)的用電負(fù)荷進(jìn)行預(yù)測將無法獲得較滿意的數(shù)據(jù)擬合度。神經(jīng)網(wǎng)絡(luò)算法能夠?qū)崿F(xiàn)較復(fù)雜的非線性映射,對大量的非結(jié)構(gòu)性、非準(zhǔn)確性規(guī)律具有自適應(yīng)能力,應(yīng)用于電力系統(tǒng)負(fù)荷預(yù)測,能夠得到比傳統(tǒng)預(yù)測方法更好的效果。因此,本文嘗試使用神經(jīng)網(wǎng)絡(luò)算法預(yù)測唐山電網(wǎng)的用電負(fù)荷。

三、預(yù)測模型的建立

(一)確定神經(jīng)網(wǎng)絡(luò)輸入量

輸入層是神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的第一層次,該層次輸入量的確定關(guān)系到神經(jīng)網(wǎng)絡(luò)訓(xùn)練的效率。特征量取得太少,則不能起到區(qū)分判斷作用;取得太多則影響網(wǎng)絡(luò)的訓(xùn)練速度。因此,合理地選擇輸入量,能提高網(wǎng)絡(luò)的訓(xùn)練速度和預(yù)測精度。為了簡化模型的結(jié)構(gòu),提高預(yù)測的精度,本文綜合考慮中長期電力負(fù)荷預(yù)測的相關(guān)因素以及唐山電網(wǎng)的用電特點,確定以下五種影響電力負(fù)荷的經(jīng)濟因素作為神經(jīng)網(wǎng)絡(luò)的輸入量即:“唐山地區(qū)的生產(chǎn)總值(GDP);第一產(chǎn)業(yè)用電量占總用電量的比重;第二產(chǎn)業(yè)用電量占總用電量的比重;第三產(chǎn)業(yè)用電量占總用電量的比重;生活用電量占總用電量的比重。”

(二)構(gòu)造神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

本文應(yīng)用的神經(jīng)網(wǎng)絡(luò)是由輸入層、輸出層和隱含層三層網(wǎng)絡(luò)結(jié)構(gòu)構(gòu)成。理論研究已證明對于任何在閉區(qū)間上連續(xù)的函數(shù),只要隱含層神經(jīng)元數(shù)目足夠多,就可以用只含一個隱含層的網(wǎng)絡(luò)結(jié)構(gòu)以任意精度來逼近,所以本文隱含層只取一層。第一層為輸入層,神經(jīng)網(wǎng)絡(luò)的輸入神經(jīng)元為五種影響唐山電網(wǎng)用電負(fù)荷的經(jīng)濟因素,因此該層的神經(jīng)元個數(shù)為5個;第二層是隱含層,隱含層神經(jīng)元數(shù)根據(jù)下式求得:

或或h=lg2n (1)

其中k為樣本數(shù),n為輸入層神經(jīng)元數(shù),m為輸出神經(jīng)元數(shù),h為隱含層神經(jīng)元數(shù),a為1～10之間的常數(shù)。第三層是輸出層,因為輸出結(jié)果只有一個指標(biāo)即唐山電網(wǎng)某年的用電量,所以輸出神經(jīng)元的個數(shù)是1。從而確定本文的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為5×3×1。

(三)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練算法

由于標(biāo)準(zhǔn)BP算法中,人為憑經(jīng)驗選取學(xué)習(xí)率和動量因子,往往會對網(wǎng)絡(luò)學(xué)習(xí)速度產(chǎn)生較大影響,甚至?xí)驗閷W(xué)習(xí)率選取不當(dāng)而導(dǎo)致學(xué)習(xí)中發(fā)生振蕩而不能收斂,這些缺點將影響整個預(yù)測的精度。本文采用改進(jìn)的批處理式Vogl快速算法,進(jìn)行網(wǎng)絡(luò)訓(xùn)練。在網(wǎng)絡(luò)訓(xùn)練過程中根據(jù)訓(xùn)練的實際情況自適應(yīng)改變學(xué)習(xí)率η及動量因子α的大小:當(dāng)前的誤差梯度修正正確,則增大學(xué)習(xí)率,加入動量項;否則減少學(xué)習(xí)率,甩掉動量項。這樣初始η值就可以相對隨意的選取,避免上述缺點。自適應(yīng)改變η及α的修正公式如下:

(2)

上式中ΔE=E(J)-E(J-1),表示神經(jīng)網(wǎng)絡(luò)前后相鄰兩次學(xué)習(xí)過程中誤差函數(shù)的變化量。φ略大于1,β略小于1。E (J)為神經(jīng)網(wǎng)絡(luò)第J次訓(xùn)練過程中的誤差函數(shù):

(3)

式中:pt',和Ot分別表示神經(jīng)網(wǎng)絡(luò)對應(yīng)于第t個輸入向量的期望輸出和實際輸出。

(四)預(yù)測實施

唐山電網(wǎng)2001～2008年用電量、生產(chǎn)總值以及各產(chǎn)業(yè)用電占比情況的歷史數(shù)據(jù)見表1:

表12001～2008年唐山電網(wǎng)用電情況統(tǒng)計

年份 生產(chǎn)總值

/萬元 用電量

/億千瓦時 一產(chǎn)用電

/% 二產(chǎn)用電

/% 三產(chǎn)用電

/% 生活用電

/%

2001年 9150473 158.266 3.8 83.4 5.5 7.2

2002年 9993543 180.420 3.3 84.6 5.5 6.6

2003年 11022878 233.638 2.2 87.7 4.8 5.3

2004年 17616311 290.260 1.7 89.1 4.5 4.7

2005年 20276374 358.800 2.4 89.1 4.0 4.5

2006年 23621410 432.752 2.1 89.3 4.2 4.5

2007年 27794190 520.020 1.3 90.5 4.1 4.1

2008年 36132447 538.509 1.2 90.0 4.4 4.4

根據(jù)2001～2008年唐山電網(wǎng)用電量的歷史數(shù)據(jù),分別使用時間序列法、灰色預(yù)測模型與神經(jīng)網(wǎng)絡(luò)算法對唐山電網(wǎng)的用電量進(jìn)行預(yù)測。使用2001～2006年的歷史數(shù)據(jù)預(yù)測2007年、2008年的用電量,并將預(yù)測結(jié)果與真實數(shù)據(jù)做對比,以分析三種預(yù)測方法的誤差。通過

Matlab軟件計算,三種預(yù)測方法的預(yù)測結(jié)果及誤差情況,見表2:

表2用電量預(yù)測值及誤差表

序號 年份 用電量 灰色模型 時間序列法 神經(jīng)網(wǎng)絡(luò)

預(yù)測值 誤差 預(yù)測值 誤差 預(yù)測值 誤差

1 2007年 520.020 501.1 3.64% 487.9 6.41% 531.7 2.25%

2 2008年 538.509 512.4 4.85% 503.9 6.75% 559.4 3.88%

通過上表我們可以看出以上三種預(yù)測方法的誤差除了時間序列法的誤差較高外,都在允許的范圍內(nèi)。灰色模型與神經(jīng)網(wǎng)絡(luò)算法都可以較準(zhǔn)確的預(yù)測出唐山電網(wǎng)的用電量。相比而言,神經(jīng)網(wǎng)絡(luò)算法預(yù)測對于歷史數(shù)據(jù)的擬合度更高,神經(jīng)網(wǎng)絡(luò)算法更適用于唐山電網(wǎng)中長期的電力負(fù)荷預(yù)測。因此,本文使用神經(jīng)網(wǎng)絡(luò)算法對唐山電網(wǎng)未來五年的用電負(fù)荷進(jìn)行預(yù)測,通過Matlab軟件計算,預(yù)測結(jié)果見表3:

表3唐山電網(wǎng)用電負(fù)荷預(yù)測

序號 年份 年用電量(億千瓦時) 年最大負(fù)荷(MW)

1 2009 584.282 7637.677

2 2010 625.182 8172.314

3 2011 665.819 8703.514

4 2012 725.077 9478.127

5 2013 781.633 10217.42

四、結(jié)論

本文研究了神經(jīng)網(wǎng)絡(luò)算法在唐山電網(wǎng)中長期電力負(fù)荷預(yù)測中的應(yīng)用。研究結(jié)果表明,應(yīng)用神經(jīng)網(wǎng)絡(luò)算法比時間序列法、灰色模型有更高的預(yù)測精度,神經(jīng)網(wǎng)絡(luò)算法可以較準(zhǔn)確的預(yù)測唐山電網(wǎng)中長期的電力負(fù)荷。

參考文獻(xiàn)

[1]于之虹,郭志忠.數(shù)據(jù)挖掘與電力系統(tǒng)[J].電網(wǎng)技術(shù),2001,25(8).

篇2

關(guān)鍵詞： 變電站變壓器； 裂紋圖像； 特征提取； 神經(jīng)網(wǎng)絡(luò)

中圖分類號： TN911.73?34； TP181 文獻(xiàn)標(biāo)識碼： A 文章編號： 1004?373X（2017）13?0066?04

Abstract： In order to guarantee the normal operation of the electric power system， and improve the identification precision of the substation transformer crack image， a substation transformer crack image recognition model based on the improved neural network algorithm is proposed. The substation transformer crack image is collected and denoised. And then the features of the substation transformer crack image are extracted， and proceeded with dimensionless processing. The neural network is used to establish the recognition model of the substation transformer crack image， and its deficiency is improved correspondingly. The simulation test of the substation transformer simulation crack image recognition was carried out in Matlab 2104R. The results show that the improved neural network can obtain better result of the substation transformer crack image recognition， and the recognition speed can meet the requirements of the substation transformer crack image detection.

Keywords： substation transformer； crack image； feature extraction； neural network

0 引 言

隨著經(jīng)濟的不斷發(fā)展，人們的生活水平日益提高，各種家用電器以及辦公室的電器使用更加頻繁，電力系統(tǒng)的穩(wěn)定工作面臨巨大的挑戰(zhàn)[1]。變壓器是一種重要的電氣設(shè)備，變電站變壓器裂紋嚴(yán)重影響電力系統(tǒng)的正常運行，因此如何對變電站變壓器裂紋圖像進(jìn)行準(zhǔn)確識別具有重要的意義[2]。

國內(nèi)外學(xué)者對變電站變壓器裂紋圖像技術(shù)進(jìn)行了深入、廣泛的研究，提出了一些可行的變電站變壓器裂紋圖像識別模型[3]，目前變電站變壓器裂紋圖像識別模型主要基于圖像進(jìn)行識別，通過對變壓器裂紋圖像進(jìn)行分類，對變壓器裂紋圖像的類別進(jìn)行正確劃分。在實際應(yīng)用中，變壓器裂紋圖像采集受到天氣、環(huán)境以及采集設(shè)備的干擾，圖像中難免會包含一定的噪聲，這些噪聲對變壓器裂紋圖像準(zhǔn)確識別產(chǎn)生了不利影響，因此需去除變壓器裂紋圖像中的噪聲[4?5]。變壓器裂紋圖像識別主要基于特征進(jìn)行建模分析，因此特征對變壓器裂紋圖像識別結(jié)果影響十分重要，當(dāng)前變壓器裂紋圖像識別特征很多，其中不變矩陣特征具有惟一性、魯棒性和可分性，在目標(biāo)識別、字符識別等領(lǐng)域得到了廣泛的應(yīng)用[6]。變壓器裂紋圖像類別與特征之間的聯(lián)系十分復(fù)雜，傳統(tǒng)方法采用歐式距離估計樣本之間的特征聯(lián)系，建立的變壓器裂紋圖像識別模型的誤識率比較高[7?8]。神經(jīng)網(wǎng)絡(luò)具有很好的非線性擬合性能，可以較好地描述變壓器裂紋圖像類型與特征之間的變化關(guān)系，廣泛應(yīng)用于變電站變壓器裂紋圖像的識別中。然而神經(jīng)網(wǎng)絡(luò)自身也存在一定的不足，如參數(shù)的確定全憑經(jīng)驗進(jìn)行，導(dǎo)致變壓器裂紋圖像識別結(jié)果具有一定的盲目性和主觀性，識別結(jié)果不理想[9?10]。

為了保證電力系統(tǒng)的正常運行，提高變電站變壓器裂紋圖像的識別精度，提出基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)[11]算法的變電站變壓器裂紋圖像識別。首先收集變電站變壓器裂紋圖像，并進(jìn)行去噪處理，然后提取變電站變壓器裂紋圖像的特征，最后采用改進(jìn)神經(jīng)網(wǎng)絡(luò)建立變電站變壓器裂紋圖像識別模型，在Matlab 2014R平臺上仿真測試結(jié)果表明，改進(jìn)神經(jīng)網(wǎng)絡(luò)提高了變電站變壓器裂紋圖像的識別精度，加快了變電站變壓器裂紋圖像的檢測速度。

1 小波變換和神經(jīng)網(wǎng)絡(luò)

1.1 小波變換

小波變換可以對信號進(jìn)行小波分解，小波系數(shù)描述不同分辨率上的信息，而且自適應(yīng)能力強，其基本思想為：

式中：和分別表示高分辨率空間和低分辨率空間。

時，小波變換的空間分解見圖1。

和是尺度空間和小波空間的正交基函數(shù)，分別定義如下：

1.2 BP神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)屬于非線性理論中的機器學(xué)習(xí)算法，它們可以通過一個結(jié)構(gòu)網(wǎng)絡(luò)對非線性問題進(jìn)行無限逼近，在圖像處理、人臉識別等領(lǐng)域得到成功應(yīng)用，其中BP神經(jīng)網(wǎng)絡(luò)的性能要優(yōu)于其他神經(jīng)網(wǎng)絡(luò)，通用性更強，BP神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)如圖2所示，包括輸入層、輸出層和隱含層。

在圖2中，為BP神經(jīng)網(wǎng)絡(luò)的輸入向量，為BP神經(jīng)網(wǎng)絡(luò)的輸出向量，其中隱含層神經(jīng)元的節(jié)點數(shù)量通過輸入和輸出的數(shù)和決定，一般情況下，采用Sigmoid函數(shù)構(gòu)建隱含層的轉(zhuǎn)移函數(shù)，具體如下：

BP神經(jīng)網(wǎng)絡(luò)具有反饋功能，選擇輸出層期望輸出與預(yù)測輸出的誤差平方和作為反饋誤差，具體為：

1.3 BP神經(jīng)網(wǎng)絡(luò)的改進(jìn)

在BP神經(jīng)網(wǎng)絡(luò)的工作過程中，BP神經(jīng)網(wǎng)絡(luò)的權(quán)值直接影響其性能，傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)采用經(jīng)驗確定權(quán)值，對于不同問題，神經(jīng)網(wǎng)絡(luò)的性能差別很大，為此，本文對標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò)進(jìn)行相應(yīng)的改進(jìn)，采用遺傳算法BP神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行在線優(yōu)化，以提高變電站變壓器裂紋圖像識別的效果，遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值具體設(shè)計過程為：

Step1：個體編碼。采用十進(jìn)制對BP神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行編碼，那么編碼長度為：

式中：表示輸入層與隱含層的權(quán)重；表示隱含層與輸出層之間的權(quán)重。

Step2：適應(yīng)度函數(shù)的構(gòu)建。對個體進(jìn)行解碼，得到BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和隱含層的輸出和輸出層的輸出它們分別為：

式中是訓(xùn)練輸出數(shù)據(jù)。

Step3：通過選擇、交叉和變異等遺傳操作，不斷產(chǎn)生新的種群，將個體解碼為BP神經(jīng)網(wǎng)絡(luò)的權(quán)值，然后根據(jù)權(quán)值對訓(xùn)練樣本進(jìn)行學(xué)習(xí)，得到反饋誤差，根據(jù)反饋誤差進(jìn)行反饋操作，最后得到BP神經(jīng)網(wǎng)絡(luò)最優(yōu)的權(quán)值。

2 變電站變壓器裂紋圖像識別模型

2.1 變電站變壓器裂紋圖像的特征提取

設(shè)變電站變壓器裂紋圖像為其原點矩和中心矩分別為：

2.2 變電站變壓器裂紋圖像識別模型的工作步驟

（1） 收集變電站變壓器裂紋圖像。

（2） 采用小波變換對變電站變壓器裂紋圖像進(jìn)行去噪處理，消除噪聲的干擾。

（3） 提取變電站變壓器裂紋圖像的不變矩特征，并進(jìn)行如下處理：

（4） 采用BP神經(jīng)網(wǎng)絡(luò)對訓(xùn)練樣本進(jìn)行學(xué)習(xí)，并采用遺傳算法優(yōu)化權(quán)值，建立變電站變壓器裂紋圖像識別分類器。

（5） 采用測試樣本對變電站變壓器裂紋圖像識別結(jié)果進(jìn)行分析。

3 仿真實驗

3.1 實驗環(huán)境

為了測試改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像識別性能，在Matlab 2014R仿真平臺上進(jìn)行了仿真實驗，選擇不同類型的變電站變壓器裂紋圖像作為實驗對象，它們共有4種類型，編號分別為1，2，3，4。

3.2 結(jié)果與分析

選擇傳統(tǒng)神經(jīng)網(wǎng)絡(luò)作為對比實驗，變電站變壓器裂紋圖像識別結(jié)果如圖3和圖4所示，平均識別正確率和訓(xùn)練時間如表1所示。

對識別結(jié)果進(jìn)行分析可以得到如下結(jié)論：

（1） 傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像識別正確率低，這主要是由于傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的權(quán)值隨機確定，無法描述變電站變壓器裂紋圖像的類別，因此識別效果差。

（2） 改進(jìn)神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像識別結(jié)果相對更優(yōu)，這主是由于小波變換消除了變電站變壓器裂紋圖像中的噪聲，并通過遺傳算法確定BP神經(jīng)網(wǎng)絡(luò)權(quán)值，提高了變電站變壓器裂紋圖像識別的正確率，而且變電站變壓器裂紋圖像訓(xùn)練時間更快，加快了變電站變壓器裂紋圖像的識別速度。

4 結(jié) 論

變電站變壓器裂紋圖像具有重要的應(yīng)用價值，為了解決當(dāng)前變電站變壓器裂紋圖像識別中存在的局限性，提出改進(jìn)神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像的識別模型，并通過具體應(yīng)用實驗對其有效性進(jìn)行測試，具體結(jié)論如下：

（1） 針對變電站變壓器裂紋圖像的噪聲，采用小波分析對變電站變壓器裂紋圖像進(jìn)行變換和處理，消除外界環(huán)境以及其他因素帶來的噪聲干擾，便于后續(xù)變電站變壓器裂紋圖像特征提取和分類器建立，有助于改善變電站變壓器裂紋圖像的識別效果。

（2） 通過提取變電站變壓器裂紋圖像的不變矩圖像，作為變電站變壓器裂紋圖像分類器的輸入，建立了變電站變壓器裂紋圖像識別的依據(jù)，準(zhǔn)確反映了變電站變壓器裂紋圖像類型。

（3） 采用改進(jìn)神經(jīng)網(wǎng)絡(luò)對變電站變壓器裂紋圖像進(jìn)行分類與識別，可以反映變電站變壓器裂紋圖像類型與圖像特征之間的映射關(guān)系，通過神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)建立變電站變壓器裂紋圖像的識別模型，提高變電站變壓器裂紋圖像的識別精度。

（4） 通過引入遺傳算法對神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行優(yōu)化，解決了神經(jīng)網(wǎng)絡(luò)參數(shù)確定的難題，建立了結(jié)構(gòu)更優(yōu)的神經(jīng)網(wǎng)絡(luò)，降低了變電站變壓器裂紋圖像識別的錯誤率。

（5） 與其他識別模型相比，改進(jìn)神經(jīng)網(wǎng)絡(luò)提高了變電站變壓器裂紋圖像識別的正確率，而且識別速度也有顯著的優(yōu)勢，對比結(jié)果驗證了改進(jìn)神經(jīng)網(wǎng)絡(luò)應(yīng)用于變電站變壓器裂紋圖像識別的優(yōu)越性。

參考文獻(xiàn)

[1] 郭創(chuàng)新，朱傳柏，曹一家.電力系統(tǒng)故障診斷的研究現(xiàn)狀與發(fā)展趨勢[J].電力系統(tǒng)自動化，2006，30（8）：98?103.

[2] 蘇鵬聲，王歡.電力系統(tǒng)設(shè)備狀態(tài)監(jiān)測與故障診斷技術(shù)分析[J].電力系統(tǒng)自動化，2003，27（1）：61?65.

[3] 項新建.粗糙集理論在變壓器故障診斷專家系統(tǒng)中的應(yīng)用研究[J].科技通報，2003，19（4）：288?291.

[4] 應(yīng)鴻，李天云，張宇輝.變壓器故障診斷的神經(jīng)網(wǎng)絡(luò)法[J].東北電力學(xué)院學(xué)報，1996，16（4）：54?58.

[5] 孫才新，郭俊峰，廖瑞金，等.變壓器油中溶解氣體分析中的模糊模式多層聚類故障診斷方法的研究[J].中國電機工程學(xué)報，2001，21（2）：37?41.

[6] 張冠軍，嚴(yán)璋，張仕君.電力變壓器故障診斷中斷新方法的應(yīng)用[J].高壓電器，1998（4）：32?35.

[7] 顏湘蓮，文遠(yuǎn)芳.模糊神經(jīng)網(wǎng)絡(luò)在變壓器故障診斷中的應(yīng)用研究[J].變壓器，2002（7）：41?43.

[8] 謝可夫，羅安.遺傳算法在變壓器故障診斷中的應(yīng)用[J].電力自動化設(shè)備，2005（4）：55?58.

[9] 何成才.電力機車牽引變壓器油箱體裂紋故障的分析及處理[J].鄭州鐵路職業(yè)技術(shù)學(xué)院學(xué)報，2009，21（1）：13?14.

篇3

關(guān)鍵詞:組合導(dǎo)航; 卡爾曼濾波; BP神經(jīng)網(wǎng)絡(luò); 小腦模型神經(jīng)網(wǎng)絡(luò)

中圖分類號:TN96-34文獻(xiàn)標(biāo)識碼:A

文章編號:1004-373X(2010)21-0051-03

Application of CMAC-based Kalman Filtering Technology in Integrated Navigation System

ZHANG Yuan, YANG Bin, SUN Jiang-lei

(Department of Navigation, Benghu Navy Petty Officer Academy ofPLA, Benghu 233012, China)

Abstract: The conventional Kalman filter needs to assume that the statistical properties of the noise in dynamic model and observation system are exactly known, but the noise in integrated navigation system is uncertain. Soa new method that the cerebellar model articulation controller (CMAC) neural network assists Kalman filter is put forward to solve the problem. The simulation results indicate that the precision of CMAC is 2 times better and convergence time is 200 s less than those of Kalman filtering algorithm. Thus it can overcome the shortcomings of the conventional neural network, such as slow learning and poor generalization ability, and make the whole system has the adaptive capability to deal with the disturbance in dynamic situation.

Keywords: integrated navigation; Kalman filtering; BP neural network; CMAC neural network

0 引 言

卡爾曼濾波是目前組合導(dǎo)航系統(tǒng)常用的一種濾波算法,但經(jīng)典卡爾曼濾波理論要求精確的系統(tǒng)數(shù)學(xué)模型和噪聲統(tǒng)計特性,而組合導(dǎo)航系統(tǒng)實際上是一個復(fù)雜的動力系統(tǒng),要給出其精確的數(shù)學(xué)模型以及系統(tǒng)噪聲和測量噪聲的統(tǒng)計特性都存在著困難。因此在實際應(yīng)用中,為了給出較精確的系統(tǒng)描述,需要高階的數(shù)學(xué)模型,這勢必導(dǎo)致很大的計算量,為高階卡爾曼濾波器的實現(xiàn)和算法的實時性帶來了困難;如果采用簡化系統(tǒng)模型的方法,雖減小了計算量,但同時也降低了系統(tǒng)精度[1-2]。

本文將小腦模型神經(jīng)網(wǎng)絡(luò)(CMAC)與卡爾曼濾波器相結(jié)合,提出小腦模型神經(jīng)網(wǎng)絡(luò)(CMAC)輔助卡爾曼濾波器進(jìn)行最優(yōu)估計的信息融合方法,并將算法應(yīng)用于組合導(dǎo)航系統(tǒng)中。通過計算機仿真,檢驗了小腦模型神經(jīng)網(wǎng)絡(luò)(CMAC)輔助卡爾曼濾波的精度優(yōu)于經(jīng)典卡爾曼濾波算法和其他神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波算法。

1 CMAC輔助卡爾曼濾波設(shè)計

1.1 CMAC網(wǎng)絡(luò)模型[3]

CMAC是由Albus根據(jù)小腦在生物運動協(xié)調(diào)方面的重要作用而提出的一種小腦模型關(guān)節(jié)控制器,是一種表達(dá)復(fù)雜非線性函數(shù)的表格查詢型自適應(yīng)神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)可通過學(xué)習(xí)算法改變表格的內(nèi)容,具有信息分類存儲的能力[4]。

CMAC的基本思想在于:在輸入空間中給出一個狀態(tài),從存儲單元中找到對應(yīng)于該狀態(tài)的地址,將這些存儲單元中的內(nèi)容通過求和得到CMAC 的輸出;將此響應(yīng)值與期望輸出值進(jìn)行比較,并根據(jù)學(xué)習(xí)算法修改這些已經(jīng)激活的存儲單元的內(nèi)容。CMAC網(wǎng)絡(luò)由輸入層、中間層和輸出層組成,如圖1所示。

CMAC神經(jīng)網(wǎng)絡(luò)的設(shè)計主要包括輸入空間的劃分、輸入層值輸出層非線性映射的實現(xiàn)以及輸出層權(quán)值學(xué)習(xí)算法。CMAC是前饋網(wǎng)絡(luò),輸入/輸出之間的非線性關(guān)系由兩個基本映射實現(xiàn)。

圖1 CMAC結(jié)構(gòu)圖

(1) 概念映射(uAC)

設(shè)輸入空間向量為up=[u1p,u2p,…,unp]T,量化編碼為[up],輸入空間映射至AC中c個存儲單元(c為二進(jìn)制非零單元的數(shù)目)。Р捎檬(1)表示映射后的向量:

Rp=S([up])=[s1(up),s2(up),…,sc(up)]T

(1)

式中:sj([up])=1,j=1,2,…,c。

(2) 實際映射(ACAP)

網(wǎng)絡(luò)的輸出為AP中c個單元的權(quán)值之和。只考慮單輸出:

y(t)=∑cj=1wjsj([up])

(2)

1.2 CMAC學(xué)習(xí)算法

CMAC 算法的基本思想是將學(xué)習(xí)數(shù)據(jù)存儲在交疊的存儲單元中,輸出為相應(yīng)激活單元數(shù)據(jù)的累加和,將實際值與期望輸出值比較,并根據(jù)學(xué)習(xí)算法修改已激活的存儲單元內(nèi)容。其權(quán)值調(diào)整公式為:

wij=wi-1j+mCs(ys-ys)

(3)

ys=∑Nj=1Cswi-1j

(4)

式中:Иys為狀態(tài)s的期望輸出;ys為狀態(tài)s的實際輸出;滴學(xué)習(xí)常數(shù);N為存儲單元數(shù);Cs為第j個存儲單元是否被狀態(tài)s激活的指示,當(dāng)某個狀態(tài)僅有m個存儲單元被激活時,其Cs值為1,而其他存儲單元的Cs值均為0。Ц盟惴ㄖ形蟛畋黃驕分配到所有被激活的存儲單元,經(jīng)多次迭代后,各存儲單元由于學(xué)習(xí)歷史不同,所以有不同的可信度。

為提高學(xué)習(xí)速度以滿足系統(tǒng)要求,本文采用一種基于信度分配的CMAC神經(jīng)網(wǎng)絡(luò)模型,其權(quán)值調(diào)整公式為:

wij=wi-1j+Cs[f(j)+1]-k0∑mj=1[f(j)+1]-k0(ys-∑Nj=1Cswi-1j)

(5)

式中:f(j)為第j個存儲單元的學(xué)習(xí)次數(shù);m為某狀態(tài)激活的存儲單元數(shù);k0為一平衡學(xué)習(xí)數(shù);wij為經(jīng)過┑i次迭代后存儲在第j個存儲單元的權(quán)值。由式(5)可以看出,f(j)越大,其存儲的知識越大;k0越大,對學(xué)習(xí)次數(shù)f(j)較大的存儲單元,其權(quán)值改變較小,網(wǎng)絡(luò)學(xué)習(xí)中“已經(jīng)學(xué)習(xí)知識的保持”占主導(dǎo)地位;反之,當(dāng)k0很小時,學(xué)習(xí)次數(shù)f(j)Ф孕哦確峙淶撓跋煲步閑,網(wǎng)絡(luò)學(xué)習(xí)中“遺忘”占據(jù)主導(dǎo)地位[5-7]。

1.3 基于CMAC卡爾曼濾波設(shè)計

首先確定CMAC神經(jīng)網(wǎng)絡(luò)模型的輸入與輸出變量,將能直接影響卡爾曼濾波估計誤差的參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入。這些信號可分為三部分[1,8]:

(1) 狀態(tài)向量的預(yù)測或一步動態(tài)外推與濾波估計之差[k/k-1-k/k];

(2) 實際觀測值與卡爾曼估計觀測值之差[Zk-h(k/k,K)];

(3) 卡爾曼增益矩陣Kk。

CMAC神經(jīng)網(wǎng)絡(luò)模型的輸出量為系統(tǒng)狀態(tài)向量的卡爾曼估計與滿足誤差精度的相對真值的誤差:

E=[k-k/k],其中,k為相對真值。

因此借鑒文獻(xiàn)[1]中提出的基本思想,構(gòu)造基于CMAC卡爾曼濾波器如圖2所示。

圖2 基于CMAC卡爾曼濾波器

2 仿真結(jié)果

本文著重討論基于CMAC卡爾曼濾波算法的可行性,利用如下簡化組合導(dǎo)航系統(tǒng)模型和圖3的算法結(jié)構(gòu)進(jìn)行討論,并分別與經(jīng)典卡爾曼濾波算法和BP神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波算法進(jìn)行比較。

Xk+1=1h01Xk+Wk,

Yk=[1 0]Xk+Vk

(6)

狀態(tài)變量X1為航跡距離,X2為航跡速度,取h=10。仿真參數(shù)設(shè)置如下[9]:k0=1.2,N=10, =0.05。а盜費本根據(jù)實驗選取。基于CMAC卡爾曼濾波算法、經(jīng)典卡爾曼濾波算法和BP神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波算法的仿真都通過Matlab軟件來完成?；贑MAC卡爾曼濾波算法的結(jié)構(gòu)如圖3所示,仿真結(jié)果如圖4所示。

圖3 基于CMAC卡爾曼濾波算法結(jié)構(gòu)圖

由仿真結(jié)果可知,圖4(a)~圖4(c)為標(biāo)準(zhǔn)卡爾曼濾波算法、BP神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波算法和CMAC輔助卡爾曼濾波算法所得的位移估計誤差值和速度估計誤差值。從圖4和表1中可以看出,CMAC輔助卡爾曼濾波算法的精度和收斂時間要比前面兩種算法優(yōu)越。

表1 三種算法結(jié)果比較

指標(biāo)

項目

位移誤差(ΔS)航速誤差(ΔV)

KalmanAided BPAided CMACKalmanAided BPAided CMAC

收斂時間(T)820700610920810600

穩(wěn)態(tài)時段方差(σ)0.030 90.018 50.010 10.031 50.025 30.012 2

圖4 仿真結(jié)果

3 結(jié) 論

理論分析和仿真結(jié)果表明,本文提出的CMAC輔助卡爾曼濾波算法具有容錯性能好,收斂速度快,泛化能力強的特點,比標(biāo)準(zhǔn)卡爾曼濾波算法更為優(yōu)越。

參考文獻(xiàn)

[1]白宇駿,徐曉蘇,劉國燕.神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波技術(shù)在組合導(dǎo)航系統(tǒng)中的應(yīng)用研究[J].中國慣性技術(shù)學(xué)報,2003,11(2):40-43.

[2]許麗佳,陳陽舟,崔平遠(yuǎn).基于神經(jīng)網(wǎng)絡(luò)的組合導(dǎo)航系統(tǒng)狀態(tài)估計[J].中國慣性技術(shù)學(xué)報,2004,12(2):40-46.

[3]劉金錕.智能控制[M].北京:電子工業(yè)出版社,2005.

[4]李士勇.模糊控制•神經(jīng)控制和智能控制[M].哈爾濱:哈爾濱工業(yè)大學(xué)出版社,1998.

[5]SHUN F S, TED T, HUNG T H. Credit assigned CMAC and its application to online earning robust controllers[J].IEEE Trans. on Systams, Man and Cybernetics, 2003, 33(2): 202-213.

[6]LIN C S, CHIANG C T.Learning convergence of CMAC technique [J].LIEEE Trans.Neural Networks,1997,8(6):1281-1292.

[7]張偉,朱大奇,孔敏,等.基于改進(jìn)的CMAC神經(jīng)網(wǎng)絡(luò)與PID并行控制的研究[J].計算機測量與控制,2005,13(12):1359-1360.

篇4

關(guān)鍵詞： 變壓器 局部放電 BP算法 遺傳算法 模式識別

1.引言

隨著電力系統(tǒng)的發(fā)展和電壓等級、容量的不斷提高，局部放電已經(jīng)成為電力變壓器絕緣劣化的重要原因，因而局部放電的檢測也就成為變壓器絕緣狀況監(jiān)測的重要手段［1］。變壓器絕緣體系中的放電類型很多，不同的放電類型對絕緣的破壞作用有很大差異，因此有必要對各種放電類型加以區(qū)分，從而能夠更好地進(jìn)行變壓器故障定位和故障處理。

人工神經(jīng)網(wǎng)絡(luò)自20世紀(jì)90年代開始就用于放電類型的模式識別，由于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)類似于人類大腦的神經(jīng)元，具有自學(xué)習(xí)的能力。因此在很多應(yīng)用中取得了比較好的效果，但是它也存在局限性。由于利用梯度下降法全局尋優(yōu)，因此網(wǎng)絡(luò)收斂的速度很慢，而且常常會陷入局部極小點。

本文嘗試用基于遺傳算法的BP網(wǎng)絡(luò)實現(xiàn)放電類型的模式識別，用遺傳算法來實現(xiàn)全局優(yōu)化以克服BP神經(jīng)網(wǎng)絡(luò)的局限性［2］，提高模式識別的準(zhǔn)確度。最后，用所提出的基于遺傳算法BP與一般BP進(jìn)行比對。實驗結(jié)果顯示前者明顯提高了模式識別的準(zhǔn)確性及快速性，這對于進(jìn)一步進(jìn)行變壓器故障定位和故障處理有重要意義。

2.試驗原理及方法

首先我們引入純BP神經(jīng)網(wǎng)絡(luò)。BP網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò)，通常具有三層或三層以上的神經(jīng)網(wǎng)絡(luò)，包括輸入層、中間層（隱層）和輸出層。以三層BP神經(jīng)網(wǎng)絡(luò)為例，設(shè)W為第j個輸入到第i個隱層節(jié)點的連接權(quán)值，θ為隱層節(jié)點的閾值，W為第k個輸出節(jié)點到第i個隱節(jié)點的連接權(quán)值，q為輸出節(jié)點的閾值，O為輸出層的輸出。三層BP網(wǎng)絡(luò)的結(jié)構(gòu)如圖1所示。

根據(jù)Kolmogorov定理，本文中選用的BP網(wǎng)絡(luò)采用N×2N+1×M的三層網(wǎng)絡(luò)結(jié)構(gòu)。其中，N表示輸入特征向量的分量數(shù)，M表示輸出狀態(tài)類別總數(shù)。中間層神經(jīng)元的作用函數(shù)為Tansig，輸出層神經(jīng)元的作用函數(shù)為logsig。

然后用遺傳算法［3］調(diào)節(jié)BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值，并用優(yōu)化后的BP網(wǎng)絡(luò)進(jìn)行試驗，其步驟如下：

①初始化種群P，包括種群規(guī)模、交叉概率Pc及變異概率Pm，隨機化W、θ、W、q，采用實數(shù)編碼。

②計算每一條染色體的評價函數(shù)，按蒙特卡羅法來選擇個體

p=f/f

其中，f為第i條染色體的適應(yīng)度，用誤差平方和來衡量，即

f=1/E（i）

E（i）=∑∑（O-T）

p為學(xué)習(xí)樣本數(shù)，k為輸出層節(jié)點數(shù)。

③以概率Pc對個體進(jìn)行交叉操作，沒有選中的直接復(fù)制，產(chǎn)生新的種群。采用算數(shù)交叉，即：

x（i）=αx（i）+（1-α）x（i+1）

x（i+1）=αx（i+1）+（1-α）x（i）

其中，x為選中的染色體。

④以概率Pm對個體x（i）進(jìn)行變異操作，產(chǎn)生新的個體x'（i）。

⑤將新個體插入種群P中，重新計算種群中個體的適應(yīng)值。

⑥如果搜索到滿足要求的個體（達(dá)到誤差要求ε），轉(zhuǎn)第⑧步，否則轉(zhuǎn)第三步。

⑦找到最優(yōu)的個體后，將最優(yōu)染色體解碼即得到網(wǎng)絡(luò)的連接權(quán)系數(shù)和閾值。

⑧利用遺傳算法優(yōu)化好的網(wǎng)絡(luò)權(quán)值，用BP算法訓(xùn)練網(wǎng)絡(luò)直到精度ε。

最后將BP網(wǎng)絡(luò)所得結(jié)果和基于GA的BP網(wǎng)絡(luò)所得結(jié)果對比分析。

3.實驗及結(jié)果分析

變壓器油紙絕緣結(jié)構(gòu)中的四種主要放電類型，分別是懸浮放電、沿面放電、內(nèi)部放電和油中針板放電。首先采用變壓器超高頻測量系統(tǒng)在不同的電壓等級、不同的電極尺寸、不同的中心頻率對這四種放電類型的數(shù)據(jù)進(jìn)行了采集。

將采集到的數(shù)據(jù)送入計算機進(jìn)行處理，生成局部放電的二維譜圖并從中提取包括偏斜度Sk、突出度Ku、放電不對稱度Q、相位不對稱度Φ、互相關(guān)因子cc和相位中值μ等統(tǒng)計算子，以此作為放電的特征量來區(qū)分不同類型的放電［4］。由于變壓器局部放電超高頻檢測系統(tǒng)所提取的特征量的數(shù)量比較多，太多的特征量會增加樣本學(xué)習(xí)過程中的計算量，提高模型的復(fù)雜程度，結(jié)合經(jīng)驗，最終選擇了平均放電譜圖的{Q、cc、Sk+、Sk-、Ku+、Ku-}作為輸入向量，來進(jìn)行局部放電的模式識別［5］。

隨機抽取四種放電類型的樣本數(shù)據(jù)一共200組，每種模式50組，來訓(xùn)練神經(jīng)網(wǎng)絡(luò)。為了驗證方法的有效性，又提取了每種模式30組數(shù)據(jù)對訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行測試。

用這些訓(xùn)練數(shù)據(jù)對一般BP進(jìn)行訓(xùn)練，一般21步后達(dá)到目標(biāo)值0.001，訓(xùn)練性能為0.00029，運行時間為3.216000s。對于基于遺傳算法的BP網(wǎng)絡(luò)，選取初始種群為P=30，GA訓(xùn)練目標(biāo)ε=0.4，遺傳算法在經(jīng)過大約200代的計算時，達(dá)到權(quán)值和閾值的最優(yōu)，且BP算法經(jīng)過8步的運算，即達(dá)到目標(biāo)值0.001，訓(xùn)練性能為0.00016，運行時間0.605000s?？梢娀贕A的BP網(wǎng)絡(luò)在運算速度上要優(yōu)于一般BP算法。

用BP神經(jīng)網(wǎng)絡(luò)和GA-BP算法的模式識別結(jié)果比較如表1。由統(tǒng)計結(jié)果可以看出一般BP算法也可以對放電的類型進(jìn)行分類，但是由于BP算法隨機選取初始權(quán)值的范圍較小，這樣就易陷入局部最小而使訓(xùn)練失敗，成功率比較低。而用基于GA的BP算法時，對放電類型的模式識別率明顯高于純BP算法。從實驗所得結(jié)果及統(tǒng)計分析可知基于GA的BP網(wǎng)絡(luò)運算速度及準(zhǔn)確率都要優(yōu)于純BP算法。

綜上所述，BP算法進(jìn)行分類時，由于算法本身局限性，初始權(quán)值和閾值隨機選取且選取的空間小，導(dǎo)致容易陷入局部極小而使訓(xùn)練失敗?；谶z傳算法的BP網(wǎng)絡(luò)先用GA算法在全局空間上搜索權(quán)值和閾值的最優(yōu)點，然后用BP算法在最優(yōu)點附近尋優(yōu)，達(dá)到最優(yōu)值。這樣就有效地克服了一般BP算法容易陷入局部最優(yōu)的缺點。另外，基于遺傳算法的BP網(wǎng)絡(luò)的訓(xùn)練速度也明顯優(yōu)于一般BP算法的訓(xùn)練速度。

4.結(jié)語

本文所提出的基于遺傳算法的BP網(wǎng)絡(luò)可以對變壓器超高頻局部放電模式識別，并克服了一般BP算法的不足。實驗結(jié)果表明BP算法易陷入局部極小的缺點，而用遺傳算法先對權(quán)值進(jìn)行整個解空間的優(yōu)化，縮小優(yōu)化空間，然后由BP網(wǎng)絡(luò)進(jìn)行搜索，可以克服BP算法全局搜索能力不足，易陷入局部極小的問題，同時也提高了BP算法的速度。

參考文獻(xiàn)：

［1］王國利.油浸式電力變壓器局部放電特高頻檢測技術(shù)研究.西安：西安交通大學(xué)，2003.

［2］鄭力新.遺傳算法在控制系統(tǒng)工程應(yīng)用的研究.天津大學(xué)，2002.

［3］雷英杰等.MATLAB遺傳算法工具箱及應(yīng)用.西安電子科技大學(xué)出版社.

［4］王國利，鄭毅，沈嵩等.AGA-BP神經(jīng)網(wǎng)絡(luò)用于變壓器超高頻局部放電模式識別.電工電能新技術(shù)，2003，22（2）：629.

篇5

早期關(guān)于人工神經(jīng)網(wǎng)絡(luò)在水文水資源系統(tǒng)中的應(yīng)用與研究的進(jìn)展情況，文獻(xiàn)[3]有較為詳細(xì)、系統(tǒng)的介紹.其中，關(guān)于洪水預(yù)報的研究成果，大多處于如何應(yīng)用人工神經(jīng)網(wǎng)絡(luò)算法進(jìn)行洪水預(yù)報的階段，即如何將洪水預(yù)報的實際問題概化成人工神經(jīng)網(wǎng)絡(luò)可以識別的算法模型.近期的研究成果表明，研究的問題更加深入，如LINDASEE(1999)[4]將洪水過程分為上升段、洪峰段和下降段三部分，分別建立相應(yīng)的預(yù)報模型，充分考慮了不同階段的洪水過程其演進(jìn)規(guī)律的差異.Fi-JohnChang(1999)[5]引入洪峰預(yù)報誤差和峰現(xiàn)誤差作為洪水預(yù)報精度的評價標(biāo)準(zhǔn)，對于洪峰預(yù)報精度給予了高度的重視.能否保證較高的洪水峰值的預(yù)報精度，是將人工神經(jīng)網(wǎng)絡(luò)的實時洪水預(yù)報技術(shù)實際應(yīng)用的關(guān)鍵性問題.

本文在總結(jié)大量實踐經(jīng)驗的基礎(chǔ)上[6,7]，提出了一種能夠進(jìn)行峰值識別的改進(jìn)BP算法(ErrorBackPropagationwithPeakRecognizer,簡稱BPPR).該算法在修改網(wǎng)絡(luò)權(quán)重時偏重大值，即大值誤差對權(quán)重的修改起主要作用.這種改進(jìn)的BP算法使人工神經(jīng)網(wǎng)絡(luò)洪水預(yù)報模型對洪峰峰值的預(yù)報精度顯著提高，從而保證了洪峰預(yù)報的可靠性.

1人工神經(jīng)網(wǎng)絡(luò)的峰值識別理論

洪水預(yù)報主要是為防汛服務(wù)的，通常對洪峰時段的水位(或流量)的準(zhǔn)確預(yù)報尤為重要.但是，對于經(jīng)典的BP算法，網(wǎng)絡(luò)訓(xùn)練是根據(jù)全局誤差修改網(wǎng)絡(luò)權(quán)重的，這種權(quán)重修改方法很難控制洪峰水位(或流量)的訓(xùn)練精度，訓(xùn)練后的網(wǎng)絡(luò)權(quán)重所貯存的信息很可能更多地反映了樣本數(shù)量較大的中、低水位(或流量)的變化規(guī)律.所以，經(jīng)過訓(xùn)練的網(wǎng)絡(luò)對中、低水位(或流量)的預(yù)報精度相對較高，而對洪峰的預(yù)報精度往往低一些.如何提高人工神經(jīng)網(wǎng)絡(luò)模型對洪峰水位(或流量)的預(yù)報精度，是人工神經(jīng)網(wǎng)絡(luò)理論應(yīng)用于洪水預(yù)報的關(guān)鍵問題之一.

本文是在結(jié)合實際課題廣泛研究的基礎(chǔ)上，提出了一種能夠提高網(wǎng)絡(luò)模型峰值識別精度的改進(jìn)BP算法.

1.1峰值識別的基本思想經(jīng)典BP算法的訓(xùn)練過程由信號的正向傳播與誤差的逆向傳播兩個過程組成.其中，誤差的逆向傳播是基于網(wǎng)絡(luò)全局誤差并按“誤差梯度下降”的原則對網(wǎng)絡(luò)權(quán)重進(jìn)行修改.如果對原來基于“全局誤差”的權(quán)重修改原則進(jìn)行合理調(diào)整，使權(quán)重的修改傾向于減小輸出值較大樣本的網(wǎng)絡(luò)映射誤差，這是峰值識別原理的基本思想，其實質(zhì)是在誤差逆向傳播的網(wǎng)絡(luò)權(quán)重修改過程中，遵循了側(cè)重于“峰值樣本誤差”的權(quán)重修改原則.

1.2峰值識別的算法峰值識別理論的實現(xiàn)方法，是在引入動量項和采用學(xué)習(xí)率自適應(yīng)調(diào)整的改進(jìn)BP算法[4]的基礎(chǔ)上，對峰值樣本的網(wǎng)絡(luò)誤差引入合理的修正系數(shù)，使網(wǎng)絡(luò)的權(quán)重向著使峰值訓(xùn)練誤差減小的方向修改.

首先，從經(jīng)典BP算法開始.設(shè)有輸入為x1(t)、x2(t)、…、xn(t)的n維輸入，輸出為xL1(t)、xL2(t)、…、xLm(t)、的m維輸出和若干隱層組成的多輸入、多輸出人工神經(jīng)網(wǎng)絡(luò)模型.這里的t為樣本序列號，這樣的樣本共有P對.

第l層中第i個神經(jīng)元節(jié)點所接收到的上一層輸入總和為

式中：Nl為第l層神經(jīng)元節(jié)點總數(shù)；w(l)ij為第l層i節(jié)點與第l-1層j節(jié)點之間的連接權(quán)重；θ(l)i為第l層i節(jié)點的閾值.

第l層中第i個神經(jīng)元節(jié)點的輸出為

x(l)i(t)=f（y(l)i(t)）=1/1+exp(-σy(l)i(t))(1≤l≤L,1≤i≤Nl)（2）

式中：f()為轉(zhuǎn)移函數(shù)，這里采用的是對數(shù)型的單極性Sigmoid函數(shù)；σ為決定Sigmoid函數(shù)壓縮程度的系數(shù).該系數(shù)越大，曲線越陡；反之，曲線越緩.

則，當(dāng)訓(xùn)練次數(shù)為k時，網(wǎng)絡(luò)輸出層及隱層的誤差信號可表示為

式中：d(L)i(t)為訓(xùn)練樣本的期望輸出.

那么，網(wǎng)絡(luò)權(quán)重的修改公式為

式中：η(k)為訓(xùn)練次數(shù)為k時的學(xué)習(xí)率；α為動量項系數(shù).

以上為經(jīng)典BP算法的基本內(nèi)容.基于峰值識別的思想，實現(xiàn)網(wǎng)絡(luò)誤差修正傾向于輸出樣本的較大值，定義誤差修正系數(shù)ξ

ξi=di(L)(t)/d(L)max(t)（7）

式中：d(L)max(t)為訓(xùn)練樣本期望輸出的最大值.

為了進(jìn)一步提高神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練速度，改善網(wǎng)絡(luò)峰值識別的精度，可以在上述修正系數(shù)的基礎(chǔ)上，增設(shè)誤差修正放大系數(shù)μ.那么，加入誤差修正系數(shù)ξ及誤差修正放大系數(shù)μ后，當(dāng)訓(xùn)練次數(shù)為k時，網(wǎng)絡(luò)輸出層誤差信號的向量表達(dá)式如下

應(yīng)用該算法進(jìn)行網(wǎng)絡(luò)訓(xùn)練，能夠使峰值誤差修正占優(yōu)，從而提高網(wǎng)絡(luò)對峰值的映度.

2應(yīng)用實例

2.1工程概況及基本模型珠江流域西江段的水系關(guān)系比較復(fù)雜，如圖1所示.從柳州站、遷江站、南寧站或貴港站預(yù)報梧州站洪水目前還是一個難題.結(jié)合現(xiàn)有的研究成果，介紹洪水預(yù)報峰值識別理論的有效性.選取珠江流域從對亭站、柳州站、遷江站、南寧站預(yù)報江口站洪水的江口站洪水預(yù)報模型，分別以BP算法與引入峰值識別理論的BPPR算法進(jìn)行網(wǎng)絡(luò)訓(xùn)練.以多年實測記錄數(shù)據(jù)為訓(xùn)練樣本，并采用下一年的記錄數(shù)據(jù)為測試樣本，即以1988、1992～1994、1996～1998各年的水位(流量)資料為訓(xùn)練樣本，以1999年水位(流量)資料作為測試樣本.

圖1珠江流域西江段主要水情站及洪水平均傳播時間示意

*傳播時間單位：h

傳統(tǒng)相應(yīng)水位的洪水預(yù)報方法是根據(jù)天然河道洪水波的運動原理，分析洪水波在運動過程中，波的任一相位自上游水情站傳播到下游水情站的相應(yīng)水位及其傳播時間的變化規(guī)律，尋找其經(jīng)驗關(guān)系，以此進(jìn)行洪水預(yù)報[8].人工神經(jīng)網(wǎng)絡(luò)對信息的分布存儲、并行處理以及自學(xué)習(xí)的能力，決定了它具有對模糊信息和復(fù)雜非線性關(guān)系的識別與處理能力.網(wǎng)絡(luò)的訓(xùn)練學(xué)習(xí)過程，就是網(wǎng)絡(luò)認(rèn)知事物內(nèi)在規(guī)律的過程.構(gòu)造基于人工神經(jīng)網(wǎng)絡(luò)洪水預(yù)報模型的首要問題，是如何將洪水過程合理地概化成人工神經(jīng)網(wǎng)絡(luò)可以映射的輸入、輸出關(guān)系.

以上游干流和主要支流水情站的水位(流量)資料作為網(wǎng)絡(luò)模型的輸入，以下游水情站所形成的相應(yīng)水位(流量)作為網(wǎng)絡(luò)模型的輸出；同時，將下游同時水位(流量)作為網(wǎng)絡(luò)模型的輸入，以模擬下游初始水位的影響.洪水自上游水文站至下游水文站的傳播時間就是網(wǎng)絡(luò)對洪水的預(yù)見期.

本題中所建立的江口站洪水預(yù)報模型中，作為江口站的上游水文站共有對亭、柳州、遷江和南寧等站，其中的遷江站處于干流河道.值得一提的是，對亭站方向的來水屬山區(qū)洪水，特點為量小、峰高、歷時短，洪水過程線陡起陡落，其結(jié)果是水位的變化非常大，而實際的流量又很小，這無疑會影響水位預(yù)報模型的識別精度.為了減少這種小支流的干擾，在建立水位預(yù)報模型時，未將對亭站的水位作為輸入項.在建立流量預(yù)報模型時，為了保證水量的總體平衡，仍將對亭站的流量作為一項輸入.

以3h為一個間隔時段進(jìn)行洪水?dāng)?shù)據(jù)采集來組織樣本，以干流遷江站t時刻水位(流量)、對亭站(t-3)時刻流量、柳州站(t-3)時刻水位(流量)、南寧站(t-8)時刻水位(流量)和江口站t時刻水位(流量)作為網(wǎng)絡(luò)的輸入，江口站(t+T)時刻的水位(流量)為網(wǎng)絡(luò)的輸出.其中，T為網(wǎng)絡(luò)的預(yù)見期，即洪水自上游遷江站傳播到江口站的時間，亦為峰現(xiàn)時間.在組織樣本時，采用洪水在各站間的實測傳播時間，但網(wǎng)絡(luò)預(yù)報的預(yù)見期為平均預(yù)見期，即T=9時段，約28h(洪水在各站間的傳播情況見圖1).圖2為江口站洪水預(yù)報模型的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)圖.

圖2江口站洪水預(yù)報模型的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)

在網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計中，輸入與輸出節(jié)點數(shù)由實際問題而定，而隱層數(shù)及隱層節(jié)點數(shù)是網(wǎng)絡(luò)設(shè)計中的關(guān)鍵問題.在實際問題中，常常無法估計問題的真實復(fù)雜程度，通常采用雙隱層.關(guān)于隱層節(jié)點數(shù)目的確定，直接關(guān)系到能否成功地解決問題.實際上，隱層節(jié)點數(shù)決定于訓(xùn)練樣本的多少、樣本噪音的大小以及所面對問題的復(fù)雜程度.若隱層節(jié)點數(shù)太少，網(wǎng)絡(luò)映射能力不足；若隱層節(jié)點數(shù)太多，不僅增加網(wǎng)絡(luò)的訓(xùn)練時間，還會引發(fā)所謂“過度吻合”問題，即雖然增加了訓(xùn)練精度，但是由于網(wǎng)絡(luò)過多地獲得了樣本的個性特征，而掩蓋了樣本的共性特征，從而造成預(yù)報精度的下降.目前的研究成果，還不能在理論上提供一套科學(xué)的推導(dǎo)方法，試算法是可靠的常規(guī)方法.本題經(jīng)多次試算，合理的拓?fù)浣Y(jié)構(gòu)為：水位預(yù)報模型(4-40-20-1),流量預(yù)報模型(5-40-20-1).

圖3水位預(yù)報模型中BP算法與BPPR算法映結(jié)果比較

網(wǎng)絡(luò)模型的初始權(quán)重在(-1，1)之間隨機產(chǎn)生，動量項系數(shù)α取0.9.初始學(xué)習(xí)率η0在基本BP算法中取0.001，在BPPR算法中取0.0005，初始學(xué)習(xí)率往往會因不同網(wǎng)絡(luò)模型而不同.BPPR算法的峰值誤差修正放大系數(shù)μ取2.0.水位模型的訓(xùn)練停止條件為平均映射誤差l≤0.20m，流量模型的訓(xùn)練停止條件為平均映射誤差q≤500m3/s.

2.2計算成果分別采取BP算法與BPPR算法進(jìn)行網(wǎng)絡(luò)模型的訓(xùn)練，兩種算法對于峰值水位(流量)的映射情況見圖3、圖4.以完成訓(xùn)練的網(wǎng)絡(luò)模型對1999年的洪水情況進(jìn)行測試預(yù)報，預(yù)報結(jié)果見圖5、圖6.

圖4流量預(yù)報模型中BP算法與BPPR算法映射結(jié)果比較

2.3成果分析圖3、圖4反映了完成訓(xùn)練的網(wǎng)絡(luò)模型對訓(xùn)練樣本中洪峰水位與流量的映射情況，從圖中可以看到，BP算法對于洪水演進(jìn)規(guī)律具有很高的映度，引入峰值識別理論的BPPR算法能夠進(jìn)一步提高網(wǎng)絡(luò)對洪水峰值的映度，這種作用對于較高洪峰識別效果更為明顯.

圖51999年水位預(yù)報結(jié)果比較

圖61999年流量預(yù)報結(jié)果比較

圖5、圖6為網(wǎng)絡(luò)模型對1999年洪水主洪峰的預(yù)報情況.在水位預(yù)報模型中，BP算法對洪峰的預(yù)報誤差為0.13m(低于實測值)；BPPR算法的預(yù)報誤差為-0.05m(高于實測值).在流量預(yù)報模型中，BP算法對洪峰的預(yù)報誤差為291m3/s；BPPR算法的預(yù)報誤差為-83m3/s.

這里所采用的峰值誤差修正放大系數(shù)μ實質(zhì)上與樣本集中大值樣本所占的比例有關(guān)，大值樣本所占比例越小，μ的取值越大；反之，則小.在實際操作中，ξμ是作為一個參數(shù)進(jìn)行權(quán)重調(diào)節(jié)計算的，所以μ的取值又受樣本集中最大值和最小值間比例關(guān)系的限制.

如果放大系數(shù)選取過大，網(wǎng)絡(luò)訓(xùn)練容易失穩(wěn)，造成訓(xùn)練誤差增大；反之，網(wǎng)絡(luò)權(quán)重的修改難以體現(xiàn)洪峰樣本的貢獻(xiàn).具體取值由實際問題而定，在珠江流域的洪水預(yù)報模型中，放大系數(shù)的取值范圍為1.5～2.5.

從網(wǎng)絡(luò)模型的訓(xùn)練識別和測試預(yù)報兩方面的研究成果來看，人工神經(jīng)網(wǎng)絡(luò)對于洪水演進(jìn)規(guī)律的識別具有較高的精度，能夠模擬洪水的動態(tài)過程，其中，引入峰值識別理論的BPPR算法有利于提高模型對峰值的映射與預(yù)報精度，效果明顯.這些改進(jìn)效果對于水文水資源預(yù)報中，可能效果并不十分顯著，但在防汛中，水位預(yù)報對防洪決策至關(guān)重要，往往十幾厘米的誤差，直接影響到防洪方案的決策.因此，峰值識別理論對基于BP算法的洪水預(yù)報模型來講，具有重要意義.

3結(jié)束語

基于人工神經(jīng)網(wǎng)絡(luò)的洪水預(yù)報方法作為防洪減災(zāi)領(lǐng)域一種新的研究途徑，將智能化思想引入到對洪水過程的計算模擬，更能反映洪水復(fù)雜非線性的動態(tài)演進(jìn)規(guī)律.研究結(jié)果表明，人工神經(jīng)網(wǎng)絡(luò)算法能夠很好地映射洪水的演進(jìn)規(guī)律，做到對洪水實時的監(jiān)測與預(yù)報，預(yù)報精度較高.

篇6

關(guān)鍵詞：污水處理；多傳感器融合；過程控制；

中圖法分類號：TP216 文獻(xiàn)標(biāo)識碼：A

Abstract Instrumentation， control and automation （ICA） technology after all these years of development， now it has been approved， and determined it in waste-water treatment field of important position， it has obvious effect on reducing waste-water treatment plant operating costs，and improving processing efficiency. And ICA technology has the close relation to the sensor technology， especially multisensory fusion technology in the application and development of sewage treatment field. This paper briefly introduced the multisensory data fusion and its method， then introduces some waste-water treatment process control system which based on those methods， and finally the cooperation development trend of the process control technologies with multisensory fusion technologies in the future were discussed.

Key words waste-water treatment； multisensory fusion； process-control system

0引言

儀表、控制和自動化（Instrumentation、control and automation ICA）并不是污水處理的一個新領(lǐng)域[ 1 ]，雖然這項技術(shù)在國際水協(xié)會（IWA）獲得認(rèn)可將近30年，但仍不是傳統(tǒng)市政工程和環(huán)境工程課程的一部分。隨著科學(xué)技術(shù)的發(fā)展，現(xiàn)以證明，應(yīng)用ICA技術(shù)，使具有營養(yǎng)物質(zhì)去除功能的污水處理廠其能力可以提高10%—30%。因此隨著對污水處理系統(tǒng)內(nèi)部的不斷認(rèn)識和理解，對降低污水處理成本的迫切要求，未來10—20年應(yīng)用ICA技術(shù)的投資將占整個污水處理系統(tǒng)投資的20%—50%。

污水處理廠的典型特點就是水質(zhì)，水量隨時間變化較大，水質(zhì)，水量的擾動是污水廠面臨的主要困難。在傳感器技術(shù)應(yīng)用于污水廠之前，污水處理廠不采用任何形式的過程控制，以犧牲池容和動力費用為代價得到較好的出水水質(zhì)。而隨著污水排放標(biāo)準(zhǔn)的進(jìn)一步提高，為了保證出水水質(zhì)和降低能耗，必須較為準(zhǔn)確的了解進(jìn)水水質(zhì)和出水水質(zhì)的情況，為污水處理的過程控制提供原始數(shù)據(jù)。這就需要傳感器技術(shù)特別是多傳感器融合技術(shù)的支持。

筆者以污水處理系統(tǒng)為基礎(chǔ)，對基于多傳感器融合技術(shù)的污水處理過程控制進(jìn)行介紹，并展望未來發(fā)展趨勢，旨在為后來者提供微些參考。

1多傳感器融合及其方法

多傳感器融合就是充分利用多傳感器的資源，將多個傳感器在時間和空間上的互補或冗余按照某種算法或準(zhǔn)則進(jìn)行綜合，提高了判斷和估計的精確性，可靠性以及在對抗環(huán)境下得生存性[2]。其數(shù)據(jù)融合示意圖如圖1所示。

在污水處理過程控制中多傳感器融合就是把多個傳感器的檢測量進(jìn)行綜合，提取出準(zhǔn)確有用的信息，為實現(xiàn)后續(xù)的控制提供依據(jù)，提高系統(tǒng)的性能。數(shù)據(jù)融合的過程如如圖2所示。

多傳感器融合方法有很多，大致可分為兩大類：經(jīng)典融合算法和現(xiàn)代融合算法。經(jīng)典融合算法包括卡爾曼濾波，貝葉斯估計法，級大似然估計法和D-S證據(jù)理論法等?，F(xiàn)代融合算法常用的有聚類分析法，模糊邏輯法，神經(jīng)網(wǎng)絡(luò)法等。

傳感器技術(shù)的發(fā)展是過程控制技術(shù)在污水處理領(lǐng)域得以廣泛應(yīng)用的決定因素，多傳感器融合（Multisensor Data fusion，MSDF）技術(shù)又為污水處理注入新的活力。目前模糊控制的數(shù)據(jù)融合，神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)融合正在引入污水處理過程控制中并取得了一定的效果。未來越來越多的數(shù)據(jù)融合技術(shù)將會引入污水的過程控制中促進(jìn)其發(fā)展。

2基于多傳感器的BP神經(jīng)網(wǎng)絡(luò)在污水處理中的應(yīng)用

如圖3所示為利用神經(jīng)網(wǎng)絡(luò)的多傳感器融合把多個傳感器的檢測量進(jìn)行綜合，提取出準(zhǔn)確有用的信息，為實現(xiàn)PID控制提供依據(jù)，提高系統(tǒng)的性能[ 3 ]。

BP神經(jīng)網(wǎng)絡(luò)具有逼進(jìn)任意非線性函數(shù)的能力，且結(jié)構(gòu)和學(xué)習(xí)的算法簡單明確[ 4 ]。通過神經(jīng)網(wǎng)絡(luò)自身的學(xué)習(xí)，可以找到某一最優(yōu)控制律下得P、I、D參數(shù)?；贐P神經(jīng)網(wǎng)絡(luò)的PID控制系統(tǒng)結(jié)構(gòu)如圖4所示。

輸出層神經(jīng)元的輸出狀態(tài)對應(yīng)于PID控制器的三個可調(diào)參數(shù)KP、KI、KD，通過神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)和加權(quán)系數(shù)的跳蚤，可使其穩(wěn)定狀態(tài)對應(yīng)于某種最優(yōu)控制律下得PID控制參數(shù)。

3基于多傳感器的模糊神經(jīng)網(wǎng)絡(luò)在污水處理的應(yīng)用

模糊控制（ Fuzzy Control）能將操作者或?qū)＜业目刂平?jīng)驗和知識表示成語言變量描述的控制規(guī)則，然后用這些規(guī)則去控制系統(tǒng)[ 5]。因此，模糊控制特別適用于污水處理這種數(shù)學(xué)模型未知的、復(fù)雜的非線性系統(tǒng)的控制。正是由于模糊控制可以克服預(yù)測動態(tài)變化的混沌時間系列，近年來它己成為污水處理系統(tǒng)的研究熱點[ 6-8]。如下圖所示為一個基于多傳感器的模糊神經(jīng)網(wǎng)絡(luò)污水處理過程示意圖，它利用模糊神經(jīng)網(wǎng)絡(luò)建模工具，對多傳感器的過程動態(tài)模型進(jìn)行分析，提出通過神經(jīng)多軟傳感器等對系統(tǒng)進(jìn)行優(yōu)化，建立基于多傳感器的模糊神經(jīng)網(wǎng)絡(luò)污水處理系統(tǒng)模型。

4結(jié)束語

除了以上介紹的在幾種多傳感器融合方法與污水處理過程控制相結(jié)合的系統(tǒng)以外，還有基于D-S證據(jù)理論的多傳感器融合等[9] [10]在此就不一一介紹了?？傊磥砦鬯幚碜呦蜃詣踊悄芑莿莶豢蓳醯内厔?，而基于多傳感器融合技術(shù)的過程控制更是具有廣闊的發(fā)展前景！

參考文獻(xiàn)：

[1]Truett GarrettM.Instrumentation，control and automation process in the United States in the last 24 years [J]. Water Sci Techno 1998 ， 37（12）： 21- 25 .

【2】王耀南， 李樹濤. 多傳感器信息融合及其應(yīng)用綜述 [ J ]. 控制與決策， 2001 ， 16 （ 5） ： 518- 521

【3】黎果， 李志蜀， 李奇， 等. 基于神經(jīng)網(wǎng)絡(luò)的多傳感器融合技術(shù)研究 [ J] . 微計算機信息， 2009 ， 25（ 16 ）： 145- 147.

【4】閻平凡， 張長水. 人工神經(jīng)網(wǎng)絡(luò)與模擬進(jìn)化計算 [M ] . 北京： 清華大學(xué)出版社， 2000： 10- 32

【5】諸靜. 模糊控制理論與系統(tǒng)原理 [M ]. 北京：機械工業(yè)出版社， 2005 . 8 .

【6】高大文， 彭永臻，王淑螢， 等. 污水處理智能控制的研究、 應(yīng)用與發(fā)展 [ J]. 中國給水排水， 2002 ， 18 ： 35- 39

【7】芮新芳， 衛(wèi) 國. 自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)在污水處理中的應(yīng)用 [ J] .現(xiàn)代電子技術(shù)， 2002 ， 143（ 12）： 58 -61

【8】翁建華， 陳艷，張立國， 等. 基于模糊神經(jīng)網(wǎng)絡(luò)的多傳感器信息融合技術(shù)及應(yīng)用 [ J]. 傳感技術(shù)學(xué)報2003 ， 12（ 4）： 501- 503

【9】倪國強，梁好臣，基于Dempster-Shafer證據(jù)理論的數(shù)據(jù)融合技術(shù)研究，北京理工大學(xué)學(xué)報，2001，21（5）：603-609，

篇7

1．1光譜噪聲去除由于實驗條件如光譜儀硬件和環(huán)境光等因素影響，采集的原始光譜數(shù)據(jù)會包含噪聲，需要采用光譜預(yù)處理的方法把這些噪聲去除，同時保留有用光譜信息。采用SG平滑算法，經(jīng)驗?zāi)B(tài)分解（empiricalmodedecomposition，EMD）算法和小波分析（wavelettransform，WT）去噪算法等對光譜進(jìn)行處理，并對三種去噪算法進(jìn)行比較。

1．2潛在變量（LatentVariable，LV）在利用PLS方法建立模型時，非常關(guān)鍵的一點是所選取的對于建模最優(yōu)的LV個數(shù)，LV和主成分分析中主成分類似，第一個LV貢獻(xiàn)率最大，第二個次之，以此類推。如果選取的LV個數(shù)偏少，則無法全面代表樣本的光譜特性，造成模型精度下降，影響模型的預(yù)測效果。而如果選取的LV個數(shù)過多，則會帶入模型的噪聲，干擾建模效果。

1．3建模分析方法用三種建模方法，分別是偏最小二乘回歸（partialleastsquares，PLS），BP神經(jīng)網(wǎng)絡(luò)（backpropagationneuralnet－work，BPNN）和偏最小二乘支持向量機（leastsquaresupportvectormachine，LS－SVM）。采用PLS建模方法時，基于全譜作為模型輸入，使用BP神經(jīng)網(wǎng)絡(luò)和LS－SVM建模時，把PLS回歸模型得到的LV作為輸入，進(jìn)行對比分析。神經(jīng)網(wǎng)絡(luò)由一個輸入層、一個或多個隱含層和一個輸出層構(gòu)成。BP神經(jīng)網(wǎng)絡(luò)是一種非線性的建模方法，廣泛應(yīng)用于光譜建模分析中［12］。LS－SVM是在經(jīng)典支持向量機算法基礎(chǔ)上作了進(jìn)一步改進(jìn)，能夠同時進(jìn)行線性和非線性建模分析，是解決多元建模的一種快速方法。

1．4定量模型評價標(biāo)準(zhǔn)定量模型的評價指標(biāo)主要有決定系數(shù)和均方根誤差（rootmeansquareerror，RMSE）。建模集決定系數(shù)用R2表示，預(yù)測集決定系數(shù)用r2表示。決定系數(shù)越接近于1，表示模型相關(guān)性越好，預(yù)測效果更好。一般來說，RMSE越小說明模型的誤差越小，模型精度越高。建模集均方根誤差用RMSEC表示，預(yù)測集均方根誤差RMSEP表示。

2結(jié)果和討論

2．1UV／Vis光譜圖及COD濃度的統(tǒng)計分析圖1為甲魚養(yǎng)殖水樣本的UV／Vis原始光譜曲線，從圖中可以看出各個水樣的光譜曲線的趨勢相類似，沒有呈現(xiàn)顯著性差異，由于水體中硝酸鹽、有機酸、腐殖質(zhì)等物質(zhì)對紫外光的強烈吸收，在波段200～260nm區(qū)域的吸收度明顯高于其他區(qū)域。試驗水體樣本COD值統(tǒng)計結(jié)果如表1所示，模型的建模集和預(yù)測集COD值覆蓋了較大范圍，有助于建立準(zhǔn)確、穩(wěn)定和具有代表性的模型。

2．2基于全波長的PLS模型為了更好的分析三種消噪算法檢測水體COD含量的性能，將對不同預(yù)處理方法獲取的評價指標(biāo)相比較，基于全譜的PLS模型的計算結(jié)果如表2所示。由表2可知，小波算法去除噪聲后的光譜PLS模型取得了最佳結(jié)果，建模集的R2為0．79，RMSEC為15．89mg•L－1，預(yù)測集的r2為0．78，RMSEP為15．92mg•L－1。SG平滑和EMD算法雖然部分去除了噪聲，但建模效果并沒有得到相應(yīng)提高。故后面建模分析在WT分析基礎(chǔ)上進(jìn)行。

2．3LV一般選取最優(yōu)LV個數(shù)的標(biāo)準(zhǔn)觀察RMSEP值隨LV個數(shù)變化情況，如圖3所示，當(dāng)LV個數(shù)較少時，RMSEP值較大，隨著LV個數(shù)的增加，RMSEP隨之減小，當(dāng)LV個數(shù)增加到6時，RMSEP的值保持穩(wěn)定，LV個數(shù)繼續(xù)增加，RM－SEP值也沒有隨著增加。取前6個LVs作為偏最小二乘支持向量積的輸入建立模型。從貢獻(xiàn)率角度解釋，PLS建模得到的6個LVs分別作為LS－SVM的輸入，之所以取前6個是因為這樣幾乎可以100％表達(dá)原始光譜有用信息，如表3所示，且降低了模型復(fù)雜度，提高模型運行速度和精度。

2．4BP神經(jīng)網(wǎng)絡(luò)模型根據(jù)前文得到的結(jié)果，將表3中選出的LVs作為BP神經(jīng)網(wǎng)絡(luò)模型輸入，BP神經(jīng)網(wǎng)絡(luò)模型的計算結(jié)果如表4所示。分析表4可知，將6個LVs作為LS－SVM模型輸入的結(jié)果，其建模集的R2為0．82，RMSEC為15．77mg•L－1，預(yù)測集的r2為0．81，RMSEP為16．67mg•L－1。

2．5基于LVs輸入的LS－SVM模型LS－SVM模型預(yù)測結(jié)果如表5所示。采用LVs作為LSSVM模型輸入，得到的結(jié)果優(yōu)于基于BP神經(jīng)網(wǎng)絡(luò)模型。其建模集的R2為0．83，RMSEC為14．78mg•L－1，預(yù)測集的r2為0．82，RMSEP為14．82mg•L－1。

2．6PLS，BP神經(jīng)網(wǎng)絡(luò)和LS－SVM模型比較PLS，BPNN和LS－SVM建模方法的結(jié)果比較如圖3所示，Cal表示模型的建模集（calibration），Pre表示模型的預(yù)測集（prediction）。不難發(fā)現(xiàn)，在LS－SVM模型和BP神經(jīng)網(wǎng)絡(luò)模型中，基于LV作為模型輸入－建立的LS－SVM模型取得了最優(yōu)的效果，BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測效果較優(yōu)，且LS－SVM模型和BP神經(jīng)網(wǎng)絡(luò)模型都優(yōu)于全波長的PLS模型結(jié)果。

3結(jié)語

篇8

關(guān)鍵字 ：神經(jīng)網(wǎng)絡(luò)，BP模型，預(yù)測

中圖分類號：TP183文獻(xiàn)標(biāo)識碼： A

1 引言

在系統(tǒng)建模、辨識和預(yù)測中，對于線性系統(tǒng)，在頻域，傳遞函數(shù)矩陣可以很好地表達(dá)系統(tǒng)的黑箱式輸入輸出模型；在時域，Box-Jenkins方法、回歸分析方法、ARMA模型等，通過各種參數(shù)估計方法也可以給出描述。對于非線性時間序列預(yù)測系統(tǒng)，雙線性模型、門限自回歸模型、ARCH模型都需要在對數(shù)據(jù)的內(nèi)在規(guī)律知道不多的情況下對序列間關(guān)系進(jìn)行假定?？梢哉f傳統(tǒng)的非線性系統(tǒng)預(yù)測，在理論研究和實際應(yīng)用方面，都存在極大的困難。相比之下，神經(jīng)網(wǎng)絡(luò)可以在不了解輸入或輸出變量間關(guān)系的前提下完成非線性建模[4，6]。神經(jīng)元、神經(jīng)網(wǎng)絡(luò)都有非線性、非局域性、非定常性、非凸性和混沌等特性，與各種預(yù)測方法有機結(jié)合具有很好的發(fā)展前景，也給預(yù)測系統(tǒng)帶來了新的方向與突破。建模算法和預(yù)測系統(tǒng)的穩(wěn)定性、動態(tài)性等研究成為當(dāng)今熱點問題。目前在系統(tǒng)建模與預(yù)測中，應(yīng)用最多的是靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)，這主要是因為這種網(wǎng)絡(luò)具有通過學(xué)習(xí)逼近任意非線性映射的能力。利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)建立系統(tǒng)的輸入/輸出模型，本質(zhì)上就是基于網(wǎng)絡(luò)逼近能力，通過學(xué)習(xí)獲知系統(tǒng)差分方程中的非線性函數(shù)。但在實際應(yīng)用中，需要建模和預(yù)測的多為非線性動態(tài)系統(tǒng)，利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)必須事先給定模型的階次，即預(yù)先確定系統(tǒng)的模型，這一點非常難做到。近來，有關(guān)基于動態(tài)網(wǎng)絡(luò)的建模和預(yù)測的研究，代表了神經(jīng)網(wǎng)絡(luò)建模和預(yù)測新的發(fā)展方向。

2 BP神經(jīng)網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)是采用Widrow-Hoff學(xué)習(xí)算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò)。典型的BP算法采用梯度下降法，也就是Widrow-Hoff算法。現(xiàn)在有許多基本的優(yōu)化算法，例如變尺度算法和牛頓算法。如圖1所示，BP神經(jīng)網(wǎng)絡(luò)包括以下單元：①處理單元(神經(jīng)元)（圖中用圓圈表示），即神經(jīng)網(wǎng)絡(luò)的基本組成部分。輸入層的處理單元只是將輸入值轉(zhuǎn)入相鄰的聯(lián)接權(quán)重，隱層和輸出層的處理單元將它們的輸入值求和并根據(jù)轉(zhuǎn)移函數(shù)計算輸出值。②聯(lián)接權(quán)重(圖中如V,W)。它將神經(jīng)網(wǎng)絡(luò)中的處理單元聯(lián)系起來，其值隨各處理單元的聯(lián)接程度而變化。③層。神經(jīng)網(wǎng)絡(luò)一般具有輸入層x、隱層y和輸出層o。④閾值。其值可為恒值或可變值，它可使網(wǎng)絡(luò)能更自由地獲取所要描述的函數(shù)關(guān)系。⑤轉(zhuǎn)移函數(shù)F。它是將輸入的數(shù)據(jù)轉(zhuǎn)化為輸出的處理單元，通常為非線性函數(shù)。

圖1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

2.1 基本算法

BP算法主要包含4步，分為向前傳播和向后傳播兩個階段：

1）向前傳播階段

（1）從樣本集中取一個樣本（Xp，Yp），將Xp輸入網(wǎng)絡(luò)；

（2）計算相應(yīng)的實際輸出Op

在此階段，信息從輸入層經(jīng)過逐級的變換，傳送到輸出層。這個過程也是網(wǎng)絡(luò)在完成訓(xùn)練后正常運行時的執(zhí)行過程。

2）向后傳播階段

（1）計算實際輸出Op與相應(yīng)的理想輸出Yp的差；

（2）按極小化誤差的方式調(diào)整權(quán)矩陣。

這兩個階段的工作受到精度要求的控制，在這里取 作為網(wǎng)絡(luò)關(guān)于第p個樣本的誤差測度，而將網(wǎng)絡(luò)關(guān)于整個樣本集的誤差測度定義為 。圖2是基本BP算法的流程圖。

圖2 BP基本算法流程

2.2 動態(tài)BP神經(jīng)網(wǎng)絡(luò)預(yù)測算法

在經(jīng)典的BP算法以及其他的訓(xùn)練算法中都有很多變量，這些訓(xùn)練算法可以確定一個ANN結(jié)構(gòu)，它們只訓(xùn)練固定結(jié)構(gòu)的ANN權(quán)值（包括聯(lián)接權(quán)值和結(jié)點轉(zhuǎn)換函數(shù)）。在自動設(shè)計ANN結(jié)構(gòu)方面，也已有較多的嘗試，比如構(gòu)造性算法和剪枝算法。前一種是先隨機化網(wǎng)絡(luò)，然后在訓(xùn)練過程中有必要地增加新的層和結(jié)點；而剪枝法則正好相反。文獻(xiàn)[2]中提出了演化神經(jīng)網(wǎng)絡(luò)的理念，并把EP算法與BP進(jìn)行了組合演化；也有很多學(xué)者把遺傳算法和BP進(jìn)行結(jié)合，但這些算法都以時間復(fù)雜度以及空間復(fù)雜度的增加為代價。根據(jù)Kolmogorov定理,對于任意給定的L2型連續(xù)函數(shù)f: [ 0, 1 ]n Rm , f可以精確地用一個三層前向神經(jīng)網(wǎng)絡(luò)來實現(xiàn)，因而可以只考慮演化網(wǎng)絡(luò)的權(quán)值和結(jié)點數(shù)而不影響演化結(jié)果。基于此，在BP原有算法的基礎(chǔ)上，增加結(jié)點數(shù)演化因子，然后記錄每層因子各異時演化出的結(jié)構(gòu)，最后選取最優(yōu)的因子及其網(wǎng)絡(luò)結(jié)構(gòu)，這樣就可以避免由于增加或剪枝得到的局部最優(yōu)。根據(jù)實驗得知，不同的預(yù)測精度也影響網(wǎng)絡(luò)層神經(jīng)元的結(jié)點數(shù)，所以可根據(jù)要求動態(tài)地建立預(yù)測系統(tǒng)。具體步驟如下：

（1）將輸入向量和目標(biāo)向量進(jìn)行歸一化處理。

（2）讀取輸入向量、目標(biāo)向量，記錄輸入維數(shù)m、輸出層結(jié)點數(shù)n。

（3）當(dāng)訓(xùn)練集確定之后，輸入層結(jié)點數(shù)和輸出層結(jié)點數(shù)隨之而確定，首先遇到的一個十分重要而又困難的問題是如何優(yōu)化隱層結(jié)點數(shù)和隱層數(shù)。實驗表明，如果隱層結(jié)點數(shù)過少，網(wǎng)絡(luò)不能具有必要的學(xué)習(xí)能力和信息處理能力。反之，若過多，不僅會大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性（這一點對硬件實現(xiàn)的網(wǎng)絡(luò)尤其重要），網(wǎng)絡(luò)在學(xué)習(xí)過程中更易陷入局部極小點，而且會使網(wǎng)絡(luò)的學(xué)習(xí)速度變得很慢。隱層結(jié)點數(shù)的選擇問題一直受到神經(jīng)網(wǎng)絡(luò)研究工作者的高度重視。Gorman指出隱層結(jié)點數(shù)s與模式數(shù)N的關(guān)系是：s＝log2N；Kolmogorov定理表明，隱層結(jié)點數(shù)s＝2n＋1（n為輸入層結(jié)點數(shù)）；而根據(jù)文獻(xiàn)[7]：s＝sqrt（0.43mn＋0.12nn＋2.54m＋0.77n＋0.35）＋0.51[7]。

（4）設(shè)置結(jié)點數(shù)演化因子a。為了快速建立網(wǎng)絡(luò)，可以對其向量初始化，

并從小到大排序[4，7]。

（5）建立BP神經(jīng)網(wǎng)絡(luò)。隱含層傳遞函數(shù)用tansig，輸出層用logsig，訓(xùn)練函數(shù)采用動態(tài)自適應(yīng)BP算法，并制訂停止準(zhǔn)則：目標(biāo)誤差精度以及訓(xùn)練代數(shù)。

（6）初始化網(wǎng)絡(luò)。

（7）訓(xùn)練網(wǎng)絡(luò)直到滿足停止判斷準(zhǔn)則。

（8）用測試向量對網(wǎng)絡(luò)進(jìn)行預(yù)測，并記錄誤差和逼近曲線，評估其網(wǎng)絡(luò)的適應(yīng)性。其適應(yīng)度函數(shù)采取規(guī)則化均方誤差函數(shù)。

（9）轉(zhuǎn)到（5），選取下一個演化因子，動態(tài)增加隱含層結(jié)點數(shù)，直到最后得到最佳預(yù)測網(wǎng)絡(luò)。

3 基于神經(jīng)網(wǎng)絡(luò)的預(yù)測原理[4]

3.1 正向建模

正向建模是指訓(xùn)練一個神經(jīng)網(wǎng)絡(luò)表達(dá)系統(tǒng)正向動態(tài)的過程，這一過程建立的神經(jīng)網(wǎng)絡(luò)模型稱為正向模型，其結(jié)構(gòu)如圖3所示。其中，神經(jīng)網(wǎng)絡(luò)與待辨識的系統(tǒng)并聯(lián)，兩者的輸出誤差用做網(wǎng)絡(luò)的訓(xùn)練信號。顯然，這是一個典型的有導(dǎo)師學(xué)習(xí)問題，實際系統(tǒng)作為教師，向神經(jīng)網(wǎng)絡(luò)提供算法所需要的期望輸出。當(dāng)系統(tǒng)是被控對象或傳統(tǒng)控制器時，神經(jīng)網(wǎng)絡(luò)多采用多層前向網(wǎng)絡(luò)的形式，可直接選用BP網(wǎng)絡(luò)或它的各種變形。而當(dāng)系統(tǒng)為性能評價器時，則可選擇再勵學(xué)習(xí)算法，這時網(wǎng)絡(luò)既可以采用具有全局逼近能力的網(wǎng)絡(luò)（如多層感知器），也可選用具有局部逼近能力的網(wǎng)絡(luò)（如小腦模型控制器等）。

圖3 正向建模結(jié)構(gòu)

3.2 逆向建模

建立動態(tài)系統(tǒng)的逆模型，在神經(jīng)網(wǎng)絡(luò)中起著關(guān)鍵作用，并且得到了廣泛的應(yīng)用。其中，比較簡單的是直接逆建模法，也稱為廣義逆學(xué)習(xí)。其結(jié)構(gòu)如圖4所示，擬預(yù)報的系統(tǒng)輸出作為網(wǎng)絡(luò)的輸入，網(wǎng)絡(luò)輸出與系統(tǒng)輸入比較，相應(yīng)的輸入誤差用于訓(xùn)練，因而網(wǎng)絡(luò)將通過學(xué)習(xí)建立系統(tǒng)的逆模型。但是，如果所辨識的非線性系統(tǒng)是不可逆的，利用上述方法將得到一個不正確的逆模型。因此，在建立系統(tǒng)時，可逆性應(yīng)該先有所保證。

圖4 直接逆建模結(jié)構(gòu)

4 應(yīng)用實例分析

以我國西南某地震常發(fā)地區(qū)的地震資料作為樣本來源，實現(xiàn)基于動態(tài)神經(jīng)網(wǎng)絡(luò)的地震預(yù)報。根據(jù)資料，提取出7個預(yù)報因子和實際發(fā)生的震級M作為輸入和目標(biāo)向量。預(yù)報因子為半年內(nèi)M>=3的地震累計頻度、半年內(nèi)能量釋放積累值、b值、異常地震群個數(shù)、地震條帶個數(shù)、是否處于活動期內(nèi)以及相關(guān)地震區(qū)地震級。在訓(xùn)練前，對數(shù)據(jù)進(jìn)行歸一化處理。由于輸入樣本為7維的輸入向量，一般情況下輸入層設(shè)7個神經(jīng)元。根據(jù)實際情況，輸出層神經(jīng)元個數(shù)為1。隱含層神經(jīng)元的傳遞函數(shù)為S型正切函數(shù)，輸出層也可以動態(tài)選擇傳遞函數(shù)。實例數(shù)據(jù)來自文獻(xiàn)[4]，將數(shù)據(jù)集分為訓(xùn)練集、測試集和確定集。表1中的7×7數(shù)組表示歸一化后的訓(xùn)練向量，第一個7表示預(yù)報因子數(shù)，第二個7表示樣本數(shù)。

表1 歸一化后的訓(xùn)練向量

在不同神經(jīng)元數(shù)情況下，對網(wǎng)絡(luò)進(jìn)行訓(xùn)練和仿真，得到如圖5所示的一組預(yù)測誤差曲線。其中，曲線A表示隱層結(jié)點數(shù)為6時的預(yù)測誤差曲線，曲線B表示隱含層結(jié)點數(shù)為3時的預(yù)測誤差曲線，曲線C表示隱含層結(jié)點數(shù)為5時的預(yù)測誤差曲線，曲線D表示隱含層結(jié)點數(shù)為4時的預(yù)測誤差曲線。將五種情況下的誤差進(jìn)行對比，曲線C表示的網(wǎng)絡(luò)預(yù)測性能最好，其隱含層神經(jīng)元數(shù)為5，圖中曲線E表示的是隱含層結(jié)點數(shù)為15時的預(yù)測誤差曲線（文獻(xiàn)[4]中的最好結(jié)果）。同時也證明，在設(shè)計BP網(wǎng)絡(luò)時，不能無限制地增加層神經(jīng)元的個數(shù)。若過多，不僅會大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性，網(wǎng)絡(luò)在學(xué)習(xí)過程中更易陷入局部極小點，而且會使網(wǎng)絡(luò)的學(xué)習(xí)速度、預(yù)測速度變得很慢。

圖5 不同神經(jīng)元數(shù)預(yù)測誤差對比曲線

5 結(jié)論

本文針對基本的BP神經(jīng)網(wǎng)絡(luò)，提出了可動態(tài)改變神經(jīng)元數(shù)（與精度相關(guān)）的BP神經(jīng)網(wǎng)絡(luò)預(yù)測方法，可以根據(jù)實際情況建立預(yù)測系統(tǒng)。用此種方法可以建立最好的神經(jīng)網(wǎng)絡(luò)，不會有多余的神經(jīng)元，也不會讓網(wǎng)絡(luò)在學(xué)習(xí)過程中過早陷于局部極小點。

參考文獻(xiàn)

[1]潘正君，康立山，陳毓屏. 演化計算[M ]. 北京:清華大學(xué)出版社，1998

[2]飛思科技產(chǎn)品研發(fā)中心. 神經(jīng)網(wǎng)絡(luò)理論與實現(xiàn). 北京:電子工業(yè)出版社，2005

[3]蔡曉芬，方建斌. 演化神經(jīng)網(wǎng)絡(luò)算法. 江漢大學(xué)學(xué)報，第33卷第3期，2005.9

篇9

［關(guān)鍵詞］BP神經(jīng)網(wǎng)絡(luò)農(nóng)業(yè)工程農(nóng)業(yè)管理農(nóng)業(yè)決策

一、引言

采用神經(jīng)網(wǎng)絡(luò)算法的信息處理技術(shù)，以其較強的計算性和學(xué)習(xí)性，現(xiàn)如今已經(jīng)在各工程領(lǐng)域內(nèi)得到了廣泛應(yīng)用。隨著科技不斷的發(fā)展和研究的不斷深入，農(nóng)業(yè)系統(tǒng)中采用的傳統(tǒng)分析和管理的方法已經(jīng)不能滿足農(nóng)業(yè)工程領(lǐng)域快速發(fā)展的需要。在農(nóng)業(yè)系統(tǒng)中采用神經(jīng)網(wǎng)絡(luò)技術(shù)可在一定程度上可彌補傳統(tǒng)方法的不足，現(xiàn)已成為實現(xiàn)農(nóng)業(yè)現(xiàn)代化的一個重要途徑。神經(jīng)網(wǎng)絡(luò)現(xiàn)已在農(nóng)業(yè)生產(chǎn)的各個環(huán)節(jié)得到廣泛的應(yīng)用，從作物營養(yǎng)控制、作物疾病診斷、產(chǎn)量預(yù)測到產(chǎn)品分級，顯示了巨大的潛力，并正以很快的速度與生產(chǎn)實際相結(jié)合。目前應(yīng)用比較多的BP神經(jīng)網(wǎng)絡(luò)，可通過學(xué)習(xí)以任意精度逼近任何連續(xù)映射，在農(nóng)業(yè)生產(chǎn)與科研中展示出了廣闊的應(yīng)用前景。

BP人工神經(jīng)網(wǎng)絡(luò)方法。人工神經(jīng)網(wǎng)絡(luò)是對生物神經(jīng)網(wǎng)絡(luò)的簡化和模擬的一種信息處理系統(tǒng)，具有很強的信息存貯能力和計算能力，屬于一種非經(jīng)典的數(shù)值算法。通常可分為前向神經(jīng)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)和自組織映射神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經(jīng)網(wǎng)絡(luò)，可通過連續(xù)不斷的在相對于誤差函數(shù)斜率下降的方向上計算網(wǎng)絡(luò)權(quán)值以及偏差的變化而逐漸逼近目標(biāo)值，每一次數(shù)字和偏差的變化都與網(wǎng)絡(luò)誤差的影響成正比，并以反向傳播的方式傳遞到每一層，從而實現(xiàn)了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程。BP人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖所示，BP神經(jīng)網(wǎng)絡(luò)可分為輸入層、中間層(隱含層)和輸出層，其中輸入和輸出都只有一層，中間層可有一層或多層。同層的網(wǎng)絡(luò)結(jié)點之間沒有連接。每個網(wǎng)絡(luò)結(jié)點表示一個神經(jīng)元，其傳遞函數(shù)通常采用Sigmoid型函數(shù)。BP神經(jīng)網(wǎng)絡(luò)相當(dāng)于從輸入到輸出的高度非線性映射，對于樣本輸入和輸出，可以認(rèn)為存在某一映射函數(shù)g，使得y0=g(xi)，i＝1，2，3，…，m，其中m為樣本數(shù)，xi為輸入樣本，yo為輸出結(jié)果。

BP神經(jīng)網(wǎng)絡(luò)的一個顯著優(yōu)點就是其可進(jìn)行自學(xué)習(xí)，能夠通過訓(xùn)練得到預(yù)期的效果。其學(xué)習(xí)過程由正向傳播和反向傳播組成，神經(jīng)網(wǎng)絡(luò)的輸入值經(jīng)過非線性變換從輸入層經(jīng)隱含層神經(jīng)元的逐層處理傳向輸出層，此為正向傳播過程。每一層神經(jīng)元的狀態(tài)將影響到下一層神經(jīng)元狀態(tài)。如果輸出層得到的數(shù)值與期望輸出有一定的偏差，則轉(zhuǎn)入反向傳播過程。神經(jīng)網(wǎng)絡(luò)通過對輸入值和希望的輸出值(教師值)進(jìn)行比較，根據(jù)兩者之間的差的函數(shù)來調(diào)整神經(jīng)網(wǎng)絡(luò)的各層的連接權(quán)值和各個神經(jīng)元的閾值，最終使誤差函數(shù)達(dá)到最小。其調(diào)整的過程是由后向前進(jìn)行的，稱為誤差反向傳播BP算法。具體學(xué)習(xí)過程如下：

（1)隨機給各個權(quán)值賦一個初始權(quán)值，要求各個權(quán)值互不相等，且均為較小的非零數(shù)。

（2)輸入樣本集中每一個樣本值，確定相應(yīng)的網(wǎng)絡(luò)實際輸出值。

（3)計算實際的輸出值與相應(yīng)的樣本集中的相應(yīng)輸出值的差值。

（4)按極小誤差方式調(diào)整權(quán)值矩陣。

（5)判斷網(wǎng)絡(luò)誤差是否小于訓(xùn)練前人為設(shè)定的一個較小的值，若小于，則跳出運算，此時的結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果；若大于，則繼續(xù)計算。

（6）判斷最大迭代次數(shù)是否大于預(yù)先設(shè)定的數(shù)，若小于，返回（2）;若大于，則中止運算，其結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果。

上述的計算過程循環(huán)進(jìn)行，直到完成給定的訓(xùn)練次數(shù)或達(dá)到設(shè)定的誤差終止值。

二、BP神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)工程領(lǐng)域中的應(yīng)用

1.在農(nóng)業(yè)生產(chǎn)管理與農(nóng)業(yè)決策中的應(yīng)用

農(nóng)業(yè)生產(chǎn)管理受地域、環(huán)境、季節(jié)等影響較大，用產(chǎn)生式規(guī)則完整描述實際系統(tǒng)，可能會因組合規(guī)則過多而無法實現(xiàn)。神經(jīng)網(wǎng)絡(luò)的一個顯著的優(yōu)點就是其具有較強的自學(xué)習(xí)、自適應(yīng)、自組織能力，通過對有代表性的樣本的學(xué)習(xí)可以掌握學(xué)習(xí)對象的內(nèi)在規(guī)律，從而可以在一定程度上克服上述信息量大的問題。神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)生產(chǎn)管理方面可用于農(nóng)作物生長過程中對農(nóng)作物生長需求進(jìn)行預(yù)測，從而通過對養(yǎng)分、水分、溫度、以及PH值的優(yōu)化控制達(dá)到最優(yōu)的生長狀況。采用神經(jīng)網(wǎng)絡(luò)預(yù)測算法的主要思想可描述為：（1）收集一定規(guī)模的樣本集，采用BP算法進(jìn)行訓(xùn)練，使網(wǎng)絡(luò)收斂到預(yù)定的精度；（2）將網(wǎng)絡(luò)權(quán)值矩陣保存到一存儲介質(zhì)中，例如文本文件或數(shù)據(jù)庫中；（3）對于待預(yù)測數(shù)據(jù)的輸入部分，從存儲介質(zhì)中讀出網(wǎng)絡(luò)連接權(quán)值矩陣，然后通過BP神經(jīng)網(wǎng)絡(luò)的前向傳播算法計算網(wǎng)絡(luò)輸出，輸出結(jié)果既是預(yù)測出來的數(shù)值向量。如霍再林等針對油葵不同階段的相對土壤含鹽濃度對其產(chǎn)量的影響有一定的規(guī)律的現(xiàn)象，以油葵的6個成長階段的土壤溶液含鹽的相對濃度為輸入樣本，相對產(chǎn)量為輸出樣本，通過比較發(fā)現(xiàn)，訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)能較好預(yù)測油葵產(chǎn)量，采用此方法可補充傳統(tǒng)模型的不足，為今后進(jìn)一步的研究開辟了新路。

在農(nóng)業(yè)決策方面，主要將農(nóng)業(yè)專家面對各種問題時所采取的方法的經(jīng)驗，作為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本，從而采用神經(jīng)網(wǎng)絡(luò)建立的專家系統(tǒng)將從一定程度上彌補了傳統(tǒng)方法的不足，將農(nóng)業(yè)決策智能化。如何勇、宋海燕針對傳統(tǒng)專家系統(tǒng)自學(xué)習(xí)能力差的缺點，利用神經(jīng)網(wǎng)絡(luò)可自我訓(xùn)練的優(yōu)點，將神經(jīng)網(wǎng)絡(luò)引入專家系統(tǒng)中。將小麥缺素時的田間宏觀表現(xiàn)，葉部、莖部、果實癥狀及引起缺素的原因這五個方面的可信度值作為神經(jīng)網(wǎng)絡(luò)的輸入量，將農(nóng)業(yè)專家診斷的結(jié)論作為輸出量，將這些數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)。實際應(yīng)用表明此系統(tǒng)自動診斷的結(jié)果與專家現(xiàn)場診斷的結(jié)果基本一致，從而采用該系統(tǒng)能夠取代專家，實現(xiàn)作物的自我診斷，為農(nóng)業(yè)管理方面提供了極大的幫助。如馬成林等針對于傳統(tǒng)施肥決策方法中非線性關(guān)系描述不足的問題，基于數(shù)據(jù)包分析和BP神經(jīng)網(wǎng)絡(luò)，建立了施肥決策模型，應(yīng)用表明，在有限的范圍內(nèi)，模型預(yù)測結(jié)果較為合理，可以反映玉米的需肥特性。劉鋮等人提出采用神經(jīng)網(wǎng)絡(luò)應(yīng)用在農(nóng)業(yè)生產(chǎn)決策中，以莜麥播種方式?jīng)Q策為例，通過對產(chǎn)生式規(guī)則的分析導(dǎo)出神經(jīng)網(wǎng)絡(luò)輸入、輸出單元數(shù)，并通過多次試驗確定隱層單元數(shù)，用MATLAB方針結(jié)果表明，采用神經(jīng)網(wǎng)絡(luò)作為農(nóng)業(yè)生產(chǎn)決策的方法，取得了較好的效果。譚宗琨提出將基于互聯(lián)網(wǎng)環(huán)境下的神經(jīng)網(wǎng)絡(luò)應(yīng)用在玉米智能農(nóng)業(yè)專家系統(tǒng)中，根據(jù)農(nóng)作物發(fā)育進(jìn)程分成若干個發(fā)育期，分別對各個發(fā)育期建立管理模型，依照作物各發(fā)育期進(jìn)程時間間隔，由計算機系統(tǒng)自動選取相應(yīng)的模型進(jìn)行決策。應(yīng)用分析的結(jié)果表明采用神經(jīng)網(wǎng)絡(luò)的玉米智能專家系統(tǒng)已初步接近農(nóng)業(yè)生產(chǎn)的實際。

2.在農(nóng)產(chǎn)品外觀分析和品質(zhì)評判

農(nóng)產(chǎn)品的外觀，如形狀、大小、色澤等在生產(chǎn)過程中是不斷變化的，并且受人為和自然等復(fù)雜因素的影響較大。農(nóng)產(chǎn)品的外觀直接影響到農(nóng)產(chǎn)品的銷售，研究出農(nóng)作物外觀受人為和自然的影響因素，通過神經(jīng)網(wǎng)絡(luò)進(jìn)行生產(chǎn)預(yù)測，可解決農(nóng)產(chǎn)品由于不良外觀而造成的損失。如Murase 等針對西紅柿表皮破裂的現(xiàn)象，西紅柿表皮應(yīng)力的增長與西紅柿果肉靠近表皮部分水分的增加有關(guān)，當(dāng)表皮應(yīng)力超過最大表皮強度時，將導(dǎo)致表皮破裂。用人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)，預(yù)測在環(huán)境溫度下的表皮應(yīng)力，可通過控制環(huán)境變量來減少西紅柿表皮破裂所造成的損失。

在農(nóng)業(yè)科研和生產(chǎn)中，農(nóng)產(chǎn)品的品質(zhì)評判大多是依賴于對農(nóng)產(chǎn)品外觀的辨識。例如對果形尺寸和顏色等外觀判別果實的成熟度，作物與雜草的辨別，種子的外觀質(zhì)量檢測。由于農(nóng)業(yè)環(huán)境的復(fù)雜性和生物的多樣性，農(nóng)產(chǎn)品的外觀不具有較確定的規(guī)律性和可描述性，單一采用圖像處理技術(shù)辨識農(nóng)產(chǎn)品的外觀時不宜過多采取失真處理和變換，否則則增加圖像處理的復(fù)雜性，特征判別也相對困難。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)、自組織的能力，比較適宜解決農(nóng)業(yè)領(lǐng)域中許多難以用常規(guī)數(shù)學(xué)方法表達(dá)的復(fù)雜問題，與圖像處理技術(shù)相結(jié)合后，可根據(jù)圖像特征進(jìn)行選擇性判別。采用此方法可以部分替代人工識別的工作，提高了生產(chǎn)效率，也有利于實現(xiàn)農(nóng)業(yè)現(xiàn)代化。如Liao等將玉米籽粒圖像用34個特征參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入變量，將輸出的種粒形態(tài)分為5類，經(jīng)過學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)對完整籽粒分類的準(zhǔn)確率達(dá)到93％，破籽粒分類的準(zhǔn)確率達(dá)91％。

3.蔬菜、果實、谷物等農(nóng)產(chǎn)品的分級和鑒定

在農(nóng)業(yè)生產(chǎn)中，蔬菜、果實、谷物等農(nóng)產(chǎn)品的分級和鑒定是通過對農(nóng)產(chǎn)品外觀的辨識進(jìn)行的。傳統(tǒng)的農(nóng)產(chǎn)品外觀的辨識方法費時費力、預(yù)測可靠度很低，而且多采用人工操作，評價受到操作者主觀因素的影響，評判的精度難以保證。利用人工神經(jīng)網(wǎng)絡(luò)技術(shù)結(jié)合圖像處理技術(shù)可部分代替以往這些主要依靠人工識別的工作，從而大大提高生產(chǎn)效率，實現(xiàn)農(nóng)業(yè)生產(chǎn)與管理的自動化和智能化。

利用BP神經(jīng)網(wǎng)絡(luò)技術(shù)對農(nóng)產(chǎn)品果形尺寸和顏色等外觀評判，目前國內(nèi)外已有不少成果用于實際生產(chǎn)中。何東健等以計算機視覺技術(shù)進(jìn)行果實顏色自動分級為目的，研究了用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行顏色分級的方法。分別用120個著色不同的紅星和紅富士蘋果作為訓(xùn)練樣本集對網(wǎng)絡(luò)進(jìn)行離線訓(xùn)練。兩個品種的蘋果先由人工依據(jù)標(biāo)準(zhǔn)按著色度分成4級，對每一個品種分別求出7個模式特征值作為BP網(wǎng)絡(luò)的輸入，用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)進(jìn)行分級。結(jié)果表明紅富士和紅星果實的平均分級一致率分別為94.2％和94.4％。劉禾等用對稱特征、長寬特征、寬度特征、比值特征等一系列特征值來描述果形。采用BP網(wǎng)絡(luò)與人工智能相結(jié)合，建立果形判別人工神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)。試驗水果品種為富士和國光。試驗表明系統(tǒng)對富士學(xué)習(xí)率為80％，對非學(xué)習(xí)樣本的富士蘋果的果形判別推確率為75％，系統(tǒng)對國光學(xué)習(xí)率為89％，對非學(xué)習(xí)樣本的國光蘋果果形判別系統(tǒng)的難確率為82％。

三、未來的發(fā)展方向

人工神經(jīng)網(wǎng)絡(luò)的信息處理技術(shù)現(xiàn)已在農(nóng)業(yè)工程領(lǐng)域內(nèi)得到了迅速的應(yīng)用，采用人工神經(jīng)網(wǎng)絡(luò)算法的農(nóng)業(yè)系統(tǒng)能夠從一定程度上改善控制效果，但此技術(shù)在農(nóng)業(yè)范圍內(nèi)還不夠成熟，有待于進(jìn)一步的研究。今后科研的方向大體上可以從以下幾方面著手：

1.人工神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)

人工神經(jīng)網(wǎng)絡(luò)算法由于本身具有一定的缺點，從而采用人工神經(jīng)網(wǎng)絡(luò)的算法的信息處理技術(shù)在應(yīng)用過程中具有一定的局限性。在今后的研究中，可以從人工神經(jīng)網(wǎng)絡(luò)方向著手，改進(jìn)人工神經(jīng)網(wǎng)絡(luò)算法，從而實現(xiàn)其在農(nóng)業(yè)領(lǐng)域內(nèi)更好的應(yīng)用。近年來隨著模糊算法、蟻群算法等算法的相繼出現(xiàn)，將神經(jīng)網(wǎng)絡(luò)與其他算法結(jié)合在一起已經(jīng)成為了研究的熱門話題，也是未來算法研究的主要方向之一。

2.應(yīng)用領(lǐng)域的擴展

人工神經(jīng)網(wǎng)絡(luò)算法在農(nóng)業(yè)工程方面現(xiàn)已得到了迅速的發(fā)展，擴展其在農(nóng)業(yè)工程領(lǐng)域的應(yīng)用范圍是未來的一個主要研究方向。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)能力，可對農(nóng)業(yè)系統(tǒng)的非線形特性進(jìn)行較好的描述，采用人工神經(jīng)網(wǎng)絡(luò)可解決傳統(tǒng)方法的不足，從而實現(xiàn)農(nóng)業(yè)現(xiàn)代化。如何將神經(jīng)網(wǎng)絡(luò)較好地引入到農(nóng)業(yè)系統(tǒng)，解決農(nóng)業(yè)工程中的部分問題，已是今后農(nóng)業(yè)科研中的一個方向。

四、結(jié)束語

神經(jīng)網(wǎng)絡(luò)作為一種人工智能范疇的計算方法，具有良好的自學(xué)習(xí)與數(shù)學(xué)計算的能力，可通過計算機程序進(jìn)行模擬運算，現(xiàn)已廣泛用于模式識別、管理決策等方面。隨著計算機硬件和軟件的不斷發(fā)展與農(nóng)業(yè)工程方面的研究的不斷深入，神經(jīng)網(wǎng)絡(luò)將在農(nóng)業(yè)管理、農(nóng)業(yè)決策、農(nóng)作物外觀分類、品質(zhì)評判等方面充分發(fā)揮其自學(xué)習(xí)能力強，計算能力強的優(yōu)勢，通過對樣本數(shù)據(jù)的學(xué)習(xí)，神經(jīng)網(wǎng)絡(luò)可較好地解決農(nóng)作物生長過程中的作物分類、預(yù)測等非線形的問題。在農(nóng)業(yè)工程領(lǐng)域內(nèi)，神經(jīng)網(wǎng)絡(luò)擁有廣闊的科研前景。

參考文獻(xiàn):

[1]余英林李海洲:神經(jīng)網(wǎng)絡(luò)與信號分析[M]. 廣州: 華南理工大學(xué)出版社,1996:45

[2]霍再林史海濱孔東等: 基于人工神經(jīng)網(wǎng)絡(luò)的作物水―鹽響應(yīng)初步研究[J].內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報，2003，24（3）：66～70

[3]何勇宋海燕:基于神經(jīng)網(wǎng)絡(luò)的作物營養(yǎng)診斷專家系統(tǒng)[J]. 農(nóng)業(yè)工程學(xué)報,2005,21（1）:110～113

[4]馬成林吳才聰張書慧等:基與數(shù)據(jù)包絡(luò)分析和人工神經(jīng)網(wǎng)絡(luò)的變量施肥決策方法研究[J].農(nóng)業(yè)工程學(xué)報,2006，20（2）:152～155

[5]劉鋮楊盤洪: 莜麥播種方式?jīng)Q策的BP神經(jīng)網(wǎng)絡(luò)模型[J]. 太原理工大學(xué)學(xué)報，2006,37(5):119～121

[6]譚宗琨: BP人工神經(jīng)網(wǎng)絡(luò)在玉米智能農(nóng)業(yè)專家系統(tǒng)中的應(yīng)用[J].農(nóng)業(yè)網(wǎng)絡(luò)信息，2004(10):9～1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92～3579

篇10

關(guān)鍵詞：人工智能；TensorFlow；BP神經(jīng)網(wǎng)絡(luò)

中圖分類號：TP18 文獻(xiàn)標(biāo)識碼：A 文章編號：1009-3044（2016）16-0199-03

Abstract：Based on Google's second generation of artificial intelligence learning system―TensorFlow， build a BP neural network model. Use handwritten characters as training set of inputs of neural network， constantly revise weight value and threshold value in the process of training， and get a higher identification precision of the model. It Embodies the TensorFlow’s effect in improving the efficiency of modeling， programming and analysis. Through introducing the development process， It provides reference which use TensorFlow building complex neural networks.

Key words：artificial intelligence； TensorFlow； BP neural networks

1 概述

目前，手寫字符的識別方法已經(jīng)有多種，如支持向量機、BP神經(jīng)網(wǎng)絡(luò)、KNN、樸素貝葉斯方法等。其中BP神經(jīng)網(wǎng)絡(luò)作為一種經(jīng)典的模式識別工具，應(yīng)用廣泛。將BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于手寫字符識別，具有識別速度快、分類能力強、有較好的容錯性能和學(xué)習(xí)能力的優(yōu)點。

TensorFlow是一個采用數(shù)據(jù)流圖，用于數(shù)值計算的開源軟件庫。它通過構(gòu)建有向圖來描述所要執(zhí)行的操作，可以靈活的使用設(shè)備中的CPU或者GPU展開計算。TensorFlow提供了構(gòu)建神經(jīng)網(wǎng)絡(luò)的接口，因此便于構(gòu)建BP神經(jīng)網(wǎng)絡(luò)，簡化編程任務(wù)。與傳統(tǒng)平臺構(gòu)建的識別模型相比，提高了效率。

2 TensorFlow深度學(xué)習(xí)平臺

2.1 TensorFlow平臺特性

TensorFlow使用靈活，無論是個人PC還是大規(guī)模GPU計算集群，TensorFlow都能夠靈活的在這些平臺運行，使用 TensorFlow 表示的計算也可以在這些平臺上方便地移植。目前，TensorFlow已經(jīng)被應(yīng)用于機器學(xué)習(xí)系統(tǒng)，以及和計算機科學(xué)相關(guān)的領(lǐng)域，例如計算機視覺、語言識別、信息檢索、機器人、地理信息抽取、自然語言理解和計算藥物發(fā)現(xiàn)等。TensorFlow靈活的特性也可以用來表示很多的算法，比如推斷算法和深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練等。

TensorFlow采用數(shù)據(jù)流計算，其表達(dá)的數(shù)據(jù)流計算由一個有向圖表示，這個圖由一個節(jié)點集合組成。在一幅 TensorFlow 圖中，每個節(jié)點有一個或者多個輸入和零個或者多個輸出，表示一種操作的實例化。圖中的葉子節(jié)點通常為常量或者變量，非葉子結(jié)點為一種操作，箭頭代表的是張量（常量、變量以及節(jié)點計算出的結(jié)果均可視為張量）的流動方向。

通過在Ubuntu系統(tǒng)上安裝TensorFlow庫、啟用GPU支持即可使用Python語言構(gòu)建計算圖，實現(xiàn)基于神經(jīng)網(wǎng)絡(luò)的手寫字符識別。

2.2 TensorFlow平臺搭建

TensorFlow目前支持Ubuntu系統(tǒng)和MAC OS系統(tǒng)中安裝，支持C++和Python兩種編程語言?？紤]到Python語言的簡潔性，本實驗采用Python進(jìn)行程序設(shè)計。

1）使用 Virtualenv 創(chuàng)建隔離容器安裝 TensorFlow，不會改變不同Python項目的依賴關(guān)系，便于進(jìn)行項目的管理，能使排查安裝問題變得更容易。

$ sudo apt-get install python-pip python-dev python-virtualenv

2）在Virtualenv環(huán)境下安裝TensorFlow的GPU版本：

創(chuàng)建圖：TensorFlow使用圖來表示計算任務(wù)，在執(zhí)行計算操作之前需要將圖構(gòu)建完成。每一個非葉子節(jié)點都視為一種操作，葉子節(jié)點則表示特殊的操作類型，比如返回常量值或者變量值。創(chuàng)建圖的最后階段需要向圖中添加一個初始化操作的節(jié)點，其作用是將所有的變量進(jìn)行初始化。

啟動圖：圖創(chuàng)建完成后，才能啟動圖。啟動圖的第一步是創(chuàng)建一個 Session 對象，如果無任何創(chuàng)建參數(shù)，會話構(gòu)造器將啟動默認(rèn)圖。然后進(jìn)行變量的初始化操作、運行操作節(jié)點、更新變量值。

3 BP神經(jīng)網(wǎng)絡(luò)設(shè)計

BP神經(jīng)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。學(xué)習(xí)規(guī)則使用最速下降法，通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使網(wǎng)絡(luò)的誤差平方和最小。由輸入層、隱含層和輸出層組成，層與層之間采用全連接方式，同層之間不存在相互連接。

3.1 BP神經(jīng)網(wǎng)絡(luò)

3.2 TensorFlow平臺實現(xiàn)

本實驗采用MNIST手寫字符數(shù)據(jù)集，手寫字符為28×28像素的手寫數(shù)字灰度圖像。存儲在train-images-idx3-ubyte.gz和train-labels-idx1-ubyte.gz 文件中的60000幅手寫字符數(shù)據(jù)，55000幅作為訓(xùn)練集，5000幅作為驗證集。測試集10000幅圖像的字符和標(biāo)簽存儲在t10k-images-idx3-ubyte.gz和t10k-labels-idx1-ubyte.gz中。

輸入層設(shè)計：手寫字符每一張圖片的大小為32×32，一維化后，每一張圖片作為輸入時需要784個輸入層神經(jīng)元節(jié)點，其中None表示輸入圖片的數(shù)目：

4 總結(jié)

目前，神經(jīng)網(wǎng)絡(luò)被廣泛應(yīng)用于學(xué)術(shù)界和工業(yè)界，但在構(gòu)建神經(jīng)網(wǎng)絡(luò)、優(yōu)化參數(shù)、模型分析方面總是存在著一定的困難。TensorFlow的出現(xiàn)使這種狀況得以改善。TensorFlow有著編程簡單、優(yōu)化算法集成度高、使用靈活的特性，利用TensorFlow將會使建模、編程、分析效率大大提高。實驗以BP神經(jīng)網(wǎng)絡(luò)為例，介紹了TensorFlow平臺下神經(jīng)網(wǎng)絡(luò)模型構(gòu)建的一般方法和流程，并且得到了有較高識別精度的模型。對構(gòu)建更復(fù)雜的神經(jīng)網(wǎng)絡(luò)具有一定的參考意義。

參考文獻(xiàn)：

[1] Abadi M， Agarwal A， Barham P， et al. TensorFlow： Large-scale machine learning on heterogeneous systems， 2015[J]. Software available from tensorflow. org.

[2] 任翠池，楊淑瑩，洪俊.基于BP神經(jīng)網(wǎng)絡(luò)的手寫字符識別[J].天津理工大學(xué)學(xué)報，2006，22（4）：80-82.

[3] 張斌，趙瑋燁，李積憲.基于BP神經(jīng)網(wǎng)絡(luò)的手寫字符識別系統(tǒng)[J].蘭州交通大學(xué)學(xué)報：自然科學(xué)版， 2007，26（1）.

[4] 許宜申，顧濟華，陶智，等.基于改進(jìn) BP 神經(jīng)網(wǎng)絡(luò)的手寫字符識別[J].通信技術(shù)，2011， 44（5）： 106-109.

[5] 楊勇，謝剛生.基于BP神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識別[J].華東地質(zhì)學(xué)院學(xué)報，2003，26（4）： 383-386.

[6] 金連文，徐秉錚.基于多級神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的手寫體漢字識別[J].通信學(xué)報，1997，18（5）.