循環(huán)神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)范文
時(shí)間:2024-04-11 11:24:48
導(dǎo)語:如何才能寫好一篇循環(huán)神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn),這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。
篇1
目前國內(nèi)外常用的信息安全風(fēng)險(xiǎn)評(píng)價(jià)模型主要由層次分析法(AHP)、基于概率統(tǒng)計(jì)的ALE算法,模糊綜合評(píng)價(jià)法等,也取得了一定的研究成果。但上述算法的基本思想是基于線性映射和概率密度分布的,即各風(fēng)險(xiǎn)指標(biāo)與最終評(píng)價(jià)結(jié)果之間存在著線性關(guān)系[2]。然而,這種關(guān)系的存在是否科學(xué)至今也沒有得到準(zhǔn)確的答復(fù),同時(shí)這些方法在實(shí)施時(shí)雖然給出了定量計(jì)算的算法,但操作較為繁瑣,難以達(dá)到快速識(shí)別的要求。目前應(yīng)用較廣泛的BP神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)算法存在著網(wǎng)絡(luò)參數(shù)難確定、收斂速度較慢且易陷入極小值等問題。為了解決上述問題,本文應(yīng)用魚群算法對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行了改進(jìn),結(jié)合信息安全評(píng)價(jià)實(shí)例進(jìn)行了測(cè)試,并將測(cè)試數(shù)據(jù)與標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行了比較與分析,取得了理想的結(jié)果。
一、信息安全的概念
所謂的信息安全評(píng)估指的是通過分析信息系統(tǒng)所包含的資產(chǎn)總值、識(shí)別系統(tǒng)本身的防御機(jī)制以及所受到的危險(xiǎn)性系數(shù),利用數(shù)學(xué)模型綜合判斷出系統(tǒng)當(dāng)前的風(fēng)險(xiǎn)值。信息安全風(fēng)險(xiǎn)評(píng)估主要包括三方面的內(nèi)容,分別是資產(chǎn)總值識(shí)別、外部威脅識(shí)別以及脆弱性識(shí)別。資產(chǎn)總值識(shí)別是為了識(shí)別出系統(tǒng)所涉及的資產(chǎn)總值,外部威脅識(shí)別指的是識(shí)別當(dāng)前狀態(tài)下系統(tǒng)受攻擊或威脅的程度,而脆弱性識(shí)別指的是系統(tǒng)自身的脆弱性程度。其中綜合考慮外部威脅以及內(nèi)部脆弱性可以得出發(fā)生風(fēng)險(xiǎn)事件的危害性,而自然總值識(shí)別再加上脆弱性識(shí)別就可以得到系統(tǒng)的易損性,基于上述過程可以得到信息安全系統(tǒng)的風(fēng)險(xiǎn)值。
二、基本BP神經(jīng)網(wǎng)絡(luò)算法
BP神經(jīng)網(wǎng)絡(luò)算法是一種采用誤差反向傳播的多層前饋感知器。其特點(diǎn)是具有分布式的信息存儲(chǔ)方式,能進(jìn)行大規(guī)模并行處理,并具有較強(qiáng)的自學(xué)習(xí)及自適應(yīng)能力。BP網(wǎng)絡(luò)由輸入層(感知單元)、計(jì)算層(隱藏層)、輸出層三部分組成。輸入層神經(jīng)元首先將輸入信息向前傳遞至隱含層節(jié)點(diǎn),經(jīng)過激活函數(shù)預(yù)處理后,隱層節(jié)點(diǎn)再將輸出信息傳送至輸出層得到結(jié)果輸出。輸入層與輸出層節(jié)點(diǎn)的個(gè)數(shù)取決于輸入、輸出向量的維數(shù),隱含層節(jié)點(diǎn)個(gè)數(shù)目前并沒有統(tǒng)一的標(biāo)準(zhǔn)進(jìn)行參考,需通過反復(fù)試錯(cuò)來確定。根據(jù)Kolmogorov定理,具有一個(gè)隱層的三層BP神經(jīng)網(wǎng)絡(luò)能在閉集上以任意精度逼近任意非線性連續(xù)函數(shù),所以本文選擇單隱層的BP神經(jīng)網(wǎng)絡(luò)。
三、人工魚群算法
3.1基本原理
通過對(duì)魚類覓食的觀察可知,魚類一般能自行或者尾隨其他同伴找到食物數(shù)量相對(duì)充足的地方。因此,一般魚類數(shù)量較多的地區(qū)即為食物相對(duì)充足的區(qū)域。人工魚群算法是指通過長(zhǎng)期對(duì)魚類覓食行為的觀察,構(gòu)造人工魚來模擬魚類的覓食、群聚、尾隨以及隨機(jī)行為,從而完成全局最優(yōu)值的尋找。算法所包含的基本過程如下:
覓食行為:魚類會(huì)利用視覺或嗅覺來感知水中食物濃度的高低,以此來選擇覓食的路線。
聚群行為:魚類一般會(huì)以群體形式進(jìn)行覓食,以此來躲避天敵的傷害并以最大概率獲得準(zhǔn)確的覓食路線。
尾隨行為:當(dāng)群體中的某條魚或幾條魚尋找到食物后,其附近的其他同伴會(huì)立刻尾隨而來,其他更遠(yuǎn)處的魚也會(huì)相繼游過來。
隨機(jī)行為:魚在水中的活動(dòng)是不受外界支配的,基本上處于隨機(jī)狀態(tài),這種隨機(jī)性有利于魚類更大范圍的尋找食物及同伴。
3.2 魚群算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的原理
BP神經(jīng)網(wǎng)絡(luò)在求解最優(yōu)化問題時(shí)容易陷入局部極值,并且網(wǎng)絡(luò)的收斂速度較慢。魚群算法通過設(shè)定人工魚個(gè)體,模擬魚群在水中的覓食、尾隨和群聚行為,通過個(gè)體的局部尋優(yōu),最終實(shí)
現(xiàn)全局尋優(yōu)。人工魚在不斷感知周圍環(huán)境狀況及
同伴狀態(tài)后,集結(jié)在幾個(gè)局部最優(yōu)點(diǎn)處,而值較大的最優(yōu)點(diǎn)附近一般會(huì)匯集較多的人工魚,這有
助于判斷并實(shí)現(xiàn)全局最優(yōu)值的獲取。因此用人工魚群算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)是一種合理的嘗試。
3.3 具體工作步驟
人工魚群算法用于優(yōu)化神經(jīng)網(wǎng)絡(luò)時(shí)的具體步驟如下:
①設(shè)定BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),確定隱層節(jié)點(diǎn)數(shù)目;
②設(shè)定人工魚參數(shù),主要包括個(gè)體間距離、有效視線范圍以及移動(dòng)步長(zhǎng)等;
③人工魚進(jìn)行覓食、群聚及尾隨行為來優(yōu)化BP神經(jīng)網(wǎng)絡(luò);
④通過設(shè)定的狀態(tài)參量,判斷是否達(dá)到目標(biāo)精度;
⑤若達(dá)到精度要求則輸出網(wǎng)絡(luò)優(yōu)化權(quán)值,并執(zhí)行網(wǎng)絡(luò)循環(huán),否則繼續(xù)改化參數(shù)進(jìn)行優(yōu)化;
⑥輸出最終優(yōu)化參數(shù)并進(jìn)行計(jì)算機(jī)網(wǎng)絡(luò)安全評(píng)價(jià)。
四、仿真實(shí)驗(yàn)
將信息安全風(fēng)險(xiǎn)評(píng)估常用的3項(xiàng)評(píng)價(jià)指標(biāo)的分值作為BP神經(jīng)網(wǎng)絡(luò)的輸入,網(wǎng)絡(luò)的期望輸出只有一項(xiàng),即安全綜合評(píng)價(jià)分值。目前用于信息安全風(fēng)險(xiǎn)評(píng)價(jià)的數(shù)據(jù)還很少,本文采用文獻(xiàn)[3]所列的15組典型信息安全單項(xiàng)指標(biāo)評(píng)價(jià)數(shù)據(jù),其中1-10項(xiàng)作為訓(xùn)練,11-15項(xiàng)用于仿真。通過實(shí)際實(shí)驗(yàn)分析,本文將權(quán)值調(diào)整參數(shù)α=0.1,閾值調(diào)整參數(shù)β=0.1,隱層神經(jīng)元數(shù)目為6,學(xué)習(xí)精度ε=0.0001。網(wǎng)絡(luò)經(jīng)過2000次訓(xùn)練,收斂于所要求的誤差,人工魚群算法的相關(guān)參數(shù): 種群大小為39;可視域?yàn)?.8;最大移動(dòng)步長(zhǎng)為0.6;擁擠度因子為3.782。然后對(duì)檢驗(yàn)樣本及專家評(píng)價(jià)樣本進(jìn)行仿真,結(jié)果如表1所示??梢钥闯?,魚群神經(jīng)網(wǎng)絡(luò)得到的仿真結(jié)果與期望值之間的平均誤差為0.001,而標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)為0.0052,所以魚群神經(jīng)網(wǎng)絡(luò)的得到的仿真精度較高,取得了理想的實(shí)驗(yàn)結(jié)果。
五、結(jié)論
本文將魚群算法和神經(jīng)網(wǎng)絡(luò)結(jié)合起來對(duì)信息安全評(píng)價(jià)進(jìn)行了研究,得到了如下幾個(gè)結(jié)論:
(1) 基于魚群算法優(yōu)化后的BP神經(jīng)網(wǎng)絡(luò)具有收斂速度快、擬合精度高等優(yōu)點(diǎn),克服了標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)收斂速度慢、容易陷入局部極小值的缺點(diǎn)。同時(shí),優(yōu)化算法編碼過程簡(jiǎn)單,并具有較強(qiáng)的魯棒性。
(2) 本文采用的實(shí)驗(yàn)數(shù)據(jù)僅有15個(gè),基于魚群算法優(yōu)化后的BP神經(jīng)網(wǎng)絡(luò)精度有明顯提高,避免了由于樣本數(shù)量少造成的擬合精度低等缺點(diǎn)。
(3) 通過將標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)算法與魚群神經(jīng)網(wǎng)絡(luò)算法進(jìn)行對(duì)比發(fā)現(xiàn),后者的收斂速度明顯加快并且自組織能力也有一定提高,在實(shí)際的工程建設(shè)中可以將其代替?zhèn)鹘y(tǒng)的BP神經(jīng)網(wǎng)絡(luò)算法來進(jìn)行信息安全的風(fēng)險(xiǎn)評(píng)估。
篇2
[關(guān)鍵詞]BP神經(jīng)網(wǎng)絡(luò)農(nóng)業(yè)工程農(nóng)業(yè)管理農(nóng)業(yè)決策
一、引言
采用神經(jīng)網(wǎng)絡(luò)算法的信息處理技術(shù),以其較強(qiáng)的計(jì)算性和學(xué)習(xí)性,現(xiàn)如今已經(jīng)在各工程領(lǐng)域內(nèi)得到了廣泛應(yīng)用。隨著科技不斷的發(fā)展和研究的不斷深入,農(nóng)業(yè)系統(tǒng)中采用的傳統(tǒng)分析和管理的方法已經(jīng)不能滿足農(nóng)業(yè)工程領(lǐng)域快速發(fā)展的需要。在農(nóng)業(yè)系統(tǒng)中采用神經(jīng)網(wǎng)絡(luò)技術(shù)可在一定程度上可彌補(bǔ)傳統(tǒng)方法的不足,現(xiàn)已成為實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化的一個(gè)重要途徑。神經(jīng)網(wǎng)絡(luò)現(xiàn)已在農(nóng)業(yè)生產(chǎn)的各個(gè)環(huán)節(jié)得到廣泛的應(yīng)用,從作物營(yíng)養(yǎng)控制、作物疾病診斷、產(chǎn)量預(yù)測(cè)到產(chǎn)品分級(jí),顯示了巨大的潛力,并正以很快的速度與生產(chǎn)實(shí)際相結(jié)合。目前應(yīng)用比較多的BP神經(jīng)網(wǎng)絡(luò),可通過學(xué)習(xí)以任意精度逼近任何連續(xù)映射,在農(nóng)業(yè)生產(chǎn)與科研中展示出了廣闊的應(yīng)用前景。
BP人工神經(jīng)網(wǎng)絡(luò)方法。人工神經(jīng)網(wǎng)絡(luò)是對(duì)生物神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)化和模擬的一種信息處理系統(tǒng),具有很強(qiáng)的信息存貯能力和計(jì)算能力,屬于一種非經(jīng)典的數(shù)值算法。通??煞譃榍跋蛏窠?jīng)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)和自組織映射神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經(jīng)網(wǎng)絡(luò),可通過連續(xù)不斷的在相對(duì)于誤差函數(shù)斜率下降的方向上計(jì)算網(wǎng)絡(luò)權(quán)值以及偏差的變化而逐漸逼近目標(biāo)值,每一次數(shù)字和偏差的變化都與網(wǎng)絡(luò)誤差的影響成正比,并以反向傳播的方式傳遞到每一層,從而實(shí)現(xiàn)了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程。BP人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖所示,BP神經(jīng)網(wǎng)絡(luò)可分為輸入層、中間層(隱含層)和輸出層,其中輸入和輸出都只有一層,中間層可有一層或多層。同層的網(wǎng)絡(luò)結(jié)點(diǎn)之間沒有連接。每個(gè)網(wǎng)絡(luò)結(jié)點(diǎn)表示一個(gè)神經(jīng)元,其傳遞函數(shù)通常采用Sigmoid型函數(shù)。BP神經(jīng)網(wǎng)絡(luò)相當(dāng)于從輸入到輸出的高度非線性映射,對(duì)于樣本輸入和輸出,可以認(rèn)為存在某一映射函數(shù)g,使得y0=g(xi),i=1,2,3,…,m,其中m為樣本數(shù),xi為輸入樣本,yo為輸出結(jié)果。
BP神經(jīng)網(wǎng)絡(luò)的一個(gè)顯著優(yōu)點(diǎn)就是其可進(jìn)行自學(xué)習(xí),能夠通過訓(xùn)練得到預(yù)期的效果。其學(xué)習(xí)過程由正向傳播和反向傳播組成,神經(jīng)網(wǎng)絡(luò)的輸入值經(jīng)過非線性變換從輸入層經(jīng)隱含層神經(jīng)元的逐層處理傳向輸出層,此為正向傳播過程。每一層神經(jīng)元的狀態(tài)將影響到下一層神經(jīng)元狀態(tài)。如果輸出層得到的數(shù)值與期望輸出有一定的偏差,則轉(zhuǎn)入反向傳播過程。神經(jīng)網(wǎng)絡(luò)通過對(duì)輸入值和希望的輸出值(教師值)進(jìn)行比較,根據(jù)兩者之間的差的函數(shù)來調(diào)整神經(jīng)網(wǎng)絡(luò)的各層的連接權(quán)值和各個(gè)神經(jīng)元的閾值,最終使誤差函數(shù)達(dá)到最小。其調(diào)整的過程是由后向前進(jìn)行的,稱為誤差反向傳播BP算法。具體學(xué)習(xí)過程如下:
(1)隨機(jī)給各個(gè)權(quán)值賦一個(gè)初始權(quán)值,要求各個(gè)權(quán)值互不相等,且均為較小的非零數(shù)。
(2)輸入樣本集中每一個(gè)樣本值,確定相應(yīng)的網(wǎng)絡(luò)實(shí)際輸出值。
(3)計(jì)算實(shí)際的輸出值與相應(yīng)的樣本集中的相應(yīng)輸出值的差值。
(4)按極小誤差方式調(diào)整權(quán)值矩陣。
(5)判斷網(wǎng)絡(luò)誤差是否小于訓(xùn)練前人為設(shè)定的一個(gè)較小的值,若小于,則跳出運(yùn)算,此時(shí)的結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果;若大于,則繼續(xù)計(jì)算。
(6)判斷最大迭代次數(shù)是否大于預(yù)先設(shè)定的數(shù),若小于,返回(2);若大于,則中止運(yùn)算,其結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果。
上述的計(jì)算過程循環(huán)進(jìn)行,直到完成給定的訓(xùn)練次數(shù)或達(dá)到設(shè)定的誤差終止值。
二、BP神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)工程領(lǐng)域中的應(yīng)用
1.在農(nóng)業(yè)生產(chǎn)管理與農(nóng)業(yè)決策中的應(yīng)用
農(nóng)業(yè)生產(chǎn)管理受地域、環(huán)境、季節(jié)等影響較大,用產(chǎn)生式規(guī)則完整描述實(shí)際系統(tǒng),可能會(huì)因組合規(guī)則過多而無法實(shí)現(xiàn)。神經(jīng)網(wǎng)絡(luò)的一個(gè)顯著的優(yōu)點(diǎn)就是其具有較強(qiáng)的自學(xué)習(xí)、自適應(yīng)、自組織能力,通過對(duì)有代表性的樣本的學(xué)習(xí)可以掌握學(xué)習(xí)對(duì)象的內(nèi)在規(guī)律,從而可以在一定程度上克服上述信息量大的問題。神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)生產(chǎn)管理方面可用于農(nóng)作物生長(zhǎng)過程中對(duì)農(nóng)作物生長(zhǎng)需求進(jìn)行預(yù)測(cè),從而通過對(duì)養(yǎng)分、水分、溫度、以及PH值的優(yōu)化控制達(dá)到最優(yōu)的生長(zhǎng)狀況。采用神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法的主要思想可描述為:(1)收集一定規(guī)模的樣本集,采用BP算法進(jìn)行訓(xùn)練,使網(wǎng)絡(luò)收斂到預(yù)定的精度;(2)將網(wǎng)絡(luò)權(quán)值矩陣保存到一存儲(chǔ)介質(zhì)中,例如文本文件或數(shù)據(jù)庫中;(3)對(duì)于待預(yù)測(cè)數(shù)據(jù)的輸入部分,從存儲(chǔ)介質(zhì)中讀出網(wǎng)絡(luò)連接權(quán)值矩陣,然后通過BP神經(jīng)網(wǎng)絡(luò)的前向傳播算法計(jì)算網(wǎng)絡(luò)輸出,輸出結(jié)果既是預(yù)測(cè)出來的數(shù)值向量。如霍再林等針對(duì)油葵不同階段的相對(duì)土壤含鹽濃度對(duì)其產(chǎn)量的影響有一定的規(guī)律的現(xiàn)象,以油葵的6個(gè)成長(zhǎng)階段的土壤溶液含鹽的相對(duì)濃度為輸入樣本,相對(duì)產(chǎn)量為輸出樣本,通過比較發(fā)現(xiàn),訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)能較好預(yù)測(cè)油葵產(chǎn)量,采用此方法可補(bǔ)充傳統(tǒng)模型的不足,為今后進(jìn)一步的研究開辟了新路。
在農(nóng)業(yè)決策方面,主要將農(nóng)業(yè)專家面對(duì)各種問題時(shí)所采取的方法的經(jīng)驗(yàn),作為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本,從而采用神經(jīng)網(wǎng)絡(luò)建立的專家系統(tǒng)將從一定程度上彌補(bǔ)了傳統(tǒng)方法的不足,將農(nóng)業(yè)決策智能化。如何勇、宋海燕針對(duì)傳統(tǒng)專家系統(tǒng)自學(xué)習(xí)能力差的缺點(diǎn),利用神經(jīng)網(wǎng)絡(luò)可自我訓(xùn)練的優(yōu)點(diǎn),將神經(jīng)網(wǎng)絡(luò)引入專家系統(tǒng)中。將小麥缺素時(shí)的田間宏觀表現(xiàn),葉部、莖部、果實(shí)癥狀及引起缺素的原因這五個(gè)方面的可信度值作為神經(jīng)網(wǎng)絡(luò)的輸入量,將農(nóng)業(yè)專家診斷的結(jié)論作為輸出量,將這些數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)。實(shí)際應(yīng)用表明此系統(tǒng)自動(dòng)診斷的結(jié)果與專家現(xiàn)場(chǎng)診斷的結(jié)果基本一致,從而采用該系統(tǒng)能夠取代專家,實(shí)現(xiàn)作物的自我診斷,為農(nóng)業(yè)管理方面提供了極大的幫助。如馬成林等針對(duì)于傳統(tǒng)施肥決策方法中非線性關(guān)系描述不足的問題,基于數(shù)據(jù)包分析和BP神經(jīng)網(wǎng)絡(luò),建立了施肥決策模型,應(yīng)用表明,在有限的范圍內(nèi),模型預(yù)測(cè)結(jié)果較為合理,可以反映玉米的需肥特性。劉鋮等人提出采用神經(jīng)網(wǎng)絡(luò)應(yīng)用在農(nóng)業(yè)生產(chǎn)決策中,以莜麥播種方式?jīng)Q策為例,通過對(duì)產(chǎn)生式規(guī)則的分析導(dǎo)出神經(jīng)網(wǎng)絡(luò)輸入、輸出單元數(shù),并通過多次試驗(yàn)確定隱層單元數(shù),用MATLAB方針結(jié)果表明,采用神經(jīng)網(wǎng)絡(luò)作為農(nóng)業(yè)生產(chǎn)決策的方法,取得了較好的效果。譚宗琨提出將基于互聯(lián)網(wǎng)環(huán)境下的神經(jīng)網(wǎng)絡(luò)應(yīng)用在玉米智能農(nóng)業(yè)專家系統(tǒng)中,根據(jù)農(nóng)作物發(fā)育進(jìn)程分成若干個(gè)發(fā)育期,分別對(duì)各個(gè)發(fā)育期建立管理模型,依照作物各發(fā)育期進(jìn)程時(shí)間間隔,由計(jì)算機(jī)系統(tǒng)自動(dòng)選取相應(yīng)的模型進(jìn)行決策。應(yīng)用分析的結(jié)果表明采用神經(jīng)網(wǎng)絡(luò)的玉米智能專家系統(tǒng)已初步接近農(nóng)業(yè)生產(chǎn)的實(shí)際。
2.在農(nóng)產(chǎn)品外觀分析和品質(zhì)評(píng)判
農(nóng)產(chǎn)品的外觀,如形狀、大小、色澤等在生產(chǎn)過程中是不斷變化的,并且受人為和自然等復(fù)雜因素的影響較大。農(nóng)產(chǎn)品的外觀直接影響到農(nóng)產(chǎn)品的銷售,研究出農(nóng)作物外觀受人為和自然的影響因素,通過神經(jīng)網(wǎng)絡(luò)進(jìn)行生產(chǎn)預(yù)測(cè),可解決農(nóng)產(chǎn)品由于不良外觀而造成的損失。如Murase 等針對(duì)西紅柿表皮破裂的現(xiàn)象,西紅柿表皮應(yīng)力的增長(zhǎng)與西紅柿果肉靠近表皮部分水分的增加有關(guān),當(dāng)表皮應(yīng)力超過最大表皮強(qiáng)度時(shí),將導(dǎo)致表皮破裂。用人工神經(jīng)網(wǎng)絡(luò)系統(tǒng),預(yù)測(cè)在環(huán)境溫度下的表皮應(yīng)力,可通過控制環(huán)境變量來減少西紅柿表皮破裂所造成的損失。
在農(nóng)業(yè)科研和生產(chǎn)中,農(nóng)產(chǎn)品的品質(zhì)評(píng)判大多是依賴于對(duì)農(nóng)產(chǎn)品外觀的辨識(shí)。例如對(duì)果形尺寸和顏色等外觀判別果實(shí)的成熟度,作物與雜草的辨別,種子的外觀質(zhì)量檢測(cè)。由于農(nóng)業(yè)環(huán)境的復(fù)雜性和生物的多樣性,農(nóng)產(chǎn)品的外觀不具有較確定的規(guī)律性和可描述性,單一采用圖像處理技術(shù)辨識(shí)農(nóng)產(chǎn)品的外觀時(shí)不宜過多采取失真處理和變換,否則則增加圖像處理的復(fù)雜性,特征判別也相對(duì)困難。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)、自組織的能力,比較適宜解決農(nóng)業(yè)領(lǐng)域中許多難以用常規(guī)數(shù)學(xué)方法表達(dá)的復(fù)雜問題,與圖像處理技術(shù)相結(jié)合后,可根據(jù)圖像特征進(jìn)行選擇性判別。采用此方法可以部分替代人工識(shí)別的工作,提高了生產(chǎn)效率,也有利于實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化。如Liao等將玉米籽粒圖像用34個(gè)特征參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入變量,將輸出的種粒形態(tài)分為5類,經(jīng)過學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)對(duì)完整籽粒分類的準(zhǔn)確率達(dá)到93%,破籽粒分類的準(zhǔn)確率達(dá)91%。
3.蔬菜、果實(shí)、谷物等農(nóng)產(chǎn)品的分級(jí)和鑒定
在農(nóng)業(yè)生產(chǎn)中,蔬菜、果實(shí)、谷物等農(nóng)產(chǎn)品的分級(jí)和鑒定是通過對(duì)農(nóng)產(chǎn)品外觀的辨識(shí)進(jìn)行的。傳統(tǒng)的農(nóng)產(chǎn)品外觀的辨識(shí)方法費(fèi)時(shí)費(fèi)力、預(yù)測(cè)可靠度很低,而且多采用人工操作,評(píng)價(jià)受到操作者主觀因素的影響,評(píng)判的精度難以保證。利用人工神經(jīng)網(wǎng)絡(luò)技術(shù)結(jié)合圖像處理技術(shù)可部分代替以往這些主要依靠人工識(shí)別的工作,從而大大提高生產(chǎn)效率,實(shí)現(xiàn)農(nóng)業(yè)生產(chǎn)與管理的自動(dòng)化和智能化。
利用BP神經(jīng)網(wǎng)絡(luò)技術(shù)對(duì)農(nóng)產(chǎn)品果形尺寸和顏色等外觀評(píng)判,目前國內(nèi)外已有不少成果用于實(shí)際生產(chǎn)中。何東健等以計(jì)算機(jī)視覺技術(shù)進(jìn)行果實(shí)顏色自動(dòng)分級(jí)為目的,研究了用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行顏色分級(jí)的方法。分別用120個(gè)著色不同的紅星和紅富士蘋果作為訓(xùn)練樣本集對(duì)網(wǎng)絡(luò)進(jìn)行離線訓(xùn)練。兩個(gè)品種的蘋果先由人工依據(jù)標(biāo)準(zhǔn)按著色度分成4級(jí),對(duì)每一個(gè)品種分別求出7個(gè)模式特征值作為BP網(wǎng)絡(luò)的輸入,用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)進(jìn)行分級(jí)。結(jié)果表明紅富士和紅星果實(shí)的平均分級(jí)一致率分別為94.2%和94.4%。劉禾等用對(duì)稱特征、長(zhǎng)寬特征、寬度特征、比值特征等一系列特征值來描述果形。采用BP網(wǎng)絡(luò)與人工智能相結(jié)合,建立果形判別人工神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)。試驗(yàn)水果品種為富士和國光。試驗(yàn)表明系統(tǒng)對(duì)富士學(xué)習(xí)率為80%,對(duì)非學(xué)習(xí)樣本的富士蘋果的果形判別推確率為75%,系統(tǒng)對(duì)國光學(xué)習(xí)率為89%,對(duì)非學(xué)習(xí)樣本的國光蘋果果形判別系統(tǒng)的難確率為82%。
三、未來的發(fā)展方向
人工神經(jīng)網(wǎng)絡(luò)的信息處理技術(shù)現(xiàn)已在農(nóng)業(yè)工程領(lǐng)域內(nèi)得到了迅速的應(yīng)用,采用人工神經(jīng)網(wǎng)絡(luò)算法的農(nóng)業(yè)系統(tǒng)能夠從一定程度上改善控制效果,但此技術(shù)在農(nóng)業(yè)范圍內(nèi)還不夠成熟,有待于進(jìn)一步的研究。今后科研的方向大體上可以從以下幾方面著手:
1.人工神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)
人工神經(jīng)網(wǎng)絡(luò)算法由于本身具有一定的缺點(diǎn),從而采用人工神經(jīng)網(wǎng)絡(luò)的算法的信息處理技術(shù)在應(yīng)用過程中具有一定的局限性。在今后的研究中,可以從人工神經(jīng)網(wǎng)絡(luò)方向著手,改進(jìn)人工神經(jīng)網(wǎng)絡(luò)算法,從而實(shí)現(xiàn)其在農(nóng)業(yè)領(lǐng)域內(nèi)更好的應(yīng)用。近年來隨著模糊算法、蟻群算法等算法的相繼出現(xiàn),將神經(jīng)網(wǎng)絡(luò)與其他算法結(jié)合在一起已經(jīng)成為了研究的熱門話題,也是未來算法研究的主要方向之一。
2.應(yīng)用領(lǐng)域的擴(kuò)展
人工神經(jīng)網(wǎng)絡(luò)算法在農(nóng)業(yè)工程方面現(xiàn)已得到了迅速的發(fā)展,擴(kuò)展其在農(nóng)業(yè)工程領(lǐng)域的應(yīng)用范圍是未來的一個(gè)主要研究方向。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)能力,可對(duì)農(nóng)業(yè)系統(tǒng)的非線形特性進(jìn)行較好的描述,采用人工神經(jīng)網(wǎng)絡(luò)可解決傳統(tǒng)方法的不足,從而實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化。如何將神經(jīng)網(wǎng)絡(luò)較好地引入到農(nóng)業(yè)系統(tǒng),解決農(nóng)業(yè)工程中的部分問題,已是今后農(nóng)業(yè)科研中的一個(gè)方向。
四、結(jié)束語
神經(jīng)網(wǎng)絡(luò)作為一種人工智能范疇的計(jì)算方法,具有良好的自學(xué)習(xí)與數(shù)學(xué)計(jì)算的能力,可通過計(jì)算機(jī)程序進(jìn)行模擬運(yùn)算,現(xiàn)已廣泛用于模式識(shí)別、管理決策等方面。隨著計(jì)算機(jī)硬件和軟件的不斷發(fā)展與農(nóng)業(yè)工程方面的研究的不斷深入,神經(jīng)網(wǎng)絡(luò)將在農(nóng)業(yè)管理、農(nóng)業(yè)決策、農(nóng)作物外觀分類、品質(zhì)評(píng)判等方面充分發(fā)揮其自學(xué)習(xí)能力強(qiáng),計(jì)算能力強(qiáng)的優(yōu)勢(shì),通過對(duì)樣本數(shù)據(jù)的學(xué)習(xí),神經(jīng)網(wǎng)絡(luò)可較好地解決農(nóng)作物生長(zhǎng)過程中的作物分類、預(yù)測(cè)等非線形的問題。在農(nóng)業(yè)工程領(lǐng)域內(nèi),神經(jīng)網(wǎng)絡(luò)擁有廣闊的科研前景。
參考文獻(xiàn):
[1]余英林李海洲:神經(jīng)網(wǎng)絡(luò)與信號(hào)分析[M]. 廣州: 華南理工大學(xué)出版社,1996:45
[2]霍再林史海濱孔東等: 基于人工神經(jīng)網(wǎng)絡(luò)的作物水―鹽響應(yīng)初步研究[J].內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報(bào),2003,24(3):66~70
[3]何勇宋海燕:基于神經(jīng)網(wǎng)絡(luò)的作物營(yíng)養(yǎng)診斷專家系統(tǒng)[J]. 農(nóng)業(yè)工程學(xué)報(bào),2005,21(1):110~113
[4]馬成林吳才聰張書慧等:基與數(shù)據(jù)包絡(luò)分析和人工神經(jīng)網(wǎng)絡(luò)的變量施肥決策方法研究[J].農(nóng)業(yè)工程學(xué)報(bào),2006,20(2):152~155
[5]劉鋮楊盤洪: 莜麥播種方式?jīng)Q策的BP神經(jīng)網(wǎng)絡(luò)模型[J]. 太原理工大學(xué)學(xué)報(bào),2006,37(5):119~121
[6]譚宗琨: BP人工神經(jīng)網(wǎng)絡(luò)在玉米智能農(nóng)業(yè)專家系統(tǒng)中的應(yīng)用[J].農(nóng)業(yè)網(wǎng)絡(luò)信息,2004(10):9~1
[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92~3579
篇3
關(guān)鍵詞 BP神經(jīng)網(wǎng)絡(luò) 數(shù)據(jù)挖掘 最速下降法 函數(shù)逼近 模式識(shí)別
中圖分類號(hào):TP391 文獻(xiàn)標(biāo)識(shí)碼:A
1研究背景
BP神經(jīng)網(wǎng)絡(luò)是一種多層的前饋網(wǎng)絡(luò)而且它的學(xué)習(xí)算法是一種誤差逆向傳播算法。BP神經(jīng)網(wǎng)絡(luò)是目前研究最為成熟、應(yīng)用最為廣泛的人工神經(jīng)網(wǎng)絡(luò)模型之一。由于其結(jié)構(gòu)簡(jiǎn)單、可操作性強(qiáng)、具有較好的自學(xué)習(xí)能力、能夠有效地解決非線性目標(biāo)函數(shù)的逼近問題等優(yōu)點(diǎn),因此被廣泛應(yīng)用于自動(dòng)控制、模式識(shí)別、圖像識(shí)別、信號(hào)處理、預(yù)測(cè)、函數(shù)擬合、系統(tǒng)仿真等學(xué)科和領(lǐng)域中。
2 BP神經(jīng)網(wǎng)絡(luò)原理
2.1概述
BP神經(jīng)網(wǎng)絡(luò)是一種反向傳播誤差算法然后訓(xùn)練的一個(gè)多層前饋網(wǎng)絡(luò),簡(jiǎn)稱為BP算法,它應(yīng)用在已被開發(fā)出來的神經(jīng)網(wǎng)絡(luò)中,到目前為止是應(yīng)用最為廣泛的網(wǎng)絡(luò)模型之一。BP神經(jīng)網(wǎng)絡(luò)可以學(xué)習(xí)并且存儲(chǔ)非常多的輸入模式與輸出模式之間的映射關(guān)系,卻無需在學(xué)習(xí)和存儲(chǔ)前事先揭示并描述輸入輸出間的映射關(guān)系的一種數(shù)學(xué)方程。它使用最速下降法,通過對(duì)輸出誤差的反向傳播,獲得不斷調(diào)整網(wǎng)絡(luò)連接權(quán)系數(shù)和閾值的信息,最終使神經(jīng)網(wǎng)絡(luò)的平方誤差最小,達(dá)到期望要求。
2.2 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
BP神經(jīng)網(wǎng)絡(luò)模型是一個(gè)三層網(wǎng)絡(luò),它的拓?fù)浣Y(jié)構(gòu)可被劃分為:輸入層、輸出層、隱含層。其中輸入層與輸出層具有更重要的意義,因此它也可以為兩層網(wǎng)絡(luò)結(jié)構(gòu)(把隱含層劃入輸入層或者把隱含層去掉)。每層都由許多簡(jiǎn)單的能夠執(zhí)行并行運(yùn)算的神經(jīng)元組成,這些神經(jīng)元與生物系統(tǒng)中的那些神經(jīng)元非常類似,但其并行性并沒有生物神經(jīng)元的并行性高。BP神經(jīng)網(wǎng)絡(luò)是一個(gè)前饋網(wǎng)絡(luò),因此它具有前饋網(wǎng)絡(luò)所具有的特性:相鄰兩層之間的全部神經(jīng)元進(jìn)行互相連接,而處于同一層的神經(jīng)元不能進(jìn)行聯(lián)接。
2.3 BP算法原理
BP神經(jīng)網(wǎng)絡(luò)的基本原理是把一個(gè)輸入矢量經(jīng)過隱含層的一系列變換,然后得到一個(gè)輸出矢量,從而實(shí)現(xiàn)輸入數(shù)據(jù)與輸出數(shù)據(jù)間的一個(gè)映射關(guān)系。輸入信息的正向傳播,以及輸出誤差的反向傳播,構(gòu)成了 BP網(wǎng)絡(luò)的信息循環(huán)。BP算法根據(jù)輸出誤差來修改各神經(jīng)元連接的連接權(quán)系數(shù),其目的是使輸出誤差達(dá)到預(yù)計(jì)范圍內(nèi)。BP網(wǎng)絡(luò)需要實(shí)際輸出與期望輸出之間的誤差來確定是否要修改神經(jīng)元連接的連接權(quán)系數(shù)。其中,期望輸出便是該網(wǎng)絡(luò)意義上的“導(dǎo)師”。BP網(wǎng)絡(luò)具有對(duì)稱性的網(wǎng)絡(luò)結(jié)構(gòu),在輸出端的每一個(gè)處理單元基本上都具有一個(gè)相同的激勵(lì)函數(shù)。
BP算法由正向傳播和反向傳播兩部分組成。在正向傳播過程中,輸入信息從輸入層經(jīng)隱層單元處理后,傳至輸出層。每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層得不到期望輸出,就轉(zhuǎn)為反向傳播,即:把誤差信號(hào)沿連接路徑返回,并通過修改各層神經(jīng)元之間的連接權(quán)值,使誤差信號(hào)最小。
具體的算法步驟可概括如下:
第一步,選取初始權(quán)值、閾值。
第二步,重復(fù)下述過程直至滿足性能要求為止:
(1)對(duì)于學(xué)習(xí)樣本P=1到N
①計(jì)算每層各節(jié)點(diǎn)j的輸出yj,netj和的值(正向過程);
②對(duì)各層從M層到第二層,對(duì)每層各節(jié)點(diǎn)反向計(jì)算%]j(反向過程);
(2)修改權(quán)值
具體推導(dǎo)過程見參考文獻(xiàn)4。
3基于BP神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的實(shí)例
3.1函數(shù)逼近
我們?cè)O(shè)計(jì)一個(gè)簡(jiǎn)單的BP網(wǎng)絡(luò),實(shí)現(xiàn)對(duì)非線性函數(shù)的逼近。通過改變?cè)摵瘮?shù)的參數(shù)以及BP網(wǎng)絡(luò)隱層神經(jīng)元的數(shù)目,來觀察訓(xùn)練時(shí)間以及訓(xùn)練誤差的變化時(shí)間。將要逼近的非線性函數(shù)設(shè)為正弦函數(shù),其頻率參數(shù)k可以調(diào)節(jié)。假設(shè)頻率參數(shù)k=2,繪制此函數(shù)的曲線。如圖1。
(1)網(wǎng)絡(luò)建立:用MATLAB編程建立BP網(wǎng)絡(luò)結(jié)構(gòu),為二層BP神經(jīng)網(wǎng)絡(luò)。隱層神經(jīng)元數(shù)目n 可以改變,暫時(shí)設(shè)為n=10,輸出層有一個(gè)神經(jīng)元。網(wǎng)絡(luò)訓(xùn)練采用Levenberg-Marquardt算法trainlm。
分析:因?yàn)榻⒕W(wǎng)絡(luò)時(shí),權(quán)值和閾值的初始化是隨機(jī)的,所以網(wǎng)絡(luò)輸出結(jié)果很差,根本達(dá)不到函數(shù)逼近的目的,并且每次運(yùn)行的結(jié)果也有所不同。
(2)網(wǎng)絡(luò)訓(xùn)練:在MATLAB里應(yīng)用train()函數(shù)對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練之前,需要預(yù)先設(shè)置訓(xùn)練參數(shù)。將訓(xùn)練時(shí)間設(shè)置為50,訓(xùn)練精度設(shè)置為0.01,其余參數(shù)用默認(rèn)值。
(3)網(wǎng)絡(luò)測(cè)試:對(duì)于訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行仿真,繪制網(wǎng)絡(luò)輸出曲線,并與原始非線性函數(shù)曲線相比較,結(jié)果如下圖2。
由此可看出,得到的曲線和原始的非線性函數(shù)曲線很接近。這說明經(jīng)過訓(xùn)練后,BP網(wǎng)絡(luò)對(duì)非線性函數(shù)的逼近效果非常好。
(4)討論分析:改變非線性函數(shù)的頻率和BP網(wǎng)絡(luò)隱層神經(jīng)元的數(shù)目,對(duì)于函數(shù)逼近的效果有一定的影響。網(wǎng)絡(luò)非線性程度越高,對(duì)BP網(wǎng)絡(luò)的要求越高,則相同的網(wǎng)絡(luò)逼近效果要差一些;隱性神經(jīng)元的數(shù)目對(duì)于網(wǎng)絡(luò)逼近效果也有一定的影響,一般來說隱形神經(jīng)元數(shù)目越多,則BP網(wǎng)絡(luò)逼近非線性函數(shù)的能力越強(qiáng),同時(shí)網(wǎng)絡(luò)訓(xùn)練所用的時(shí)間相對(duì)來說也要長(zhǎng)一些。
參考文獻(xiàn)
[1] 閆志忠.BP神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)及其應(yīng)用研究[D].吉林大學(xué),2003.
[2] 李友坤.BP神經(jīng)網(wǎng)絡(luò)的研究分析及改進(jìn)應(yīng)用[D].安徽理工大學(xué),2012.
[3] 吳昌友.神經(jīng)網(wǎng)絡(luò)的研究及應(yīng)用[D].東北農(nóng)業(yè)大學(xué), 2007.
篇4
摘要:針對(duì)電子政務(wù)績(jī)效評(píng)估不完善及BP神經(jīng)網(wǎng)絡(luò)的收斂速度慢,需要較長(zhǎng)的訓(xùn)練時(shí)間的缺陷,本文在前人研究的基礎(chǔ)上建立了基于平衡計(jì)分卡的指標(biāo)體系,針對(duì)BP神經(jīng)網(wǎng)絡(luò)的缺陷,將粒子群優(yōu)化算法應(yīng)用到模型中,改進(jìn)了BP神經(jīng)網(wǎng)絡(luò)模型,提出了基于粒子群優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)原理及求解方法,并通過實(shí)際的例子對(duì)建立的模型進(jìn)行了訓(xùn)練和驗(yàn)證。通過本文的研究,為相關(guān)部門開展電子政務(wù)績(jī)效的評(píng)估提供了一定的參考依據(jù),對(duì)電子政務(wù)的發(fā)展起到了一定的積極作用。
關(guān)鍵詞 :電子政務(wù);績(jī)效評(píng)價(jià);平衡計(jì)分卡;神經(jīng)網(wǎng)絡(luò);粒子群算法
引言
20世紀(jì)60年代中后期,一些歐美的發(fā)達(dá)國家對(duì)政府進(jìn)行改革,并強(qiáng)調(diào)政府行政的效率,為了衡量政府行政好壞,績(jī)效評(píng)價(jià)成為了一項(xiàng)快速發(fā)展起來的政治活動(dòng)。1992年美國政府為了進(jìn)一步完善電子政務(wù)績(jī)效的評(píng)價(jià)體系,頒布了相關(guān)的法律法規(guī),通過立法進(jìn)一步明確了電子政務(wù)績(jī)效評(píng)價(jià)的概念和制度,而亞歐一些國家政府也效仿美國,迅速引進(jìn)了相關(guān)的評(píng)價(jià)制度和工具。電子政務(wù)績(jī)效評(píng)價(jià)指引了電子政務(wù)發(fā)展的方向,為政府開展電子政務(wù)提供了信息來源的平臺(tái),為了能夠保證電子政務(wù)順利的開展,我們就需要建立一個(gè)有效的、全面的、較為完善的電子政務(wù)績(jī)效評(píng)價(jià)體系。本文在前人研究的基礎(chǔ)上建立了基于平衡計(jì)分卡的指標(biāo)體系,針對(duì)BP神經(jīng)網(wǎng)絡(luò)的收斂速度慢,需要較長(zhǎng)的訓(xùn)練時(shí)間的缺陷,將粒子群優(yōu)化算法應(yīng)用到模型中,改進(jìn)了BP神經(jīng)網(wǎng)絡(luò)模型,提出了基于粒子群優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)原理及求解方法,并通過實(shí)際的例子對(duì)建立的模型進(jìn)行了訓(xùn)練和驗(yàn)證。
1、基于平衡計(jì)分卡的電子政務(wù)績(jī)效評(píng)價(jià)指標(biāo)體系的設(shè)計(jì)
結(jié)合定量分析和定性分析的方法來建立基于平衡計(jì)分卡的電子政務(wù)績(jī)效評(píng)價(jià)指標(biāo)體系,并不斷的修正平衡計(jì)分卡的機(jī)構(gòu)關(guān)系,不斷的革新指標(biāo)內(nèi)容,從而建立電子政務(wù)績(jī)效評(píng)價(jià)框架,修正后的電子政務(wù)績(jī)效評(píng)價(jià)BSC框架主要從成本效益、服務(wù)對(duì)象、內(nèi)部運(yùn)營(yíng)及學(xué)習(xí)與發(fā)展四個(gè)維度提出了相應(yīng)的問題,如圖1所示。
根據(jù)前面的分析,基于BSC的電子政務(wù)績(jī)效評(píng)價(jià)指標(biāo)體系見表1,指標(biāo)數(shù)據(jù)的獲取和計(jì)算方法見表1。
3、基于PSO-BP神經(jīng)網(wǎng)絡(luò)的電子政務(wù)績(jī)效評(píng)價(jià)模型
3.1 數(shù)據(jù)的預(yù)處理
由于數(shù)據(jù)的獲取難度較大,因此本文借用了相關(guān)文章的數(shù)據(jù)[4],選取了湖南省十一個(gè)省市的數(shù)據(jù)作為研究的樣本,為了確保輸入數(shù)據(jù)(包括訓(xùn)練以及將來要預(yù)測(cè)的數(shù)據(jù))在比較接近的范圍里,我們需要對(duì)數(shù)據(jù)進(jìn)行歸一化處理。本文的數(shù)據(jù)主要包括輸入數(shù)據(jù)和期望輸出數(shù)據(jù),輸入數(shù)據(jù)主要是湖南省十一個(gè)市的電子政務(wù)指標(biāo)數(shù)據(jù),包括16個(gè)輸入維度,輸出的是對(duì)電子政務(wù)系統(tǒng)的評(píng)價(jià)結(jié)果,主要包括:好、較好、一般、較差、差五個(gè)結(jié)果。利用下面的線性函數(shù)轉(zhuǎn)換方法完成數(shù)據(jù)的歸一化:
公式中的P為歸一化處理后的數(shù)據(jù),P1為原始數(shù)據(jù),P1min為原始數(shù)據(jù)中的最小值,P1max為原始數(shù)據(jù)中的最大值。
通常情況下,用于測(cè)試的輸入數(shù)據(jù)所對(duì)應(yīng)的輸出數(shù)據(jù)不是量化數(shù)據(jù),比如本文中所提到的好、較好、一般、較差、差五個(gè)結(jié)果。因此本文的輸出數(shù)據(jù)主要使用的是專家評(píng)價(jià)得出的分?jǐn)?shù),來對(duì)電子政務(wù)績(jī)效做出評(píng)價(jià),分?jǐn)?shù)評(píng)價(jià)結(jié)果的對(duì)應(yīng)關(guān)系為:1-3為差,3-5為較差,5-7為一般,7-9為較好,9以上為好。經(jīng)過歸一化處理過的指標(biāo)數(shù)據(jù)和通過專家評(píng)價(jià)得出的評(píng)價(jià)結(jié)果如表2所示。
3.2 輸入層、輸出層及隱層節(jié)點(diǎn)的設(shè)計(jì)
由于一個(gè)三層的前向網(wǎng)絡(luò)具有以任意精度逼近任意一個(gè)非線性函數(shù)的能力,因此,只需構(gòu)造一個(gè)輸入層、一個(gè)隱層和一個(gè)輸出層的3層神經(jīng)網(wǎng)絡(luò)。本文中的電子政務(wù)績(jī)效評(píng)價(jià)指標(biāo)體系共包括成本效益、服務(wù)對(duì)象、內(nèi)部運(yùn)營(yíng)及學(xué)習(xí)與發(fā)展四個(gè)指標(biāo)維度,然后又將其細(xì)分成16項(xiàng)三級(jí)指標(biāo),也就是說神經(jīng)網(wǎng)絡(luò)輸入層的維度為16,即輸入層神經(jīng)元個(gè)數(shù)Pn=16。輸出層輸出的結(jié)果是我們對(duì)電子政務(wù)系統(tǒng)的評(píng)價(jià),而我們把評(píng)價(jià)結(jié)果好、較好、一般、較差、差作為網(wǎng)絡(luò)的唯一輸出,因此,輸出層神經(jīng)元個(gè)數(shù)為r=1。
1988年Cybenko[11]大量的研究表明在三層神經(jīng)網(wǎng)絡(luò)中一個(gè)隱藏層就可以實(shí)現(xiàn)任意分類的問題,以任何精度來實(shí)現(xiàn)任意非線性的輸入和輸出的映射。本文將隱藏層設(shè)置為一層。隱藏層節(jié)點(diǎn)的選擇也是一個(gè)復(fù)雜的問題,如果隱層節(jié)點(diǎn)數(shù)比較少的話,則有可能導(dǎo)致網(wǎng)絡(luò)訓(xùn)練者性能很差;如果選擇較多的隱層節(jié)點(diǎn)數(shù),雖然能夠降低系統(tǒng)誤差,但是會(huì)使網(wǎng)絡(luò)訓(xùn)練的時(shí)間增加,而且也極易使訓(xùn)練陷入局部極小點(diǎn)而得不到最優(yōu)點(diǎn),最終會(huì)導(dǎo)致訓(xùn)練出現(xiàn)“過擬合”的現(xiàn)象。本文采用的計(jì)算公式為:
其中n為輸入層節(jié)點(diǎn)數(shù), m為輸出層節(jié)點(diǎn)數(shù),a 為1 ~ 10 之間的常數(shù)。
3.3 基于BP神經(jīng)網(wǎng)絡(luò)的電子政務(wù)績(jī)效評(píng)價(jià)模型的設(shè)計(jì)
利用BP神經(jīng)網(wǎng)絡(luò)對(duì)電子政務(wù)績(jī)效進(jìn)行評(píng)價(jià)的主要步驟有:
第一步:根據(jù)電子政務(wù)發(fā)展過程中的相關(guān)影響因素,選取合適的電子政務(wù)績(jī)效評(píng)價(jià)的指標(biāo)數(shù)據(jù),利用相關(guān)的算法對(duì)指標(biāo)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理[5],將處理后的指標(biāo)數(shù)據(jù)x1,x2,x3,……,xn作為輸入BP神經(jīng)網(wǎng)絡(luò)的輸入值。
第二步:在輸入層輸入數(shù)據(jù)以后,數(shù)據(jù)會(huì)在神經(jīng)網(wǎng)絡(luò)中正向傳播,數(shù)據(jù)在隱藏層進(jìn)行一層一層的處理,然后會(huì)把處理后的數(shù)據(jù)傳向輸出層,輸出層得到的數(shù)據(jù)就是實(shí)際的輸出值Y。
第三步:當(dāng)輸出層得到實(shí)際的輸出值以后,會(huì)和期望值進(jìn)行比較,如果輸出值和期望值不相等,那么會(huì)根據(jù)相關(guān)的公式計(jì)算出誤差,然后把誤差信號(hào)按照原來的路徑進(jìn)行反向的傳播,通過不斷的循環(huán)的傳播來調(diào)整隱藏層神經(jīng)元的權(quán)重,從而使誤差越來越小。
第四步: 不斷的重復(fù)前面的第二步和第三步,一直到誤差可以小到某個(gè)閾值,然后停止訓(xùn)練和學(xué)習(xí),只有選擇的樣本足夠多時(shí),神經(jīng)網(wǎng)絡(luò)的訓(xùn)練才更精確,輸入的樣本數(shù)據(jù)不同,得到的輸出向量也會(huì)不同,當(dāng)所有的數(shù)據(jù)樣本的數(shù)據(jù)值和期望值誤差最小的時(shí)候,綜合評(píng)價(jià)結(jié)果更為接近,神經(jīng)網(wǎng)絡(luò)的權(quán)重值Wij就是BP神經(jīng)網(wǎng)絡(luò)通過訓(xùn)練和自適應(yīng)的學(xué)習(xí)得到的一個(gè)內(nèi)部的表示。
對(duì)選取的樣本進(jìn)行訓(xùn)練以后,我們就可以利用BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練模型對(duì)電子政務(wù)績(jī)效進(jìn)行評(píng)價(jià),而且可以對(duì)大規(guī)模的電子政務(wù)進(jìn)行績(jī)效評(píng)價(jià),因?yàn)樯窠?jīng)網(wǎng)絡(luò)具有一定魯棒性[6],那么會(huì)導(dǎo)致出現(xiàn)主觀綜合評(píng)價(jià)值在一定的程度會(huì)與實(shí)際值存在少量偏差,但是這個(gè)偏差不會(huì)影響評(píng)價(jià)結(jié)果。
3.4 應(yīng)用粒子群算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)模型
1995年兩位美國學(xué)者對(duì)鳥群的群體遷徙和覓食的過程進(jìn)行了模擬,從而提出了一種智能的優(yōu)化算法-粒子群優(yōu)化算法[7](Particle Swarm Optimization,PSO),隨著近年來粒子群算法的不斷應(yīng)用,已經(jīng)逐漸成為一種新的優(yōu)化算法。
PSO算法的速度和位置迭代公式為:
其中w為慣性權(quán)值,粒子群算法通過引入慣性全職可以實(shí)現(xiàn)對(duì)全局和局部尋優(yōu)的能力的調(diào)整。合適的慣性權(quán)值可以避免陷入局部最優(yōu)和遠(yuǎn)離全局最優(yōu)。這里的慣性權(quán)值隨迭代次數(shù)線性遞減以保證收斂,計(jì)算公式為:
其中wmax為初始設(shè)置的一個(gè)最大的慣性權(quán)重值,將其設(shè)置成0.95;wmin為初始設(shè)置的最小慣性權(quán)重值,這里設(shè)為0.25;tmax為種群最大的迭代次數(shù),這里將其設(shè)置成200次,ti為1:200的循環(huán)迭代。
粒子相繼兩次位置的改變?nèi)Q于粒子當(dāng)前位置相對(duì)于其歷史最佳位置和群體歷史最佳位置的變化。因此,若把網(wǎng)絡(luò)的權(quán)值看作是PSO算法中粒子的位置,則在網(wǎng)絡(luò)訓(xùn)練過程中,相繼兩次權(quán)值的改變可視作粒子的位置的改變。因而類比公式3,網(wǎng)絡(luò)的權(quán)值改變量計(jì)算公式為:
其中式中,wkj(b)和wji(b)個(gè)體最優(yōu)的網(wǎng)絡(luò)權(quán)值;wkj(g)和wji(g)為群體最優(yōu)的網(wǎng)絡(luò)權(quán)值。
4、實(shí)例分析
首先利用基本的BP神經(jīng)網(wǎng)絡(luò)對(duì)選取的樣本進(jìn)行訓(xùn)練,這里選取了長(zhǎng)沙、株洲、婁底、岳陽、永州、郴州、懷化、湘西等八個(gè)城市作為訓(xùn)練樣本,訓(xùn)練之前要對(duì)訓(xùn)練參數(shù)進(jìn)行基本設(shè)置,由于輸入層和輸出層節(jié)點(diǎn)數(shù)分別為16和1,那么隱藏層節(jié)點(diǎn)數(shù)可以選擇5-14個(gè),利用MATLAB經(jīng)過多次實(shí)驗(yàn),最終將隱藏層節(jié)點(diǎn)數(shù)確定為12個(gè)最為合適,誤差相對(duì)較小。
利用PSO優(yōu)化過的BP神經(jīng)網(wǎng)絡(luò)對(duì)十一個(gè)市的樣本進(jìn)行訓(xùn)練和測(cè)試,為了保證測(cè)試結(jié)果的一致性,這里我們依然選取以下八個(gè)城市作為訓(xùn)練的樣本:長(zhǎng)沙、株洲、婁底、岳陽、永州、郴州、懷化、湘西,然后利用剩余的城市作為測(cè)試樣本。訓(xùn)練過程如圖3所示,得到的實(shí)際輸出和期望輸出如表4所示。
優(yōu)化后的數(shù)值更加接近期望值,而且誤差會(huì)比PSO優(yōu)化前的BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練更小,優(yōu)化前后的測(cè)試的結(jié)果對(duì)比如表5所示。
本文在結(jié)合了BP神經(jīng)網(wǎng)絡(luò)和粒子群優(yōu)化算法建立了PSOBP電子政務(wù)績(jī)效評(píng)價(jià)模型,取得了較為滿意的結(jié)果,然而本課題依然遇到了諸多的困難和問題,比如:數(shù)據(jù)獲取困難;另外本文算法中的許多參數(shù)都是用了默認(rèn)值,沒有考慮到優(yōu)化前后初始權(quán)值和閾值的不一致性是否會(huì)影響結(jié)果,這也同樣成為了后續(xù)的研究重點(diǎn)。
參考文獻(xiàn):
[1] 曹振飛.基于績(jī)效棱柱的電子政務(wù)績(jī)效評(píng)估研究[D].北京:北京交通大學(xué),2010
[2] 王杰華.海關(guān)電子政務(wù)績(jī)效評(píng)估體系構(gòu)建[D].上海:復(fù)旦大學(xué),2010
[3] 彭賡,陳杰.基于相關(guān)者理論的電子政務(wù)績(jī)效評(píng)估體系[J].管理現(xiàn)代化,2008,15(1):37-39
[4] 侯衛(wèi)真.電子政務(wù)[M].北京:電子工業(yè)出版社,2013[5] Duncan Aldrich, John Carlo Berrot, Charles R. McClure.E-Government: initiatives, developments and issues [J].Government Information Quarterly. 2002,(19): 349-355
[6] 叢爽.面向MATLAB工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用[M].北京:中國科學(xué)技術(shù)大學(xué)出版社,2003
[7] 范娜,云慶夏. 粒子群優(yōu)化算法及其應(yīng)用[J].信息技術(shù),2006,2(1):53-57
[8] 呂培超.電子政務(wù)績(jī)效評(píng)估研究[D].廈門:廈門大學(xué),2009
[9] 徐強(qiáng).電子政務(wù)流程再造績(jī)效評(píng)估理論與實(shí)證研究[D].南京:南京大學(xué),2010
[10] 張澤旭.神經(jīng)網(wǎng)絡(luò)與MATLALB仿真[D].哈爾濱:哈爾濱工業(yè)大學(xué),2011
篇5
關(guān)鍵詞:學(xué)生綜合素質(zhì)評(píng)價(jià);BP神經(jīng)網(wǎng)絡(luò);算法設(shè)計(jì)
中圖分類號(hào):TP311文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1009-3044(2009)24-6786-03
BP neural Network Based on the Overall Quality of the Student Evaluation of Algorithm Design
ZHANG Wen-sheng
(Xiamen Gongshang Lvyou Xuexiao, Xiamen 3610012,China)
Abstract: In this paper, the overall quality of the students a variety of evaluation methods carried out in-depth analysis to explore the use of BP neural network theory to evaluate the feasibility of the overall quality, and BP neural network based on the overall quality of the student evaluation of algorithm design.
Key words: evaluation of the overall quality of students; BP neural network; algorithm design
學(xué)校德育教育是提高學(xué)生綜合素質(zhì)的重要一環(huán),在學(xué)校工作中占有舉足輕重的地位。德育涉及大量定性和定量的數(shù)據(jù)處理,為了體現(xiàn)其科學(xué)性和公平性,采用先進(jìn)的計(jì)算機(jī)技術(shù)進(jìn)行學(xué)生綜合素質(zhì)量化評(píng)估勢(shì)在必行。
1 問題的提出
據(jù)調(diào)查,目前在學(xué)校里對(duì)學(xué)生素質(zhì)評(píng)價(jià)的方法,主要有以下幾種:
1) 定性描述法
在學(xué)期或?qū)W年結(jié)束時(shí),班主任根據(jù)學(xué)生在班級(jí)、學(xué)校和社會(huì)活動(dòng)中的行為表現(xiàn),運(yùn)用文字對(duì)學(xué)生的綜合素質(zhì)進(jìn)行描述,作為對(duì)學(xué)生的評(píng)價(jià)。這種方法在評(píng)價(jià)學(xué)生綜合素質(zhì)時(shí)起過一定的作用,但是,由于教師對(duì)學(xué)生綜合素質(zhì)評(píng)價(jià)的內(nèi)容不明確,要求不統(tǒng)一,帶有一定的主觀片面性和模糊性。
2) 等級(jí)劃分法
班主任根據(jù)平時(shí)對(duì)學(xué)生的觀察和了解,對(duì)學(xué)生的綜合素質(zhì)行為劃分出優(yōu)、良、中、差四個(gè)等級(jí)。它只能說明每個(gè)學(xué)生綜合素質(zhì)發(fā)展的程度,在班集體中所處的地位,但缺乏具體內(nèi)容,學(xué)生對(duì)于自己或他人的優(yōu)點(diǎn)和缺點(diǎn)、以及個(gè)人今后的努力方向都不明確。
3) 自我總結(jié)法
這種方法是以學(xué)生為主,在教師的指導(dǎo)下總結(jié)自己的收獲,存在的問題、以及今后的努力方向,并寫成書面材料,然后寫在操行表的自我總結(jié)欄內(nèi)。這種方法是以學(xué)生的自我評(píng)價(jià)為主,它對(duì)于提高學(xué)生的自我評(píng)價(jià)能力,具有一定的促進(jìn)作用。但是,由于沒有老師和同學(xué)們參加評(píng)價(jià),其評(píng)價(jià)結(jié)果缺乏客觀性。
4) 小組評(píng)議法
是以班級(jí)小組評(píng)議為主。通過開評(píng)議會(huì)的形式,對(duì)全組成員分別進(jìn)行評(píng)議,肯定成績(jī),提出缺點(diǎn),最后把大家的意見集中起來,作為對(duì)學(xué)生的評(píng)價(jià)結(jié)果。它具有一定的客觀性,可是,沒有教師參加評(píng)議,影響了評(píng)價(jià)結(jié)果的可信度。
上述各種方法的都有一定的長(zhǎng)處,也有一定的缺點(diǎn)。例如,對(duì)學(xué)生的綜合素質(zhì)的結(jié)構(gòu),沒有明確統(tǒng)一的規(guī)定和具體要求;不能同時(shí)吸收各方面的意見參加評(píng)價(jià);沒有制定較為符合需要的綜合素質(zhì)量表和采用科學(xué)的測(cè)量手段等等。所以,評(píng)價(jià)的結(jié)果往往帶有主觀片面性,評(píng)語內(nèi)容的不確定性,以及處在同一等級(jí)的同學(xué)之間存在差異的模糊性。于是最近又提出了對(duì)學(xué)生綜合素質(zhì)定量進(jìn)行測(cè)量和評(píng)價(jià)。
5) 定量分?jǐn)?shù)法
將構(gòu)成學(xué)生綜合素質(zhì)的各種因素?cái)?shù)量化,并制定出綜合素質(zhì)量表。在具體的進(jìn)行測(cè)量和評(píng)價(jià)時(shí),把學(xué)生綜合素質(zhì)所含每種因素的發(fā)展程度分為優(yōu)、良、中、差四個(gè)等級(jí),每個(gè)等級(jí)分別對(duì)應(yīng)一定的標(biāo)準(zhǔn)值。對(duì)不同因素確定不同的權(quán)重大小,再綜合學(xué)生每個(gè)因素所取得的標(biāo)準(zhǔn)值,最后得出學(xué)生的綜合素質(zhì)分。
用定量的方法對(duì)學(xué)生的綜合素質(zhì)發(fā)展程度進(jìn)行評(píng)價(jià)時(shí),不同因素需要確定不同的權(quán)重大小。權(quán)重的大小對(duì)評(píng)估結(jié)果十分重要,它反映了各指標(biāo)的相對(duì)重要性。由于對(duì)不同的因素的權(quán)重是人為給定的,而學(xué)生綜合素質(zhì)的各項(xiàng)因素對(duì)學(xué)生的整體素質(zhì)存在不可確定的影響程度,因些在對(duì)學(xué)生的測(cè)量和評(píng)定過程中必然受到主觀因素及模糊隨機(jī)性的影響。并且這種方法需要消耗大量的人力和時(shí)間。
為了探討這個(gè)問題,我們根據(jù)BP神經(jīng)網(wǎng)絡(luò)的基本概念和原理,用神經(jīng)網(wǎng)絡(luò)自我學(xué)習(xí)的方法,對(duì)中學(xué)生綜合素質(zhì)進(jìn)行測(cè)量和評(píng)價(jià)。BP神經(jīng)網(wǎng)絡(luò)能利用經(jīng)驗(yàn)樣本對(duì)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,達(dá)到神經(jīng)網(wǎng)絡(luò)的自我學(xué)習(xí),在網(wǎng)絡(luò)中自動(dòng)建立一個(gè)多輸入變量與輸出變量間的非線性映射過程,無需建立具體的數(shù)學(xué)模型和規(guī)則,可以處理那些難以用模型或規(guī)則描述的過程或系統(tǒng)。神經(jīng)網(wǎng)絡(luò)具有自組織、自學(xué)習(xí)、自適應(yīng)的特點(diǎn),能通過連接權(quán)重的不斷調(diào)整,克服權(quán)重確定的困難,弱化人為因素,自動(dòng)適應(yīng)信息、學(xué)習(xí)新知識(shí),最終通過學(xué)習(xí)訓(xùn)練對(duì)實(shí)際學(xué)習(xí)樣本提出合理的求解規(guī)則,對(duì)學(xué)生的綜合素質(zhì)的整體評(píng)定具有十分重要的意義。首先我們來了解BP神經(jīng)網(wǎng)絡(luò)的基本原理。
2BP神經(jīng)網(wǎng)絡(luò)的基本原理
1) 神經(jīng)元網(wǎng)絡(luò)基本概念
神經(jīng)網(wǎng)絡(luò)是單個(gè)并行處理元素的集合,從生物學(xué)神經(jīng)系統(tǒng)得到啟發(fā)。在自然界,網(wǎng)絡(luò)功能主要由神經(jīng)節(jié)決定,可以通過改變連接點(diǎn)的權(quán)重來訓(xùn)練神經(jīng)網(wǎng)絡(luò)完成特定的功能。如圖1所示。這里,網(wǎng)絡(luò)將根據(jù)輸出和目標(biāo)的比較而進(jìn)行調(diào)整,直到網(wǎng)絡(luò)輸出和目標(biāo)匹配。
2) 神經(jīng)元網(wǎng)絡(luò)結(jié)構(gòu)
圖2所示為一個(gè)單標(biāo)量輸入且無偏置的神經(jīng)元。
神經(jīng)元輸出計(jì)算公式為:a=f(wp+b)。神經(jīng)元中的w和b都是可調(diào)整的標(biāo)量參數(shù)??梢赃x擇特定的傳輸函數(shù),通過調(diào)整權(quán)重 和偏置參量 訓(xùn)練神經(jīng)網(wǎng)絡(luò)做一定的工作,或者神經(jīng)網(wǎng)絡(luò)自己調(diào)整參數(shù)以得到想要的結(jié)果。
3) BP結(jié)構(gòu)及算法描述
在實(shí)際應(yīng)用中,神經(jīng)網(wǎng)絡(luò)用得最廣泛的是反向傳播網(wǎng)絡(luò)(BP網(wǎng)絡(luò)),典型的BP網(wǎng)絡(luò)是三層網(wǎng)絡(luò),包括輸入層、隱含層和輸出層,各層之間實(shí)行全連接。
BP網(wǎng)絡(luò)是采用Widrow-Hoff學(xué)習(xí)算法和非線性可微傳輸函數(shù)的多層網(wǎng)絡(luò)。網(wǎng)絡(luò)的學(xué)習(xí)過程由正向和反向傳播兩部分組成。在正向傳播過程中,每一層神經(jīng)元的狀態(tài)只影響到下一層神經(jīng)元網(wǎng)絡(luò),如果輸出層不能得到期望輸出,就是實(shí)際輸出值與期望輸出值之間有誤差,那么轉(zhuǎn)入反向傳播過程,將誤差信號(hào)沿原來的連接通路返回,通過修改各層神經(jīng)元的權(quán)值,逐次地向輸入層傳播去進(jìn)行計(jì)算,再經(jīng)過正向傳播過程,這兩個(gè)過程的反復(fù)運(yùn)用,使得誤差信號(hào)最小。實(shí)際上,誤差達(dá)到人們所希望的要求時(shí),網(wǎng)絡(luò)的學(xué)習(xí)過程就結(jié)束了。
4) 反向傳播算法
反向傳播學(xué)習(xí)算法最簡(jiǎn)單的應(yīng)用是沿著性能函數(shù)最速增加的方向一梯度的負(fù)方向更新權(quán)重和偏置。這種遞歸算法可以寫成:
xk+1=xk-ak*gk
這里xk是當(dāng)前權(quán)重和偏置向量,gk是當(dāng)前梯度,ak是學(xué)習(xí)速率。在神經(jīng)元中,學(xué)習(xí)速度又稱為“學(xué)習(xí)速率”,它決定每一次循環(huán)訓(xùn)練中所產(chǎn)生的權(quán)值變化量(即該值的存在是神經(jīng)元網(wǎng)絡(luò)的一個(gè)必須的參數(shù))。大的學(xué)習(xí)速度可能導(dǎo)致系統(tǒng)的不穩(wěn)定,但小的學(xué)習(xí)速度將會(huì)導(dǎo)致訓(xùn)練較長(zhǎng),收斂速度很慢,通常情況下取值在0-01~0,8之間。
3 基于BP神經(jīng)網(wǎng)絡(luò)的學(xué)生綜合素質(zhì)量化評(píng)估模型
從上述對(duì)神經(jīng)元網(wǎng)絡(luò)基本概念的研究,我們可以看出BP神經(jīng)網(wǎng)絡(luò)主要根據(jù)所提供的數(shù)據(jù),通過學(xué)習(xí)和訓(xùn)練,找出輸入與輸出之間的內(nèi)在聯(lián)系,從而求取問題的解,而不是完全依據(jù)對(duì)問題的經(jīng)驗(yàn)知識(shí)和規(guī)則,因而具有自適應(yīng)功能,這對(duì)于弱化權(quán)重確定中的人為因素是十分有益的;其次能夠處理那些有噪聲或不完全的數(shù)據(jù),具有泛化功能和很強(qiáng)的容錯(cuò)能力;由于實(shí)際對(duì)學(xué)生量化評(píng)估往往是非常復(fù)雜的,各個(gè)因素之間相互影響,呈現(xiàn)出復(fù)雜的非線性關(guān)系,人工神經(jīng)網(wǎng)絡(luò)為處理這類非線性問題提供了強(qiáng)有力的工具。因此與其它評(píng)定方法相比,基于神經(jīng)網(wǎng)絡(luò)的評(píng)價(jià)方法越來越顯示出它的優(yōu)越性。結(jié)合學(xué)校對(duì)學(xué)生進(jìn)行綜合素質(zhì)評(píng)估考核的具體問題,我們提出以下設(shè)計(jì)。
3.1量化評(píng)估內(nèi)容的確定
1) 確定學(xué)生的綜合素質(zhì)結(jié)構(gòu)
學(xué)生的綜合素質(zhì)結(jié)構(gòu),主要是根據(jù)一定歷史階段的社會(huì)要求、學(xué)校對(duì)學(xué)生的傳統(tǒng)要求,以及各個(gè)不同年齡階段學(xué)生心理和生理發(fā)展的特征來確定的,它具有一定的社會(huì)性、科學(xué)性、可行性。以教育部提出的職業(yè)學(xué)校學(xué)生發(fā)展目標(biāo)為依據(jù),評(píng)定內(nèi)容包括:道德品質(zhì)與公民素養(yǎng)、學(xué)習(xí)能力、交流與合作能力、運(yùn)動(dòng)與健康、審美與表現(xiàn)、職業(yè)技能等6個(gè)層次。每個(gè)層次又包括各種因素,各層次和因素之間又是相互聯(lián)系和相互促進(jìn)的,它既反映了社會(huì)的、學(xué)校的具體要求,又符合學(xué)生綜合素質(zhì)發(fā)展和形成的規(guī)律。當(dāng)然,在實(shí)際評(píng)價(jià)學(xué)生中,可以根據(jù)學(xué)校的實(shí)際特點(diǎn)進(jìn)一步確定各要素,進(jìn)一步構(gòu)成學(xué)生綜合素質(zhì)評(píng)價(jià)的綜合評(píng)價(jià)指標(biāo)體系。
2) 學(xué)生綜合素質(zhì)評(píng)價(jià)的結(jié)構(gòu)設(shè)計(jì)
用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)生綜合素質(zhì)評(píng)價(jià)結(jié)構(gòu)的設(shè)計(jì)如圖3所示。對(duì)學(xué)生的綜合素質(zhì)進(jìn)行量化評(píng)估時(shí),從輸入層輸入評(píng)價(jià)學(xué)生綜合素質(zhì)的n個(gè)評(píng)價(jià)指標(biāo)因素信息,經(jīng)隱含層處理后傳入輸入層,其輸出值y即為學(xué)生評(píng)估結(jié)果。這n個(gè)評(píng)價(jià)指標(biāo)因素的設(shè)置,要考慮到能符合學(xué)生綜合素質(zhì)發(fā)展和形成的規(guī)律,能全面評(píng)價(jià)學(xué)生的綜合素質(zhì)狀況。
網(wǎng)絡(luò)結(jié)構(gòu)的參數(shù)選擇十分重要,由于輸入層與隱含層神經(jīng)元個(gè)數(shù)的增加會(huì)增加網(wǎng)絡(luò)的表達(dá)能力,不僅會(huì)降低系統(tǒng)的性能,同時(shí)也會(huì)影響其收斂速度和增加噪聲干擾。所以首先必須確定輸入層神經(jīng)元的數(shù)目。為使模型即有理論價(jià)值又有可操作性,本例對(duì)應(yīng)于對(duì)學(xué)生綜合素質(zhì)考核結(jié)構(gòu)的六個(gè)因素,本文采用6個(gè)輸入神經(jīng)元,分別為道德品質(zhì)與公民素養(yǎng)、學(xué)習(xí)能力、交流與合作能力、運(yùn)動(dòng)與健康、審美與表現(xiàn)、職業(yè)技能等評(píng)價(jià)指標(biāo)。由于目前隱單元數(shù)尚無一般的指導(dǎo)原則,為了兼顧網(wǎng)絡(luò)的學(xué)習(xí)能力和學(xué)習(xí)速度,隱含層神經(jīng)元的個(gè)數(shù)選擇采用試算法,在網(wǎng)絡(luò)訓(xùn)練過程中進(jìn)行調(diào)整。筆者首先選定15,用訓(xùn)練樣本來學(xué)習(xí),然后減少隱含層單元數(shù)后再進(jìn)行學(xué)習(xí),通過觀察訓(xùn)練誤差變化的大小來調(diào)整隱單元數(shù)。其原則是:若在減少隱單元數(shù)進(jìn)行訓(xùn)練時(shí)過程平衡(即逐步收斂并達(dá)到較小的誤差)且誤差無顯著增加,則說明減少隱單元數(shù)是合適的;否則表明隱單元數(shù)不宜減少,而應(yīng)增加隱單元數(shù)直到滿意為止。選擇一個(gè)輸入神經(jīng)元為學(xué)生綜合素質(zhì)最終評(píng)價(jià)結(jié)果,分別以0、0,5、1對(duì)應(yīng)于學(xué)生評(píng)議等級(jí)的優(yōu)、良、中三種不同的評(píng)價(jià)結(jié)果。經(jīng)過多次實(shí)驗(yàn),最后得到適宜的網(wǎng)絡(luò)模型為6-4-1網(wǎng)絡(luò)模式。
3.2 量化評(píng)估模型
1) 指標(biāo)體系的規(guī)范化處理
根據(jù)神經(jīng)網(wǎng)絡(luò)計(jì)算規(guī)則,為了保證輸出在線性部分,不到兩端去,應(yīng)保證輸入輸出在0-1之間,反傳達(dá)時(shí)也一樣,輸出應(yīng)在0~1之間。因此要將原始數(shù)據(jù)歸一預(yù)處理,變換為[0,1]區(qū)間的數(shù)值,得到規(guī)范化數(shù)據(jù),作為輸入輸出節(jié)點(diǎn)的樣本數(shù)據(jù)。原始數(shù)據(jù)采用我校高一年一個(gè)班級(jí)的50名學(xué)生的學(xué)生綜合素質(zhì)各項(xiàng)指標(biāo)因素樣本數(shù)據(jù),將實(shí)際數(shù)據(jù)分為兩組:前40名學(xué)生的各項(xiàng)指標(biāo)因素成績(jī)樣本數(shù)據(jù)作為學(xué)習(xí)樣本,后10名學(xué)生的成績(jī)數(shù)據(jù)作為測(cè)試樣本。
2) 學(xué)習(xí)算法
本模型采用6-4-1BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),其中輸入層為6個(gè)指標(biāo)值和一個(gè)閾值。模型初始化時(shí)對(duì)所有的連接權(quán)賦予(0,1)上分布的隨機(jī)數(shù),閾值取1。權(quán)值的修正依據(jù)帶慣性因子的delta規(guī)則。根據(jù)多次試驗(yàn)的結(jié)果,其中,慣性因子α=0.075,學(xué)習(xí)率η=0.85,將樣本數(shù)據(jù)40組為一次循環(huán),每次循環(huán)記錄40組樣本中最大的學(xué)習(xí)誤差。經(jīng)過多次的學(xué)習(xí),最后觀察網(wǎng)絡(luò)輸入與期望輸出的相對(duì)誤差,當(dāng)誤差小于0.005時(shí),學(xué)習(xí)結(jié)束??梢缘玫饺绻龃髽颖镜膫€(gè)數(shù),精度還會(huì)進(jìn)一步提高。
本文探討了神經(jīng)網(wǎng)絡(luò)在學(xué)生綜合素質(zhì)評(píng)價(jià)上的應(yīng)用方法,可取得較為理想的結(jié)果,它可以解決用傳統(tǒng)統(tǒng)計(jì)方法不能或不易解決的問題。但是由于它是一種黑盒方法,無法表達(dá)和分析評(píng)估系統(tǒng)的輸入與輸出間的關(guān)系,因此也難于對(duì)所得結(jié)果作任何解釋,對(duì)求得的結(jié)果作統(tǒng)計(jì)檢驗(yàn);再者,采用神經(jīng)網(wǎng)絡(luò)作評(píng)價(jià)系統(tǒng)時(shí),由沒有一個(gè)便于選定最合適的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的標(biāo)準(zhǔn)方法,只能花大量時(shí)間采用湊試法,從許多次實(shí)驗(yàn)中找出“最合適”的一種;還有樣本數(shù)據(jù)需要足夠的多,才能得到較為理想的結(jié)果。
參考文獻(xiàn):
[1] 高長(zhǎng)梅,趙承志,白昆榮.學(xué)校德育工作全書(上)[M].北京:人民日?qǐng)?bào)出版社,2005.
[2] 聞新,周露,李翔,張寶偉.MATLAB神經(jīng)網(wǎng)絡(luò)仿真與應(yīng)用[M].北京:科學(xué)出版社,2008.
[3] J.P.Marques de sa,Pattern Recognition―Concepts,Methods and Applications[M].北京:清華大學(xué)出版社,2006.
篇6
(中國蚌埠汽車士官學(xué)校裝備技術(shù)系,安徽 蚌埠 233000)
【摘 要】神經(jīng)網(wǎng)絡(luò)具有并行處理能力、自學(xué)習(xí)能力,自適應(yīng)能力和可以逼近任意的非線性函數(shù)等特點(diǎn),是解決非線性、多變量、不確定的復(fù)雜診斷問題的一條有效的途徑,神經(jīng)網(wǎng)絡(luò)的這些特點(diǎn)使得它在故障諺斷領(lǐng)域應(yīng)用越來越廣泛。本文利用LM改進(jìn)學(xué)習(xí)算法訓(xùn)練所建立的BP神經(jīng)網(wǎng)絡(luò),然后利用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)進(jìn)行柴油機(jī)故障診斷,得出診斷結(jié)果,使故障診斷具有人工智能化。
關(guān)鍵詞 BP神經(jīng)網(wǎng)絡(luò);優(yōu)化;故障診斷;仿真
1 BP神經(jīng)網(wǎng)絡(luò)
BP神經(jīng)網(wǎng)絡(luò)是多層前饋神經(jīng)網(wǎng)絡(luò),它的名字源于網(wǎng)絡(luò)權(quán)值的調(diào)整規(guī)則,采用的是后向傳播學(xué)習(xí)算法,既BP算法。BP網(wǎng)絡(luò)是目前應(yīng)用最廣的神經(jīng)網(wǎng)絡(luò)之一,BP網(wǎng)絡(luò)是由一個(gè)輸人層,一個(gè)或多個(gè)隱層以及一個(gè)輸出層組成,如圖1所示,上下層之間實(shí)現(xiàn)全連接,而每層神經(jīng)元之間無連接。網(wǎng)絡(luò)的學(xué)習(xí)過程包括正向傳播和反向傳播。在正向傳播進(jìn)程中,輸入信息從輸入層經(jīng)隱層加權(quán)處理傳向輸出層,經(jīng)功能函數(shù)運(yùn)算后得到的輸出值與期望值進(jìn)行比較,若有誤差,則誤差反向傳播,沿原先的連接通道返回,通過逐層修改各層的權(quán)重系數(shù),減小誤差。隨著這種誤差逆向傳播修正的不斷進(jìn)行,網(wǎng)絡(luò)對(duì)輸入模式響應(yīng)的正確率也不斷上升。
研究表明,帶有兩個(gè)隱層的BP網(wǎng)絡(luò)能形成任何形狀的決策區(qū)域。當(dāng)BP網(wǎng)用作非線性映射時(shí),允許網(wǎng)絡(luò)實(shí)現(xiàn)輸入到輸出之間的任意映射關(guān)系,即可建立故障征兆空間與故障空間的某種映射關(guān)系,每當(dāng)給出一個(gè)實(shí)測(cè)的故障征兆矢量,網(wǎng)絡(luò)即能通過狀態(tài)演化(前傳和聯(lián)想)收斂到與其最相近的模式,從而診斷其故障原因。典型的基于神經(jīng)網(wǎng)絡(luò)模式識(shí)別的故障診斷系統(tǒng)結(jié)構(gòu)如圖2所示。
2 BP神經(jīng)網(wǎng)絡(luò)的不足
BP神經(jīng)網(wǎng)絡(luò)模型雖然在各方面都具有重要意義,而且應(yīng)用也很廣泛,但它也存在一些不足。從數(shù)學(xué)上看,它是一個(gè)非線性優(yōu)化問題,不可避免的存在局部極小點(diǎn),學(xué)習(xí)算法的收斂速度慢,網(wǎng)絡(luò)隱層單元數(shù)選取帶有很大的盲目性和經(jīng)驗(yàn)性,新加入的樣本要影響已學(xué)完的樣本等。
具體來說,BP算法對(duì)樣本進(jìn)行逐個(gè)學(xué)習(xí)時(shí),常會(huì)發(fā)生“學(xué)了新的,忘了舊的”的遺忘現(xiàn)象。故此值得對(duì)樣本不斷循環(huán)重復(fù),這樣一來其學(xué)習(xí)時(shí)間必然延長(zhǎng)。為了克服這個(gè)缺點(diǎn),將逐個(gè)學(xué)習(xí)改為批量學(xué)習(xí),即對(duì)所有樣本都進(jìn)行學(xué)習(xí)后將其誤差相加,然后用這個(gè)誤差之和來對(duì)網(wǎng)絡(luò)的權(quán)系數(shù)進(jìn)行調(diào)整。但是這樣一來,在誤差求和時(shí),這些誤差有可能互相抵消,這就降低了算法的調(diào)整能力,也就是延長(zhǎng)了學(xué)習(xí)的時(shí)間。所以,按批量學(xué)習(xí)其收斂速度也會(huì)很慢。同時(shí),批量學(xué)習(xí)方法還有可能產(chǎn)生新的局部極小點(diǎn)。比如各誤差不為零,但其總和為零,這種情況發(fā)生后算法就穩(wěn)定在這個(gè)狀態(tài)上,造成新的局部極小點(diǎn)。
3 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的優(yōu)化
為了提高神經(jīng)網(wǎng)絡(luò)算法的學(xué)習(xí)效率及穩(wěn)定性,在反向傳播(BP)算法中可以引入基于非線性最小二乘法的Levenberg-Marquart(LM)最優(yōu)算法,替代原BP算法中的梯度下降法尋找最佳網(wǎng)絡(luò)連接權(quán)值。
LM算法是一種優(yōu)良的非線性最小二乘優(yōu)化方法,這種方法的一般模型為:
LM算法是二階收斂的Newton算法的變形,又稱變尺度法。牛頓法的權(quán)值調(diào)整算法如下:
在Gauss-Newton法中,我們要求A是滿秩的。遺憾的是在實(shí)際情況中,A為奇異的情況經(jīng)常發(fā)生,使得算法常常收斂到非駐點(diǎn)。這樣造成的結(jié)果是線性搜索得不到進(jìn)一步下降,從而無法找到最優(yōu)點(diǎn)。LM算法通過引入一個(gè)可變因子μ,將一個(gè)對(duì)角陣μI加到ATA上去,改變了原矩陣的特征值結(jié)構(gòu)使其變成滿秩正定矩陣,從而確保線性搜索的方向?yàn)橄陆档姆较颉F錂?quán)值調(diào)整規(guī)則為:
我們可以利用μ來控制迭代,μ可以在一較大的范圍內(nèi)進(jìn)行調(diào)整。μ較小時(shí)即為Gauss-Newton法;μ較大時(shí)即為最速下降法。μ參數(shù)的引入,以及在迭代過程中μ參數(shù)的可調(diào)節(jié)性,極大地改善了算法收斂的穩(wěn)定性。
采用LM最優(yōu)化算法訓(xùn)練神經(jīng)網(wǎng)絡(luò),替代原BP算法中的梯度下降法尋找最佳網(wǎng)絡(luò)連接權(quán)值。仿真試驗(yàn)證明,這種學(xué)習(xí)算法提高了BP網(wǎng)絡(luò)算法的學(xué)習(xí)效率及穩(wěn)定性,并提高了網(wǎng)絡(luò)的收斂速度,更好的實(shí)現(xiàn)了對(duì)柴油機(jī)燃油壓力信號(hào)的故障診斷。
4 基于優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)柴油機(jī)燃料系故障診斷
4.1 確定故障特征信息
柴油機(jī)燃油系統(tǒng)的狀態(tài)信息主要體現(xiàn)在高壓油管的壓力波形中,當(dāng)某處發(fā)生故障時(shí),必然使原有供油狀態(tài)發(fā)生變化,燃油流動(dòng)的壓力和流速等參數(shù)會(huì)有相應(yīng)的改變,反映在壓力波形上將導(dǎo)致波形形態(tài)和波形參數(shù)值的變化。因此利用壓力傳感器測(cè)取高壓油管的燃油壓力波形,并對(duì)波形進(jìn)行分析、提取出故障特征,再利用人工神經(jīng)網(wǎng)絡(luò)模型對(duì)特征值進(jìn)行模式識(shí)別就可達(dá)到故障診斷的目的。圖3、圖4分別為100%和25%供油量噴油壓力波形圖。
4.2 提取特征參數(shù)
特征參數(shù)的提取是模式識(shí)別過程中的重要環(huán)節(jié),它關(guān)系到模式識(shí)別效果的準(zhǔn)確性。由于燃油壓力波形是一種規(guī)則波形,任一壓力波形都標(biāo)志著柴油機(jī)燃油系統(tǒng)的一種工作狀態(tài)。壓力波形的狀態(tài)信息主要體現(xiàn)在波形的結(jié)構(gòu)形態(tài)上,可以直接從其時(shí)域波形上提取波形的結(jié)構(gòu)特征,并表示為便于計(jì)算的特征空間。根據(jù)分析和試驗(yàn),對(duì)于燃油壓力波形來說,最大壓力、起噴壓力、落座壓力、次最大壓力、波形幅度、上升沿寬度、波形寬度、最大余波寬度等特征最能表現(xiàn)出柴油機(jī)運(yùn)行時(shí)的狀況。為了獲得最佳診斷效果,我們選用這八種參數(shù)構(gòu)成特征向量空間,如圖5所示。
4.3 BP神經(jīng)網(wǎng)絡(luò)的建立及故障診斷過程
4.3.1 數(shù)據(jù)樣本采集
柴油機(jī)燃料系故障主要是供油量不足,主要表現(xiàn)為針閥卡死、針閥泄漏、出油閥失效等。在發(fā)動(dòng)機(jī)800r/min時(shí),用傳感器分別采集正常油量、針閥卡死、針閥泄漏、出油閥失效四種狀態(tài)的燃油壓力數(shù)據(jù),繪制出不同狀態(tài)下的燃油壓力波形,對(duì)每個(gè)波形手動(dòng)提取出最大壓力、啟噴壓力、落座壓力、次最大壓力、波形幅度、上升沿寬度、波形寬度、最大余波寬度這8個(gè)特征值。一般情況下,每個(gè)狀態(tài)至少采集提取5個(gè)實(shí)際樣本,每個(gè)樣本都包括以上8個(gè)特征值,用來建立網(wǎng)絡(luò),訓(xùn)練網(wǎng)絡(luò),并進(jìn)行故障診斷。
4.3.2 BP神經(jīng)網(wǎng)絡(luò)的建立和訓(xùn)練
新建BP神經(jīng)網(wǎng)絡(luò)NewNet,如圖6所示,網(wǎng)絡(luò)設(shè)計(jì)采用三層BP網(wǎng)絡(luò),網(wǎng)絡(luò)的輸入層個(gè)數(shù)為8個(gè),輸出層的個(gè)數(shù)為4個(gè),隱含層的個(gè)數(shù)并不是固定的,經(jīng)過實(shí)際訓(xùn)練的檢驗(yàn)和不斷的調(diào)整,確定隱含層的個(gè)數(shù)近似遵循下列關(guān)系n2=2n1+1。其中n1為輸入層個(gè)數(shù),n2為隱含層個(gè)數(shù),因此隱含層個(gè)數(shù)為17個(gè)。
四種故障模式可以用如下形式表示輸出:
正常油量(1,0,0,0);針閥卡死(0,1,0,0);針閥泄漏(0,0,1,0);出油閥失效(0,0,0,1)。
輸入層至隱層的連接權(quán)Wij、隱層至輸出層的連接權(quán)Vjt、隱層各單元的輸出閾值θj、輸出層各單元的輸出閾值γj ,都選取為(-1~1)之間的隨機(jī)數(shù),然后按照BP網(wǎng)絡(luò)的學(xué)習(xí)步驟進(jìn)行學(xué)習(xí)。網(wǎng)絡(luò)輸入層的傳遞函數(shù)采用雙曲正切S型傳遞函數(shù)Tansig,第二層傳遞函數(shù)采用S型對(duì)數(shù)函數(shù)Logsig,利用基于非線性最小二乘法的LM最優(yōu)算法,替代原BP算法中的梯度下降法訓(xùn)練神經(jīng)網(wǎng)絡(luò),求出最佳網(wǎng)絡(luò)連接權(quán)值和閾值。
利用所采集數(shù)據(jù)樣本,作為網(wǎng)絡(luò)訓(xùn)練的原始樣本,確定初始連接值和閾值后利用Matlab編程,訓(xùn)練的速度為0.1,訓(xùn)練誤差精度為0.01,對(duì)網(wǎng)絡(luò)訓(xùn)練9000次,得出最終的各個(gè)連接權(quán)值和閾值,訓(xùn)練結(jié)束。
4.3.3 故障診斷過程及結(jié)果
網(wǎng)絡(luò)訓(xùn)練結(jié)束后,將表1中的測(cè)試數(shù)據(jù)輸入訓(xùn)練好地BP網(wǎng)絡(luò)。
經(jīng)過運(yùn)算后,網(wǎng)絡(luò)輸出層得出如下的診斷結(jié)果:
從測(cè)試結(jié)果可以看出,診斷結(jié)果與實(shí)測(cè)值具有良好的一致性,診斷誤差分別為0.0043、0.0005、0.0035和0.0380可見診斷誤差非常小,因此可以判定,該BP神經(jīng)網(wǎng)絡(luò)完全可以滿足柴油機(jī)燃油系常見故障的診斷要求。
5 結(jié)束語
仿真試驗(yàn)表明,基于優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)的故障診斷結(jié)果與實(shí)測(cè)值具有良好的一致性,只要選擇足夠典型的原始故障樣本訓(xùn)練BP神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)的容錯(cuò)性和穩(wěn)定性就較好。針對(duì)設(shè)備運(yùn)行的復(fù)雜性,僅選用單一的診斷參數(shù)往往會(huì)做出錯(cuò)誤的判斷,而基于神經(jīng)網(wǎng)絡(luò)的故障模式識(shí)別方法能充分利用信息特征,實(shí)現(xiàn)輸人與輸出之間的映射關(guān)系,得出準(zhǔn)確的診斷結(jié)果。(下轉(zhuǎn)第188頁)
參考文獻(xiàn)
[1]黃麗.BP神經(jīng)網(wǎng)絡(luò)算法改進(jìn)及應(yīng)用研究[D].重慶師范大學(xué),2008:6-15.
[2]孫即祥.現(xiàn)代模式識(shí)別[M].國防科技大學(xué)出版社,2001,5.
[3]李國勇.智能控制及其MATLAB實(shí)現(xiàn)[M].電子工業(yè)出版社,2005,5.
[4]李煥良,等.基于BP神經(jīng)網(wǎng)絡(luò)的電氣系統(tǒng)故障診斷[J].起重運(yùn)輸機(jī)械,2005,6:55-56.
[5]王俊生.柴油發(fā)動(dòng)機(jī)燃油系統(tǒng)的故障分析研究[J].山西建筑,2003,4:250.
[6]董學(xué)剛.燃油壓力波檢測(cè)在機(jī)車柴油機(jī)故障判斷上的應(yīng)用[J].內(nèi)燃機(jī)車,2002,7:25-27.
篇7
關(guān)鍵詞:功率放大器; 預(yù)失真技術(shù); 神經(jīng)網(wǎng)絡(luò); 單入雙出; 互調(diào)失真
中圖分類號(hào):TP18 文獻(xiàn)標(biāo)識(shí)碼:A
文章編號(hào):1004-373X(2010)09-0107-05
Research of Self-adaptive Digital Predistortion Technology Based on SIDO-neural Network
QIU Wei, LIU Yu-peng, ZHANG Lei-lei
(The base of China Ocean Measure, Jiangyin 214431, China)
Abstract: Because of inherent nonlinearity of high-power amplifier, which may cause bad influence on communication systems, it is necessary to make a linearization processing to overcome or weaken it. The math analysis of nonlinear distortion for the high-power amplifier(HPA) is performed. The basic principle of digital predistortion and the foundamental knowledge of neural network are described. A self-adaptive digital predistortion technology based on SIDO-neural network is proposed according to the amplifying amplitude and the distortion characteristic of phase, which can be improved by the technology. Taking a double-sound signal and 16QAM signal as an example, the Matlab simulation is carried out, The result proves that this technology is superior.
Keywords: power amplifier; predistortion technology; neural network; SIDO; intermodulation distortion
0 引 言
無線通信技術(shù)迅猛發(fā)展,人們對(duì)通信系統(tǒng)的容量要求也越來越大。為了追求更高的數(shù)據(jù)速率和頻譜效率,現(xiàn)代通信系統(tǒng)都普遍采用線性調(diào)制方式,如16QAM和QPSK方式,以及多載波配置[1]。
但這些技術(shù)產(chǎn)生的信號(hào)峰均比都較大,均要求功率放大器具有良好的線性特性,否則就會(huì)出現(xiàn)較大的互調(diào)失真,同時(shí)會(huì)導(dǎo)致頻譜擴(kuò)展,造成臨道干擾,使誤碼率惡化,從而降低系統(tǒng)性能。
預(yù)失真技術(shù)是一項(xiàng)簡(jiǎn)單易行的功放線性化技術(shù),具有電路形式簡(jiǎn)單,調(diào)整方便,效率高,造價(jià)低等優(yōu)點(diǎn)[2]。其中,基帶預(yù)失真還能采用現(xiàn)代的數(shù)字信號(hào)處理技術(shù),是最為看好的一項(xiàng)功放線性化技術(shù)。這里利用一種簡(jiǎn)單的單入雙出三層前向神經(jīng)網(wǎng)絡(luò)來進(jìn)行自適應(yīng)預(yù)失真處理,同時(shí)補(bǔ)償由高功率放大器非線性特性引起的幅度失真和相位失真,從而實(shí)現(xiàn)其線性化。
文中分析了基于這種結(jié)構(gòu)的自適應(yīng)算法,并做了相應(yīng)的仿真。仿真結(jié)果表明,該方法能有效克服功放的非線性失真,且收斂速度比一般多項(xiàng)式預(yù)失真更快,具有一定的優(yōu)勢(shì)。
1 高功率放大器非線性分析
高功率放大器一般都是非線性器件,特別是當(dāng)輸入信號(hào)幅度變化較大時(shí),放大器的工作區(qū)將在飽和區(qū)、截止區(qū)、放大區(qū)之間來回轉(zhuǎn)換,非線性失真嚴(yán)重,會(huì)產(chǎn)生高次諧波和互調(diào)失真分量。由于理論上任何函數(shù)都可以分解為多項(xiàng)式的形式,故放大器的輸入和輸出關(guān)系表示為:
Vo=a1Vi+a2V2i+a3V3i+…+anVni(1)
假設(shè)輸入的雙音信號(hào)為:
Vi=V1cos(ω1t)+V2cos(ω2t)(2)
把式(2)代入式(1),得到輸出電壓為:
Vo=a22(V21+V22)+a1V1+a334V31+32V1V22+…cos(ω1t)+a2V2+a334V32+32V2V21+…cos(ω2t)+12a2V21+…cos(2ω1t)+12a2V22+…cos(2ω2t)+14a3V31+…cos(3ω1t)+14a3V32+…cos(3ω2t)+a2V1V2[cos(ω1+ω2)t+cos(ω1-ω2)t]+34a3V21V2[cos(2ω1+ω2)t+cos(2ω1-ω2)t]+
34a3V22V1[cos(2ω2+ω1)t+cos(2ω2-ω1)t]+58a5V31V22cos(3ω2-2ω1)t+58a5V21V32cos(3ω1-2ω2)t+…
從上式可以看出,輸出信號(hào)中不僅包含了2個(gè)基頻ω1,ω2,還產(chǎn)生了零頻,2次及高次諧波以及互調(diào)分量。通常2ω1-ω2,2ω2-ω1,3ω1-2ω2和2ω1-3ω2會(huì)落在通頻帶內(nèi),一般無法濾除,是對(duì)通信影響最大的非線性失真分量,即所謂的三階互調(diào)和五階互調(diào)。放大器線性化的目標(biāo)就是在保證一定效率的前提下最大地減小┤階和┪褰諄サ鞣至俊
2 預(yù)失真基本原理及其自適應(yīng)
預(yù)失真就是在信號(hào)通過放大器之前通過預(yù)失真器對(duì)信號(hào)做一個(gè)與放大器失真特性相反的失真,然后與放大器級(jí)聯(lián),從而保證輸出信號(hào)相對(duì)輸入信號(hào)是線性變化。預(yù)失真器產(chǎn)生一個(gè)非線性的轉(zhuǎn)移特性,這個(gè)轉(zhuǎn)移特性在相位上與放大器轉(zhuǎn)移特性相反,實(shí)質(zhì)上就是一個(gè)非線性發(fā)生器。其原理圖如圖1所示。
圖1 預(yù)失真基本原理
預(yù)失真器的實(shí)現(xiàn)通常有查詢表法和非線性函數(shù)兩種方式[2]。由于查表法結(jié)構(gòu)簡(jiǎn)單,易于實(shí)現(xiàn),早期的預(yù)失真多采用此方法,但它對(duì)性能的改善程度取決于表項(xiàng)的大小,性能改善越大,需要的表項(xiàng)越大,所需要的存儲(chǔ)空間也越大,每次查找遍歷表項(xiàng)的每個(gè)數(shù)據(jù)和更新表項(xiàng)所需要的時(shí)間和計(jì)算時(shí)間也越長(zhǎng),因此在高速信息傳輸?shù)慕裉煲呀?jīng)不可取。非線性函數(shù)法是用一個(gè)非線性工作函數(shù)來擬合放大器輸出信號(hào)采樣值及其輸入信號(hào)的工作曲線,然后根據(jù)預(yù)失真器特性與放大器特性相反,求出預(yù)失真器的非線性特性函數(shù),從而對(duì)發(fā)送信號(hào)進(jìn)行預(yù)失真處理。這種方法只需要更新非線性函數(shù)的幾個(gè)系數(shù),而不需要大的存儲(chǔ)空間,因此是近年來研究的熱點(diǎn)。
假設(shè)預(yù)失真器傳輸函數(shù)為F(x),放大器傳輸函數(shù)為G(x),F和G均為復(fù)函數(shù)。若輸入信號(hào)為x(t),則經(jīng)過預(yù)失真器之后的信號(hào)為u(t)=F[x(t)],放大器輸出函數(shù)為y(t)=G[u(t)]=G{F[x(t)]},預(yù)失真的目的就是使x(t)通過預(yù)失真器和放大器級(jí)聯(lián)后輸出y(t)=ax(t),a為放大器增益。通過一定的方法可以找到合適的F,使實(shí)際輸出和期望輸出的誤差最小。
由于溫度、電器特性、使用環(huán)境等因素的不斷變化,放大器的傳輸特性也會(huì)發(fā)生變化,從而預(yù)失真器傳輸函數(shù)F(x)的各參數(shù)也會(huì)隨之而變化,因此現(xiàn)代數(shù)字預(yù)失真技術(shù)一般都要采用自適應(yīng)技術(shù)以跟蹤調(diào)整參數(shù)的變化。目前常用的兩種自適應(yīng)預(yù)失真結(jié)構(gòu)如圖2、圖3所示。
圖2 自適應(yīng)預(yù)失真系統(tǒng)結(jié)構(gòu)圖
圖3 復(fù)制粘帖式自適應(yīng)預(yù)失真系統(tǒng)結(jié)構(gòu)圖
圖2是一般的通用自適應(yīng)結(jié)構(gòu),結(jié)構(gòu)簡(jiǎn)單,思路明確,但一些經(jīng)典的自適應(yīng)算法由于多了放大器求導(dǎo)項(xiàng)而不能直接應(yīng)用,且需要辨識(shí)放大器的傳輸特性,而圖3的復(fù)制粘帖式結(jié)構(gòu)(非直接學(xué)習(xí))則不存在這些問題,關(guān)于這種結(jié)構(gòu)的優(yōu)缺點(diǎn)比較和具體性能分析見文獻(xiàn)[3]。本文將采用后一種自適應(yīng)結(jié)構(gòu)。
3 基于一種單入雙出式神經(jīng)網(wǎng)絡(luò)的自適應(yīng)預(yù)失真技術(shù)
3.1 神經(jīng)網(wǎng)絡(luò)
神經(jīng)網(wǎng)絡(luò)是基于生物學(xué)神經(jīng)元網(wǎng)絡(luò)的基本原理而建立的。它是由許多稱為神經(jīng)元的簡(jiǎn)單處理單元組成的一類自適應(yīng)系統(tǒng),所有神經(jīng)元通過前向或回饋的方式相互關(guān)聯(lián)、相互作用。由Minsky和Papert提出的多層前向神經(jīng)元網(wǎng)絡(luò)是目前最為常用的網(wǎng)絡(luò)結(jié)構(gòu),已廣泛應(yīng)用到模式分類和函數(shù)逼近中,且已證明含有任意多個(gè)隱層神經(jīng)元的多層前向神經(jīng)元網(wǎng)絡(luò)可以逼近任意的連續(xù)函數(shù)[4]。本文利用神經(jīng)網(wǎng)絡(luò)的這種功能來擬合預(yù)失真器的特性曲線,并且用改進(jìn)的反向傳播算法來自適應(yīng)更新系數(shù)。
多層前向神經(jīng)元網(wǎng)絡(luò)由輸入層、一個(gè)或多個(gè)隱層和輸出層并以前向方式連接而成,其每一層又由許多人工神經(jīng)元組成,前一層的輸出作為下一層神經(jīng)元的輸入數(shù)據(jù)。三層前向神經(jīng)元網(wǎng)絡(luò)示意圖如圖4所示,其中輸入層有M個(gè)人工神經(jīng)元,隱層有K個(gè)神經(jīng)元,輸出層有N個(gè)神經(jīng)元。關(guān)于人工神經(jīng)元的具體介紹參考文獻(xiàn)[5-6]。
圖4 三層前向神經(jīng)元網(wǎng)絡(luò)
3.2 基于單入雙出式神經(jīng)網(wǎng)絡(luò)的自適應(yīng)預(yù)失真系統(tǒng)模型
對(duì)于圖5所示的單入雙出式三層前向神經(jīng)網(wǎng)絡(luò),假設(shè)隱層包含K個(gè)神經(jīng)元。輸入數(shù)據(jù)經(jīng)過一系列權(quán)系數(shù){w11,w12,…w1K}加權(quán)后到達(dá)隱層的各個(gè)神經(jīng)元。隱層中的神經(jīng)元將輸入進(jìn)來的數(shù)據(jù)通過一個(gè)激勵(lì)函數(shù)(核函數(shù)),將其各神經(jīng)元的輸出經(jīng)過一系列權(quán)系數(shù){w21,w22,…,w2K}和{w31,w32,…,w3K}加權(quán)并求和后分別作為輸入層第一個(gè)神經(jīng)元和第二個(gè)神經(jīng)元的輸入,然后各神經(jīng)元的輸入通過激勵(lì)函數(shù)得到兩個(gè)輸出。
將圖5代替圖3中的函數(shù)發(fā)生器,即得到本文中所提到的基于單入雙出式前向神經(jīng)網(wǎng)絡(luò)的預(yù)失真器結(jié)構(gòu)圖,如圖6所示。
神經(jīng)網(wǎng)絡(luò)的三組系數(shù)向量開始都隨機(jī)初始化。設(shè)輸入序列為xi(i=1,2,…),通過幅度提取和相位提取后得到信號(hào)的幅度序列和相位序列。若神經(jīng)網(wǎng)絡(luò)的輸入為原始輸入序列的幅度序列ri(i=1,2,…),則隱層各單元輸入I1k=w1kri-θ1k。經(jīng)過核函數(shù)后,隱層各單元的輸出為J1k=f(I1k),其中f(x)=11+e-x為核函數(shù),輸出層的靜輸入為z1=∑Kk=1w2k*J1k-θ1,z2=∑Kk=1w3k*J1k-θ2,輸出層神經(jīng)元1的輸出,即預(yù)失真器幅度預(yù)失真分量為U1=f(z1)。
圖5 單入雙出三層前向神經(jīng)元網(wǎng)絡(luò)
圖6 單入雙出式前向神經(jīng)網(wǎng)絡(luò)預(yù)失真器結(jié)構(gòu)圖
由于相位失真分量的輸出范圍沒有限制在0和1之間,因此不能用核函數(shù)加以限制,這里設(shè)定輸出層神經(jīng)元2的輸出等于其輸入,即預(yù)失真器相位預(yù)失真分量為U2=z2,最后預(yù)失真后的幅度和相位和的指數(shù)相乘得到送入功放的復(fù)信號(hào)。功率放大器的輸出信號(hào)設(shè)為yi(i=1,2,…),其幅度和相偏分別為yai(i=1,2,…)和ypi(i=1,2,…)。最后整個(gè)系統(tǒng)的幅度絕對(duì)誤差為ea(i)=Gri-ya(i),相位絕對(duì)誤差為ep(i)=U2(i)+yp(i),整個(gè)系統(tǒng)的絕對(duì)誤差和為e(i)=ea(i)+ep(i),然而直接把此誤差運(yùn)用到反向傳播算法(BP算法)中會(huì)導(dǎo)致算法出現(xiàn)局部收斂且收斂速度極慢。因此本文對(duì)誤差信號(hào)做了改進(jìn),即把誤差信號(hào)改為:
e(i)=12[λ(ea(i)]2+(1-λ)φ[ea(i)]+
λ[ep(i)]2+(1-λ)φ[ep(i)]
其中:φ(x)=In[cos(βx)]/β,加入的調(diào)整因子λ和輔助項(xiàng)φ,能把算法從局部收斂點(diǎn)拉出來,且收斂速度得到一定的提高。最后根據(jù)反向傳播算法,得到訓(xùn)練神經(jīng)網(wǎng)絡(luò)的權(quán)系數(shù)更新式如下(下標(biāo)2為隱層到輸出層權(quán)系數(shù),下標(biāo)1為輸入層到隱層權(quán)系數(shù)):
δ2a(i)=ca(i)*[1+U1(i)]*[1-U1(i)](3)
δ2p(i)=cp(i)(4)
w2(i)=α*δ2a(i)*J1+η*w2(i-1)(5)
θ2(i)=α*δ2a(i)+η*θ2(i-1)(6)
w3(i)=-α*δ2p(i)*J1+η*w3(i-1)(7)
θ3(i)=-α*δ2p(i)+η*θ2(i-1)(8)
δ1(i)=(δ2a(i)*w2-δ2p(i)*w3)*
J1(i)*[1-J1(i)](9)
w1(i)=β*δ1(i)*ri+η*w1(i-1)(10)
θ1(i)=β*δ1(i)+η*θ1(i)(11)
式中:ca(i)=λea(i)-1-λ2tan[β*ea(i)];cp(i)=λ*ep(i)-1-λ2tan[β*ep(i)]。
預(yù)失真權(quán)系數(shù)可分為訓(xùn)練和跟蹤兩個(gè)階段。根據(jù)上面的迭代公式,得到一組訓(xùn)練神經(jīng)網(wǎng)絡(luò)的權(quán)系數(shù),用當(dāng)前的權(quán)系數(shù)替代預(yù)失真器神經(jīng)網(wǎng)絡(luò)中原來的權(quán)系數(shù),得到一組新的預(yù)失真系數(shù),之后重新計(jì)算誤差,繼續(xù)上面的過程循環(huán)迭代運(yùn)算,直到誤差小于規(guī)定的范圍,即整個(gè)系統(tǒng)收斂,則預(yù)失真器訓(xùn)練完成,此時(shí)為訓(xùn)練階段。之后隨著溫度、輸入的調(diào)制信號(hào)不同,以及環(huán)境等變化可能引起功放特性的變化,可以設(shè)置一個(gè)誤差門限值,一旦發(fā)現(xiàn)誤差超過此門限,立即重新啟動(dòng)上面的循環(huán)迭代,重新訓(xùn)練,直到滿足條件,此時(shí)為跟蹤階段。這種改進(jìn)型BP算法的收斂速度快,能滿足實(shí)時(shí)運(yùn)算的要求。同時(shí)在硬件實(shí)現(xiàn)上,只要做一個(gè)核函數(shù)發(fā)生器,其他都是乘累加運(yùn)算,硬件實(shí)現(xiàn)要簡(jiǎn)單得多,因此具有一定的實(shí)用性。
4 性能仿真
文中使用雙音信號(hào)進(jìn)行了仿真分析,雙音信號(hào)為:
xs=0.5[sin(2π×10×t)+sin(2π×8×t)]
放大器模型采用經(jīng)典salef[9]模型,神經(jīng)網(wǎng)絡(luò)的隱層數(shù)設(shè)為15。圖7為雙音信號(hào)原始頻譜。
圖8是為雙音信號(hào)直接通過放大器和通過文中所提的預(yù)失真網(wǎng)絡(luò)后再通過放大器的頻譜圖對(duì)比。由此可見,雙音信號(hào)直接通過放大器后產(chǎn)生了較大的失真,其中的三階互調(diào)達(dá)到了-16 dB,五階互調(diào)也有-29 dB。通過對(duì)文中所提神經(jīng)網(wǎng)絡(luò)預(yù)失真系統(tǒng)進(jìn)行處理后,即信號(hào)通過預(yù)失真器再通過放大器后,三階互調(diào)被抑制到-42 dB,五階互調(diào)也被抑制到-48 dB以下,此時(shí)三階互調(diào)改善26 dB,五階互調(diào)改善19 dB,使放大器的非線性失真得到較大的抑制。
圖7 原始信號(hào)歸一化頻譜圖
圖8 預(yù)失真前后信號(hào)歸一化頻譜圖
下面以16QAM信號(hào)為例,說明這種預(yù)失真技術(shù)對(duì)功放非線性特性的改善,如圖9所示。
圖9(a)為16QAM信號(hào)規(guī)則星座圖,調(diào)制信號(hào)均勻地分布在正方形的16個(gè)點(diǎn)上;圖9(b)為16QAM信號(hào)經(jīng)過功率放大器后解調(diào)的星座圖。由圖可見,信號(hào)經(jīng)過放大器后,幅度受到壓縮,相位發(fā)生偏移,并且輸入信號(hào)幅度越大,輸出信號(hào)幅度壓縮越大,相位偏移越嚴(yán)重,最后出現(xiàn)嚴(yán)重的“云團(tuán)效應(yīng)”,使得接收端不能正確解調(diào)信號(hào)。圖9(c)是經(jīng)過本節(jié)所提出的單入雙出式神經(jīng)網(wǎng)絡(luò)預(yù)失真器處理后解調(diào)信號(hào)的星座圖。由圖可見,經(jīng)過預(yù)失真處理后,由于放大器非線性引起的幅度壓縮和相位旋轉(zhuǎn)都得到較好的糾正,“云團(tuán)效應(yīng)”明顯減弱,最后各個(gè)點(diǎn)基本都在理想點(diǎn)上,與┩9(a)對(duì)比,基本消除了失真。
5 結(jié) 語
針對(duì)放大器固有的非線性特性問題,從數(shù)學(xué)上分析了放大器的非線性失真,介紹了基于預(yù)失真基本原理和神經(jīng)網(wǎng)絡(luò)基本概念,提出了一種單入雙出式神經(jīng)網(wǎng)絡(luò)自適應(yīng)預(yù)失真技術(shù)。仿真結(jié)果表明,該技術(shù)能對(duì)三階互調(diào)能抑制29 dB左右,對(duì)五階互調(diào)能抑制19 dB左右,對(duì)QAM調(diào)制信號(hào)由于放大器非線性引起的幅度壓縮和相位旋轉(zhuǎn)都得到較好的糾正,在很大程度上克服了放大器非線性特性,改善了通信系統(tǒng)的性能。
圖9 16QAM信號(hào)星座圖失真及改善對(duì)比
參考文獻(xiàn)
[1]趙慧,漆蘭芬.射頻放大器的工作函數(shù)預(yù)失真線性化[J].無線電工程,2001,31(12):58-61.
[2]賈建華,劉戰(zhàn)勝.關(guān)于自適應(yīng)預(yù)失真射頻功率放大器線性化研究[J].微波學(xué)報(bào),2005,21(3):48-50.
[3]錢業(yè)青.一種高效的用于RF功率放大器線性化的自適應(yīng)預(yù)失真結(jié)構(gòu)[J].通信學(xué)報(bào),2006,27(5):35-40,46.
[4]CYBENKO G. Approximations by superpositions of a sigmoidal function[J]. Mathematics of Control, Signals and Systems, 1989(2): 183-192.
[5]劉寶碇,趙瑞清,王綱.不確定規(guī)劃及應(yīng)用[M].北京:清華大學(xué)出版社,2003.
[6]朱劍英.只能系統(tǒng)非經(jīng)典數(shù)學(xué)方法[M].武漢:華中科技大學(xué)出版社,2001.
[7]WU Shan-yin, SIMON H S F, WONG Y M. The use of nonlinear curvefitting in digital predistortion for linearizing RF power amplifiers[J]. IEEE ICICS, 2005, 3: 960-963.
[8]GLENTIS G O, BERBERDIS K, THEODORIDID S. Efficient least sqares adaptive algorithms for FIR transversal filtering[J].IEEE Signal Processing Magazine,1999,16(4):13-41.
篇8
從建設(shè)工程造價(jià)指數(shù)的內(nèi)涵和編制過程來看,其在建設(shè)工程中得到了廣泛應(yīng)用,具體表現(xiàn)在以下幾個(gè)方面:
(1)建設(shè)工程造價(jià)指數(shù)在工程決策階段得到了重要應(yīng)用。在工程決策階段,建設(shè)工程造價(jià)指數(shù)的運(yùn)用,為投資方提供了工程總體造價(jià)的參考,保證了建設(shè)工程項(xiàng)目總體造價(jià)能夠有一個(gè)大致的范圍作為依據(jù),滿足建設(shè)工程造價(jià)管理需要,為滿足投資方需求提供了有力支持。因此,對(duì)于建設(shè)工程而言,建設(shè)工程造價(jià)指數(shù)在工程決策階段得到了重要應(yīng)用。保證了建設(shè)工程的正常進(jìn)行。
(2)建設(shè)工程造價(jià)指數(shù)在工程施工階段得到了重要應(yīng)用建設(shè)工程項(xiàng)目的實(shí)際施工來看,工程造價(jià)管理是貫穿于整個(gè)工程項(xiàng)目的重要管理手段,對(duì)建設(shè)工程而言意義重大。結(jié)合當(dāng)前建設(shè)工程造價(jià)管理實(shí)際,在工程施工階段中,工程造價(jià)指數(shù)為施工方法提供了具體的造價(jià)依據(jù),便于施工方合理控制總體投資,在滿足工程建設(shè)需要的同時(shí),有效節(jié)約資金,保證工程造價(jià)管理能夠在施工階段取得積極效果。
(3)建設(shè)工程造價(jià)指數(shù)在工程結(jié)算階段得到了重要應(yīng)用。在建設(shè)工程的竣工結(jié)算階段,其結(jié)算依據(jù)主要依靠工程前期制定的造價(jià)來確定,這不但是工程造價(jià)管理的重要內(nèi)容,同時(shí)也是工程造價(jià)管理的有效延伸。在這一過程中,工程造價(jià)指數(shù)得到了具體應(yīng)用,為工程竣工結(jié)算提供了具體依據(jù),保證了工程竣工結(jié)算的準(zhǔn)確性和實(shí)效性,滿足了建設(shè)工程竣工結(jié)算的實(shí)際需要。
2建設(shè)工程造價(jià)指數(shù)及其造價(jià)預(yù)測(cè)的實(shí)證研究
2.1信息采集
本文以住宅建筑工程造價(jià)指數(shù)為例進(jìn)行預(yù)測(cè)實(shí)證分析。為某市2011年一季度~2013年三季度小高層住宅的建筑工程造價(jià)指數(shù)。擬以2011年一季度~2013年一季度的建筑工程造價(jià)指數(shù)為建模數(shù)據(jù)集,以2013年二季度和2013年三季度的建筑工程造價(jià)指數(shù)作為測(cè)試數(shù)據(jù)進(jìn)行預(yù)測(cè)實(shí)證分析。
2.2模型建立
首先利用2011年一季度~2013年一季度9個(gè)季度的造價(jià)指數(shù)預(yù)測(cè)2013年二季度的造價(jià)指數(shù),則原始序列對(duì)Y進(jìn)行加速平移變換和加權(quán)平均處理得序列即2013年二季度造價(jià)指數(shù)的最終預(yù)測(cè)值為123.3。接下來將該預(yù)測(cè)值與前9個(gè)季度的實(shí)際值作為原始序列,對(duì)2013年三季度的造價(jià)指數(shù)進(jìn)行預(yù)測(cè),得最終預(yù)測(cè)結(jié)果為126.2。
2.3預(yù)測(cè)結(jié)果分析
幾種模型預(yù)測(cè)結(jié)果精度對(duì)比如表2,模型擬合曲線對(duì)比。通過對(duì)比5種模型的預(yù)測(cè)結(jié)果和擬合效果可以發(fā)現(xiàn),隨機(jī)振蕩GM(1,1)模型的預(yù)測(cè)精度和擬合效果要好于傳統(tǒng)GM(1,1)模型,蟻群改進(jìn)BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)精度和擬合效果要好于BP神經(jīng)網(wǎng)絡(luò)模型,而隨機(jī)振蕩GM(1,1)與蟻群改進(jìn)BP神經(jīng)網(wǎng)絡(luò)組合循環(huán)模型的預(yù)測(cè)精度和擬合效果最好。這主要是因?yàn)殡S機(jī)振蕩GM(1,1)與蟻群改進(jìn)BP神經(jīng)網(wǎng)絡(luò)組合循環(huán)模型在改進(jìn)傳統(tǒng)GM(1,1)模型與BP神經(jīng)網(wǎng)絡(luò)模型的基礎(chǔ)上,能更好地將灰色系統(tǒng)模型弱化數(shù)據(jù)隨機(jī)性和波動(dòng)性的優(yōu)點(diǎn)與人工神經(jīng)網(wǎng)絡(luò)非線性、自適應(yīng)能力強(qiáng)的特點(diǎn)相融合,不僅提高了模型的穩(wěn)定性,拓寬了模型的適用性,也大大提高了模型的預(yù)測(cè)精度。因此可以將其作為建設(shè)工程造價(jià)指數(shù)的預(yù)測(cè)模型。
3結(jié)束語
篇9
關(guān)鍵詞:圖像采集和處理;圖像檢測(cè);Gabor紋理濾波;神經(jīng)網(wǎng)絡(luò)
DoI:10.15938/j.jhust.2016.06.009
中圖分類號(hào):TPl83;TP391.4
文獻(xiàn)標(biāo)志碼:A
文章編號(hào):1007-2683(2016)06-0044-06
0.引言
鋼鐵企業(yè)為了提高競(jìng)爭(zhēng)力,對(duì)帶鋼的生產(chǎn)提出了新的要求,也對(duì)帶鋼表面檢測(cè)系統(tǒng)提出了更高的要求,既要有更高的檢測(cè)速度還要有更加準(zhǔn)確的檢測(cè)精度,而與此同時(shí),跟隨機(jī)器視覺技術(shù)的發(fā)展,帶鋼表面檢測(cè)系統(tǒng)也得到了廣泛的研究與應(yīng)用,主要研究包括:①光源技術(shù),由于帶鋼檢測(cè)對(duì)光源要求頻度高、體積小,這限制了傳統(tǒng)光源在其應(yīng)用,激光具有方向性好、亮度高、體積小等優(yōu)點(diǎn),被廣泛應(yīng)用于帶鋼檢測(cè)應(yīng)用中,國內(nèi)的徐科等提出熱軋鋼檢測(cè)中用綠光作為激光光源,但激光照明需解決均勻性問題.②掃描技術(shù),由于電荷耦合元件(charge-coupled device,CCD)能夠?qū)崿F(xiàn)實(shí)時(shí)檢測(cè),成為目前研究和應(yīng)用的主流技術(shù),但是,CCD電荷耦合器需在同步時(shí)鐘的控制下,以行為單位一位一位地輸出信息,速度較慢,而互補(bǔ)金屬氧化物半導(dǎo)體(complementary metal oxide semiconductor,CMOS)光電傳感器采集光信號(hào)的同時(shí)就可以取出電信號(hào),還能同時(shí)處理各單元的圖像信息,速度比CCD電荷耦合器快很多,③圖像處理算法,受限于帶鋼加工過程的特性,帶鋼表面呈現(xiàn)出隨機(jī)紋理的特點(diǎn),對(duì)于隨機(jī)紋理圖像的處理分析,目前常用的方法有共生矩陣法、頻域?yàn)V波法、分形法等,作為頻域?yàn)V波法的代表,二維Gabor濾波器有著與生物視覺系統(tǒng)相近的特點(diǎn),廣泛應(yīng)用于紋理圖像的處理分析,但是,CPU很難滿足現(xiàn)在的帶鋼檢測(cè)的實(shí)時(shí)要求,④分類算法,特征選擇的主流算法是主成分分析和信息增益,主成分分析存在特征向量方向不一致的問題,而且如何確定主成分存在主觀性,信息增益可以衡量特征的劣,利用它可對(duì)特征進(jìn)行排序,方便后面的特征選擇,但信息增益適用于離散特征,信息增益率既適用于離散特征也適用于連續(xù)特征,被廣泛應(yīng)用于特征選擇的過程中,圖像分類算法主流算法包括支持向量機(jī)和BP神經(jīng)網(wǎng)絡(luò),支持向量機(jī)不適用于大樣本的分類問題,BP神經(jīng)網(wǎng)絡(luò)方法具有能夠解決非線性分類問題,對(duì)噪聲不敏感等優(yōu)點(diǎn),被廣泛應(yīng)用于帶鋼檢測(cè)中,如王成明等提出的基于BP神經(jīng)網(wǎng)絡(luò)的帶鋼表面質(zhì)量檢測(cè)方法等,但是BP神經(jīng)網(wǎng)絡(luò)的超參的設(shè)定往往具有隨機(jī)性,這嚴(yán)重影響了分類效果。
本文首先介紹了帶鋼表面缺陷高速高分辨率成像系統(tǒng)的設(shè)計(jì),針對(duì)光源的不均勻性、圖像處理速度慢等問題,提出改進(jìn)方法,然后介紹了分類器的構(gòu)建,針對(duì)樣本劃分的隨機(jī)性、特征選擇的隨機(jī)性以及BP神經(jīng)網(wǎng)絡(luò)超參設(shè)定的隨機(jī)性問題,做出改進(jìn),最后介紹試驗(yàn)結(jié)果。
1.帶鋼表面缺陷高速高分辨率的成像系統(tǒng)的設(shè)計(jì)
1)大功率半導(dǎo)體均勻發(fā)光激光器技術(shù),激光能夠保證帶鋼表面缺陷的檢出率,本系統(tǒng)選用808mm半導(dǎo)體激光器作為照明源,出光功率可達(dá)30w,亮度可達(dá)1500流明,激光照明需解決均勻性的問題,本文采用了基于鮑威爾棱鏡的激光線發(fā)生辦法,解決了激光照明的均勻性問題,其光路如圖1所示。
該方法首先在激光聚焦位置放置圓形球面透鏡,負(fù)責(zé)將發(fā)散的激光束匯聚成準(zhǔn)平行光,同時(shí)控制光柱的粗細(xì),然后,利用鮑威爾棱鏡的擴(kuò)散效果對(duì)圓柱的一個(gè)方向進(jìn)行擴(kuò)束,最終形成激光線,為保證亮度及寬度的適應(yīng)性,激光器出光口距離圓透鏡、鮑威爾棱鏡的距離可以精密調(diào)整,為了降低反射亮度損失,在透鏡表面鍍上808±5nm的T≥99%的增透膜。
GPU的算法分為兩個(gè)流程:訓(xùn)練過程主要針對(duì)無缺陷圖像進(jìn)行,通過訓(xùn)練完成紋理圖像的背景建模,一方面消除背景變化帶來的干擾,另一方面形成有效的Gabor卷積參數(shù),以便在檢測(cè)過程中得到最優(yōu)的檢出效果.檢測(cè)過程對(duì)實(shí)際拍攝的缺陷圖像進(jìn)行分析,首先按照GPU的核心數(shù)和緩存大小對(duì)圖像進(jìn)行分解,本文所有GPU的核心數(shù)為1024,顯存2G,因此將原始圖像分解為1000塊,分別加載到1000個(gè)核心中,同時(shí)并發(fā)運(yùn)行卷積運(yùn)算.最后將各個(gè)窗口的卷積結(jié)果合并到一起,得到完成的濾波結(jié)果,最后借助于背景模式,將背景的干擾消除,得到干凈的缺陷區(qū)域。
3)成像系統(tǒng),根據(jù)缺陷檢測(cè)的精度要求(1800m/min的檢測(cè)速度,0.25mm的精度),帶鋼的規(guī)格要求(1900 mm規(guī)格),對(duì)帶鋼進(jìn)行成像系統(tǒng)設(shè)計(jì),基于互補(bǔ)金屬氧化物半導(dǎo)體(CMOS)的成像芯片具有速度快,用電低等優(yōu)勢(shì),選用兩個(gè)4K線掃描CMOS相機(jī)作為成像核心器件,選用Camera Link Full接口作為數(shù)據(jù)輸出,兩個(gè)4K掃描中間重疊100mm作為圖像拼接區(qū),兩組線激光光源與線掃描組成系統(tǒng)的主要成像模塊,成像系統(tǒng)結(jié)構(gòu)如圖3所示。
2.構(gòu)建分類器
檢測(cè)缺陷類別及其特征描述如表1所示:
1)訓(xùn)練集和樣本集劃分.主要缺陷類別有5個(gè),每個(gè)類別收集樣本7000,共計(jì)35000個(gè)樣本,為了避免訓(xùn)練集和樣本集劃分的盲目性,采用10一折交叉驗(yàn)證的方式劃分訓(xùn)練集和測(cè)試集,即將樣本集分成10份,從中選1份為測(cè)試集,剩下的為訓(xùn)練集,如圖4所示,究竟選擇哪一份作為測(cè)試集,需在后面的嵌套循環(huán)中實(shí)現(xiàn)。
2)特征選擇,缺陷區(qū)域的長(zhǎng)度、寬度、面積、區(qū)域?qū)Ρ榷鹊裙灿?jì)138個(gè)特征形成初始特征集合,利用信息增益率來對(duì)各個(gè)特征排序。
上述各循環(huán)組合在一起就是一個(gè)嵌套循環(huán),其N-S盒圖如圖5所示,最外層是測(cè)試集和訓(xùn)練集的10折交叉驗(yàn)證,第1層是確定最優(yōu)的特征數(shù),第3層是確定最優(yōu)的隱含層節(jié)點(diǎn)數(shù),第4、5層是確定最優(yōu)的輸入層和隱含層、隱含層和輸出層的初始權(quán)值。
經(jīng)以上循環(huán),確定D3作為測(cè)試集,最優(yōu)特征數(shù)為23個(gè),最優(yōu)的隱含層節(jié)點(diǎn)數(shù)是46個(gè),同時(shí)也確定了最優(yōu)的初始權(quán)值,對(duì)應(yīng)的3層BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)模型如圖6所示。
3.實(shí)驗(yàn)結(jié)果
1)鮑威爾棱鏡與柱透鏡進(jìn)行對(duì)比在實(shí)際工作距離1.5m處,采用0.1m為間隔使用光功率計(jì)測(cè)試光源功率,如圖7所示,橫軸為測(cè)試點(diǎn),縱軸為測(cè)試點(diǎn)的光功率。實(shí)驗(yàn)表明,鮑威爾棱鏡均勻性優(yōu)于柱透鏡。
2)Gabor濾波方法與其他方法比較將動(dòng)態(tài)閾值法+Blob分析法(方法A)和灰度共生矩陣紋理背景消除法(方法B)兩種方法與Gabor濾波方法進(jìn)行比較,如圖8所示.由于缺陷與背景灰度相近(圖(a)),致使方法A缺陷丟失(圖(b)),由于缺陷與背景紋理相近(圖(d)),致使方法B產(chǎn)生噪聲(圖(e)),Gabor方法取得了不錯(cuò)的效果(圖(e)、(圖(f)))。
3)GPU與CPU比較以4096×4096的圖像為例,選10幅有代表性圖像,利用CPU(最新的inteli7-2600處理器,4核8線程,2.6GHz,內(nèi)存8G)和GPU(nVidiaGTX970,4G存顯卡)進(jìn)行Ga-bor運(yùn)算,計(jì)算時(shí)間如表2所示,GPU計(jì)算效率明顯優(yōu)于CPU,其中CPU的平均耗時(shí)為290.4ms,而GPU的平均耗時(shí)為31.7ms。
4)檢測(cè)效果在產(chǎn)線速度為1775m/min,最小檢測(cè)缺陷的尺寸為0.25mm的檢測(cè)系統(tǒng)中,對(duì)帶鋼的主要4種類型缺陷進(jìn)行檢測(cè)統(tǒng)計(jì),檢測(cè)結(jié)果如表3所示。
可計(jì)算出整體檢出率99.9%,檢測(cè)準(zhǔn)確率99.4%。
篇10
關(guān)鍵詞能源需求預(yù)測(cè),粒子群算法,BP神經(jīng)網(wǎng)絡(luò),主成分分析法
中圖分類號(hào)F201 文獻(xiàn)標(biāo)識(shí)碼A
Construction of Energy Demand Forecasting
Model and Empirical Analysis of Guangdong Province
YE Yiyong
(College of Economics & Management Wuyi University Jiangmen, Guangdong 529020,China)
AbstractIn order to make accurate forecast for energy demand of Guangdong province, this paper analyzed the various factors which impact on energy demand of Guangdong province, and constructed the predict index system. On this basis, according to the nonlinear characteristics of the energy system, combined with the advantages of particle swarm optimization algorithm and BP neural network, a prediction model was constructed based on PSOBP neural network. And the method of principal component analysis was used to reduce the dimensions of the prediction index system in order to reduce the size and complexity of the neural network. Then, this paper simulated the energy demand data of Guangdong province from 1985 to 2013, and carried on the forecast energy demand of Guangdong province during 2014 to 2018. The theoretical analysis and empirical study show that this method can reflect the characteristics of energy demand of Guangdong province, and the predicted result is more accurate and reasonable.
Key words forecasting of energy demand, PSO, BP neural network, PCA
1引言
隨著社會(huì)經(jīng)濟(jì)的快速發(fā)展,各行業(yè)對(duì)能源的需求大幅度增加.據(jù)統(tǒng)計(jì),廣東省2000年的能源消耗量是7 983萬噸標(biāo)準(zhǔn)煤,2013年的能源消耗量上升到25 645萬噸標(biāo)準(zhǔn)煤,是2000年消耗量的3.2倍,其中一次能源消費(fèi)90%依賴省外,二次能源消費(fèi)中的電力消費(fèi)有10%也是依賴省外,據(jù)估算,未來10年這個(gè)比例將達(dá)到30%左右.經(jīng)濟(jì)快速發(fā)展所帶來的巨大能源需求與供給不足之間的矛盾越來越嚴(yán)重,能源短缺已成為制約廣東省經(jīng)濟(jì)持續(xù)發(fā)展的關(guān)鍵問題,如果不采取有效的措施,將會(huì)延緩廣東省產(chǎn)業(yè)結(jié)構(gòu)的轉(zhuǎn)型升級(jí)優(yōu)化,乃至影響全省經(jīng)濟(jì)的穩(wěn)步增長(zhǎng).系統(tǒng)地分析廣東省能源需求的影響因素,準(zhǔn)確地預(yù)測(cè)廣東省未來能源需求的數(shù)量,進(jìn)而制定科學(xué)合理的能源發(fā)展戰(zhàn)略,確保廣東省經(jīng)濟(jì)可持續(xù)發(fā)展,具有非常重要的現(xiàn)實(shí)意義.
2文獻(xiàn)綜述
能源系統(tǒng)是一個(gè)復(fù)雜的非線性系統(tǒng),其需求量受到眾多因素的影響.當(dāng)前很多學(xué)者已經(jīng)對(duì)能源需求問題進(jìn)行了深入的研究,使用的預(yù)測(cè)方法包括趨勢(shì)外推法、消費(fèi)彈性法、主要消耗部門預(yù)測(cè)法、回歸分析法預(yù)測(cè)等[1-3],取得了一定的效果.但在預(yù)測(cè)精度方面還存在一定的差距,一方面是由于能源系統(tǒng)本身的復(fù)雜性、非線性、非確定性的特征導(dǎo)致的,另一方面是因?yàn)轭A(yù)測(cè)方法本身還存在一些不足之處,不足以完全準(zhǔn)確反映預(yù)測(cè)目標(biāo)和指標(biāo)體系之間的數(shù)量關(guān)系.要解決上述問題,除了需要構(gòu)建科學(xué)的預(yù)測(cè)指標(biāo)體系,更關(guān)鍵的就是要尋找更加科學(xué)有效的預(yù)測(cè)方法.
鑒于此,部分學(xué)者開始研究能源系統(tǒng)的非線性和不確定性等系統(tǒng)特征,如自組織特征、分形特征、混沌特征和模糊性等,并在此基礎(chǔ)上引進(jìn)非線性方法對(duì)能源需求進(jìn)行預(yù)測(cè),如非線性/混沌時(shí)間序列方法、遺傳算法、灰色理論、人工神經(jīng)網(wǎng)絡(luò)方法等[4-8],這些方法可以彌補(bǔ)線性模型在預(yù)測(cè)復(fù)雜能源需求時(shí)的不足.其中具有代表性的方法是人工神經(jīng)網(wǎng)絡(luò),它是由大量神經(jīng)元通過極其豐富和完善的連接而構(gòu)成的自適應(yīng)、非線性動(dòng)態(tài)系統(tǒng),它從結(jié)構(gòu)、實(shí)現(xiàn)機(jī)理和功能上模擬生物神經(jīng)網(wǎng)絡(luò),通過并行分布式的處理方法,克服了傳統(tǒng)的基于邏輯符號(hào)的人工智能在處理直覺、非結(jié)構(gòu)化信息方面的缺陷,具有自適應(yīng)、自組織和實(shí)時(shí)學(xué)習(xí)的特點(diǎn)[9].它在解決非線性及高維模式識(shí)別問題中表現(xiàn)出許多特別的優(yōu)勢(shì),受到學(xué)者的青睞.當(dāng)前,已有眾多學(xué)者將神經(jīng)網(wǎng)絡(luò)及其擴(kuò)展模型應(yīng)用于時(shí)間序列預(yù)測(cè)方面,并取得了很好的效果[10-15].
通過對(duì)文獻(xiàn)的綜合分析發(fā)現(xiàn),神經(jīng)網(wǎng)絡(luò)及其相關(guān)的模型已經(jīng)被廣泛應(yīng)用到金融、工業(yè)、交通等領(lǐng)域,但是在能源需求預(yù)測(cè)領(lǐng)域的應(yīng)用較少.針對(duì)廣東省能源需求系統(tǒng)具有非線性和影響因素眾多等特征,建立了基于改進(jìn)的PSOBP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型,給出了方法的基本原理和具體實(shí)現(xiàn)步驟,然后通過對(duì)廣東省1985―2013年能源需求歷史數(shù)據(jù)的建模和仿真,驗(yàn)證了方法的有效性,最后對(duì)廣東省未來5年的能源需求進(jìn)行預(yù)測(cè),為能源管理者提供決策參考的依據(jù).
3廣東省能源需求影響因素分析
能源需求受到多方面因素的影響,本文結(jié)合其他學(xué)者的研究成果[16-18],遵循可獲得性、可比性、實(shí)際性、綜合性的原則,從以下幾個(gè)方面對(duì)影響能源需求的因素進(jìn)行分析.
①經(jīng)濟(jì)增長(zhǎng).經(jīng)濟(jì)增長(zhǎng)是影響能源需求的主要因素,隨著廣東省社會(huì)經(jīng)濟(jì)的快速發(fā)展和產(chǎn)業(yè)結(jié)構(gòu)的持續(xù)優(yōu)化,對(duì)能源的需求量將在很長(zhǎng)一段時(shí)間內(nèi)保持較高的水平.衡量經(jīng)濟(jì)增長(zhǎng)的指標(biāo)本文采用國內(nèi)生產(chǎn)總值(GDP).
②產(chǎn)業(yè)結(jié)構(gòu)調(diào)整.三大產(chǎn)業(yè)中,工業(yè)的發(fā)展對(duì)經(jīng)濟(jì)增長(zhǎng)的貢獻(xiàn)最大,對(duì)能源的需求也最大,第一、第三產(chǎn)業(yè)對(duì)能源的需求相對(duì)較少.工業(yè)的快速發(fā)展所帶來的負(fù)面影響是顯而易見的.近年來,廣東省在產(chǎn)業(yè)結(jié)構(gòu)優(yōu)化和轉(zhuǎn)型升級(jí)方面出臺(tái)了一系列的政策措施,隨著我省產(chǎn)業(yè)結(jié)構(gòu)的調(diào)整,對(duì)能源需求數(shù)量的必將產(chǎn)生很大的影響.
③能源消費(fèi)結(jié)構(gòu).該項(xiàng)指標(biāo)反映了各種消費(fèi)能源在消費(fèi)總量中所占的比例關(guān)系,廣東省的能源消費(fèi)以煤為主,據(jù)統(tǒng)計(jì),超過50%的能源來自煤炭燃燒.煤炭為不可再生能源,利用率較低,容易污染環(huán)境,政府在大力推行開發(fā)可再生能源和清潔能源,改善能源消費(fèi)結(jié)構(gòu),降低能耗指數(shù).
④技術(shù)進(jìn)步.首先是通過先進(jìn)技術(shù)的應(yīng)用,改善生產(chǎn)工藝和流程,提高能源的利用率,節(jié)約能源消費(fèi);其次是將技術(shù)應(yīng)用于新能源開發(fā),從而改變能源消費(fèi)結(jié)構(gòu),進(jìn)而影響能源消費(fèi)總量.由于技術(shù)進(jìn)步難以量化,本文使用單位GDP的能耗來表示.
⑤人口和城市化.能源是人類生存和發(fā)展的物質(zhì)前提,人類的衣食住行與能源息息相關(guān),人口基數(shù)越大,對(duì)能源的需求量就越大,隨著工業(yè)化、城鎮(zhèn)化進(jìn)程的加快,人民生活水平穩(wěn)步提升,對(duì)能源需求的影響更加明顯.
⑥居民生活消費(fèi)水平.居民生活水平的提高,以及消費(fèi)觀念和消費(fèi)行為的變化,會(huì)直接導(dǎo)致產(chǎn)業(yè)結(jié)構(gòu)的變動(dòng),進(jìn)而影響能源消費(fèi)的數(shù)量,特別是增加對(duì)電力、液體和氣體燃料等優(yōu)質(zhì)能源的需求.
綜上所述,影響能源需求的主要因素有經(jīng)濟(jì)的增長(zhǎng)(廣東省GDP)、產(chǎn)業(yè)結(jié)構(gòu)(工業(yè)在國民經(jīng)濟(jì)中的比重)、能源消費(fèi)結(jié)構(gòu)(煤炭的消費(fèi)比重)、技術(shù)進(jìn)步(單位GDP的能耗)、人口(廣東省人口數(shù)量)、城市化(全省城鎮(zhèn)人口所占的比重)、居民人均消費(fèi)水平,預(yù)測(cè)對(duì)象為廣東省每年的能源消費(fèi)數(shù)量.
4PSOBP能源需求預(yù)測(cè)模型構(gòu)建
4.1BP神經(jīng)網(wǎng)絡(luò)模型
BP神經(jīng)網(wǎng)絡(luò)是一種多層前饋神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)的主要特點(diǎn)是信號(hào)向前傳遞,誤差反向傳播.在前向傳遞中,輸入信號(hào)從輸入層經(jīng)過隱含層逐層處理,直至輸出層.每一層的神經(jīng)元狀態(tài)只影響下一層神經(jīng)元狀態(tài).如果輸出層得不到期望輸出,則轉(zhuǎn)入反向傳播,根據(jù)預(yù)測(cè)誤差調(diào)整網(wǎng)絡(luò)權(quán)值和閾值,從而使BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)輸出不斷逼近期望輸出[19].BP神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)如圖1所示,BP算法如下.
1)各層權(quán)值及閾值的初始化.
2)輸入訓(xùn)練樣本,并利用訓(xùn)練樣本對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,計(jì)算各層輸出.
3)求出并記錄各層的反向傳輸誤差.
4)按照權(quán)值以及閾值修正公式修正各層的權(quán)值和閾值.
5)按照新的權(quán)值重復(fù)2)和3).
6)若誤差符合預(yù)設(shè)要求或者達(dá)到最大學(xué)習(xí)次數(shù),則終止學(xué)習(xí).
7)使用訓(xùn)練好的模型對(duì)預(yù)測(cè)樣本進(jìn)行預(yù)測(cè).
4.2標(biāo)準(zhǔn)粒子群優(yōu)化算法
粒子群優(yōu)化算法(Particle Swarm Optimization)源于對(duì)鳥類捕食行為的研究,鳥類捕食時(shí),每只鳥找到食物最簡(jiǎn)單有效的方法就是搜尋當(dāng)前距離食物最近的鳥的周圍區(qū)域.PSO算法就是從這種生物種群行為特征中得到啟發(fā)并用于求解優(yōu)化問題的.算法中每個(gè)粒子代表問題的一個(gè)潛在解,每個(gè)粒子對(duì)應(yīng)一個(gè)由適應(yīng)度函數(shù)決定的適應(yīng)度值.粒子的速度決定了粒子移動(dòng)的方向和距離,速度隨自身及其他粒子的移動(dòng)經(jīng)驗(yàn)進(jìn)行動(dòng)態(tài)調(diào)整,從而實(shí)現(xiàn)個(gè)體在可解空間的尋優(yōu)[19].
假設(shè)粒子群的種群規(guī)模為Z,搜索空間為Y維,第i個(gè)粒子的位置表示為
Xi={xi1,xi2,…,xiY},i=1,2,…,Z,第i個(gè)粒子的速度表示為Vi={vi1,vi2,…,viY,第i個(gè)粒子的個(gè)體極值表示為Pi={pi1,pi2,…,piY,當(dāng)前的全局極值表示為Pg={pg1,pg2,…,pgY.因此,粒子的速度與位置按下式更新:
Vi(k+1)=ωVi(k)+c1r1(Pi(k)-Xi(k))+
c2r2(Pg(k)-Xi(k)),
Xi(k+1)=Xi(k)+Vi(k+1),
vij(k+1)=vmax,vij(k)>vmax,
-vmax,vij(k)
其中,ω為慣性權(quán)重,是平衡粒子的全局搜索能力和局部搜索能力的參數(shù);c1和c2為加速因子,是調(diào)整粒子自身經(jīng)驗(yàn)和群體經(jīng)驗(yàn)對(duì)粒子運(yùn)動(dòng)軌跡的影響的參數(shù);r1和r2是在[0,1]區(qū)間內(nèi)均勻分布的兩個(gè)隨機(jī)數(shù);vmax為粒子的最大速度,是用來限制粒子的速度的參數(shù),vij為第i個(gè)粒子在第j維的速度.
4.3改進(jìn)的粒子群優(yōu)化算法
標(biāo)準(zhǔn)的粒子群算法雖然具有收斂速度快、通用性強(qiáng)等優(yōu)點(diǎn),但由于算法實(shí)現(xiàn)過程僅利用了個(gè)體最優(yōu)和全局最優(yōu)的信息,因此導(dǎo)致種群的多樣性消失過快,出現(xiàn)早熟收斂、后期迭代效率不高、容易陷入局部最優(yōu)等缺點(diǎn),增加了尋找全局最優(yōu)解的難度.要解決上述問題,可以從以下兩方面進(jìn)行改進(jìn).
4.3.1動(dòng)態(tài)調(diào)整慣性權(quán)重
慣性權(quán)重ω用來控制粒子之前的速度對(duì)當(dāng)前速度的影響,它將影響粒子的全局和局部搜索能力.較大的ω值有利于全局搜索,較小ω值有利于局部搜索,但在標(biāo)準(zhǔn)的PSO算法中,ω的值是固定的,在算法運(yùn)行過程中,根據(jù)實(shí)際情況給ω賦予動(dòng)態(tài)變化的值,使得算法能夠平衡全局和局部搜索能力,這樣可以以最少的迭代次數(shù)找到最優(yōu)解.經(jīng)驗(yàn)參數(shù)是將ω初始值設(shè)定為0.9,并使其隨迭代次數(shù)的增加線性遞減至0.3,以達(dá)到上述期望的優(yōu)化目的.通過線性轉(zhuǎn)換來完成上述參數(shù)值變化的過程.
ω=ωmax-ωmax-ωminnN. (2)
其中ωmax,ωmin分別是ω的最大值和最小值,n和N是當(dāng)前迭代次數(shù)和最大迭代次數(shù),在迭代開始時(shí)設(shè)ω=ωmax,ω在迭代過程中逐漸減小,直到ω=ωmin.
這樣設(shè)置使PSO算法能夠更好的控制探索與開發(fā)的關(guān)系,在開始優(yōu)化時(shí)搜索較大的解空間,找到合適的粒子,然后在后期逐漸收縮到較小的區(qū)域進(jìn)行更精細(xì)的搜索以加快收斂速度.
4.3.2增加粒子的多樣性
在此借鑒遺傳算法中變異的思想,對(duì)部分符合條件的粒子以一定的概率重新初始化,目的是通過變異操作來保持種群的多樣性,拓展種群的搜索空間,使得粒子能夠跳出當(dāng)前局部最優(yōu)的位置,在更大的空間繼續(xù)搜索全局最優(yōu)值.引入線性動(dòng)態(tài)變異算子:
Fn=Fmin-nN(Fmin-Fmax).(3)
式中,F(xiàn)n為當(dāng)前的變異概率;n為當(dāng)前的迭代次數(shù);N為最大的迭代次數(shù);Fmax,F(xiàn)min為最大的變異概率和最小的變異概率.
剛開始迭代時(shí),種群以一個(gè)極小的概率發(fā)生變異,至迭代后期,變異概率迅速擴(kuò)大,粒子可以迅速跳出當(dāng)前的搜索區(qū)域,在更大的區(qū)域內(nèi)尋找最優(yōu)解.
4.4改進(jìn)的PSOBP神經(jīng)網(wǎng)絡(luò)模型
BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程主要是權(quán)值和閾值的更新過程,采用的學(xué)習(xí)算法是以梯度下降為基礎(chǔ)的,但梯度下降法的訓(xùn)練效果過于依賴初始權(quán)值的選擇,且存在訓(xùn)練時(shí)間長(zhǎng)、易陷入局部極小等問題.而粒子群算法可以避免梯度下降法中要求函數(shù)可微、對(duì)函數(shù)求導(dǎo)的過程,也避免了遺傳算法中的選擇、交叉等操作,具有收斂速度快、記憶性強(qiáng)和全局搜索能力較強(qiáng)等特點(diǎn)[20],可以將兩種算法結(jié)合起來,利用PSO算法中粒子的位置來對(duì)應(yīng)神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)中的連接權(quán)值和閾值,以神經(jīng)網(wǎng)絡(luò)的輸出誤差作為PSO算法的適應(yīng)函數(shù),通過PSO算法的優(yōu)化搜索來訓(xùn)練神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值,可以彌補(bǔ)BP網(wǎng)絡(luò)在學(xué)習(xí)能力和收斂速度上的不足,既充分發(fā)揮了神經(jīng)網(wǎng)絡(luò)的非線性映射能力,還可以縮短神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時(shí)間,提高預(yù)測(cè)的精度.
PSO優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的主要步驟如下.
1)初始化.根據(jù)BP神經(jīng)網(wǎng)絡(luò)的輸入樣本,建立BP神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu),輸入層節(jié)點(diǎn)數(shù),隱含層節(jié)點(diǎn)數(shù),輸出層節(jié)點(diǎn)數(shù);初始化粒子的位置和速度,以及粒子數(shù)、最大迭代次數(shù)、慣性權(quán)重、學(xué)習(xí)因子等參數(shù).
2)通過網(wǎng)絡(luò)訓(xùn)練,計(jì)算粒子的適應(yīng)度值,得到粒子的個(gè)體最優(yōu)值與全局最優(yōu)值.將粒子適應(yīng)度值與個(gè)體最優(yōu)值和全局最優(yōu)值相比較,記錄當(dāng)前粒子所經(jīng)歷的最好位置.
3)考察每一個(gè)粒子的適應(yīng)度值.若該值優(yōu)于個(gè)體最優(yōu),則將當(dāng)前值置為個(gè)體最優(yōu),并更新該粒子的個(gè)體最優(yōu);若粒子中的個(gè)體最優(yōu)優(yōu)于當(dāng)前的全局最優(yōu),則將個(gè)體最優(yōu)置為全局最優(yōu),并更新全局最優(yōu)值.
4)將經(jīng)過PSO優(yōu)化的權(quán)值和閾值作為BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值代入BP網(wǎng)絡(luò),訓(xùn)練至滿足網(wǎng)絡(luò)的性能指標(biāo),即均方誤差小于預(yù)先設(shè)定的誤差要求或達(dá)到最大迭代次數(shù)時(shí),停止迭代,輸出結(jié)果,否則轉(zhuǎn)到2,繼續(xù)迭代直至算法收斂.
5)由訓(xùn)練和測(cè)試樣本完成神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和測(cè)試,輸出預(yù)測(cè)值.如圖2所示.
5.2數(shù)據(jù)預(yù)處理
為了消除各指標(biāo)不同量綱的影響,需要對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理,以解決指標(biāo)之間的可比性.本文使用離差標(biāo)準(zhǔn)化的方法,對(duì)原始數(shù)據(jù)進(jìn)行線性變換,使變換后的值映射到[0,1]之間,并保持原本的數(shù)量關(guān)系,變換公式如(4)式所示.
Yi=(Xi-min)/(max-min).(4)
其中,Yi是樣本i歸一化的值,Xi是樣本i的值,min為樣本最小值,max為樣本最大值.但這個(gè)方法有個(gè)缺點(diǎn),當(dāng)有新的樣本數(shù)據(jù)加入時(shí),數(shù)據(jù)的最大值和最小值可能會(huì)發(fā)生變化,需要重新計(jì)算Yi值.
在預(yù)測(cè)或者評(píng)價(jià)完成后,再使用反歸一化的方法對(duì)數(shù)據(jù)進(jìn)行還原處理,得出其真實(shí)值,具體的數(shù)據(jù)處理過程可以直接調(diào)用Matlab工具箱里的Mapminmax函數(shù)來完成.
5.3數(shù)據(jù)降維
就神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)而言,預(yù)測(cè)指標(biāo)體系越龐大,指標(biāo)數(shù)量越多,模型就越復(fù)雜,預(yù)測(cè)結(jié)果的不確定性就越大,相應(yīng)地,模型的泛化能力會(huì)降低,同時(shí)也會(huì)增加運(yùn)算的時(shí)間.因此有必要對(duì)前面確定的影響能源需求的指標(biāo)進(jìn)行定量化的分析,在盡量減少信息丟失的前提下減少指標(biāo)的個(gè)數(shù),即完成樣本指標(biāo)的降維.
主成分分析法就是通過線性變換的方法,把原始變量組合成少數(shù)幾個(gè)具有代表意義的指標(biāo),使得變換后的指標(biāo)能夠更加集中地反映研究對(duì)象特征的一種統(tǒng)計(jì)方法[21].對(duì)樣本的原始數(shù)據(jù)進(jìn)行主成分分析,得到各個(gè)主成分的特征值和方差貢獻(xiàn)率,如表2所示.
從表2的數(shù)據(jù)可知,當(dāng)抽取的主成分為Y1,Y2時(shí),主成分的累計(jì)方差貢獻(xiàn)率已達(dá)到93.22%,基本覆蓋了原來7個(gè)指標(biāo)所包含的信息.因此可以把Y1,Y2這2個(gè)主成分的數(shù)據(jù)作為模型的輸入,這樣就大幅度減少了神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)數(shù),降低了模型的復(fù)雜程度,同時(shí)也有利于前期樣本數(shù)據(jù)的獲取.
根據(jù)主成分分析法得出前2個(gè)主成分的系數(shù)如表3所示.
從表達(dá)式(5)可以看出,第一主成分Y1與x1、x2、x5、x6、x7均保持了較強(qiáng)的正相關(guān),而與x3,x4呈現(xiàn)出負(fù)相關(guān),這個(gè)數(shù)量關(guān)系說明了第一主成分基本反映了上述指標(biāo)的信息.由于x1、x2、x5、x6、x7是從不同的方面反映了社會(huì)經(jīng)濟(jì)發(fā)展的水平,而x3和x4反映了能源消費(fèi)的狀況,因此,第一主成分Y1是綜合反映了經(jīng)濟(jì)發(fā)展?fàn)顩r和能源需求之間的密切關(guān)系.
從表達(dá)式(6)可以看出,第二主成分Y2與x1、x2、x3、x4相關(guān)性較強(qiáng),其中與x3(能源結(jié)構(gòu))是高度相關(guān)的,說明第二主成分基本反映了這個(gè)指標(biāo)的信息.
5.4模型參數(shù)設(shè)置
神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)一般由樣本的輸入和輸出指標(biāo)數(shù)量確定,由于使用PCA做數(shù)據(jù)降維后,樣本數(shù)據(jù)的維數(shù)為2,輸出數(shù)據(jù)維數(shù)為1,所以確定模型的輸入節(jié)點(diǎn)數(shù)為2,輸出節(jié)點(diǎn)數(shù)為1.本文選用的是三層的BP神經(jīng)網(wǎng)絡(luò)模型,關(guān)于隱含層數(shù)目的確定,目前沒有一個(gè)通用的方法,只能根據(jù)經(jīng)驗(yàn)或者多次試驗(yàn)來決定.由于隱含層的數(shù)量會(huì)影響到模型的學(xué)習(xí)時(shí)間、擬合效果以及泛化能力,因此必須確定一個(gè)最佳的隱含層單元數(shù),根據(jù)相關(guān)學(xué)者的研究結(jié)論,隱含層的數(shù)量與問題的要求、輸入、輸出指標(biāo)的個(gè)數(shù)都有關(guān)系,且其數(shù)量關(guān)系符合以下的計(jì)算公式[21]:
R=S1+S2+a.(7)
其中R為隱含層單元數(shù),S1、S2分別為輸入層和輸出層的數(shù)量,a為[1,10]之間的常數(shù).經(jīng)過循環(huán)比較算法,得出R的值為4時(shí),模型具有較好的學(xué)習(xí)效果和泛化能力,因此本文確定神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)為2-4-1,隱層使用sigmoid函數(shù),輸出層使用pureline函數(shù),神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效率取0.1,訓(xùn)練次數(shù)為150,輸出目標(biāo)值為0.001.粒子群規(guī)模為50,迭代次數(shù)為100,學(xué)習(xí)因子c1=1.7,c2=1.5,慣性權(quán)重ωmax=0.9,ωmin=0.3,粒子速度最大值為5,最小值為-5.
5.5模型訓(xùn)練
本文選取前24個(gè)樣本數(shù)據(jù)作為訓(xùn)練數(shù)據(jù),用于確定模型的相關(guān)參數(shù),剩余5個(gè)樣本作為測(cè)試數(shù)據(jù),用于檢驗(yàn)?zāi)P偷男Ч?
將訓(xùn)練數(shù)據(jù)代入模型進(jìn)行計(jì)算,得到的適應(yīng)度曲線變化如圖3所示,訓(xùn)練值與實(shí)際值比較如圖4所示,可以看出PSOBP模型對(duì)歷史數(shù)據(jù)的學(xué)習(xí)情況非常理想,大部分樣本的訓(xùn)練值與實(shí)際值基本吻合,個(gè)別樣本有一定的偏差,但在合理的誤差范圍之內(nèi),說明該模型的構(gòu)建是行之有效的.
5.6模型測(cè)試
將訓(xùn)練后的模型對(duì)5個(gè)預(yù)測(cè)樣本數(shù)據(jù)進(jìn)行預(yù)測(cè),并把預(yù)測(cè)值與實(shí)際值進(jìn)行比較,結(jié)果如表4所示,預(yù)測(cè)結(jié)果如圖5所示,樣本誤差如圖6所示.可以看到,2009-2013年的預(yù)測(cè)準(zhǔn)確度非常高,平均誤差為2.3%,以2009年為例,預(yù)測(cè)偏差為2.87%,換算成實(shí)際的偏差數(shù)量就是552.95萬噸標(biāo)準(zhǔn)煤,準(zhǔn)確的預(yù)測(cè)結(jié)果將為能源規(guī)劃與實(shí)施提供有力的依據(jù).
由表5可知,PSOBP模型的預(yù)測(cè)平均誤差為2.3%,BP模型的平均預(yù)測(cè)誤差為4.8%,說明經(jīng)過粒子群算法優(yōu)化神經(jīng)網(wǎng)絡(luò)參數(shù)后,不僅使得模型的收斂速度加快,運(yùn)算時(shí)間減少,同時(shí)在預(yù)測(cè)精度方面也有了很大的提升.
5.7不同方法預(yù)測(cè)結(jié)果比較
為了體現(xiàn)PSOBP神經(jīng)網(wǎng)絡(luò)模型的優(yōu)勢(shì),本文同時(shí)使用未經(jīng)優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)對(duì)數(shù)據(jù)進(jìn)行訓(xùn)練和預(yù)測(cè),并將兩種預(yù)測(cè)結(jié)果進(jìn)行比較,具體數(shù)據(jù)見表5所示,比較效果如圖9和圖10所示.
5.8未來5年能源需求預(yù)測(cè)
根據(jù)上述預(yù)測(cè)模型和流程,對(duì)廣東省未來5年的能源需求進(jìn)行預(yù)測(cè),這里假設(shè)未來5年各項(xiàng)樣本指標(biāo)均保持當(dāng)前的增長(zhǎng)速度,得出的結(jié)果見表6.
從表6可知,未來5年,廣東省的能源需求將持續(xù)增長(zhǎng),平均保持5.7%的增長(zhǎng)率,并且增長(zhǎng)的速度逐步加快,2018年的需求量將達(dá)到33 842.34萬噸標(biāo)準(zhǔn)煤.因此,如何針對(duì)快速增長(zhǎng)的能源需求,采取有效的措施來解決供需不平衡的矛盾,將是決策者需要考慮的問題.根據(jù)廣東省發(fā)改委2013年底公布的《廣東省能源發(fā)展十二五規(guī)劃》,在保證全省能源供應(yīng)能力的前提下,將進(jìn)一步加快能源消費(fèi)結(jié)構(gòu)的調(diào)整,構(gòu)建與科學(xué)發(fā)展要求相適應(yīng)的安全、穩(wěn)定、經(jīng)濟(jì)、清潔的現(xiàn)代能源供應(yīng)保障體系,具體措施是進(jìn)一步優(yōu)化能源結(jié)構(gòu)和布局,提升能源利用效率,逐步降低單位GDP能耗,并且爭(zhēng)取在新能源的利用開發(fā)方面取得突破性進(jìn)展,從而為全省經(jīng)濟(jì)社會(huì)發(fā)展提供強(qiáng)有力的能源保障.
6結(jié)論
對(duì)廣東省的能源需求問題進(jìn)行了深入的研究,在結(jié)合定性和定量分析的基礎(chǔ)上,確定了影響能源需求的主要因素,構(gòu)建了PSO-BP神經(jīng)網(wǎng)絡(luò)的能源需求預(yù)測(cè)模型,并對(duì)廣東省2014-2018年的能源需求進(jìn)行了預(yù)測(cè).理論分析和實(shí)證研究表明,該方法能夠很好的反映廣東省能源需求的特征,預(yù)測(cè)結(jié)果較為準(zhǔn)確合理.但就本文所考慮的預(yù)測(cè)指標(biāo)體系而言,以定量的指標(biāo)為主,如何在模型中把政策法規(guī)、環(huán)境保護(hù)等難以定量的影響因素包含進(jìn)來,構(gòu)建更為完善的預(yù)測(cè)指標(biāo)體系,以及當(dāng)樣本數(shù)量較少的時(shí)候,如何保證模型的學(xué)習(xí)能力和泛化能力,這些問題需要繼續(xù)完善解決.
參考文獻(xiàn)
[1]林伯強(qiáng).中國能源需求的經(jīng)濟(jì)計(jì)量分析[J].統(tǒng)計(jì)研究, 2001(10):34-39.
[2]韓君.中國能源需求的建模與實(shí)證分析[D].蘭州商學(xué)院, 2007.
[3]魏一鳴等.中國能源需求報(bào)告(2006):戰(zhàn)略與政策研究[M].北京:科學(xué)出版社, 2006.
[4]A S WEIGEND . Time series analysis and predicationusing gated experts with application to energy demandforecast[J]. Applied Articial Intelligence, 1996(6):583-624.
[5]V GEVORGIAN , M KAISER . Fuel distribution andconsumption simulation in the republic of Armenia[J]. Simulation, 1998(3):154-167.
[6]張玉春,郭寧,任劍翔.基于組合模型的甘肅省能源需求預(yù)測(cè)研究[J].生產(chǎn)力研究, 2012(11):31-34.
[7]馮亞娟,劉曉愷,張波.基于QGALSSVM的能源需求預(yù)測(cè)[J].科技與經(jīng)濟(jì),2014(3):56-61.
[8]蘆森.基于組合模型的中國能源需求預(yù)測(cè)[D].成都:成都理工大學(xué), 2010.
[9]李琳娜.基于核主成分分析(KPCA)和神經(jīng)網(wǎng)絡(luò)的單目紅外圖像深度估計(jì)[D].上海:東華大學(xué), 2013.
[10]張均東,劉澄,孫彬.基于人工神經(jīng)網(wǎng)絡(luò)算法的黃金價(jià)格預(yù)測(cè)問題研究[J].經(jīng)濟(jì)問題, 2010(1):45-48.
[11]熊志斌.ARIMA融合神經(jīng)網(wǎng)絡(luò)的人民幣匯率預(yù)測(cè)模型研究[J].數(shù)量經(jīng)濟(jì)技術(shù)經(jīng)濟(jì)研究, 2011(6):75-81.
[12]龍文,梁昔明,龍祖強(qiáng),等.基于混合進(jìn)化算法的RBF神經(jīng)網(wǎng)絡(luò)時(shí)間序列預(yù)測(cè)[J].控制與決策, 2012(8):20-25.
[13]王慶榮,張秋余.基于隨機(jī)灰色蟻群神經(jīng)網(wǎng)絡(luò)的近期公交客流預(yù)測(cè)[J].計(jì)算機(jī)應(yīng)用研究, 2012(6):32-37.
[14]張大斌,李紅燕,劉肖,等.非線性時(shí)間序列的小波-模糊神經(jīng)網(wǎng)絡(luò)集成預(yù)測(cè)方法[J].中國管理科學(xué), 2013(2):81-86.
[15]高玉明,張仁津.基于遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的房?jī)r(jià)預(yù)測(cè)分析[J].計(jì)算機(jī)工程, 2014(4):187-191.
[16]伍秀君.廣東省能源需求預(yù)測(cè)分析及能源發(fā)展對(duì)策研究[D].廣州:暨南大學(xué),2007.
[17]薛黎明.中國能源需求影響因素分析[D].徐州:中國礦業(yè)大學(xué),2010.
[18]秦國真.云南能源需求影響因素分析及預(yù)測(cè)[D].昆明:云南財(cái)經(jīng)大學(xué),2012.
[19]來建波.基于神經(jīng)網(wǎng)絡(luò)的路段行程時(shí)間預(yù)測(cè)研究[D].昆明:云南大學(xué), 2011.
熱門標(biāo)簽
循環(huán)經(jīng)濟(jì)論文 循環(huán)經(jīng)濟(jì)理論 循環(huán)經(jīng)濟(jì)案例 循環(huán)水 循環(huán)流化床鍋爐 循環(huán)農(nóng)業(yè)論文 循環(huán)經(jīng)濟(jì)思想 循環(huán)農(nóng)業(yè) 循環(huán)經(jīng)濟(jì)法 循環(huán) 心理培訓(xùn) 人文科學(xué)概論
相關(guān)文章
1雙循環(huán)新發(fā)展格局實(shí)踐路徑思考
2雙循環(huán)推進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展對(duì)策
3種養(yǎng)循環(huán)工藝及技術(shù)模式分析