神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法范文

時間:2024-03-28 18:12:39

導(dǎo)語:如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。

篇1

關(guān)鍵詞:帶有局部搜索的量子粒子群算法;RBF神經(jīng)網(wǎng)絡(luò);結(jié)構(gòu)優(yōu)化;參數(shù)優(yōu)化

中圖分類號:TP181文獻(xiàn)標(biāo)識碼:A

文章編號:1004-373X(2010)04-157-03

RBF Neural Network Training Based on MQPSO-LQPSO

CAI Jiliang,YE Wei

(College of Science,Air Force Engineering University,Xi′ an,710051,China)

Abstract:Quantum-Behaved Particle Swarm Optimization with Generalized Local Search Operator(MQPSO -LQPSO) is a very successful algorithm of modified QPSO.This algorithm is used to find the best structure and parameters of RBF neural network.They are both determined when finishing training.Experiments on functional approach show this method is effective.

Keywords:MQPSO-LQPSO;RBF neural network;structure optimization;parameter optimization

0 引 言

徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)(Radial Basis Function Neural Network,RBFNN)是一種生物背景很強(qiáng)的前向神經(jīng)網(wǎng)絡(luò),具有逼近能力強(qiáng)、學(xué)習(xí)速度快、魯棒性強(qiáng)、泛化能力高等優(yōu)點(diǎn),在圖像處理、自動控制、預(yù)測、信號處理、模式識別等多個領(lǐng)得到了廣泛應(yīng)用。

然而RBF神經(jīng)網(wǎng)絡(luò)存在著結(jié)構(gòu)難以選取、參數(shù)的問題,許多學(xué)者對其訓(xùn)練方式進(jìn)行了改進(jìn)。與進(jìn)化算法如遺傳算法GA[1]、蟻群算法ACO[2]、粒子群算法PSO[3]、量子粒子群算法QPSO[4]等相結(jié)合是一個重要的改進(jìn)方向。然而GA、ACO算法較為復(fù)雜,PSO算法簡單但不能以概率1收斂到全局極小點(diǎn),QPSO算能以概率1收斂到全局極小點(diǎn),但搜索能力不夠好,這些使得網(wǎng)絡(luò)或陷入局部極小,或運(yùn)算時間長,一定程度上影響了網(wǎng)絡(luò)的性能。本文用簡單且收斂性更好的QPSO改進(jìn)型算法MQPSO-LQPSO來訓(xùn)練網(wǎng)絡(luò),將網(wǎng)絡(luò)的結(jié)構(gòu)也作為編碼對象,在確定網(wǎng)絡(luò)參數(shù)的同時也確定了網(wǎng)絡(luò)的結(jié)構(gòu),提高了精度。

1 RBF神經(jīng)網(wǎng)絡(luò)

徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)是J.Moody 和C.Darken于20世紀(jì)80年代受人腦感受野的局部調(diào)節(jié)及重疊性啟發(fā)而提出的,已經(jīng)證明它能以任意精度逼近任意連續(xù)函數(shù)。徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)由輸入層、隱層和輸出層組成,其結(jié)構(gòu)如圖1 所示。輸入層只傳遞輸入信號到隱層;隱層傳遞函數(shù)由輻射狀作用的非線性基函數(shù)組成,一般用Gauss徑向基函數(shù);輸出為為線性傳遞函數(shù)。具有n個輸入,h個隱節(jié)點(diǎn),m個輸出的徑向基函數(shù)網(wǎng)絡(luò)第i個模型輸出為:

yi=ti+∑hj=1wijexp(-x-Cj2/2σ2j)(1)

圖1 RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

2 QPSO算法[5,6]

在量子空間中,粒子的速度和位置不能同時確定,因此Sun等人用粒子運(yùn)動的波函數(shù)來描述粒子的狀態(tài),并求解薛定諤方程,得到粒子在空間某一位置的概率密度函數(shù),進(jìn)而得到位置的分布函數(shù),應(yīng)用Monte Carlo方法(詳見文獻(xiàn)[5,6],最后得到算法的進(jìn)化方程:

Pij(t)=φij(t)Pbestij(t)+[1-φij(t)]Gbestij(t),

φij(t)~U(0,1)(2)

Mbestij(t)=1N∑nj=1pi(t)=[1N∑nj=1pi1(t),

1N∑nj=1pi2(t),…,1N∑nj=1piD(t)](3)

xij(t+1)=Pij(t)+αMbestij(t)-xij(t)ln1uij,

if rand()>0.5

Pij(t)-αMbestij(t)-xij(t)ln1uij,

otherwise uij(t)~U(0,1)(4)

式中:N為群體的規(guī)模;D為粒子的維數(shù);P為局部吸引子;Pbest是第i個粒子的自身最優(yōu)位置參數(shù);Gbest是粒子群中所有粒子到目前為止最優(yōu)位置參數(shù);Mbest為平均最優(yōu)位置,它是所有粒子自身最優(yōu)位置的中心點(diǎn);α為控制因子,用來控制粒子的收斂速度,是算法中惟一的控制參數(shù)。一般取1~0.5隨迭代次數(shù)線性遞減時,收斂效果最佳。

3 MQPSO-LQPSO的基本原理[7]

一個好的啟發(fā)式搜索算法不僅要具有在未知區(qū)間上良好的全局搜索能力和在已搜區(qū)間上精細(xì)的局部勘探能力,而且還要使二者達(dá)恰當(dāng)?shù)钠胶?。QPSO具有良好的全局收斂性,但同時還需要一種有效的局部搜索機(jī)制,以便更好地搜索全局最優(yōu)解??梢岳肣PSO具的全局收斂性,將其在一個較小的局部范圍內(nèi)全局搜索,以達(dá)到增強(qiáng)局部搜索能力?;谶@一思想,作者將較大規(guī)模的QPSO稱為MQPSO,做全局勘探,將較小規(guī)模的QPSO稱為LQPSO,做局部開發(fā),繼續(xù)搜索當(dāng)前MQPSO搜索到的以Gbest為中心的某一鄰域。LQPSO仍是一個完整的QPSO,只是其規(guī)模比MQPSO小,表現(xiàn)在搜索的范圍和粒子的個數(shù)和迭代次數(shù)上。MQPSO搜索的范圍是整個可行解的空間,而LQPSO的搜索范圍是當(dāng)前最優(yōu)解的鄰域,其鄰域表達(dá)式為:

N(Gbest,radius)=Gbest•rand(1-radius,

1+radius)(5)

式中:radius

這種改進(jìn)的算法在不增加計(jì)算次數(shù)的條件下,具有更好的搜索能力。

4 基于MQPSO-LQPSO的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法

建立RBF網(wǎng)絡(luò)的關(guān)鍵在于確定RBF網(wǎng)絡(luò)隱層數(shù)據(jù)中心的個數(shù)h、數(shù)據(jù)中心的位置Cj、擴(kuò)展常數(shù)σj,以及輸出權(quán)值wij。設(shè)網(wǎng)絡(luò)訓(xùn)練集X={(Pk,yk)|k=1,2,…,N},其中,Pk為輸入,yk為目標(biāo)輸出,則神經(jīng)網(wǎng)絡(luò)的輸出均方誤差為:

mse=1m×n∑nk=1(yk^-yk)2(6)

式中:m為輸入樣本的維數(shù);yk^為Pk對應(yīng)的網(wǎng)絡(luò)輸出。由式(1)可知,它是關(guān)于h,Cj,σj和wij的函數(shù),基于MQPSO-LQPSO的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練就是讓其達(dá)到最小,因此可將它作為MQPSO-LQPSO的適應(yīng)度函數(shù),而將h,Cj,σj和wij作為參數(shù)。粒子采用實(shí)數(shù)編碼,由于h表示隱層神經(jīng)元的個數(shù),是正整數(shù),可假設(shè)hmax為事先設(shè)定好的最大隱節(jié)點(diǎn)數(shù)。若hi>0(i

基于MQPSO-LQPSO的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法具體描述為:

(1) 歸一化處理樣本;

(2) 隨機(jī)生成初始種群,采用上述編碼方式對各粒子的位置進(jìn)行編碼,并確定Pbest和Gbest;

(3) 重復(fù)下列步驟,直到滿足MQPSO最大迭代次數(shù)或達(dá)到函數(shù)全局極小值的終止條件:

① 把每一向量映射為網(wǎng)絡(luò)的一組神經(jīng)網(wǎng)絡(luò)參數(shù)值,并組成網(wǎng)絡(luò);

② 按照式(2)~(4)更新MQPSO中所有的粒子;

③ 輸入訓(xùn)練樣本進(jìn)行訓(xùn)練,對每一個體進(jìn)行評價,計(jì)算其適應(yīng)值,并確定Pbest和Gbest;

④更新MQPSO粒子的Pbest和Gbest;

⑤按式(5)計(jì)算MQPSO的Gbest鄰域,并在Gbest的鄰域?qū)嵭蠰QPSO操作;

⑥將LQPSO搜索到的Gbest賦給MQPSO的Gbest。

(4) 輸出最佳參數(shù)值作為優(yōu)化結(jié)果,算法結(jié)束。

5 仿真實(shí)驗(yàn)

Hermit多項(xiàng)式是一種常用的神經(jīng)網(wǎng)絡(luò)逼近測試函數(shù),為:

f(x)=1.1(1-x+2x2)exp(-x2/2)

下面用MQPSO-LQPSO-RBF實(shí)現(xiàn)Hermit多項(xiàng)式逼近,并與文獻(xiàn)[4]相比較,以0.08為步長同樣在[-4,4]之間均勻采樣101個實(shí)數(shù)值作為網(wǎng)絡(luò)的訓(xùn)練輸入樣本,其相對應(yīng)的函數(shù)值作為訓(xùn)練輸出樣本以此構(gòu)成網(wǎng)絡(luò)的訓(xùn)練樣本集。同時在[-4,4]之間隨機(jī)采樣100個實(shí)數(shù)值作為網(wǎng)絡(luò)的測試輸入樣本,其相對應(yīng)的函數(shù)值作為測試輸出樣本,以此構(gòu)成網(wǎng)絡(luò)的測試樣本集。實(shí)驗(yàn)中RBF神經(jīng)網(wǎng)絡(luò)隱含層預(yù)設(shè)為8,輸入和輸出層各取一個神經(jīng)元,徑向基函數(shù)采用高斯函數(shù)。因此網(wǎng)絡(luò)中需要優(yōu)化的參數(shù)為8個高斯函數(shù)的中心,8個高斯函數(shù)的擴(kuò)展常數(shù)以及8個輸出層的連接權(quán)值和1個輸出偏移,共33個參數(shù),即QPSO算法和IMQPSO-LQPSO算法中的粒子將在33維的空間中搜索,尋求滿足最小均方誤差要求的參數(shù)向量。

采用MQPSO-LQPSO算法中MQPSO的學(xué)習(xí)算法參數(shù)α作為迭代次數(shù)的函數(shù)從數(shù)從1~0.5線性減小,粒子數(shù)均為30。MQPSO-LQPSO中LQPSO的規(guī)模為5×6,參數(shù)α保持0.5 不變??偟淖畲笥?jì)算適應(yīng)度函數(shù)次數(shù)為12 000次,收斂最小誤差為1×10-6。經(jīng)仿真知最佳隱層個數(shù)為6。仿真結(jié)果如圖2所示。比較結(jié)果如表1所示。

圖2 迭代次數(shù)為200時的仿真結(jié)果

表1 MQPSO-LQPSO-RBF和QPSO-RBF的逼近效果比較

MQPSO-LQPSO-RBFQPSO-RBF[4]

訓(xùn)練集上的均方誤差8.2×10-55.17×10-4

測試集上的均方誤差9.7×10-55.10×10-4

從圖2中仿真結(jié)果可以看出,逼近圖形和原圖形幾乎重合;從表1中比較結(jié)果可以看出,改進(jìn)算法有更小的均方誤差,可見改進(jìn)算法能很精確地實(shí)現(xiàn)函數(shù)逼近。

6 結(jié) 語

本文用性能比QPSO算法強(qiáng)的MQPSO-LQPSO算法來訓(xùn)練RBF網(wǎng)絡(luò),用這種方法改進(jìn)的RBF網(wǎng)絡(luò)不僅可以在確定網(wǎng)絡(luò)的結(jié)構(gòu)的同時確定網(wǎng)絡(luò)的參數(shù),還可以獲得更好的逼近效果,因而是有效的。但注意到若預(yù)設(shè)的隱層節(jié)點(diǎn)較多,會導(dǎo)致搜索維數(shù)增加,從而降低搜索效率,因此下一步的工作是改進(jìn)網(wǎng)絡(luò)編碼方式,用較小的維數(shù)來表示較大規(guī)模的網(wǎng)絡(luò),以增強(qiáng)算法的魯棒性。

參考文獻(xiàn)

[1]趙志剛,單曉紅.一種基于遺傳算法的RBF神經(jīng)網(wǎng)絡(luò)優(yōu)化方法[J].計(jì)算機(jī)工程,2007,33(6):221-222.

[2]滿春濤,李曉霞,張禮勇.一種基于ACO的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法[J].哈爾濱理工大學(xué)學(xué)報,2007,13(1):56-58.

[3]梁桂蘭,徐衛(wèi)亞,何育智,等.PSO-RBFNN模型及其在巖土工程非線性時間序列預(yù)測中的應(yīng)用[J].巖土力學(xué),2008,29(2):995-1 000.

[4]陳偉,馮斌,孫俊.基于QPSO算法的RBF神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化仿真研究[J].計(jì)算機(jī)應(yīng)用,2006,26(8):1 928-1 931.

[5]Sun J,Feng B,Xu W B.Particle Swarm Optimization with Particles Having Quantum Behavior[A].Proceedings of 2004 Congress on Evolutionary Computation[C].2004:325-331.

[6]Sun J.A Global Search Strategy of Quantum-behaved Particle Swarm Optimization[A].Proc.2004 Congress on Cybernetics and Intelligent Systems[C].2004.

[7]Wang Jiahai,Zhou Yalan.Quantum-Behaved Particle Swarm Optimization with Generalized Local Search Operator for Global Optimization[A].ICIC 2007[C].Berlin Springer-Verlag,2007:851-860.

[8]劉興華,劉憲英,胡澤.基于RBF神經(jīng)網(wǎng)絡(luò)系統(tǒng)辨識研究[J].現(xiàn)代電子技術(shù),2004,27(24):57-59.

篇2

關(guān)鍵詞:空間目標(biāo);紅外輻射;自適應(yīng)時延神經(jīng)網(wǎng)絡(luò);目標(biāo)識別

中圖分類號:TP391.41;P472.1

0 引 言

隨著軍事斗爭空域的擴(kuò)展,特別是空間電子對抗的興起,大氣層外的空間目標(biāo)數(shù)量迅速增加??臻g目標(biāo)群在大氣層外飛行時,由于距離探測器較遠(yuǎn),它們在探測器上所成形的像的面積較小,可近似為點(diǎn)目標(biāo),無法從形狀上對它們進(jìn)行分別。同時由于沒有大氣衰減的影響,空間目標(biāo)及其伴飛物的速度、運(yùn)動軌跡也基本相同,這使得用于識別目標(biāo)的信息很少。紅外光譜輻射是物體的本質(zhì)屬性,它不僅易于測量,而且對于不同空間物體具有不同的輻射特性,因而有效利用紅外光譜輻射信息對空間目標(biāo)進(jìn)行識別已成為倍受關(guān)注的研究課題之一[1[CD*2]3]。時延神經(jīng)網(wǎng)絡(luò)(Time Delay Neural Network,TDNN)[4[CD*2]7]是一種常用的空間目標(biāo)識別方法,它在BP網(wǎng)絡(luò)的基礎(chǔ)上加入延時器,具有記憶功能,同時它以目標(biāo)的紅外輻射度作為特征輸入,解決了空間點(diǎn)目標(biāo)特征提取困難的問題,對紅外輻射序列具有較好的識別效果。但由于它對所有時刻的輸入樣本采用固定的時延,對紅外輻射強(qiáng)度變化劇烈的目標(biāo)識別效果較差。本文通過對目標(biāo)在大氣層外飛行過程中的紅外輻射強(qiáng)度序列仿真數(shù)據(jù)進(jìn)行分析,提出利用自適應(yīng)時延神經(jīng)網(wǎng)絡(luò)[7[CD*2]10](Adaptive Time[CD*2]Delay Neural Network,ATNN)對目標(biāo)進(jìn)行識別。ATNN是在TDNN的基礎(chǔ)上改變延時器的時延,針對不同輸入采用可以自適應(yīng)調(diào)整的時延,更加適應(yīng)復(fù)雜環(huán)境下紅外輻射度變化劇烈的紅外點(diǎn)目標(biāo)識別。在研究了自適應(yīng)時延神經(jīng)網(wǎng)絡(luò)(ATNN)的網(wǎng)絡(luò)結(jié)構(gòu)后,對網(wǎng)絡(luò)的權(quán)值和時延變化進(jìn)行了推導(dǎo),提出基于ATNN的紅外點(diǎn)目標(biāo)識別訓(xùn)練方法,最后利用空間目標(biāo)的多波段動態(tài)紅外輻射強(qiáng)度仿真數(shù)據(jù)進(jìn)行目標(biāo)識別實(shí)驗(yàn)研究。實(shí)驗(yàn)結(jié)果表明,本文所提出的方法對空間紅外點(diǎn)目標(biāo)識別率較時延神經(jīng)網(wǎng)絡(luò)方法約高4%,有較好的抗噪性能,在空間紅外點(diǎn)目標(biāo)識別領(lǐng)域中也有較好的應(yīng)用前景。

1 自適應(yīng)時延神經(jīng)網(wǎng)絡(luò)識別方法

1.1 ATNN網(wǎng)絡(luò)模型及識別算法

自適應(yīng)時延神經(jīng)網(wǎng)絡(luò)(ATNN)是由多層前饋感知器引入自適應(yīng)時間延遲器擴(kuò)展而來的。圖1為一個┤層自適應(yīng)時延神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)圖,網(wǎng)絡(luò)中相鄰兩層節(jié)點(diǎn)之間的連接為并行延遲單元組成的自適應(yīng)時間延遲器。圖2為網(wǎng)絡(luò)的第l-1層的節(jié)點(diǎn)i與第l層的節(jié)點(diǎn)j之間的自適應(yīng)時間延遲器結(jié)構(gòu),節(jié)點(diǎn)i與節(jié)點(diǎn)j之間有n個連接,每個連接k都有獨(dú)立的時間延遲

對于三層ATNN網(wǎng)絡(luò),假設(shè)輸出層第j個節(jié)點(diǎn)在tn時刻的期望輸出為dj(tn),則網(wǎng)絡(luò)在

以上權(quán)值和時延推導(dǎo)過程參考了文獻(xiàn)[10]的推導(dǎo)過程。

1.2 ATNN網(wǎng)絡(luò)目標(biāo)識別訓(xùn)練過程

基于ATNN網(wǎng)絡(luò)模型以及對神經(jīng)網(wǎng)絡(luò)權(quán)值和時延的修正過程,進(jìn)一步提出基于ATNN的紅外點(diǎn)目標(biāo)識別訓(xùn)練方法。在訓(xùn)練過程中,為避免誤差發(fā)生大幅度的振蕩,采用批處理的訓(xùn)練方法,即當(dāng)訓(xùn)練集中的所有樣本訓(xùn)練完成一次后,只對網(wǎng)絡(luò)的權(quán)值做一次更新。訓(xùn)練流程如圖3所示,訓(xùn)練步驟如下:

(1) 從每類目標(biāo)中選取一定數(shù)目的特征序列構(gòu)成訓(xùn)練集T,設(shè)特征序列的長度為S;

(2) 構(gòu)建三層自適應(yīng)時延神經(jīng)網(wǎng)絡(luò),設(shè)定網(wǎng)絡(luò)的收斂誤差為E

(3) 初始化的ATNN網(wǎng)絡(luò)權(quán)值和時延;

(4) 置s=0,總誤差E=0,權(quán)值變化Δωjik,l-1=0,時延變化Δτjik,l-1=0;

(5) 令s=s+1,根據(jù)式(1)~式(3)計(jì)算當(dāng)輸入┑s個序列特征時隱含層和輸出層的輸出;

(6) 計(jì)算并累加誤差E=E+es,根據(jù)式(4)~┦(12)計(jì)算并累加第s步權(quán)值和時延的變化量,

(7)若s

(8)若E

2 目標(biāo)識別實(shí)驗(yàn)研究

2.1 參數(shù)選擇方案

ATNN網(wǎng)絡(luò)識別方法需要確定網(wǎng)絡(luò)結(jié)構(gòu),包括輸入/輸出神經(jīng)元數(shù)、隱含層層數(shù)及隱含層神經(jīng)元數(shù)的設(shè)計(jì)和各層神經(jīng)元激活函數(shù)的選擇。理論上單隱含層網(wǎng)絡(luò)可以實(shí)現(xiàn)對任何不相交凸類域模式的正確分類,含┝礁霆隱含層的神經(jīng)網(wǎng)絡(luò)可以實(shí)現(xiàn)對不相交的任意形狀類域模式進(jìn)行正確分類。綜合考慮識別效果和網(wǎng)絡(luò)復(fù)雜程度,在此采用單隱含層ATNN網(wǎng)絡(luò);輸入層神經(jīng)元數(shù)目由樣本數(shù)據(jù)特征維數(shù)決定;輸出層神經(jīng)元數(shù)等于樣本的類別數(shù)。某類樣本對應(yīng)的期望輸出編碼為:對應(yīng)的樣本類別的輸出為1 ,其他輸出均為0。隱含層和輸出層的激活函數(shù)則采用Sigmoid 函數(shù),即:

2.2 實(shí)驗(yàn)結(jié)果與分析

實(shí)驗(yàn)采用空間某觀測點(diǎn)觀測四類目標(biāo)在大氣層外飛行過程中紅外輻射強(qiáng)度序列的仿真數(shù)據(jù),時間長度為1 000 s,探測波段為3~8 μm和8~16 μm,采樣頻率為10 Hz。在同等條件下仿真四次,其中訓(xùn)練樣本集為┑諞華次仿真結(jié)果,測試樣本集為另外三次仿真結(jié)果。

由于太陽、觀測點(diǎn)的位置以及噪聲等的存在,給目標(biāo)特征的提取帶來了很大困難。本文在分析紅外輻射數(shù)據(jù)的基礎(chǔ)上采用文獻(xiàn)[11]中所提出的特征提取方法,采用波段比值作為神經(jīng)網(wǎng)絡(luò)的輸入。由于同一觀測點(diǎn),可視為各類目標(biāo)的外在條件基本相同,因而通過比值就可以消除太陽輻射及探測距離等外部因素的影響。┟扛霆目標(biāo)的特征選擇如下:

式中:IM(t)表示目標(biāo)在中波波段的紅外輻射強(qiáng)度;IL(t)表示目標(biāo)在長波波段的紅外輻射強(qiáng)度;F1(t)是反映目標(biāo)紅外輻射度比序列;F2(t)和F3(t)是目標(biāo)在┝礁霆波段上經(jīng)過歸一化處理的輻射度序列。由于有4類目標(biāo),每類目標(biāo)的特征數(shù)目為3,所以網(wǎng)絡(luò)的輸入層節(jié)點(diǎn)數(shù)為3,輸出層節(jié)點(diǎn)數(shù)為4。實(shí)驗(yàn)采用TDNN網(wǎng)絡(luò)和ATNN網(wǎng)絡(luò)在同等條件下對目標(biāo)進(jìn)行識別。網(wǎng)絡(luò)為┤層,節(jié)點(diǎn)數(shù)分別為3,10,4;網(wǎng)絡(luò)延時器的基本時延為1 s,輸入層節(jié)點(diǎn)到隱含層節(jié)點(diǎn)之間的連接數(shù)為8,隱含層節(jié)點(diǎn)到輸出層節(jié)點(diǎn)之間的連接數(shù)為6,ATNN網(wǎng)絡(luò)的延時器初始化時延與TDNN網(wǎng)絡(luò)延時器的時延相同;程序總迭代次數(shù)設(shè)為1 000;學(xué)習(xí)步長取為Е仟1=0.5/(1+k),η2=0.3/(1+k)。其中,k為當(dāng)前已經(jīng)迭代的次數(shù)。識別結(jié)果如表1所示。

表1列出在信噪比為30 dB,20 dB及10 dB條件下兩種網(wǎng)絡(luò)對測試樣本集的識別結(jié)果。結(jié)果表明,ATNN網(wǎng)絡(luò)對各目標(biāo)的識別率都要高于TDNN網(wǎng)絡(luò),而且在10 dB的信噪比條件下,ATNN網(wǎng)絡(luò)仍具有良好的識別效果,說明ATNN網(wǎng)絡(luò)具有良好的抗噪性。

3 結(jié) 語

基于紅外輻射信息對空間點(diǎn)目標(biāo)進(jìn)行識別是國內(nèi)外關(guān)注的熱點(diǎn)課題之一。在此研究了用于空間目標(biāo)序列識別的自適應(yīng)時延神經(jīng)網(wǎng)絡(luò)模型及其學(xué)習(xí)算法,并對算法中權(quán)值和時延的變化進(jìn)行了推導(dǎo)。以目標(biāo)紅外輻射強(qiáng)度比值作為特征,應(yīng)用ATNN網(wǎng)絡(luò)并利用探測器對空間目標(biāo)紅外輻射仿真數(shù)據(jù),進(jìn)行了目標(biāo)識別實(shí)驗(yàn)研究。實(shí)驗(yàn)結(jié)果表明,利用自適應(yīng)時延神經(jīng)網(wǎng)絡(luò)對空間紅外點(diǎn)目標(biāo)的正確識別率高,有較好的抗噪性能,因此,在空間紅外點(diǎn)目標(biāo)識別領(lǐng)域中有良好的應(yīng)用前景。

參 考 文 獻(xiàn)

[1]武春風(fēng),張偉,李潔,等.基于時空信息的紅外成像系統(tǒng)在探測識別目標(biāo)時所面臨的問題及分析[J].光學(xué)技術(shù),2005,31(2):231[CD*2]234.

[2]豐松江,聶萬勝.中段彈道導(dǎo)彈和背景紅外輻射研究概況[J].紅外,2006,27(11):19[CD*2]22.

[3]舒銳,周彥平,陶坤宇,等.空間目標(biāo)紅外輻射特性研究[J].光學(xué)技術(shù),2006,32(2):196[CD*2]199.[LL]

[4]肖懷鐵,付強(qiáng),莊釗文,等.寬帶毫米波雷達(dá)目標(biāo)時延神經(jīng)網(wǎng)絡(luò)識別新方法[J].紅外與毫米波學(xué)報,2001,20(6):459[CD*2]463.

[5]劉志剛.紅外成像點(diǎn)目標(biāo)的檢測與識別技術(shù)研究[D].長沙:國防科技大學(xué),2005.

[6]Cheryl Resch.Exo[CD*2]atmospheric Discrimination of Thrust Termination Debris and Missile Segments[J].Johns Hopkins APL Technical Digest,1998,19(3):315[CD*2]321.

[7]Haykin S.神經(jīng)網(wǎng)絡(luò)原理[M].葉世偉,史忠植,譯.北京:機(jī)械工業(yè)出版社,2004.[HJ*2]

[8]Lin D T.Trajectory Production with the Adaptive Time[CD*2]delay Neural Network[J].Neural network,1995,8(3):447[CD*2]461.

[9]Lin D T.The Adaptive Time[CD*2]Delay Neural Network:Cha[CD*2]racterization and Applications to Pattern Recognition,Prediction,and Signal Processing[D].University of Marvland at College Park,1994.[HJ*2/3][HJ]

[10]Xiao Huaitie,Zhuang Zhaowen,Chen Zhenpin.AircraftTarget Recognition using Adaptive Time[CD*2]delay Neural Network[A].Aerorpace and Electronics Conference\[C\].1997,2:764[CD*2]768.[HJ*2/3][HJ]

[11]朱海峰,韓建濤,姜衛(wèi)東,等.基于多光譜的空間點(diǎn)目標(biāo)特征提取與識別[J].光電子技術(shù),2005,25(1):16[CD*2]20.[HJ*2/3][HJ]

[12]陳景文.自動識別技術(shù)及其在軍事領(lǐng)域中的應(yīng)用\[J\].現(xiàn)代電子技術(shù),2006,29(19):30[CD*2]31,39.

[13]趙士文,盧珞先,王昱.一種快速目標(biāo)檢測跟蹤方法研究與實(shí)現(xiàn)\[J\].現(xiàn)代電子技術(shù),2007,30(22):55[CD*2]57,60.

作者簡介 呂江北 男,1985年出生,河北石家莊人,碩士研究生。主要從事自動目標(biāo)識別技術(shù)研究。

篇3

關(guān)鍵詞 BP神經(jīng)網(wǎng)絡(luò);遺傳算法;教學(xué)質(zhì)量評價

中圖分類號TP18,G420 文獻(xiàn)標(biāo)識碼A 文章編號 1674-6708(2010)26-0184-01

1 基于遺傳算法的神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法

1.1 GA-BP算法的概述

遺傳算法[1]從一組隨機(jī)產(chǎn)生的初始解(稱為群體)開始搜索過程,群體中的每個個體是問題的一個解,稱為染色體,這些染色體在后續(xù)迭代中不斷進(jìn)化,稱為遺傳。遺傳主要是通過選擇、交叉、變異、運(yùn)算生成下一代群體,就這樣經(jīng)過若干代進(jìn)化之后,算法收斂于最好的染色體,即為問題的最優(yōu)解。那么可以將遺傳算法引入BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,對權(quán)值的初始值進(jìn)行全局優(yōu)化,這樣可避免 BP神經(jīng)網(wǎng)絡(luò)陷入局部極小值,并提高其收斂速度[2,3]。

1.2 用遺傳算法學(xué)習(xí)和對神經(jīng)網(wǎng)絡(luò)權(quán)值的優(yōu)化

為了方便理解,我們以基礎(chǔ)的三層BP神經(jīng)網(wǎng)絡(luò)來進(jìn)行說明。取WIHij為輸入層中第i個結(jié)點(diǎn)與隱含層第j個結(jié)點(diǎn)的連接權(quán)值;WHOji為隱含層中第j個結(jié)點(diǎn)與輸出層第i個結(jié)點(diǎn)的連接權(quán)值[4]。遺傳算法學(xué)習(xí)BP網(wǎng)絡(luò)的步驟如下:

1)初始化種群P,包括交叉規(guī)模、交叉概率pc、突變概率pm等,初始種群取60;

2)計(jì)算每一個個體評價函數(shù),并按權(quán)值將其排序。

3)以概率pc對個體Gi和Gi+1交叉操作產(chǎn)生新個體和無交叉操作的個體進(jìn)行直接復(fù)制;

4)利用概率pm突變產(chǎn)生Gj的新個體;

5)將新個體插入到種群P中,并計(jì)算新個體的評價函數(shù);

6)如果找到了滿意的個體,則結(jié)束,否則轉(zhuǎn)3)。

最后,將群體中的最優(yōu)個體解碼即可得到優(yōu)化后的網(wǎng)絡(luò)連接權(quán)系數(shù)。接下來則與神經(jīng)網(wǎng)絡(luò)的基本算法相同。

2 實(shí)例分析

算法效果測試

根據(jù)《正方教學(xué)管理系統(tǒng)教學(xué)質(zhì)量評價指標(biāo)》以及[5]中建立的評價指標(biāo)體系,我們選取10個二級指標(biāo)作為輸入神經(jīng)元,取輸入層的個數(shù)為10。而我們將教學(xué)質(zhì)量評價的等級分為3類:當(dāng)輸出為:{0,0,1}時為“優(yōu)秀”;當(dāng)輸入為{0,1,0}時為“良好”;當(dāng)輸入為{0,1,1}時為“良好”[6]。隱含層神經(jīng)元的個數(shù)6較為適宜。

用matlab進(jìn)行編程[2,7],經(jīng)過大約350代的搜索后其平均適應(yīng)度趨于穩(wěn)定,圖1為期網(wǎng)絡(luò)訓(xùn)練誤差變化曲線,經(jīng)過改進(jìn)的神經(jīng)網(wǎng)絡(luò)經(jīng)過9步迭代即可達(dá)到精度的要求,較之于基本的BP神經(jīng)網(wǎng)絡(luò)都有較大的改進(jìn)和提高。

回想結(jié)果TT為:

該結(jié)果基本接近實(shí)際的評價情況,其對應(yīng)的教師的評價為良好、優(yōu)秀、優(yōu)秀、一般、一般,可見其評價是比較準(zhǔn)確的。

從數(shù)據(jù)的結(jié)果上看,用GA訓(xùn)練的BP神經(jīng)網(wǎng)絡(luò)的權(quán)值可以得到滿意的結(jié)果,但因?yàn)楦倪M(jìn)后的算法會對大量的數(shù)據(jù)進(jìn)行編碼、解碼、交叉、變異等相關(guān)遺傳操作,所以,時間比普通BP算法的運(yùn)行時間要長。

3 結(jié)論

將全局優(yōu)化算法GA引入BP 網(wǎng)絡(luò)訓(xùn)練的權(quán)值初始確定,充分發(fā)揮了遺傳算法的全局尋優(yōu)能力和 BP 算法的局部搜索優(yōu)勢,形成了一種新的GA-BP算法。該算法能較好的避免BP算法陷入局部最小點(diǎn)、收斂速度慢的問題,是一種快速、可靠的方法。根據(jù)該算法建立了有效的教學(xué)質(zhì)量評價模型,檢驗(yàn)的結(jié)果表明該算法減少了誤差,完全可以滿足實(shí)際應(yīng)用的要求。

參考文獻(xiàn)

[1]史忠植.人工智能[M].北京:國防工業(yè)出版社,2007.

[2]田雨波.混合神經(jīng)網(wǎng)絡(luò)技術(shù)[M].北京:科學(xué)出版社,2009.

[3]盧宏,吳翠琴.BP神經(jīng)網(wǎng)絡(luò)的遺傳優(yōu)化及其應(yīng)用研究[J]. 江西理工大學(xué)學(xué)報,2009,30(5):51-54.

[4]原清,賀新鋒,劉湘崇.遺傳算法和神經(jīng)網(wǎng)絡(luò)在導(dǎo)彈測試 設(shè)備故障診斷中的應(yīng)用研究[J].測試技術(shù)學(xué)報,2002,16(21):702-706.

[5]彭志捌.模糊綜合評判在教學(xué)質(zhì)量評價中的應(yīng)用[J].高等 建筑教育學(xué)報,2008,17(6):20-23.

篇4

關(guān)鍵詞:心理學(xué);效度;一般能力傾向成套測驗(yàn)(GATB);人工神經(jīng)網(wǎng)絡(luò)(ANN)模型;大學(xué)生

一、問題提出

一般能力傾向成套測驗(yàn)(General Aptitude Test Battery,GATB)是美國勞工部就業(yè)保險局歷時50年,耗資數(shù)億美元,研究了美國上萬種職業(yè)后編制而成的著名測驗(yàn)。這套測驗(yàn)應(yīng)用較廣,已被大量研究證明具有良好的信效度,能夠很好地預(yù)測職業(yè)成功和學(xué)術(shù)成就。GATB是適用于初三以上年級的中學(xué)生及成年人的團(tuán)體測驗(yàn),包含15種分測驗(yàn)(11種紙筆測驗(yàn),4種操作測驗(yàn)),可在120~130分鐘內(nèi)測量9種與職業(yè)關(guān)系密切并有代表性的能力因素。這9種能力傾向因素為:一般智力、言語能力、數(shù)理能力、空間關(guān)系理解力、形狀知覺能力、文書知覺能力、動作協(xié)調(diào)能力、手指靈活性及手部靈巧性。Hammond1984年對GATB的結(jié)構(gòu)進(jìn)行因素分析發(fā)現(xiàn),GATB測量的其實(shí)是4種更普遍、更高層次的能力:言語能力、數(shù)理能力、工具組合能力和空間能力[1]。GATB在國外應(yīng)用廣泛,是升學(xué)、就業(yè)指導(dǎo)以及人員選擇與安置的重要工具。而Droege等研究發(fā)現(xiàn):GATB的一般智力、言語能力、數(shù)理能力和書寫知覺測驗(yàn)可以作為預(yù)測學(xué)業(yè)成績的良好工具[2]。R.L.Thorndike和E.P.Hagen報告,用GATB預(yù)測工程學(xué)校學(xué)生的專業(yè)成績的R2最低0.46,最高0.58[3]。

個體在大學(xué)期間的專業(yè)學(xué)習(xí)將奠定他們一生職業(yè)生涯的基礎(chǔ)。在美國,大學(xué)生入學(xué)之初,要進(jìn)行一項(xiàng)學(xué)術(shù)能力測驗(yàn)(SAT),通過這種學(xué)術(shù)能力測驗(yàn),可以預(yù)測大學(xué)生在大學(xué)期間的專業(yè)學(xué)習(xí)成績。也有研究者應(yīng)用一般能力傾向成套測驗(yàn)(GATB)來預(yù)測大學(xué)生的專業(yè)成績。在預(yù)測方法方面,以前的研究大都是運(yùn)用傳統(tǒng)的多元回歸算法。如果應(yīng)用神經(jīng)網(wǎng)絡(luò)模型新技術(shù),效度是否會有提高呢?這值得我們來探索一番。

人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network, ANN)是近年來發(fā)展起來的一門新興學(xué)科、新技術(shù)。它應(yīng)用了一種信息處理系統(tǒng)或計(jì)算機(jī)模仿大腦的結(jié)構(gòu)和功能,可稱之為人腦處理信息方式的簡化模型[4]。ANN今天已經(jīng)成為世界關(guān)注的熱點(diǎn),引起各國政府與軍界的高度重視。

目前人工神經(jīng)網(wǎng)絡(luò)(ANN)的算法基本成熟。人工神經(jīng)網(wǎng)絡(luò)包括三部分:輸入層(input layer),隱藏層(hidden layer),輸出層(output layer)。輸入的數(shù)據(jù)顯示在第一層,其值從每個神經(jīng)元傳播到下一層的每個神經(jīng)元,最終從輸出層輸出結(jié)果。ANN是功能強(qiáng)大的函數(shù)估計(jì)器,只需基本的統(tǒng)計(jì)或數(shù)學(xué)知識就能夠進(jìn)行訓(xùn)練,并加以應(yīng)用[4]。特別值得注意的是,它是一種非線性系統(tǒng),具有一個隱藏層的神經(jīng)網(wǎng)絡(luò)算法,可以擬合輸入和輸出之間的任意非線性關(guān)系,而不要求資料滿足正態(tài)分布或其他特殊分布,可以自由估計(jì)模型(即非參數(shù)模型)。因此,神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的綜合能力,輸入和輸出間的聯(lián)系可由訓(xùn)練習(xí)得,再運(yùn)用于計(jì)算中[5]。

BP(back propagation)神經(jīng)網(wǎng)絡(luò)是ANN的一種,由James McClelland和David Rumelhart在1986年提出[6]。它是一種典型的前饋神經(jīng)網(wǎng)絡(luò),其權(quán)重的調(diào)整采用反向傳播的學(xué)習(xí)算法,神經(jīng)元的變換函數(shù)是S型函數(shù),輸出量是0~1之間的連續(xù)量,可以實(shí)現(xiàn)從輸入到輸出的任意非線性映射[7]。通過對網(wǎng)絡(luò)參數(shù)的選取,在確定了網(wǎng)絡(luò)層數(shù)、隱含層神經(jīng)元數(shù)、初始權(quán)重、學(xué)習(xí)速率、期望誤差及最大步長后,構(gòu)建神經(jīng)網(wǎng)絡(luò)模型。確定網(wǎng)絡(luò)的結(jié)構(gòu)后,利用輸入輸出樣本進(jìn)行訓(xùn)練,也就是對網(wǎng)絡(luò)進(jìn)行調(diào)整,多次反復(fù),直到樣本收斂,使網(wǎng)絡(luò)實(shí)現(xiàn)給定的輸入輸出映射關(guān)系,從而獲知最重要的影響因素。

從ANN誕生之日起,它與心理學(xué)就有著千絲萬縷的聯(lián)系。神經(jīng)網(wǎng)絡(luò)的靈感來自于神經(jīng)元的信息處理功能,神經(jīng)網(wǎng)絡(luò)的訓(xùn)練則可以反映感覺、記憶、學(xué)習(xí)等認(rèn)知過程[8]。ANN已被研究者廣泛應(yīng)用于視知覺識別[9]、技能培養(yǎng)[10]、語言發(fā)展[11]等認(rèn)知領(lǐng)域。研究者發(fā)現(xiàn),ANN對于內(nèi)隱記憶、內(nèi)隱學(xué)習(xí)等無意識認(rèn)知過程有著極強(qiáng)的適應(yīng)性[12,13],對神經(jīng)網(wǎng)絡(luò)來說,外界環(huán)境的每一次輸入都可能會引起網(wǎng)絡(luò)結(jié)構(gòu)的重新調(diào)整(權(quán)重變化),從而改變該網(wǎng)絡(luò)下一次的加工模式。

社會認(rèn)知與ANN有著類似的信息加工過程。社會認(rèn)知過程中,人們會按照某種規(guī)則對所經(jīng)驗(yàn)的事件進(jìn)行組織,從而影響他們在類似環(huán)境下對待相似對象的印象與態(tài)度。因此,許多研究者針對印象形成[14]、歸因[15]、認(rèn)知矛盾[16]、群體印象[17]等建立了各具特色的神經(jīng)網(wǎng)絡(luò)模型。

由于ANN的模仿對象是人腦神經(jīng)系統(tǒng)的處理方式,因此,它在功能上也具有某些智能的特點(diǎn)。神經(jīng)網(wǎng)絡(luò)主要有以下幾個基本功能:非線性映射、分類識別、知識處理。目前,神經(jīng)網(wǎng)絡(luò)已經(jīng)廣泛應(yīng)用于信息領(lǐng)域、自動化領(lǐng)域、工程領(lǐng)域、醫(yī)學(xué)領(lǐng)域、經(jīng)濟(jì)學(xué)領(lǐng)域等各知識領(lǐng)域中,其智能化的特征解決了許多傳統(tǒng)信息處理方法無法解決的問題[18]。目前,學(xué)術(shù)界已經(jīng)普遍認(rèn)同,人工神經(jīng)網(wǎng)絡(luò)方法是一種有效的研究工具,能夠代替?zhèn)鹘y(tǒng)的回歸分析方法,并可以在不同的領(lǐng)域進(jìn)行廣泛應(yīng)用。然而,心理測量學(xué)領(lǐng)域內(nèi)運(yùn)用人工神經(jīng)網(wǎng)絡(luò)方法的研究還相當(dāng)少見。

本研究將使用神經(jīng)網(wǎng)絡(luò)算法,取代傳統(tǒng)的回歸分析,嘗試檢驗(yàn)一般能力傾向成套測驗(yàn)預(yù)測不同學(xué)科大學(xué)生的專業(yè)成績的效度。

二、研究方法與研究過程

1.研究工具

以戴忠恒等修訂的一般能力傾向成套測驗(yàn)(GATB)為研究工具,該測驗(yàn)共包括15種分測驗(yàn),其中11種為筆試,分別為: 圓內(nèi)打點(diǎn)測驗(yàn)、記號記入測驗(yàn)、形狀相配測驗(yàn)、名稱比較測驗(yàn)、圖案相配測驗(yàn)、平面圖判斷測驗(yàn)、計(jì)算測驗(yàn)、詞義測驗(yàn)、立體圖判斷測驗(yàn)、句子完成測驗(yàn)、算術(shù)應(yīng)用測驗(yàn);4種為器具測驗(yàn):插入測驗(yàn)、轉(zhuǎn)動測驗(yàn)、組裝測驗(yàn)、拆卸測驗(yàn)。

本研究采用團(tuán)體施測方式,每次施測有2名以上熟悉本測驗(yàn)所有項(xiàng)目的主試,最多對38名被試同時施測。首先由主試?yán)首x指導(dǎo)語,在所有被試明白測驗(yàn)的要求和具體做法后開始測驗(yàn)。因11項(xiàng)紙筆分測驗(yàn)均為速度測驗(yàn),所以由主試使用秒表準(zhǔn)確計(jì)時。

2.研究對象

在江蘇、安徽、上海等省市的7所院校對在校大學(xué)生進(jìn)行團(tuán)體施測。共施測1022人。其中男生521人(51.0%),女生501人(49.0%);“211工程”院校569人(55.7%),普通本科院校453人(44.3%);大一464人(45.4%),大二104人(10.2%),大三321人(31.4%),大四133人(13.0%);文科446人(43.7%),理科221人(21.6%),工科355人(34.7%)。

3.數(shù)據(jù)收集

隨機(jī)選取其中652名大學(xué)生,對他們期末考試中的專業(yè)課成績求出平均分并以班級為單位進(jìn)行標(biāo)準(zhǔn)化,以此標(biāo)準(zhǔn)分作為衡量其專業(yè)成績的標(biāo)準(zhǔn)。在652名大學(xué)生中,文科專業(yè)268人,占41.1%;理科專業(yè)218人,占33.4%;工科專業(yè)166人,占25.5%;年齡17~24歲,平均20±1歲;男生320人,占46.3%,女生371人,占53.7%。

三、構(gòu)建神經(jīng)網(wǎng)絡(luò)模型

使用專業(yè)軟件Clementine12.0構(gòu)建神經(jīng)網(wǎng)絡(luò)模型。首先對樣本數(shù)據(jù)進(jìn)行歸一化處理,以便更好地對數(shù)據(jù)關(guān)系進(jìn)行映射,從而使其參數(shù)都落在(0,1)之間。歸一化選用以下公式:

P=(p-pmin)/(pmax-pmin)

公式中,pmin,pmax分別表示歸一化之前的最小值和最大值,P為歸一化值,p為歸一化之前的值。經(jīng)過歸一化轉(zhuǎn)換的結(jié)果在本研究中以P表示,例如P專業(yè)課均分。

經(jīng)過歸一化處理后,開始正式建模。在Clementine中應(yīng)用神經(jīng)網(wǎng)絡(luò)進(jìn)行能力傾向?qū)I(yè)成績預(yù)測的過程如下:首先選擇數(shù)據(jù)源,將GATB的7項(xiàng)能力傾向數(shù)據(jù)選為輸入變量,將標(biāo)記專業(yè)課均分項(xiàng)選為輸出變量。然后在字段選項(xiàng)中選擇其中的分區(qū)節(jié)點(diǎn),設(shè)置訓(xùn)練、測試、驗(yàn)證區(qū)域樣本比例,這是構(gòu)建神經(jīng)網(wǎng)絡(luò)模型所需要的一個設(shè)置??傮w挖掘過程如圖1 所示。

圖1 數(shù)據(jù)挖掘過程

接著在模型里選擇神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練方法。Clementine提供了快速、動態(tài)、多重、修剪、RBFN和窮舉型修剪六種用于構(gòu)建神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練方法(Silverston,數(shù)據(jù)模型資源手冊)。選擇快速的訓(xùn)練方法,即使用數(shù)據(jù)的簡明規(guī)則和特征來選擇適合的網(wǎng)絡(luò)形狀(拓?fù)洌?/p>

此后在模型中設(shè)置預(yù)防過度訓(xùn)練,將數(shù)據(jù)隨機(jī)分割為訓(xùn)練集合和檢驗(yàn)集合兩部分,設(shè)置70%的樣本為訓(xùn)練集合,并將隨機(jī)種子設(shè)置為18。特定的隨機(jī)種子通常會生成相同的隨機(jī)值序列,產(chǎn)生相同的生成模型,從而使結(jié)果模型具有精確的可再現(xiàn)性。本研究中的預(yù)防過度訓(xùn)練與隨機(jī)種子設(shè)置見圖2。

圖2 模型設(shè)置結(jié)果

四、結(jié)果分析

1.文科大學(xué)生一般能力傾向?qū)I(yè)成績的預(yù)測模型

本模型顯示出模型在生成前的選項(xiàng)和生成后的統(tǒng)計(jì)情況。結(jié)果顯示模型對建模數(shù)據(jù)估計(jì)的準(zhǔn)確率達(dá)90.247%,其中輸入層有7個神經(jīng)元,隱藏層有1∶3個神經(jīng)元,輸出層有1個神經(jīng)元。

對各輸入點(diǎn)的敏感度進(jìn)行分析顯示,各輸入字段的相對重要性參數(shù),按重要性排序?yàn)檠哉Z能力、一般智力、形狀知覺、運(yùn)動協(xié)調(diào)、數(shù)理能力、書寫知覺、空間判斷能力,其敏感性系數(shù)依次為0.523、0.191、0.09、0.053、0.05、0.047、0.045。

將Neural Net結(jié)果結(jié)點(diǎn)連接在數(shù)據(jù)流中的分區(qū)結(jié)點(diǎn)后,向數(shù)據(jù)流中增加分析節(jié)點(diǎn),模型分析結(jié)果見圖3,由圖可知,文科學(xué)生一般能力傾向?qū)I(yè)成績模型的平均預(yù)測誤差在-0.004到0.036之間,絕對平均誤差在0.103到0.105之間,該模型的預(yù)測誤差在可以接受的范圍之內(nèi)。

圖3 文科大學(xué)生一般能力傾向?qū)I(yè)成績的預(yù)測模型分析結(jié)果

再向數(shù)據(jù)流中增加導(dǎo)出結(jié)點(diǎn)。將導(dǎo)出結(jié)點(diǎn)連接到Neural Net結(jié)果結(jié)點(diǎn)。設(shè)置該結(jié)點(diǎn)屬性,將增添的字段的值設(shè)置為【abs(P專業(yè)課均分 - '$N- P專業(yè)課均分') / P專業(yè)課均分】 * 100,其中$N- P專業(yè)課均分是由神經(jīng)網(wǎng)絡(luò)生成的預(yù)測結(jié)果,如圖4所示。該圖形的橫坐標(biāo)為導(dǎo)出值,縱坐標(biāo)表示一共有多少個樣本的導(dǎo)出值落在相對應(yīng)的橫坐標(biāo)上。由導(dǎo)出的定義公式可知,導(dǎo)出值越小,則表明預(yù)測值與實(shí)際值的差別越小。由輸出圖形可以看出,該模型已達(dá)到一定的精度。

圖4 文科大學(xué)生一般能力傾向?qū)I(yè)成績的預(yù)測模型精度直方圖

2.理科大學(xué)生能力傾向?qū)I(yè)成績的預(yù)測模型

理科大學(xué)生一般能力傾向?qū)I(yè)成績預(yù)測模型顯示模型對建模數(shù)據(jù)估計(jì)的準(zhǔn)確率達(dá)90.979%,輸入層、隱藏層、輸出層的神經(jīng)元個數(shù)與文科大學(xué)生模型的數(shù)量相同,分別為7個、1∶3個、1個。

理科大學(xué)生一般能力傾向?qū)I(yè)成績預(yù)測的各輸入點(diǎn)的敏感度分析顯示:按重要性排序?yàn)閿?shù)理能力、一般智力、空間判斷能力、書寫知覺、言語能力、形狀知覺、運(yùn)動協(xié)調(diào),其敏感性系數(shù)依次為0.471、0.233、0.132、0.073、0.046、0.042、0.003。

圖5 理科大學(xué)生一般能力傾向?qū)I(yè)成績的預(yù)測模型分析結(jié)果

模型分析結(jié)果見圖5,由圖可知,理科學(xué)生一般能力傾向?qū)I(yè)成績模型的平均預(yù)測誤差在-0.022到0.006之間,絕對平均誤差在0.091到0.097之間,結(jié)合圖6可知,模型達(dá)到了一定的精度。

圖6 理科大學(xué)生一般能力傾向?qū)I(yè)成績的預(yù)測模型精度直方圖

3.工科大學(xué)生能力傾向?qū)I(yè)成績的預(yù)測模型

工科大學(xué)生一般能力傾向?qū)I(yè)成績的預(yù)測模型顯示模型對建模數(shù)據(jù)估計(jì)的準(zhǔn)確率達(dá)90.381%,輸入層、隱藏層、輸出層的神經(jīng)元個數(shù)與之前相同,分別為7個、1∶3個、1個。

工科大學(xué)生一般能力傾向?qū)I(yè)成績預(yù)測的各輸入點(diǎn)的敏感度分析結(jié)果顯示:按重要性排序?yàn)榭臻g判斷能力、一般智力、言語能力、書寫知覺、形狀知覺、數(shù)理能力、運(yùn)動協(xié)調(diào),其敏感性系數(shù)依次為0.594、0.202、0.084、0.048、0.035、0.029、0.008。

模型分析結(jié)果(見圖7)顯示,工科學(xué)生一般能力傾向?qū)I(yè)成績模型的平均預(yù)測誤差在-0.044到0.008之間,絕對平均誤差在0.106到0.115之間。模型精度直方圖(見圖8)顯示,由圖可知,導(dǎo)出值集中在一個很小的范圍之內(nèi),模型達(dá)到了一定的精度。

圖8 工科大學(xué)生一般能力傾向?qū)I(yè)成績的預(yù)測模型精度直方圖

五、討論

神經(jīng)網(wǎng)絡(luò)具有的非線性映射、自適應(yīng)學(xué)習(xí)、并行性、知識分布存儲、逼近任意復(fù)雜連續(xù)函數(shù)等信息處理能力,克服了傳統(tǒng)預(yù)測方法對于數(shù)據(jù)處理方面的缺陷,使神經(jīng)網(wǎng)絡(luò)能夠在心理測量領(lǐng)域發(fā)揮重要作用。值得注意的是,回歸分析要求數(shù)據(jù)正態(tài)分布、線性,以及連續(xù)變量這些比較嚴(yán)苛的條件,在神經(jīng)網(wǎng)絡(luò)模型中卻不需要這些前提條件。也就是說,神經(jīng)網(wǎng)絡(luò)的算法具有非線性的特點(diǎn)。這可以大大彌補(bǔ)傳統(tǒng)統(tǒng)計(jì)方法的線性模型的局限。

本研究以人工神經(jīng)網(wǎng)絡(luò)建模為統(tǒng)計(jì)手段,分別建立文、理、工三類大學(xué)生一般能力傾向?qū)ζ鋵I(yè)成績的預(yù)測模型,由建網(wǎng)信息和模型分析結(jié)果可知,三個模型對建模數(shù)據(jù)估計(jì)的準(zhǔn)確率均達(dá)到90%以上,預(yù)測的平均預(yù)測誤差在0.091到0.115之間,三個模型均達(dá)到了一定的精度。

首先, GATB的7項(xiàng)能力傾向?qū)ξ目茖I(yè)成績的影響按重要性排序依次為言語能力、一般智力、形狀知覺、運(yùn)動協(xié)調(diào)、數(shù)理能力、書寫知覺、空間判斷能力,這一結(jié)果也可與文科專業(yè)大學(xué)生優(yōu)勢能力傾向互為佐證。言語能力的敏感性系數(shù)達(dá)到0.523,是影響文科專業(yè)成績表現(xiàn)的關(guān)鍵能力,這一結(jié)果也符合我們研究前的假設(shè)和實(shí)際情況。文科類專業(yè)的學(xué)生通常對文字、語言更有興趣,擁有較好的文字功底,將來所從事的職業(yè)多以文字工作為主,專業(yè)課程的設(shè)置與考核也是以此職業(yè)方向?yàn)閷?dǎo)向,因而言語能力上得分突出的學(xué)生更有可能在文科專業(yè)的課程學(xué)習(xí)中達(dá)到優(yōu)秀水平。

其次,對理科大學(xué)生而言,數(shù)理能力、一般智力和空間判斷能力對其專業(yè)成績預(yù)測的敏感性系數(shù)分別為0.471、0.233和0.132。數(shù)理能力是利用算術(shù)知識解決實(shí)際問題的能力,一般智力則是需要根據(jù)原理進(jìn)行推理和判斷的能力,而空間判斷能力是要求在心理空間進(jìn)行圖形轉(zhuǎn)換進(jìn)而進(jìn)行推理、判斷的能力,這三類能力對學(xué)生的邏輯思維能力有較高要求,理科類專業(yè)側(cè)重于理論研究和科學(xué)培養(yǎng),尤需學(xué)生的理性思維、邏輯思維能力,因此,數(shù)理能力、一般智力和空間判斷能力是理科學(xué)習(xí)關(guān)鍵之所在,理科專業(yè)要求報考者在這些能力上的發(fā)展達(dá)到一定的水平,而在這些能力傾向上得分較低的被試可能需要付出相當(dāng)?shù)呐Σ拍軌騽偃卫砜茖I(yè)的學(xué)習(xí)。

最后,工科類專業(yè)學(xué)生的專業(yè)成績7項(xiàng)能力傾向按重要性排序依次為:空間判斷能力、一般智力、言語能力、書寫知覺、形狀知覺、數(shù)理能力、運(yùn)動協(xié)調(diào)。另外,空間判斷能力也是工科類大學(xué)生的優(yōu)勢能力傾向,以往相關(guān)研究也表明,空間想象和空間思維能力對于工科學(xué)習(xí)是不可或缺的[19],尤其是機(jī)械制圖等相關(guān)專業(yè)。工科專業(yè)側(cè)重技術(shù)應(yīng)用,學(xué)生動手能力較強(qiáng),心理空間的運(yùn)動能力依賴于實(shí)際動手能力的發(fā)展,動手能力的鍛煉也會促進(jìn)其空間想象能力的發(fā)展。值得注意的是,空間判斷能力對于工科學(xué)生專業(yè)成績的預(yù)測敏感性系數(shù)達(dá)到了0.594的水平――該項(xiàng)能力對工科學(xué)習(xí)十分重要,若發(fā)展良好,更可能在工科學(xué)習(xí)中脫穎而出。

縱觀三類專業(yè)大學(xué)生一般能力傾向?qū)ζ鋵I(yè)成績的預(yù)測情況,不難發(fā)現(xiàn),一般智力對于任何一類專業(yè)來說都是基礎(chǔ)性的能力傾向。國外相關(guān)研究結(jié)果也發(fā)現(xiàn),人們的智力和知識只要達(dá)到一定的水平,人們智力的高低差異對于工作效率不再有明顯的影響,然而與專業(yè)緊密相關(guān)的能力傾向與工作效率之間始終有顯著的正相關(guān)。本研究的結(jié)論在一定程度上驗(yàn)證了這一觀點(diǎn):對于不同的專業(yè)方向來說,每種專業(yè)類型都各有其關(guān)鍵的能力傾向。該專業(yè)的潛在報考者能否勝任該專業(yè)的學(xué)習(xí)和考核,關(guān)鍵能力傾向是至關(guān)重要之因素。

總而言之,人工神經(jīng)網(wǎng)絡(luò)模型對三類專業(yè)的專業(yè)成績預(yù)測都具有較高的準(zhǔn)確性,說明本研究整體的技術(shù)路線可行,GATB所測得的7項(xiàng)能力傾向的不同組合可以用來預(yù)測不同專業(yè)學(xué)生的專業(yè)成績。通過人工神經(jīng)網(wǎng)絡(luò)模型,中學(xué)生可以根據(jù)自己在GATB的7項(xiàng)能力傾向上的得分情況預(yù)測自己報考三類專業(yè)的成績水平,從而判斷自己適合報考的專業(yè)方向。如能早日實(shí)現(xiàn)推廣,將是教育界及廣大學(xué)子喜聞樂見之事。

項(xiàng)目基金:全國教育規(guī)劃課題(DIA080131)

[1] Hammod, M.. An investigation into the factor structure of the General Aptitude Test Battery[J]. Journal of Occupational Psychology,1984,57(1):4348.

[2] Droege, R. C.. GATB aptitude intercorrelations of ninth and twelfth garders: A study in organization of mental abilities[J]. Personnel & Guidance Journal, 1968,46(7):668672.

[3] 桑代克, R.L.,哈根, E.P.. 心理與教育的測量與評價[M]. 葉佩華,等,譯. 北京:人民教育出版社,1985.

[4] 林耀斌,杜友福.基于Clementine神經(jīng)網(wǎng)絡(luò)的商品促銷效果預(yù)測模型應(yīng)用[J].電腦知識與技術(shù),2009,5(34):90-92.

[5] 張菊英,韋健,楊樹勤.神經(jīng)網(wǎng)絡(luò)模型在住院費(fèi)用影響因素分析中的應(yīng)用[J].中華醫(yī)院管理雜志,2002,18(3):143-145.

[6] 嚴(yán)武.基于BP算法的住院天數(shù)神經(jīng)網(wǎng)絡(luò)模型建模研究[J].中國病案, 2009,10(11): 38-40.

[7] 易東,王文昌.回歸分析的人工神經(jīng)網(wǎng)絡(luò)算法模型研究[J].中國衛(wèi)生統(tǒng)計(jì),1998,15(5).

[8] 郭秀艷,朱磊,魏知超.內(nèi)隱學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)模型[J].心理科學(xué)進(jìn)展,2006,14(6):837-843.

[9] Martin, G. L.. Encoder: A connectionist models of how learning to visually encode fixated text images reading fluency[J]. Psychological Review, 2004,111(3):617639.

[10] Berthier, N.E., Rosenstein, M. T., & Barto, A.G..Approximate optimal control as a model for motor learning[J]. Psychological Review, 2005,69(2):329346.

[11] Seidenberg, M. S..Connectionist models of word reading[J]. Current Directions in Psychological Science, 2005,14(5):12381242.

[12] 郭秀艷,鄒玉梅,李強(qiáng),孫怡.中學(xué)生顏色內(nèi)隱學(xué)習(xí)特征的實(shí)驗(yàn)研究[J].心理與行為研究, 2003,1(2):122-127.

[13] 郭秀艷,朱磊.神經(jīng)網(wǎng)絡(luò)模型對內(nèi)隱學(xué)習(xí)的探索[J].心理科學(xué),2006,29(2):410-415.

[14] Kashima,Y., Kerekes, & Andrew. R.Z.. A distributed memory model of averaging phenomena in person impression formation[J]. Journal of Experimental Social Psychology, 1994,30(5):407-455.

[15] Read, S. J., & Montoya, J. A.. An auto associative model of causal reasoning and causal learning: Reply to Van Overwalle’s critique of Read and Marcus-Newhall[J]. Journal of Personality and Social Psychology,1996, 76(5):728742.

[16] Shultz, T., & Lepper,M.. Cognitive dissonance reduction as constraint satisfaction[J]. Psychological Review,1996, 103(2): 219240.

[17] Gureckis, T.M., Love, B.C.. Common mechanisms in infant andcategory learning[J]. Infancy, 2004,5(2):173198.

篇5

關(guān)鍵詞:小波分析;神經(jīng)網(wǎng)絡(luò);故障定位;配電網(wǎng)

作者簡介:李曉東(1975-),男,寧夏吳忠人,寧夏電力公司吳忠供電局,助理工程師。(寧夏 吳忠 751100)

中圖分類號:TM726 文獻(xiàn)標(biāo)識碼:A 文章編號:1007-0079(2013)26-0201-03

配電網(wǎng)直接聯(lián)系用戶,其可靠供電能力和供電質(zhì)量既是電力企業(yè)經(jīng)濟(jì)效益的直接體現(xiàn),又對應(yīng)著不可估量的社會效益。配電網(wǎng)故障自動定位作為配電自動化的一個重要內(nèi)容,對提高供電可靠性有很大影響,也得到了越來越多的重視。本文在分析研究小波神經(jīng)網(wǎng)絡(luò)特征的基礎(chǔ)上利用小波的時頻分析能力與神經(jīng)網(wǎng)絡(luò)的非線性擬合能力來建立故障特征與故障點(diǎn)的映射,確定故障點(diǎn)的位置。

一、配電網(wǎng)的故障特點(diǎn)

配電網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)復(fù)雜,節(jié)點(diǎn)眾多且分布廣泛。負(fù)荷沿配電線路分布不均勻,而且負(fù)荷性質(zhì)也有很大差異,因此配網(wǎng)故障定位是一項(xiàng)十分艱巨的任務(wù)。配電網(wǎng)發(fā)生故障的幾率遠(yuǎn)大于輸電網(wǎng),因?yàn)榕潆娋W(wǎng)的設(shè)備為分散分布,采集信號相對困難,而且信號傳輸?shù)木嚯x越遠(yuǎn)越容易發(fā)生畸變。配電網(wǎng)直接面向廣大的用戶,最易受到用戶端多種多樣不確定因素的影響,所以配電網(wǎng)的故障頻率及操作頻率都較高,運(yùn)行方式和對應(yīng)的網(wǎng)絡(luò)拓?fù)浣?jīng)常發(fā)生變化。[1]同時,配電網(wǎng)具有閉環(huán)設(shè)計(jì)開環(huán)運(yùn)行的特點(diǎn),有時會出現(xiàn)短暫的閉環(huán)運(yùn)行,給故障定位帶來困難。

二、神經(jīng)網(wǎng)絡(luò)在配網(wǎng)故障診斷中的應(yīng)用原理

人工神經(jīng)網(wǎng)絡(luò)(ANN)是一種連接機(jī)制模型,它是由大量人工神經(jīng)元廣泛互聯(lián)而成的網(wǎng)絡(luò),是在微觀結(jié)構(gòu)上模擬人的認(rèn)識能力,其知識處理所模擬的是人的經(jīng)驗(yàn)思維機(jī)制,決策時它依據(jù)的是經(jīng)驗(yàn),而不是一組規(guī)劃,特別是在缺乏清楚表達(dá)規(guī)則或精確數(shù)據(jù)時神經(jīng)網(wǎng)絡(luò)可產(chǎn)生合理的輸出結(jié)果。ANN的最大特點(diǎn)是依靠并行調(diào)節(jié)人工神經(jīng)元之間的連接權(quán)值來隱含地處理問題,具有很強(qiáng)的自適應(yīng)和自學(xué)習(xí)能力、非線性映射能力、魯棒性和容錯能力。

應(yīng)用神經(jīng)網(wǎng)絡(luò)進(jìn)行電力系統(tǒng)報警處理和故障定位能在保護(hù)裝置誤動、數(shù)據(jù)丟失以及出現(xiàn)其他未考慮的報警類型時也能給出較精確的定位結(jié)果。[2,3]還可以結(jié)合小波分析比較精確地定位出故障位置進(jìn)行隔離。

由于神經(jīng)網(wǎng)絡(luò)自身具有很多的優(yōu)點(diǎn),應(yīng)用現(xiàn)代數(shù)學(xué)工具通過準(zhǔn)確地提取故障電氣量特征信息作為神經(jīng)網(wǎng)絡(luò)的輸入進(jìn)行訓(xùn)練來提高神經(jīng)網(wǎng)絡(luò)的定位性能將是一個很好的發(fā)展方向。

基于神經(jīng)網(wǎng)絡(luò)的診斷系統(tǒng)結(jié)構(gòu)圖如圖1所示。

三、小波變換

小波變換是繼Fourier變換之后又一有效的時頻分析方法,可以在一個時間和頻域的局域變換所以能有效地從信號中提取信息,可以對信號進(jìn)行多尺度的細(xì)化分析。

小電流接地系統(tǒng)發(fā)生單相接地故障時,暫態(tài)接地電容電流幅值經(jīng)常大于穩(wěn)態(tài)時的幾倍到幾十倍,補(bǔ)償?shù)碾姼须娏饕矔龃?。[4]這種情況下小波變換可以將暫態(tài)信號映射到由小波伸縮而成的一組基函數(shù)上。該函數(shù)具有很好地頻帶分割性,再根據(jù)小電流接地系統(tǒng)發(fā)生故障時零序電流分量的特點(diǎn),即故障線路上的電流幅值比非故障線路幅值大得多且極性相反這一特征來進(jìn)行故障點(diǎn)的定位。

四、小波神經(jīng)網(wǎng)絡(luò)

1.小波神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)

小波函數(shù)作為神經(jīng)網(wǎng)絡(luò)的激勵函數(shù)與普通神經(jīng)網(wǎng)絡(luò)的激勵函數(shù)在本質(zhì)上是一致的,但是小波神經(jīng)網(wǎng)絡(luò)只要尺度、位移以及權(quán)重的初始值設(shè)置得當(dāng),其函數(shù)逼近的效果更優(yōu)于簡單的神經(jīng)網(wǎng)絡(luò)。

在文獻(xiàn)[5]中對小電流接地系統(tǒng)單相接地故障暫態(tài)信號用prony方法進(jìn)行分析時,已證實(shí)故障點(diǎn)位置不同時對應(yīng)的故障暫態(tài)信號的特征分量也不同,它們之間存在著特定的對應(yīng)關(guān)系。根據(jù)這個原理就可以利用小波分析來獲得故障暫態(tài)信號定時頻窗特征,將它映射到距離平面上實(shí)現(xiàn)故障定位。

小波神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖2所示,共有四層,分別為輸入層、小波變換層、隱含層、輸出層。小波變換層選取的神經(jīng)元激勵函數(shù)為Morlet小波:

則在函數(shù)空間L2(R)中,一個信號f(t)的小波變換:

對網(wǎng)絡(luò)的輸出并不僅僅是簡單的加權(quán)求和,而是先對網(wǎng)絡(luò)隱含層小波節(jié)點(diǎn)的輸出值進(jìn)行加權(quán)求和,再通過Sigmoid函數(shù)變換,最終得到的網(wǎng)絡(luò)輸出,有利于處理分類問題,[6,7]同時降低訓(xùn)練過程中發(fā)散的可能性。

小電流單相接地故障檢測系統(tǒng)的小波神經(jīng)網(wǎng)絡(luò)模型如圖2所示,輸入層的每一節(jié)點(diǎn)對應(yīng)故障暫態(tài)時序序列,輸出包含的單個神經(jīng)元,其值反映的是故障點(diǎn)的位置。

2.小波神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法

進(jìn)行訓(xùn)練時需要在權(quán)值和閾值的修正算法中加入動量項(xiàng),利用前一步得到的修正值來平滑學(xué)習(xí)路徑,防止陷入局部極小值,加速學(xué)習(xí)速度。[8]當(dāng)逐個對樣本進(jìn)行訓(xùn)練時會引起權(quán)值與閾值修正時發(fā)生振蕩,為避免這種情況的發(fā)生可以采用成批訓(xùn)練方法。

在式(1)中,當(dāng)a>0時,信號f(t)可離散化fN(i),式(1)變?yōu)椋?/p>

式子中,N為電流序列點(diǎn)總和,為信號的時間窗寬度。

前向運(yùn)算:輸入采樣時間序列,小波變換層的輸出為:

按照上式的算法,分別計(jì)算出小波變換層的輸出量,其中j為小波變換層的總節(jié)點(diǎn)數(shù)。

隱層的輸入矢量,其中K表示隱層節(jié)點(diǎn)個數(shù)。;隱含層輸出矢量:;故障距離輸出。

給定P(P=1,2,3……p)組輸入輸出樣本,學(xué)習(xí)率為,動量因子是目標(biāo)誤差函數(shù)為:

式中:——輸出層第n個節(jié)點(diǎn)的期望輸出;——網(wǎng)絡(luò)實(shí)際輸出。

算法要實(shí)現(xiàn)的目標(biāo)就是不斷調(diào)整網(wǎng)絡(luò)的各項(xiàng)參數(shù),使最終的誤差函數(shù)獲得最小值。

隱含層與輸出層之間的權(quán)值調(diào)整式:

輸入層與隱層結(jié)點(diǎn)之間的權(quán)值調(diào)整式:

伸縮因子調(diào)整式:

平移因子調(diào)整式:

五、小波與神經(jīng)網(wǎng)絡(luò)在配網(wǎng)故障診斷中的應(yīng)用

1.系統(tǒng)整體設(shè)計(jì)

本文采用EMTP/ATP軟件進(jìn)行仿真。設(shè)計(jì)系統(tǒng)為中性點(diǎn)不接地系統(tǒng),母線電壓等級為35kV,仿真時間是0.1S,故障發(fā)生時間是0.05S,采樣頻率是4000Hz,可充分滿足暫態(tài)電容電流自由振動頻率的要求;線路參數(shù):正序阻抗;正序容納;零序阻抗;零序容納。圖3為小電流接地系統(tǒng)。

變化故障點(diǎn)位置和接地電阻形成的學(xué)習(xí)故障模式集為:在配電網(wǎng)全程線路上選擇故障點(diǎn),是距離變化的步長,;故障過渡電阻。

2.故障定位效果分析

為了較好地檢測訓(xùn)練后神經(jīng)網(wǎng)絡(luò)的真實(shí)定位效果,需要選取網(wǎng)絡(luò)的非學(xué)習(xí)樣本來檢驗(yàn)。選取故障點(diǎn)故障過渡電阻。進(jìn)行組合20×2=40個測試故障模式,按照與形成學(xué)習(xí)樣本相同的預(yù)處理方法形成輸入矢量集合,經(jīng)過網(wǎng)絡(luò)的前向運(yùn)算得到故障的定位結(jié)果。

接地電阻時,故障定位結(jié)果,如表1所示。

接地電阻時,故障定位結(jié)果,如表2所示。

由表1和表2可得,經(jīng)過訓(xùn)練后的小波神經(jīng)網(wǎng)絡(luò)可以很好地?cái)M合輸入矢量和故障點(diǎn)的位置對應(yīng)關(guān)系。對于神經(jīng)網(wǎng)絡(luò)測試的樣本,該誤差基本在1%以下,具有較滿意的定位結(jié)果。此故障定位方案之所以精確是因?yàn)閮煞矫娴脑颍阂皇切‰娏鹘拥叵到y(tǒng)通常情況下是直接面向用戶的,為單電源系統(tǒng),雖然具有復(fù)雜多變的運(yùn)行方式,但大多數(shù)運(yùn)行參數(shù)可知,該方案在一定程度上降低了運(yùn)行參數(shù)的模糊性;二是小波神經(jīng)網(wǎng)絡(luò)在故障之后暫態(tài)高頻信息的提取與應(yīng)用是定位原理的關(guān)鍵所在。因此,經(jīng)過訓(xùn)練后的小波神經(jīng)網(wǎng)絡(luò)故障定位精確可靠。

六、結(jié)論

本文利用小波神經(jīng)網(wǎng)絡(luò)的特點(diǎn)解決配電網(wǎng)故障定位中的問題,小波神經(jīng)網(wǎng)絡(luò)具備小波與神經(jīng)網(wǎng)絡(luò)共同的特點(diǎn),既具有對非平穩(wěn)隨機(jī)信號所具有的優(yōu)越的時頻局部特性又具有非線性擬合能力,具有充分的理論依據(jù)。在對所建立的小電流接地系統(tǒng)進(jìn)行仿真的結(jié)果分析可知,該定位方案精確度較高、方便可靠。

參考文獻(xiàn):

[1]郭三中.基于小波神經(jīng)網(wǎng)絡(luò)的配電網(wǎng)故障定位研究J].電力系統(tǒng)自動化,2010,(12):27-30.

[2]季濤,孫同景,薛永端.配電網(wǎng)故障定位技術(shù)現(xiàn)狀與展望[J].繼電器,2005,33(24):32-37.

[3]張振飛,夏利民.基于神經(jīng)網(wǎng)絡(luò)的滾動軸承故障診斷智能方法[J].信息技術(shù),2008,(8):35-55.

[4]李振然.基于小波變換與BP神經(jīng)網(wǎng)絡(luò)相結(jié)合的配電網(wǎng)單相接地故障定位方法[J].繼電器,2004,32(9):24-26.

[5]郜洪亮,楊學(xué)昌.一種配電線路單相接地故障測距算法[J].清華大學(xué)學(xué)報(自然科學(xué)版),1999,39(9):33-36.

[6]李玉,潘亞平,魏海平.小波神經(jīng)網(wǎng)絡(luò)及其研究進(jìn)展[J].科技信息,2006,(9):24-25.

篇6

BP神經(jīng)網(wǎng)絡(luò)基于誤差反向傳播算法的多層前向神經(jīng)網(wǎng)絡(luò)。其中BP網(wǎng)絡(luò)是目前應(yīng)用最為廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。網(wǎng)絡(luò)隱節(jié)點(diǎn)過多會導(dǎo)致算法存在過擬合現(xiàn)象,影響了網(wǎng)絡(luò)的泛化能力,使得網(wǎng)絡(luò)最終失去實(shí)用價值。在滿足精度的要求下,逼近函數(shù)的階數(shù)越少越好,低階逼近可以有效防止"過擬合"現(xiàn)象。在實(shí)際應(yīng)用中,還沒有成熟的方法確定網(wǎng)絡(luò)的隱節(jié)點(diǎn),隱節(jié)點(diǎn)的確定基本上依賴經(jīng)驗(yàn),主要式采用遞增或遞減的試探方法來確定網(wǎng)絡(luò)隱節(jié)點(diǎn)[1]。

2 遺傳算法

遺傳算法是自然淘汰、遺傳選擇的生物進(jìn)化過程的計(jì)算模型,它是基于自然遺傳、選擇變異等生物機(jī)制的全局概率搜索算法。其應(yīng)用優(yōu)勢在于處理傳統(tǒng)搜索方法難于解決的復(fù)雜和非線性問題,包含問題編碼、初始化群。

3 基于遺傳算法的神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法(GA-BP)

遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的思路:改變BP算法依賴梯度信息來調(diào)整網(wǎng)絡(luò)權(quán)值的方法,利用遺傳算法全局性搜索的特點(diǎn),尋找最佳網(wǎng)絡(luò)連接權(quán)和網(wǎng)絡(luò)結(jié)構(gòu),遺傳算法在進(jìn)化過程中能以較大概率搜索到全局最優(yōu)解存在的區(qū)域,在遺傳算法搜索到最優(yōu)解附近之后,再采用訓(xùn)練樣本優(yōu)選最好的網(wǎng)絡(luò)連接權(quán)系數(shù)及網(wǎng)絡(luò)結(jié)構(gòu)。

遺傳-神經(jīng)網(wǎng)絡(luò)模型:

GA-BP算法的步驟:

3.2遺傳算法是以目標(biāo)函數(shù)最大值為適應(yīng)度函數(shù),函數(shù)為:

3.3基本解空間編碼 遺傳算法優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)需對隱含層編碼。編碼的碼串由控制碼和權(quán)重系數(shù)碼組成。控制碼控制隱節(jié)點(diǎn)個數(shù),由0-1組成的串,其中0表示無連接,1表示有連接。權(quán)重系數(shù)用浮點(diǎn)數(shù)編碼。按一定的順序組成一個長串,每個串對應(yīng)一組解。

3.4初始群體由P個個體組成,每個個體由兩個部分組成,第1部分是串長為l1 的0-1串;第2部分是區(qū)間[umin-δ1,umax+δ2 上的l2個均勻分布隨機(jī)數(shù)。

3.5由控制碼得到網(wǎng)絡(luò)的隱節(jié)點(diǎn)數(shù),由權(quán)重系數(shù)碼可以知道網(wǎng)絡(luò)的連接權(quán)值,輸入用于訓(xùn)練樣本,按照式(2)計(jì)算個體適應(yīng)度。

3.6保留群體中適應(yīng)度最高的個體,不參與交叉和變異運(yùn)算,直接將其復(fù)制到下一代。 對其它個體,按歸一化適應(yīng)度大小為概率進(jìn)行選擇,進(jìn)行遺傳操作。當(dāng)某個神經(jīng)元被變異運(yùn)算刪除時,相應(yīng)的有關(guān)權(quán)重系數(shù)編碼被置為0,而當(dāng)變異運(yùn)算增加某個神經(jīng)元時,則隨機(jī)初始化有關(guān)權(quán)重系數(shù)編碼。以Pc的概率對選擇后的個體的Wij神經(jīng)元權(quán)值進(jìn)行交叉算子如下:

3.7將新個體放到種群P中,沒有交叉、變異操作的個體直接生成新一代群體。反復(fù)4~8,每次群體就進(jìn)化一代,連續(xù)進(jìn)化到K代。把最終個體解碼得到相應(yīng)解,ANN誤差平方和不合要求εGA則轉(zhuǎn)4,繼續(xù)遺傳操作,反復(fù)進(jìn)行如果N次依然不能達(dá)到要求則訓(xùn)練失敗。以GA遺傳出的優(yōu)化初值作為初始權(quán)值,BP算法繼續(xù)訓(xùn)練網(wǎng)絡(luò),直到給定精度εBP(εBP<εGA)或迭代次數(shù),最終個體解碼即得到網(wǎng)絡(luò)連接權(quán)及隱節(jié)點(diǎn)數(shù)。

4 遺傳算法的神經(jīng)網(wǎng)絡(luò)對心電圖的自動識別

心電圖在診斷心血管疾病等臨床醫(yī)學(xué)領(lǐng)域得到了大量應(yīng)用,近年來,基于心電圖的穩(wěn)定性和唯一性,易于采集,不能復(fù)制和仿造等優(yōu)勢,其在身份識別領(lǐng)域也具有廣泛的應(yīng)用前景。

將測量電極放置在心臟或人體表面的一定部位,用心電圖機(jī)記錄出來的心臟電變化的連續(xù)曲線,即為心電圖。將立體的P、QRS、T環(huán)經(jīng)過投影到額面、水平面和右側(cè)面上,臨床上用心向量圖表示;此即空間心電向量環(huán)的第一次投影。將額面心向量環(huán)的每一點(diǎn)依次再投影到各肢體導(dǎo)聯(lián)軸上,可記錄出各肢體導(dǎo)聯(lián)的心電圖;橫面心向量環(huán)在各胸導(dǎo)聯(lián)軸上的投影,可描記出各胸導(dǎo)聯(lián)的心電圖。此即心向量環(huán)的第二次投影。

4.1波形數(shù)據(jù)預(yù)處理 ①首先對心電信號進(jìn)行高頻濾波處理。由于數(shù)據(jù)是通過FRANK導(dǎo)聯(lián)七電極采集的,所以心電信號必然夾雜有電極的50Hz交流干擾、肌電干擾等。需要對心電信號進(jìn)行50Hz高頻濾波處理,以去除工頻和肌電干擾,可以采用多點(diǎn)平均值法進(jìn)行濾波;②其次需要對心電圖作基線漂移處理。心電信號的漂移主要有放大器零點(diǎn)漂移和呼吸交流漂移。放大器零點(diǎn)漂移體現(xiàn)在基線偏離原點(diǎn)上下移動,交流漂移表面為基線傾斜。

4.2波形識別 由于心電向量圖是由各面心電圖的各波起止點(diǎn)間的所有點(diǎn)組成的,所以繪制向量圖前必須先將心電圖的各波的起止點(diǎn)確定下來,這就是波形識別。主要是對選擇的典型波形,識別出P波、QRS波、T波等各波段的特征點(diǎn)即峰點(diǎn)、起止點(diǎn)等。

4.3 QRS波群識別 QRS波群識別方法目前主要有閉值法、輪廓限制法、面積法、數(shù)字濾波法和傾斜法,該系統(tǒng)采用閉值法。這種方法通過對正交三導(dǎo)聯(lián)同時記錄的X、Y、Z心電信號進(jìn)行空間向量模的運(yùn)算,計(jì)算其空間向量長度,以最大空間向量長度作為閉值K,以K作為識別QRS波的依據(jù)。然后在K值前后一定時間內(nèi)(30~80ms),對各點(diǎn)心電向量模值進(jìn)行測量。如果連續(xù)若干點(diǎn)的模值相同,K前相同模值的第一個起點(diǎn)作為X、Y、Z三導(dǎo)聯(lián)公共起點(diǎn)和K后最遠(yuǎn)點(diǎn)作為公共終點(diǎn)。再根據(jù)公共起點(diǎn)、終點(diǎn)范圍、檢測X、Y、Z導(dǎo)聯(lián)中的QRS波的峰點(diǎn)和谷點(diǎn)的時間和幅度。

4.4 T波檢測 T波比QRS波小,識別方法與QRS波有所不同。T波的識別方法在識別QRS波群基礎(chǔ)上,規(guī)定在K值后一定時間(100ms)左右,尋找空間向量的最大值做為T波闡值Ko.以Ko值做為識別T波的依據(jù)。T波檢測也用面積增量法,可直接或間接檢測出T波峰值,T波始、終點(diǎn)及寬度。S-T段上升與下降程度采用傳統(tǒng)的J+X法判別標(biāo)準(zhǔn),J+X法中的J點(diǎn)是S點(diǎn)之后的第一個拐點(diǎn),ST段被確定在J+X ms的心電信號部分,X的典型值為80ms,一般認(rèn)為X在20~120ms范圍中。ST段水平根據(jù)基線可以計(jì)算出其絕對值,或可表示為相對于R波峰值的歸一化值。

4.5 P波檢測 P波的識別方法與T波類似,只是搜 尋區(qū)間和聞值規(guī)定不同。P波檢測是房室傳導(dǎo)阻滯,P-R間隔檢測的主要參數(shù)。但其幅度過小,實(shí)時檢測十分困難。因此目前采用的方法主要是面積增量法。

4.6心電圖的識別 本文收集了房室傳導(dǎo)阻滯、S-T段下降、S-T段抬高、T波低平、T波倒置、正常竇律、正常七類心電圖。提取其診斷特征值,將其輸入神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,識別正確率可達(dá)到96%[5-10]。

5 結(jié)束語

心電圖的識別分析,是一項(xiàng)籠瑣而又細(xì)致的工作。心電圖自動診斷可以將醫(yī)務(wù)人員從煩瑣的圖形識別中解脫出來,提高工作效率。本文采用遺傳算法優(yōu)化三層BP神經(jīng)網(wǎng)絡(luò)的連接權(quán)和網(wǎng)絡(luò)結(jié)構(gòu)克服BP神經(jīng)網(wǎng)絡(luò)的瓶頸,有效提高神經(jīng)網(wǎng)絡(luò)泛化性能,并將其應(yīng)用于心電圖自動識別,得到了較高的識別率。

篇7

關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);成本估算;武器裝備

一、我國常用的軍品成本估算方法

針對武器系統(tǒng)的成本估算,國內(nèi)外常用的一般方法有四種:參數(shù)估算法、工程估算法、類推估算法和專家判斷估算法。

1.參數(shù)估算法,又稱經(jīng)驗(yàn)公式法。這種方法實(shí)際上是使武器系統(tǒng)的費(fèi)用與武器系統(tǒng)的特點(diǎn)或重要參數(shù)之間建立起費(fèi)用估算關(guān)系。而這些費(fèi)用變量都有一個數(shù)學(xué)值范圍,并不只是一個值。它的函數(shù)形式就是成本估算關(guān)系式。簡言之,它是利用類似系統(tǒng)的歷史費(fèi)用數(shù)據(jù)去推導(dǎo)新型武器系統(tǒng)的費(fèi)用。

2.工程估算法,又可稱之為單價法或直接法。它的主要做法是根據(jù)工作分解結(jié)構(gòu)在對各個獨(dú)立部分和系統(tǒng)零部件的料、工、費(fèi)進(jìn)行詳細(xì)估算的基礎(chǔ)上,再將各單項(xiàng)估算值綜合為總的成本費(fèi)用。所以,該方法有時又被稱為“自下而上”的成本估算法。

3.類推估算法實(shí)際上是將擬議中的產(chǎn)品、裝備、系統(tǒng)功能與以前的某個系統(tǒng)的可比部分或類似部分進(jìn)行直接比較。這種方法既可用于直接與具有同樣操作或工作特性的類似系統(tǒng)進(jìn)行比較,也可將被估系統(tǒng)直接與具有許多相同費(fèi)用特性的不同系統(tǒng)進(jìn)行比較。

4.專家判斷法類似于專家推測法。它要求估算者擁有關(guān)于系統(tǒng)或系統(tǒng)部件的綜合知識。在經(jīng)驗(yàn)數(shù)據(jù)不足或沒有足夠統(tǒng)計(jì)資料的情況下,往往需要用這種方法。

除以上常用的4種方法之外,目前討論的比較多的方法還包括以下3種:

1.灰色系統(tǒng)方法。通過對主導(dǎo)因素建立GM(1,1)模型,對關(guān)聯(lián)因素建立GM(1,N)模型,最后得到系統(tǒng)的狀態(tài)方程模型,按狀態(tài)模型對系統(tǒng)進(jìn)行預(yù)測。通常采用GM(1,1)和GM(1,N)相結(jié)合的方式。大致步驟為:一是確定系統(tǒng)的主導(dǎo)因素和關(guān)聯(lián)因素;二是建立GM模型群,對主導(dǎo)因素建立GM(1,1)模型,其余因素建立GM(1,N)模型,組成線性方程組;三是根據(jù)GM模型組得出狀態(tài)方程矩陣求解狀態(tài)方程?;疑到y(tǒng)能夠適應(yīng)樣本數(shù)較少的情況。如孫本海(2002)在他的碩士論文中使用灰色系統(tǒng)理論中的殘差模型和改進(jìn)的G-N迭代法構(gòu)建了炮兵武器裝備費(fèi)用的參數(shù)模型。郭繼周等人(2004)用灰色系統(tǒng)理論進(jìn)行費(fèi)用預(yù)測的方法,建立了GM(1,1)模型及GM(1,1)預(yù)測模型。陳尚東等人(2008)針對地空導(dǎo)彈維修費(fèi)用數(shù)據(jù)量有限規(guī)律性不同的特點(diǎn),選用灰色理論進(jìn)行維修保障費(fèi)用預(yù)測:首先,簡要分析了GM(1,1)模型,討論了維修費(fèi)用數(shù)據(jù)的處理;然后,以某新型地空導(dǎo)彈武器系統(tǒng)為例,具體探討了灰色預(yù)測模型的應(yīng)用,并對比分析了老信息灰色預(yù)測、新信息灰色預(yù)測和新陳代謝預(yù)測模型的精度。

2.模糊綜合評價方法。模糊綜合評價方法(FCE)是一種應(yīng)用非常廣泛和有效的模糊數(shù)學(xué)方法。它應(yīng)用模糊數(shù)學(xué)的有關(guān)方法和理論,通過建立隸屬度函數(shù),考慮不可量化因素的影響,進(jìn)行綜合分析和評價。如郭建華等人(2004)利用模糊綜合評價模型對武器裝備項(xiàng)目的研制費(fèi)用進(jìn)行了估算。

3.人工神經(jīng)網(wǎng)絡(luò)(ArtificialNeuralNetwork,ANN)方法。目前采用較多的是BP(BackPropagation)神經(jīng)網(wǎng)絡(luò)預(yù)測模型法,具體步驟:一是選取學(xué)習(xí)樣本,對權(quán)值進(jìn)行初始化;二是訓(xùn)練學(xué)習(xí)樣本;三是用測試樣本進(jìn)行數(shù)據(jù)仿真??梢宰C明,對于任何一個在閉區(qū)間內(nèi)的連續(xù)函數(shù)都可以用帶一個隱層的3層BP網(wǎng)絡(luò)來逼近。如劉銘等人(2000)提出了一種基于BP神經(jīng)網(wǎng)絡(luò)的防空導(dǎo)彈采購費(fèi)估算模型,并對典型的防空導(dǎo)彈采購費(fèi)進(jìn)行了估算。劉國利等人(2003)根據(jù)導(dǎo)彈武器系統(tǒng)研制的特點(diǎn),分析并確定了影響導(dǎo)彈武器系統(tǒng)研制費(fèi)用的主要因素,提出了基于人工神經(jīng)網(wǎng)絡(luò)的費(fèi)用預(yù)測模型。

軍品的費(fèi)用估算是一項(xiàng)持續(xù)性的工作,貫穿于軍品研制的全過程,隨著研制工作的進(jìn)展,采用的估算方法應(yīng)越來越詳細(xì)、精確。以上介紹的7種方法各有各的特點(diǎn),在不同的條件下都具有特定的使用價值,具體對比情況見表1。

二、ANN方法和BP網(wǎng)絡(luò)的優(yōu)點(diǎn)

神經(jīng)網(wǎng)絡(luò)的建模能力也是由參數(shù)決定的,但它有別于回歸分析方法,它只限制所包含多項(xiàng)式的整體個數(shù),不限制它們的階數(shù),即在參數(shù)一定的情況下,可以通過學(xué)習(xí)(即各分量的競爭)來合理選擇任意階數(shù)的項(xiàng)。這體現(xiàn)了神經(jīng)網(wǎng)絡(luò)的非線性特性,因而在總體上其精度由于傳統(tǒng)的回歸分析方法。

運(yùn)用神經(jīng)網(wǎng)絡(luò)方法建模的另一個原因是,在實(shí)踐中,我們雖然可能擁有已研制軍品的相關(guān)費(fèi)用數(shù)據(jù),但這些信息常常是不完整的,而且往往含有傷殘結(jié)構(gòu)及錯誤成分,且具有不確定性,這些問題給以往的處理方式造成很大的困難。而神經(jīng)網(wǎng)絡(luò)可以通過不斷地學(xué)習(xí),從典型型號研制相關(guān)費(fèi)用數(shù)據(jù)中學(xué)會處理這些問題,且能補(bǔ)全不完整的信息,并根據(jù)已學(xué)會的知識和經(jīng)驗(yàn)對復(fù)雜問題做出合理的判斷,以做出有效的預(yù)測和估計(jì)。

運(yùn)用神經(jīng)網(wǎng)絡(luò)方法建模的一般過程包括確定系統(tǒng)需求描述、選擇神經(jīng)網(wǎng)絡(luò)模型(包括神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、訓(xùn)練方法等)、數(shù)據(jù)預(yù)處理、確定神經(jīng)網(wǎng)絡(luò)的可執(zhí)行代碼、訓(xùn)練和測試等過程,具體情況見圖1。

這里需要特別說明的是神經(jīng)網(wǎng)絡(luò)模型的選擇問題。目前,在數(shù)于種網(wǎng)絡(luò)結(jié)構(gòu)、上百種訓(xùn)練學(xué)習(xí)算法中,應(yīng)用最廣泛、技術(shù)最成熟的是多層前向式網(wǎng)絡(luò)結(jié)構(gòu),應(yīng)用誤差反向傳播算法(ErrorBackPropagationLearningAlgorithm),簡稱為BP網(wǎng)絡(luò)。這主要?dú)w結(jié)于基于BP算法的多層感知器具有以下一些重要能力。

1.非線性映射能力。BP網(wǎng)絡(luò)學(xué)習(xí)能學(xué)習(xí)和存儲大量輸入-輸出模式映射關(guān)系,而無須事先了解這種映射關(guān)系的數(shù)學(xué)方程。

2.泛化能力。BP網(wǎng)絡(luò)訓(xùn)練后將所提取的樣本對中的非線性映射關(guān)系存儲在權(quán)值矩陣中,在其后的工作階段,當(dāng)向網(wǎng)絡(luò)輸入訓(xùn)練時未曾見過的非樣本數(shù)據(jù)時,網(wǎng)絡(luò)也能完成有輸入空間向輸出空間的正確映射。

3.容錯能力。BP網(wǎng)絡(luò)允許輸入樣本中帶有較大的誤差甚至個別錯誤。因?yàn)閷?quán)矩陣的調(diào)整過程也是從大量的樣本對中提取統(tǒng)計(jì)特性的過程,反映正確規(guī)律的只是來自全體樣本,個別樣本中的誤差不能左右對權(quán)矩陣的調(diào)整。

三、某型號無人機(jī)成本估算的BP模型

1.確定樣本集。為了驗(yàn)證前文所說的BP神經(jīng)網(wǎng)絡(luò)在成本估算中的準(zhǔn)確性,本文選擇了八中型號的無人機(jī)來進(jìn)行模擬運(yùn)算。具體的數(shù)據(jù)見下表(表2)。

由表2可知,本文選擇了與最后的整機(jī)價格有主要關(guān)系的6個性能指標(biāo),分別是導(dǎo)航定位精度、飛行高度、控制半徑、最大平飛速度、續(xù)航時間和任務(wù)載荷。這六個性能指標(biāo)是作為BP神經(jīng)網(wǎng)絡(luò)模型的輸入項(xiàng)(in)存在的,而最后一項(xiàng)整機(jī)價格則是作為模型的輸出項(xiàng)(out)。需要說明的是,根據(jù)前文的思路,本部分使用BP神經(jīng)網(wǎng)絡(luò)估算的應(yīng)該是軍品的成本,而不是軍品的整機(jī)價格。在表5中之所以使用整機(jī)價格,主要是因?yàn)楸碇械膬r格是按照目前的軍品定價模式計(jì)算出來的,即只要在整機(jī)價格的基礎(chǔ)上除以(1+5%)就是飛機(jī)的成本。根據(jù)神經(jīng)網(wǎng)絡(luò)和本文研究的特點(diǎn),此處使用整機(jī)價格并不影響最終結(jié)論的正確性。另外,為了保證結(jié)果的真實(shí)性,表中的整機(jī)價格在軍方審價完成之后,承制方與軍方最終的成交價格。還需要說明的是,有兩個因素可能會影響本案例研究的精確性:一是為了搞好保密工作,本表格提供的數(shù)據(jù)是經(jīng)過了脫密處理的。二是本文樣本的數(shù)量不大,只有用來供神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的樣本只有6個(前面6個型號),用來測試的只有2個(最后的2個型號),這必然會影響結(jié)果的精度。但是只要誤差在本文認(rèn)為的可接受的范圍內(nèi)(≤20%),本文就認(rèn)為研究結(jié)果有效。

2.確定網(wǎng)絡(luò)結(jié)構(gòu)和算法。本案例的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖2。

由上圖可知,該BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)由6個性能指標(biāo)構(gòu)成輸入層,輸出層只有一個節(jié)點(diǎn)即整機(jī)價格。中間的隱層包含7個神經(jīng)元節(jié)點(diǎn)。

本文采用的是MATLAB的BP神經(jīng)網(wǎng)絡(luò)工具箱中的Trainlm函數(shù)建立的模型,它采用的是L-M算法。

3.數(shù)據(jù)標(biāo)準(zhǔn)化、訓(xùn)練和測試。本文采用的MATLAB版本是MATLAB7.70(R2008b),該版本的功能比較強(qiáng)大,對數(shù)據(jù)的要求不像以前的那么嚴(yán)格(以前版本的MATLAB要求節(jié)點(diǎn)輸入和輸出值的大小在[0,1]),所以筆者在并不需要對數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化。這樣不僅能夠減少模型的計(jì)算量,而且還有利于提高最終結(jié)果的精確度。

4.結(jié)果。根據(jù)前文構(gòu)建的軍品成本估算BP模型,以及上文確定的算法和過程,在經(jīng)過了5次迭代后得到結(jié)果見表3。

由上面的結(jié)果可知,對高速無人機(jī)1和高速無人機(jī)2測試的誤差都在20%以內(nèi),是在前文限定的范圍內(nèi),因而筆者認(rèn)為這個結(jié)果是可以接受的。并且,測試結(jié)果表明目前的定價還是略高于計(jì)算值。

四、存在的問題

在將BP神經(jīng)網(wǎng)絡(luò)模型應(yīng)用于無人機(jī)的過程中,筆者認(rèn)為以下幾個方面的問題是比較難把握的。

1.輸入層節(jié)點(diǎn)個數(shù)的控制。就本案例來說,輸入層有6個節(jié)點(diǎn),也就是6個性能指標(biāo)。正如前文所言,選擇的這6個性能指標(biāo)是因?yàn)樗鼈兣c最后的整機(jī)價格有主要關(guān)系。這個判斷主要是根據(jù)專家的判斷和實(shí)際的做法得出來的,所以其中的主觀性很大。如果選擇的尺度或標(biāo)準(zhǔn)稍微有所變化,那么指標(biāo)的個數(shù)就會發(fā)生變化。而且我們?nèi)绻袛嗟降仔枰獛讉€指標(biāo)才能達(dá)到最好的預(yù)測效果。

2.隱層節(jié)點(diǎn)數(shù)的控制。這里包括兩個問題:一是包括幾個隱層?二是隱層中包括幾個節(jié)點(diǎn)。一般來說一個隱層的BP神經(jīng)網(wǎng)絡(luò)就能很好的學(xué)習(xí)和測試,就筆者看到的文獻(xiàn)而言,也主要是一個隱層。關(guān)于隱層中節(jié)點(diǎn)的個數(shù),沒有具體的規(guī)則,只能根據(jù)結(jié)果調(diào)整,這就對研究者使用MATLAB進(jìn)行BP神經(jīng)網(wǎng)絡(luò)建模的經(jīng)驗(yàn)和技術(shù)提出了挑戰(zhàn)。

篇8

關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò) 匯聚節(jié)點(diǎn) 故障 應(yīng)急處理

中圖分類號:TP212 文獻(xiàn)標(biāo)識碼:A 文章編號:1007-9416(2013)12-0135-02

助航燈光單燈監(jiān)控系統(tǒng)可以實(shí)現(xiàn)對機(jī)場助航燈光的監(jiān)控和自動巡檢,在助航燈發(fā)生故障的時候能夠及時將故障信息上報給監(jiān)控中心,進(jìn)而通知工作人員進(jìn)行維修,保障了機(jī)場工作的正常運(yùn)行。但傳統(tǒng)的助航燈光單燈監(jiān)控系統(tǒng)在機(jī)場使用時不可避免地出現(xiàn)了一些問題,比如故障信息誤報、檢測功能單一等等。無線傳感器網(wǎng)絡(luò)作為一門新興的技術(shù),正以其特有的優(yōu)勢越來越廣泛地應(yīng)用到各個領(lǐng)域。本文將無線傳感器網(wǎng)絡(luò)引入機(jī)場助航燈光單燈監(jiān)控系統(tǒng),實(shí)現(xiàn)助航燈的故障診斷,對提高燈光監(jiān)控系統(tǒng)的可靠性,增強(qiáng)機(jī)場地面保障能力,保證飛機(jī)進(jìn)近和著陸安全具有非常重要的意義。

1 無線傳感器網(wǎng)絡(luò)設(shè)計(jì)

1.1 結(jié)構(gòu)設(shè)計(jì)

無線傳感器網(wǎng)絡(luò)的體系結(jié)構(gòu)一般由傳感器節(jié)點(diǎn)、匯聚節(jié)點(diǎn)、管理節(jié)點(diǎn)和互聯(lián)網(wǎng)四部分組成,如圖1所示。

在無線傳感器網(wǎng)絡(luò)中,大量傳感器節(jié)點(diǎn)被隨機(jī)部署在監(jiān)測區(qū)域內(nèi),通過自組織方式形成網(wǎng)絡(luò),對目標(biāo)進(jìn)行監(jiān)測。傳感器節(jié)點(diǎn)獲取的檢測數(shù)據(jù)經(jīng)本地簡單處理后再通過鄰近節(jié)點(diǎn)采用多方式傳輸?shù)阶鳛闊o線傳感器網(wǎng)絡(luò)與外部網(wǎng)絡(luò)通信的網(wǎng)關(guān)節(jié)點(diǎn)的匯聚節(jié)點(diǎn)。匯聚節(jié)點(diǎn)又通過一系列的無線網(wǎng)絡(luò)節(jié)點(diǎn)組成的傳輸網(wǎng)絡(luò)把數(shù)據(jù)發(fā)送到遠(yuǎn)處的基站,基站再通過外部網(wǎng)絡(luò)傳輸?shù)竭h(yuǎn)程數(shù)據(jù)庫。數(shù)據(jù)經(jīng)過處理后通過各種顯示方式提供給終端用戶。同時,用戶和遠(yuǎn)程任務(wù)管理單元也可以通過外部網(wǎng)絡(luò)與匯聚節(jié)點(diǎn)進(jìn)行交互,向傳感器節(jié)點(diǎn)控制命令和查詢請求,并接受傳感器節(jié)點(diǎn)發(fā)來的監(jiān)測目標(biāo)信息。

1.2 節(jié)點(diǎn)框架

通常,匯聚節(jié)點(diǎn)作為無線傳感器網(wǎng)絡(luò)的基節(jié)點(diǎn),在模塊設(shè)計(jì)上與傳感器節(jié)點(diǎn)非常類似,也具有嵌入式微控制器系統(tǒng)、存儲模塊、通信模塊和電源等功能模塊。為了對上行數(shù)據(jù)進(jìn)行融合處理,盡可能減少上行數(shù)據(jù)的總量,因此將數(shù)據(jù)融合模塊作為匯聚節(jié)點(diǎn)的一個組成部分。為了能對上行數(shù)據(jù)進(jìn)行融合處理,提出由嵌入式微控制器系統(tǒng)、數(shù)據(jù)融合模塊、存儲模塊、通信模塊和電源模塊組成強(qiáng)匯聚節(jié)點(diǎn),如圖2所示。

數(shù)據(jù)融合模塊將傳感器網(wǎng)絡(luò)的上行監(jiān)測數(shù)據(jù)進(jìn)行融合判決,再由匯聚節(jié)點(diǎn)將數(shù)據(jù)融合結(jié)果上傳給觀測者。而在帶寬允許的情況下,匯聚節(jié)點(diǎn)再將原始數(shù)據(jù)轉(zhuǎn)發(fā)給基站。這種設(shè)計(jì)可以提升在突發(fā)事件的情況下網(wǎng)絡(luò)的實(shí)時性。該模塊充分利用FPGA可并行計(jì)算的硬件資源和其硬件可配置的特性,實(shí)現(xiàn)高速數(shù)據(jù)融合處理。

2 算法模型

采用的神經(jīng)網(wǎng)絡(luò)算法模型如圖3所示。

對于圖3中的BP前向神經(jīng)網(wǎng)絡(luò)模型,設(shè)輸入層含有M個神經(jīng)元,采用線性恒等激勵函數(shù),對應(yīng)的輸入(第i個樣本)因此為M維向量;隱含層內(nèi)有L個神經(jīng)元,激勵函數(shù)可記為,采用Sigmoid激勵函數(shù);輸出層神經(jīng)元有J個,對應(yīng)的激勵函數(shù)可記為(與隱含層神經(jīng)元的激勵函數(shù)相同)。另外,期望輸出(也稱目標(biāo)輸出、樣本輸出)為J維向量;為輸入層的第m個神經(jīng)元到隱含層的第l個神經(jīng)元之間的連接權(quán)值,而用于表示隱含層第l個神經(jīng)元到輸出層第j個神經(jīng)元之間的連接權(quán)值;并可用和分別表示隱含層第l個神經(jīng)元和輸出層第j個神經(jīng)元的閾值;表示隱含層第l個神經(jīng)元的輸出,它將被傳遞到輸出層神經(jīng)元作為輸入的一部分,而表示輸出層第j個神經(jīng)元的實(shí)際輸出。調(diào)整節(jié)點(diǎn)間連接的權(quán)重就是在訓(xùn)練神經(jīng)網(wǎng)絡(luò)時的工作。最早的也是最基本的權(quán)重調(diào)整方法是錯誤回饋法,現(xiàn)在較新的有變化坡度法、類牛頓法、Levenberg-Marquardt法和遺傳算法等。無論采用哪種訓(xùn)練方法,都需要有一些參數(shù)來控制訓(xùn)練的過程,如防止訓(xùn)練過度和控制訓(xùn)練的速度。

設(shè)該神經(jīng)網(wǎng)絡(luò)的訓(xùn)練集為,其中對應(yīng)輸入,而為樣本輸出(用于對應(yīng)校正圖3所示的神經(jīng)網(wǎng)絡(luò)輸出),為學(xué)習(xí)步長,該參數(shù)用來調(diào)節(jié)神經(jīng)網(wǎng)絡(luò)搜索最優(yōu)權(quán)值的速度和振蕩程度。

3 結(jié)語

本文以機(jī)場助航燈光為背景,對匯聚節(jié)點(diǎn)的數(shù)據(jù)融合算法進(jìn)行了分析討論,在C語言和Quartus II中進(jìn)行仿真,并在FPGA上進(jìn)行驗(yàn)證。通過兩種方法進(jìn)行權(quán)值處理。實(shí)驗(yàn)證明,該方法能提高處理速度與節(jié)約系統(tǒng)資源,并能有效地進(jìn)行故障的應(yīng)急處理。需要說明的是,該算法可推廣至其它神經(jīng)網(wǎng)絡(luò),并在相關(guān)領(lǐng)域中實(shí)用化。

參考文獻(xiàn)

[1]李青云.民用機(jī)場助航燈光監(jiān)控系統(tǒng)現(xiàn)狀及發(fā)展趨勢探究[J].價值工程,2010,29(20):149-149.

[2]王立文,李春,王丙元.助航燈光故障檢測與診斷系統(tǒng)的研究與實(shí)現(xiàn)[J].電氣應(yīng)用,2007,26(6):106-110.

[3]Mourad,E,Nayak,parison-Based System-Level Fault Diagnosis:A Neural Network Approach[J].Parallel and Distributed Systems,2012,23(6):1047-1059.

篇9

關(guān)鍵詞:多元支持向量機(jī) 離心式壓縮機(jī) 故障診斷

The Application of Multi-Support Vector Machines in Fault Diagnosis for Compressors

Yu Huiyuan

(Well-Tech R&D Institutes, COSL, Yanjiao 065201, China)

Abstract: For solving the defect of traditional classificatory with many samples, a new classificatory recognizing faults based on Multi-Support Vector Machine (MSVM) is proposed for centrifugal compressors. SVM is a new machine study method which has excellent advantages in small-sample and multi-dimension binary classification. The new MSVM classificatory can be studied in a few samples rapidly to recognize several kinds of new faults. At the same time, the experiments showed that recognizing correct rate increased more greatly compared with traditional BP method.

Key words: MSVM; centrifugal compressor; fault diagnosis

一、引 言

壓縮機(jī)在工業(yè)生產(chǎn)領(lǐng)域中具有非常重要的作用,由于故障原因造成的啟停機(jī)一次所產(chǎn)生的經(jīng)濟(jì)損失是非常巨大的。如果能夠事先準(zhǔn)確診斷和預(yù)測出設(shè)備出現(xiàn)的各種故障,根據(jù)故障類型和實(shí)際情況采取相應(yīng)的措施,就可以避免或減少經(jīng)濟(jì)損失。機(jī)械故障診斷學(xué)就是通過研究故障和征兆之間的關(guān)系來判斷設(shè)備故障的。旋轉(zhuǎn)機(jī)械的故障形式多種多樣,故障產(chǎn)生的機(jī)理和原因也非常復(fù)雜[1],加之實(shí)際因素的復(fù)雜性,故障和征兆之間表現(xiàn)出的關(guān)系也較為復(fù)雜,即各類故障所反映的特征參數(shù)并不完全相同,這種關(guān)系很難用精確的數(shù)學(xué)模型來表示,這就給現(xiàn)場診斷帶來了極大的困難。雖然神經(jīng)網(wǎng)絡(luò)具有充分逼近任意復(fù)雜非線性關(guān)系的能力和分類能力,但存在局部極小值、算法收斂速度慢、受網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜性和樣本復(fù)雜性的影響較大、容易出現(xiàn)“過學(xué)習(xí)”或泛化能力低等缺點(diǎn)[2,3]。

支持向量機(jī)是一種新的機(jī)器學(xué)習(xí)方法,它較好的解決了非線性數(shù)據(jù)的分類問題,在小樣本和二元分類方面有非常突出的優(yōu)點(diǎn)。本文在分析了支持向量機(jī)的特點(diǎn)后,提出一種基于多元支持向量機(jī)的離心式壓縮機(jī)轉(zhuǎn)子故障分類識別方法,可以在較少樣本情況下完成對分類器的學(xué)習(xí)訓(xùn)練工作,從而達(dá)到提高故障診斷效率的目的。

二、支持向量機(jī)分類原理

支持向量機(jī)不同于神經(jīng)網(wǎng)絡(luò)基于經(jīng)驗(yàn)的算法,它是實(shí)現(xiàn)結(jié)構(gòu)風(fēng)險最小化原則的一種學(xué)習(xí)算法,是利用核函數(shù)把特征樣本映射到高維特征空間,然后在此空間中構(gòu)造分類間隔最大的線性分類超平面,所以支持向量機(jī)比較適合于小樣本數(shù)據(jù)的分類。其基本思想如圖 1 所示,圖中圓點(diǎn)和三角點(diǎn)分別表示兩類訓(xùn)練樣本,H 為把兩類樣本完全無誤分開的分類線,H1、H2 分別為通過樣本中離分類線最近的樣本且平行于分類線的直線,它們之間的間隔為分類間隔,圖中的樣本點(diǎn)就是支持向量。該最優(yōu)面不但可將兩類樣本無誤的分開,而且還要使分類間隔最大。前者保證經(jīng)驗(yàn)風(fēng)險最小,后者使問題的真實(shí)風(fēng)險最小[4]。

不同的核函數(shù)將導(dǎo)致不同的支持向量機(jī)算法,常見的核函數(shù)包括多項(xiàng)式內(nèi)積函數(shù)、徑向基函數(shù)、S型內(nèi)積函數(shù)等[5]。

三、基于MSVM的故障識別分類器

(一)基于MSVM的故障識別分類模型

由于SVM是二元分類器,診斷過程中,故障通常有多種類型。要對多種故障模式進(jìn)行識別,必須構(gòu)造一種多元分類器才能進(jìn)行這種多種模式的識別。通常通過組合多個兩類分類器的方法來實(shí)現(xiàn)多值分類器的分類,目前此類方法主要有以下幾類算法:一對一算法(one-against-one,簡稱1-v-1)、一對多算法(one -versus-rest,簡稱1-v-r)和決策導(dǎo)向無環(huán)圖算法(Decision Directed Acyclic Graph,DDAG)等幾種,可參見文獻(xiàn)[5,6]。通過比較分析,筆者采用一對一方法構(gòu)造多元分類器[5],其基本思想是:對N元分類問題建立N(N-1)/2個SVM,每兩類之間訓(xùn)練一個SVM將彼此分開。這種方法優(yōu)點(diǎn)是單個SVM訓(xùn)練規(guī)模較小,分類器的推廣能力強(qiáng)。

采用多元分類器訓(xùn)練數(shù)據(jù)樣本后,在預(yù)測新樣本時,使用成對的SVM進(jìn)行比較,每次產(chǎn)生一個優(yōu)勝者(即獲得一個類別),然后在優(yōu)勝者之間再次進(jìn)行比較,直到最后僅剩一個優(yōu)勝者。實(shí)際上,在預(yù)測新樣本時,并不需要對每兩類之間的優(yōu)勝者再次進(jìn)行競爭淘汰,只需比較兩類之間獲勝次數(shù)最多的類,即為新樣本所屬的故障類別。

(二)分類器的學(xué)習(xí)訓(xùn)練方法

本文的MSVM分類器訓(xùn)練程序采用的是LIBSVM開發(fā)函數(shù)庫,在沒有先驗(yàn)知識前提下使用徑向基函數(shù)作為核函數(shù)。實(shí)驗(yàn)表明,通常情況下該核函數(shù)的分類效果略優(yōu)于其他核函數(shù)。基于MSVM的故障分類識別分類器工作過程主要有學(xué)習(xí)訓(xùn)練和識別兩個階段,如圖2所示。

圖2 模分類器的工作過程

四、壓縮機(jī)故障診斷實(shí)例

在離心式壓縮機(jī)等旋轉(zhuǎn)機(jī)械中,不平衡、不對中及油膜振蕩是轉(zhuǎn)子部件幾種較常見的故障。目前人工智能方法在故障診斷領(lǐng)域已經(jīng)得到較好的應(yīng)用效果。但是,基于神經(jīng)網(wǎng)絡(luò)的診斷方法通常需要用大量的故障特征樣本對模型進(jìn)行訓(xùn)練,才能得到較為可靠的識別模型。然而,在機(jī)械設(shè)備實(shí)際故障樣本的收集過程中,采集到的樣本比較有限,尤其是某些故障樣本的收集十分困難,這極大地限制了檢測模型在模式分類過程中對訓(xùn)練樣本的需求。而支持向量機(jī)在小樣本和高維特征分類方面有突出優(yōu)勢,本文以離心式壓縮機(jī)組轉(zhuǎn)子故障為例,采用上述MSVM方法建立故障診斷模型。

(一)壓縮機(jī)轉(zhuǎn)子故障診斷模型設(shè)計(jì)

以轉(zhuǎn)子不平衡、不對中及油膜振蕩三種常見故障作為示例樣本建立故障識別模型,將轉(zhuǎn)子不平衡故障作為一類,轉(zhuǎn)子不對中作為一類,油膜振蕩作為一類。由于SVM是二元分類器,對于多種故障形式識別,必須構(gòu)造一種多元分類器才能進(jìn)行識別。由于本文采用一對一方法構(gòu)造多元分類器建立故障識別模型,當(dāng)需要對以上三種故障形式進(jìn)行識別時,共需要構(gòu)建3個SVM分類器。用SVM1來區(qū)分轉(zhuǎn)子不平衡與不對中,SVM2識別轉(zhuǎn)子不對中與油膜振蕩,SVM3識別油膜振蕩與轉(zhuǎn)子不平衡。通過每兩類樣本分別對三個SVM分類器進(jìn)行學(xué)習(xí)訓(xùn)練來尋求最優(yōu)分類函數(shù),以達(dá)到對建立識別模型的目的,模型如圖3。

圖3 多類故障識別模型

對于部件的有更多種故障模式存在的情況下,只需獲取該部件對應(yīng)故障狀態(tài)下的特征樣本,在原有模型基礎(chǔ)上增加分類器即可,方法同上。不過對于多種故障模式下多元支持向量機(jī)模型的選擇需要在速度、模型復(fù)雜度、識別效率等方面進(jìn)行綜合考慮。

(二)測試結(jié)果

為了考查模型的泛化能力,對診斷模型進(jìn)行學(xué)習(xí)訓(xùn)練后,用訓(xùn)練后的分類器對45個測試樣本進(jìn)行分類試驗(yàn)。利用兩類之間比較獲勝次數(shù)最多的類,即為新樣本所屬的故障類別,如勝次相等,則為識別失敗。表1為各類故障的分類識別結(jié)果。除3個待測故障的識別結(jié)果不太理想外,其余故障類型的識別結(jié)果都相當(dāng)理想,本分類器的總體泛化能力為93.3%,結(jié)果令人滿意。由此可見,該模型具有較好的泛化識別能力。

表1 識別結(jié)果

(三)與神經(jīng)網(wǎng)絡(luò)方法比較

為了與神經(jīng)網(wǎng)絡(luò)方法進(jìn)行比較,同樣利用故障樣本對BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練時發(fā)現(xiàn),由于樣本數(shù)量較少,網(wǎng)絡(luò)訓(xùn)練陷入局部極值點(diǎn),訓(xùn)練失敗。因而表明MSVM能在較少樣本情況下實(shí)現(xiàn)對分類器的學(xué)習(xí)訓(xùn)練。利用兩組樣本總和重新訓(xùn)練,在與BP神經(jīng)網(wǎng)絡(luò)同樣的樣本集均方誤差情況下,發(fā)現(xiàn)其測試集均方誤差一般比BP神經(jīng)網(wǎng)絡(luò)精度高;當(dāng)訓(xùn)練樣本集數(shù)目增加時,兩者的泛化能力都有所提高,但BP神經(jīng)網(wǎng)絡(luò)提高速度要快于支持向量機(jī);當(dāng)樣本集變化時,MSVM的測試集均方誤差變化幅度小于BP神經(jīng)網(wǎng)絡(luò),這些都說明了MSVM對訓(xùn)練樣本數(shù)據(jù)的依賴程度比神經(jīng)網(wǎng)絡(luò)小。

取不同的收斂閾值對神經(jīng)網(wǎng)絡(luò)分類模型進(jìn)行訓(xùn)練,并將它與MSVM方法的識別結(jié)果進(jìn)行對比,如表2所示。從表中可以看到,支持向量機(jī)分類器的泛化識別能力明顯優(yōu)于神經(jīng)網(wǎng)絡(luò)分類器,可能是由于神經(jīng)網(wǎng)絡(luò)方法往往陷入過學(xué)習(xí),即所謂的經(jīng)驗(yàn)風(fēng)險最小化,造成分類器推廣能力泛化差于支持向量機(jī)。

表2 MSVM方法和BP神經(jīng)網(wǎng)絡(luò)方法識別結(jié)果對比

五、結(jié)論

由于支持向量機(jī)在小樣本分類識別方面有獨(dú)特優(yōu)勢,基于此設(shè)計(jì)了多元支持向量機(jī)的壓縮機(jī)故障分類識別模型。試驗(yàn)證明,利用支持向量機(jī)對壓縮機(jī)轉(zhuǎn)子故障模式進(jìn)行識別的方法是可靠和有效的,即使在小樣本情況下,該方法仍可以有效地診斷出壓縮機(jī)關(guān)鍵部件的工作狀態(tài)和故障類型,解決故障診斷中少樣本情形下模型訓(xùn)練不足和識別效率低的問題。因此,支持向量機(jī)在故障診斷領(lǐng)域是一種值得推廣的方法。

參考文獻(xiàn)

[1] 李小彭,羅躍綱,白秉三.模糊綜合評判在機(jī)械故障診斷中的應(yīng)用[J].沈陽工業(yè)大學(xué)學(xué)報.2002,24(5):439-442

[2] 朱君,高宇,葉鑫銳. 基于BP神經(jīng)網(wǎng)絡(luò)的螺桿泵井故障診斷方法[J].石油機(jī)械. 2008, 36(1):42-44

[3] 趙海洋,王金東,劉樹林,等.基于神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)的復(fù)合故障診斷技術(shù)[J].流體機(jī)械,2008,36(1):39-42

[4] 張學(xué)工.關(guān)于統(tǒng)計(jì)學(xué)習(xí)理論與支持向量機(jī)[J].自動化學(xué)報.2000,26(1):32-42

篇10

A

Hierarchy feature recognition based on feature face

PENG Sizhen, HAO Yongtao

(CAD Research Center, Tongji Univ., Shanghai 200092, China)

Abstract: To decrease the complexity of feature recognition, a hierarchy feature classification method based on feature entity, feature concrete face and feature virtual face is proposed. A hierarchy feature recognition method based on feature face is implemented by constructing two kinds of neural network input matrixes, and taking advantage of neural network in feature recognition. The example demonstrates that the method is more effective in recognizing feature of which the material is removed, but the range of feature recognition is somewhat limited.Key words:feature face; feature recognition; neural network

な嶄迦掌冢2010[KG*9〗07[KG*9〗12 修回日期:2010[KG*9〗09[KG*9〗16ぷ髡嘸蚪椋 彭思楨(1986―),男,山東臨沂人,碩士研究生,研究方向?yàn)橹悄蹸AD,(Email);ず掠咎(1973―),男,山東威海人,副教授,博士,研究方向?yàn)槠髽I(yè)信息集成系統(tǒng)、知識處理與挖掘、智能設(shè)計(jì)、分布式智能系統(tǒng)和ば檳庀質(zhì)導(dǎo)際醯齲(Email)0 引 言

雖然對產(chǎn)品生產(chǎn)的自動化、智能化研究很多,但在工業(yè)上的應(yīng)用效果并不理想.當(dāng)前產(chǎn)品數(shù)據(jù)主要以較低層次的形式存儲為主,如CSG和Brep這2種產(chǎn)品數(shù)據(jù)表示方法并不適合直接應(yīng)用到產(chǎn)品設(shè)計(jì)之后的加工和制造中,特征識別技術(shù)的提出正逐步解決這個問題.

[1]

當(dāng)前已提出很多種特征識別方法,如基于規(guī)則的、基于圖的、基于幾何解釋的和基于體積分解的,這些方法都通過與特征庫中已定義的特征類型進(jìn)行比較來識別特征.但是,特征庫不可能包含所有的特征類型,也不可能為特征庫中所有的特征類型添加約束信息.另外,這些方法還存在效率低和沒有學(xué)習(xí)能力等缺陷.

[2]人工神經(jīng)網(wǎng)絡(luò)具有學(xué)習(xí)和反饋的能力,在分類和特征識別領(lǐng)域有極大優(yōu)勢.

[3]

特征的類型越來越多,對特征進(jìn)行準(zhǔn)確、有效的分類是特征識別的基礎(chǔ),利用層次性分類方法可縮小特征對應(yīng)的范圍,從一定程度上降低特征識別的復(fù)雜度.層次性特征分類必然要求多層次的人工神經(jīng)網(wǎng)絡(luò)輸入表示.

本文提出層次性特征分類方法以及特征實(shí)體、特征實(shí)面、特征虛面的概念,構(gòu)造2個人工神經(jīng)網(wǎng)絡(luò)輸入表示矩陣,用人工神經(jīng)網(wǎng)絡(luò)識別不同層次的特征,并研究人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和訓(xùn)練方法.特征識別框架見圖1.ね 1 特征識別框架1 特征分類及表示1.1 特征分類

目前存在許多特征的分類方式,STEPAP224是被廣泛應(yīng)用的特征分類方法之一.在STEPAP224中,加工特征被定義為1種生成特征,這種生成特征識別出為獲得最終幾何形狀需從初始塊中移除的材料體積;定義16種加工特征,如洞和狹槽等.作為1種國際標(biāo)準(zhǔn),STEPAP224在特征分類上存在一定優(yōu)勢,但仍有以下缺點(diǎn)

[4]:(1)分類不嚴(yán)密,存在某些重疊的情況;(2)分類不完整,未包含所有的基礎(chǔ)加工實(shí)體;(3)加工特征的定義不準(zhǔn)確,STEPAP224定義移除材料的加工特征,但不適合定義添加材料的特征.為克服上述缺點(diǎn),提出產(chǎn)品層次特征分類,見圖2.ね 2 產(chǎn)品層次特征分類じ梅椒ǘ隕產(chǎn)中各個角度的加工特征進(jìn)行層次分類,本文重點(diǎn)研究產(chǎn)品內(nèi)延特征,其在第1層中包含5種基本特征類型,詳細(xì)的分類層次見表1. 基于層次的特征分類方法不僅可清晰地描述各類特征之間的關(guān)系,而且可通過層次性特征識別減少特征識別的復(fù)雜度.每層特征的數(shù)量較少,使每個特征類型具有1個輸出神經(jīng)元成為可能.表 1 內(nèi)延特征層次分類原始層內(nèi)延特征第1層圓孔圓錐孔槽袋階梯第2層通孔盲孔通圓錐孔盲圓錐孔通槽盲槽封閉袋開口袋通階梯盲階梯1.2 特征表示方法

有效的特征表示是構(gòu)造特征識別的基礎(chǔ),目前廣泛使用的特征表示方法是AAM(Attributed Adjacency Matrix),其由AAG(Attributed Adjacency Graph)轉(zhuǎn)化而來,主要描述特征模型的幾何和拓?fù)湫畔?該方法存在以下缺點(diǎn)

[5]:(1)表達(dá)形式不唯一,對于不同的特征,AAG可能具有相同的表達(dá);(2)隨著組成特征的面的增加,矩陣的大小急劇增加;(3)不僅需要利用啟發(fā)式方法將AAG分解成幾個子圖,而且需要通過詢問1組關(guān)于AM(Adjacency Matrix)布局和子圖面數(shù)量的12個問題將每個矩陣轉(zhuǎn)換為表示向量;(4)可識別的特征的范圍有限,不能識別涉及到第2特征面的特征,如T槽.

為解決表達(dá)形式不唯一的問題,提出1組新概念,用以形成新的輸入表示構(gòu)造方法.

特征實(shí)體 實(shí)體等價于為得到某個外部特征的輪廓而加載到原始材料上的體積.

特征實(shí)面 物理上包含模型外部特征的基本形狀的面,屬可見的特征面.

特征虛面 與特征實(shí)面一起構(gòu)成特征實(shí)體的邊界面,是為描述特征實(shí)體虛擬出來的1種不可見的特征實(shí)體面,在描述特征實(shí)體時使其具有可見性.

圖3為特征實(shí)體、特征實(shí)面、特征虛面及特征拓?fù)浣Y(jié)構(gòu).特征虛面、特征實(shí)面表達(dá)內(nèi)延特征的拓?fù)浣Y(jié)構(gòu)也可擴(kuò)展到外延特征中,此時的特征虛面以特征之間相交面的形式出現(xiàn).

(a)零件中的特征(b)移除的特征實(shí)體(c)特征拓?fù)浣Y(jié)構(gòu)圖 3 特征實(shí)體、特征實(shí)面、特征虛面及特征拓?fù)浣Y(jié)構(gòu)2 人工神經(jīng)網(wǎng)絡(luò)的輸入

以圖3的特征拓?fù)浣Y(jié)構(gòu)為基礎(chǔ),結(jié)合層次性特征分類方法,構(gòu)造2類人工神經(jīng)網(wǎng)絡(luò)輸入以識別不同層次的特征.2.1 第1層輸入構(gòu)造

為實(shí)現(xiàn)表達(dá)形式的唯一性,從特征實(shí)體面的類型與特征面之間的角度關(guān)系出發(fā),對組成特征實(shí)體的特征實(shí)面進(jìn)行有序化處理.首先構(gòu)造1個特征實(shí)面權(quán)重函數(shù),其作用是根據(jù)組成特征的各個面的類型及相互間連接關(guān)系,對各個特征面進(jìn)行賦值,形成特征實(shí)面序列構(gòu)造的基礎(chǔ),其形式為ИW=S×10-T+v×0.1И式中:S為與當(dāng)前實(shí)面鄰接的特征實(shí)面數(shù)量;T為與當(dāng)前實(shí)面鄰接的特征虛面數(shù)量;v為面類型值.以圖3為例,實(shí)面1與實(shí)面2,3和4鄰接,故S=3;與虛面1鄰接,故其T=1.面類型與面值的對應(yīng)關(guān)系見表2.け 2 面類型與面值的對應(yīng)關(guān)系面類型柱形面部分柱形面圓錐面部分圓錐面半圓面平面面值123456采用深度搜索方法進(jìn)行特征面序列構(gòu)造.首先選中權(quán)重最小的面,從此面出發(fā),優(yōu)先選擇與此面連接且權(quán)重最小的面作為序列的下一元素,否則選擇具有較小相交角度的面作為序列的下一元素,直到所有特征實(shí)面都加入到序列中為止.圖4為某特征面序列構(gòu)造的過程.け嗪糯選特征面目標(biāo)序列1{f1, f2, f3, f4}NULL2{f2, f3, f4}f13{f2, f3}f1, f44{f2}f1, f4, f35NULLf1, f4, f3, f2圖 4 特征面序列構(gòu)造的過程ひ醞4序列為基礎(chǔ),如果特征實(shí)面數(shù)量超過5,需進(jìn)行簡化處理:如圖5(a)所示的包含7個特征實(shí)面的特征,根據(jù)其拓?fù)浣Y(jié)構(gòu)信息可簡化為圖5(b)中含有5個特征實(shí)面的形式,構(gòu)造如圖5(c)所示的特征實(shí)面鄰接圖. (a) 7個特征實(shí)面的特征(b) 5個特征實(shí)面的特征 ぃc)簡化的特征實(shí)面鄰接圖ね 5 復(fù)雜特征的簡化と綣特征面滿足如下規(guī)則,則可進(jìn)行簡化處理.

規(guī)則1 如果面fi,f

ij

利用特征實(shí)面鄰接矩陣可識別特征的5個基本類型,為方便CAPP(Computer Aided Process Planning)的應(yīng)用,需更細(xì)化地識別特征類型.

[6]為此,構(gòu)造特征虛面方向矩陣.特征虛面方向矩陣是個6×6的矩陣,它描述在+x,+y,+z,-x,-y和-z 6個方向上虛面的連接性,用V[i,i]表示在i方向是否存在特征虛面.如果i≠j,則V[i,j]表示在i方向上和j方向上的虛面是否存在連接性.類似地,特征虛面方向矩陣也是對稱的.為簡化輸入,將21位的編碼作為人工神經(jīng)網(wǎng)絡(luò)的輸入.圖7為特征虛面方向矩陣實(shí)例.ね 7 特征虛面方向矩陣實(shí)例3 人工神經(jīng)網(wǎng)絡(luò)的構(gòu)造和訓(xùn)練

由于采用層次性特征分類方法,故構(gòu)造如下的1個層次性特征識別網(wǎng)絡(luò).(1)第1層用于識別5個基礎(chǔ)特征類.識別中用到特征實(shí)面鄰接矩陣輸入向量,且輸出神經(jīng)元代表特征類型.對于特征識別,同時激活2個類不可行,因此只有1個輸出神經(jīng)元被激活,即其值大于閾值

0.5.如果1個或更多的輸出神經(jīng)元被激活,代表網(wǎng)絡(luò)的模式不屬于1個已知類型.為確定人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),須調(diào)整隱藏層的數(shù)量、每個隱藏層神經(jīng)元的數(shù)量以及調(diào)整學(xué)習(xí)率.含有17個神經(jīng)元的3層結(jié)構(gòu)的隱藏層被證明最合適.(2)第2層基于第1層,方便CAPP應(yīng)用程序更進(jìn)一步的識別.第2層中識別的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)被設(shè)計(jì)成相同的步驟.如通過各種試驗(yàn),狹槽或階梯分類器以特征虛面方向矩陣為輸入,輸入層包含21個神經(jīng)元,每個隱藏層包含18個神經(jīng)元,輸出層包含2個神經(jīng)元.(3)最后,利用經(jīng)常被用在特征識別系統(tǒng)中的BP算法進(jìn)行網(wǎng)絡(luò)訓(xùn)練.4 基于特征面的層次識別方法實(shí)例

以所構(gòu)造的人工神經(jīng)網(wǎng)絡(luò)輸入矩陣、人工神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)以及訓(xùn)練為基礎(chǔ),用圖6和7所示的實(shí)例驗(yàn)證該方法的有效性.

(1)構(gòu)造特征實(shí)面鄰接矩陣.輸入層的輸入序列為6 3 0 4 0 6 3 3 0 6 4 0 6 0 0,將其輸入3層(15個神經(jīng)元的輸入層、7個神經(jīng)元的隱藏層以及5個神經(jīng)元的輸出層)的人工神經(jīng)網(wǎng)絡(luò)中,得到的識別見表3.

表 3 袋特征識別結(jié)果特征類型圓孔圓錐孔一般孔槽/階梯袋耦合度0.000 49.573E-60.009 320.015 120.981 9ぃ2)構(gòu)造特征虛面方向矩陣.輸入層的輸入序列為1 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0,將其輸入3層人工神經(jīng)網(wǎng)絡(luò)(21個神經(jīng)元的輸入層、18個神經(jīng)元的隱藏層以及2個神經(jīng)元的輸出層)中,得到的識別結(jié)果見表4.

表 4 開口袋特征識別結(jié)果特征類型封閉袋開口袋耦合度0.002 50.991 4び墑道可知,本文提出的方法可識別相對簡單的特征.5 結(jié)束語

從層次性特征分類方法出發(fā),借助特征的特征面構(gòu)造用于層次性特征識別的2類人工神經(jīng)網(wǎng)絡(luò)表示矩陣.該方法在識別去除材料的特征時比較有效,可更好地應(yīng)用到CAPP中,提高生產(chǎn)的自動化和智能化,但也限制該方法識別特征的范圍.擴(kuò)大特征識別的范圍及對特征關(guān)系的識別是后續(xù)研究的重點(diǎn).參考文獻(xiàn):

[1] DING Lian, YUE Yong. Novel ANNbased feature recognition incorporating design by features[J]. Computers Industry, 2004, 55(2): 197222.

[2] ZZTaRK N, ZZTaRK F. Neural network based nonstandard feature recognition to integrate CAD and CAM[J]. ComputersIndustry, 2001,

45(2): 123135.

[3] DING Lian, MATTHEWS J. A contemporary study into the application of neural network techniques employed to automate CAD/CAM integration for die manufacture[J]. Computers & Ind Eng, 2009, 57(4): 14571471.

[4] TSENG YuanJye. A modular modeling approach by integrating feature recognition and featurebased design[J]. Computers Industry, 1999,