人工神經(jīng)網(wǎng)絡(luò)的泛化性能與降水預(yù)報的應(yīng)用研究.pdf

1、人工神經(jīng)網(wǎng)絡(luò)是一種模擬人腦信息處理方法的非線性系統(tǒng)，具有較強的處理非線性問題的能力，比較適合于一些信息復(fù)雜、知識背景不清楚和推理規(guī)則不明確問題(如短期降水預(yù)報問題)的建模。隨著神經(jīng)網(wǎng)絡(luò)方法在大氣科學(xué)領(lǐng)域研究的不斷深入，研究人員發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)方法在實際天氣預(yù)報業(yè)務(wù)應(yīng)用中存在一個重要的問題一人工神經(jīng)網(wǎng)絡(luò)預(yù)報模型泛化性能問題。該問題的研究不僅關(guān)系到在大氣學(xué)科中能否進一步深入開展有關(guān)人工神經(jīng)網(wǎng)絡(luò)方法的預(yù)報業(yè)務(wù)應(yīng)用，并且也是目前人工神經(jīng)網(wǎng)絡(luò)應(yīng)用理論

2、研究中尚未得到很好解決的關(guān)鍵技術(shù)問題。人工神經(jīng)網(wǎng)絡(luò)的理論和應(yīng)用研究表明，網(wǎng)絡(luò)的泛化性能與網(wǎng)絡(luò)的結(jié)構(gòu)、網(wǎng)絡(luò)的參數(shù)和樣本的質(zhì)量密切相關(guān)。然而，對于某個具體的短期天氣預(yù)報神經(jīng)網(wǎng)絡(luò)模型，在建模過程中如何確定適合的網(wǎng)絡(luò)結(jié)構(gòu)，如何優(yōu)化網(wǎng)絡(luò)參數(shù)，使建立的神經(jīng)網(wǎng)絡(luò)模型具有較好的泛化性能卻是一個難題，目前，通常采用的方法是通過反復(fù)試驗來確定網(wǎng)絡(luò)的結(jié)構(gòu)和各種參數(shù)，而這樣，往往會導(dǎo)致網(wǎng)絡(luò)出現(xiàn)過擬合問題，從而嚴重影響網(wǎng)絡(luò)的泛化能力。 在采用神經(jīng)網(wǎng)絡(luò)方法

3、進行實際的氣象預(yù)報應(yīng)用時，由于目前在國內(nèi)外的神經(jīng)網(wǎng)絡(luò)預(yù)報建模理論方法研究中，尚未有確定神經(jīng)網(wǎng)絡(luò)預(yù)報模型的網(wǎng)絡(luò)結(jié)構(gòu)的客觀定量方法，并且網(wǎng)絡(luò)模型的訓(xùn)練次數(shù)(網(wǎng)絡(luò)模型對訓(xùn)練樣本的擬合精度)變化對預(yù)報模型的泛化性能有重要影響，因此，如何客觀確定最適宜的網(wǎng)絡(luò)結(jié)構(gòu)，提高神經(jīng)網(wǎng)絡(luò)預(yù)報模型的泛化性能問題，不僅是目前人工神經(jīng)網(wǎng)絡(luò)預(yù)報建模理論需要深入研究的科學(xué)問題，也是目前利用人工神經(jīng)網(wǎng)絡(luò)方法進行業(yè)務(wù)天氣預(yù)報應(yīng)用最迫切需要解決的核心技術(shù)。 針對在短

4、期天氣預(yù)報神經(jīng)網(wǎng)絡(luò)建模過程中難于確定網(wǎng)絡(luò)的結(jié)構(gòu)和優(yōu)化網(wǎng)絡(luò)參數(shù)的問題，本文提出了利用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的連接權(quán)和網(wǎng)絡(luò)結(jié)構(gòu)，并在遺傳進化過程中采取保留最佳個體，從而客觀確定短期天氣預(yù)報神經(jīng)網(wǎng)絡(luò)模型的網(wǎng)絡(luò)結(jié)構(gòu)方法。并以廣西區(qū)域降水短期預(yù)報神經(jīng)網(wǎng)絡(luò)模型和南海西行臺風(fēng)強度短期預(yù)報神經(jīng)網(wǎng)絡(luò)模型為例進行研究，有以下主要的結(jié)論： (1)用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的連接權(quán)、網(wǎng)絡(luò)結(jié)構(gòu)，并在進化過程中采取保留最佳個體的方法，解決了由于神經(jīng)網(wǎng)絡(luò)初始權(quán)值的

5、隨機性和網(wǎng)絡(luò)結(jié)構(gòu)確定過程中所帶來的網(wǎng)絡(luò)振蕩，以及容易陷入局部解的問題。短期降水預(yù)報的神經(jīng)網(wǎng)絡(luò)預(yù)報模型和南海西行臺風(fēng)強度短期預(yù)報神經(jīng)網(wǎng)絡(luò)模型實例的計算結(jié)果表明，這種新方法避免了一般神經(jīng)網(wǎng)絡(luò)依靠經(jīng)驗確定網(wǎng)絡(luò)結(jié)構(gòu)的困難。 (2)用遺傳算法來確定神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，優(yōu)化神經(jīng)網(wǎng)絡(luò)的連接權(quán)，使神經(jīng)網(wǎng)絡(luò)具有最優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)。結(jié)果表明，所建立的遺傳一神經(jīng)網(wǎng)絡(luò)模型其泛化能力遠優(yōu)于一般的神經(jīng)網(wǎng)絡(luò)預(yù)報模型。 針對在短期天氣預(yù)報神經(jīng)網(wǎng)絡(luò)建模過程中訓(xùn)練樣

6、本的復(fù)雜性影響神經(jīng)網(wǎng)絡(luò)的泛化性能問題，本文進一步通過研究網(wǎng)絡(luò)模型學(xué)習(xí)矩陣的復(fù)共線性關(guān)系對預(yù)報模型泛化能力的影響，提出了采用主成分分析(PAC)建立神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)矩陣的新方法，以消除學(xué)習(xí)矩陣的復(fù)共線性關(guān)系，有效地避免神經(jīng)網(wǎng)絡(luò)過擬合現(xiàn)象的出現(xiàn)，從而提高神經(jīng)網(wǎng)絡(luò)的泛化性能。并以廣西區(qū)域短期降水預(yù)報為例進行神經(jīng)網(wǎng)絡(luò)建模，結(jié)果發(fā)現(xiàn)，在預(yù)報模型輸入節(jié)點相同的情況下，較小的網(wǎng)絡(luò)結(jié)構(gòu)或網(wǎng)絡(luò)結(jié)構(gòu)增大時，無復(fù)共線性關(guān)系的神經(jīng)網(wǎng)絡(luò)預(yù)報模型與存在復(fù)共線性關(guān)系的神