混沌時(shí)間序列預(yù)測(cè)與儲(chǔ)備池機(jī)器學(xué)習(xí)方法研究.pdf

1、本文以混沌時(shí)間序列的儲(chǔ)備池預(yù)測(cè)方法為題進(jìn)行研究，以期探索儲(chǔ)備池的非線性處理機(jī)制，另覓新的機(jī)器學(xué)習(xí)方法，主要研究?jī)?nèi)容包括： 1、分析和建立混沌時(shí)間序列的儲(chǔ)備池預(yù)測(cè)模型。對(duì)于一些確定性混沌序列，基于儲(chǔ)備池的迭代預(yù)測(cè)方法性能卓越，但其結(jié)構(gòu)設(shè)置缺乏合理解釋，而且到目前為止，這種方法較好地應(yīng)用于含噪聲的混沌時(shí)間序列。針對(duì)這些問(wèn)題，本文首先證明此類(lèi)模型對(duì)非線性系統(tǒng)狀態(tài)軌跡的逼近特性，并探討初始狀態(tài)設(shè)置的任意性。其次，本文將儲(chǔ)備池模型分為三類(lèi)

2、：常規(guī)狀態(tài)反饋結(jié)構(gòu)、輸出反饋結(jié)構(gòu)和前饋(靜態(tài))結(jié)構(gòu)，而著名的迭代預(yù)測(cè)方法則可由輸出反饋結(jié)構(gòu)加以分析。通過(guò)進(jìn)一步對(duì)比這三類(lèi)結(jié)構(gòu)，本文提出了基于儲(chǔ)備池的混沌序列直接預(yù)測(cè)方法，該方法利用預(yù)測(cè)原點(diǎn)和預(yù)測(cè)時(shí)域之間的關(guān)系直接構(gòu)建預(yù)測(cè)器。相對(duì)于已有的迭代方法，本文所建直接預(yù)測(cè)器的穩(wěn)定性可預(yù)先加以保障，遂避免由于網(wǎng)絡(luò)附加回路閉合而產(chǎn)生的穩(wěn)定性和誤差積累問(wèn)題。 2、提出儲(chǔ)備池正則化學(xué)習(xí)方法。在現(xiàn)有的儲(chǔ)備池學(xué)習(xí)方法中，存在較為嚴(yán)重的不適定性，表現(xiàn)為

3、奇異值分布較連續(xù)、條件數(shù)較大，得到的輸出權(quán)值幅值較大，從而為儲(chǔ)備池的應(yīng)用埋下了隱患。針對(duì)這個(gè)問(wèn)題，本文提出儲(chǔ)備池的正則化學(xué)習(xí)方法。該方法可通過(guò)奇異值截?cái)嗷驊土P方法實(shí)現(xiàn)，其中，截?cái)喾椒ㄖ苯犹幚聿B(tài)的系數(shù)矩陣，通過(guò)矩陣的奇異值截?cái)啵釛壿^小的奇異值以解決不適定問(wèn)題；懲罰方法則采用嶺回歸形式，改善待因子化矩陣的性質(zhì)，使其對(duì)稱正定，因而可通過(guò)高效的Cholesky或高斯消元法進(jìn)行求解。此外，本文還探討了正則化方法應(yīng)用于含噪聲混沌序列預(yù)測(cè)的理論問(wèn)

4、題。假設(shè)時(shí)間序列所含的噪聲有界，從變量含誤差(Errors-in-variables)模型的角度，可得到由噪聲所引起的最壞預(yù)測(cè)誤差。通過(guò)最小化該誤差，便得到含噪混沌序列的魯棒最優(yōu)預(yù)測(cè)模型，該模型具有懲罰正則化的形式。 3、基于儲(chǔ)備池方法，提出無(wú)核非線性支持向量機(jī)模型。傳統(tǒng)的核方法實(shí)現(xiàn)了一種靜態(tài)映射，但較難實(shí)現(xiàn)遞歸結(jié)構(gòu)，因此無(wú)法直接處理動(dòng)態(tài)模式。儲(chǔ)備池具有“遞歸核”的功能，并可較好地應(yīng)用于動(dòng)態(tài)系統(tǒng)辨識(shí)。基于此，本文結(jié)合儲(chǔ)備池的特點(diǎn)

5、和傳統(tǒng)支持向量機(jī)的處理方法，提出一種不依賴核的非線性支持向量機(jī)一支持向量回聲狀態(tài)機(jī)(SupportVectorEcho-StateMachines，SVESMs)。SVESMs的主要特點(diǎn)是不依賴核方法構(gòu)建隱式的特征空間，它采用隨機(jī)生成的儲(chǔ)備池來(lái)處理非線性系統(tǒng)建模問(wèn)題，在高維的儲(chǔ)備池狀態(tài)空間中進(jìn)行計(jì)算。這種方法便于實(shí)現(xiàn)結(jié)構(gòu)風(fēng)險(xiǎn)最小化(StructuralRiskMinimization)，并可根據(jù)問(wèn)題的不同引入不同的代價(jià)函數(shù)，當(dāng)采用魯棒損