多核學(xué)習(xí)方法在分類問(wèn)題中的應(yīng)用研究.pdf

1、核學(xué)習(xí)方法在模式識(shí)別領(lǐng)域中被廣泛應(yīng)用?，F(xiàn)有的單核學(xué)習(xí)方法在推廣能力、迭代時(shí)間和魯棒性等方面不夠理想,多核SVM(Support vector machine,支持向量機(jī))作為單核SVM的延伸與發(fā)展,具有更好的推廣能力和更好的魯棒性。
　　在分析了多核SVM理論的基礎(chǔ)上,研究了多核SVM的SILP(Semi-Infinite Linear Pr-ogram,半無(wú)限線性規(guī)劃)算法,包括基于CG(Column Generation,列生

2、成)的SILP改進(jìn)算法和基于CA(Chunking Algorithm,塊算法)的SILP改進(jìn)算法,將其應(yīng)用于二分類問(wèn)題和多分類問(wèn)題的基準(zhǔn)數(shù)據(jù)集中,進(jìn)一步將其應(yīng)用于實(shí)際分類問(wèn)題中,包括手寫體數(shù)字識(shí)別問(wèn)題的USPS(United States Postal Service,美國(guó)郵政署)數(shù)據(jù)集和MNIST(Modified National Institute of Standards and Technology,國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院重建

3、)數(shù)據(jù)集以及生物醫(yī)電問(wèn)題的ECG(Electrocardiogram,心電圖)和EEG(Electroencephalogram,腦電圖),以驗(yàn)證兩種基于SILP改進(jìn)算法的有效性。本文主要研究?jī)?nèi)容包括如下幾個(gè)方面:
　　(1)在分析了單核SVM理論的基礎(chǔ)上,進(jìn)一步研究了多核SVM以及其基于CG的SILP改進(jìn)算法和基于CA的SILP改進(jìn)算法。結(jié)合交叉驗(yàn)證法,以兩種多核函數(shù)為例,將基于多核函數(shù)的兩種 SILP改進(jìn)算法分別應(yīng)用于二分類基

4、準(zhǔn)數(shù)據(jù)集和多分類基準(zhǔn)數(shù)據(jù)集的分類問(wèn)題中,并且將實(shí)驗(yàn)結(jié)果與其他經(jīng)典 SVM和 LS-SVM(Least Squares Support Vector Machines,最小二乘支持向量機(jī))的分類結(jié)果進(jìn)行比較分析。最后以分類精度、ROC(Receiver Operating Characteristic,受試者工作特征)曲線、AUC(Area Under roc Cur-ve,ROC曲線面積值)和運(yùn)行時(shí)間四個(gè)分類指標(biāo)進(jìn)行各種分類器分類性能的

5、對(duì)比分析。實(shí)驗(yàn)結(jié)果表明,基于CA的SILP改進(jìn)算法可以得到更高的分類精度和更快的訓(xùn)練速度。
　　(2)以手寫體數(shù)字識(shí)別中的實(shí)際分類問(wèn)題為應(yīng)用背景,結(jié)合兩種SILP改進(jìn)算法分別對(duì)手寫體數(shù)字識(shí)別經(jīng)典數(shù)據(jù)集USPS以及MNIST進(jìn)行分類研究。結(jié)果表明,基于多核函數(shù)的兩種 SILP改進(jìn)算法具有良好的分類性能和泛化性能,能夠有效的處理實(shí)際分類問(wèn)題中的大尺度多分類問(wèn)題。
　　(3)針對(duì)生物醫(yī)電領(lǐng)域中的實(shí)際分類問(wèn)題,結(jié)合兩種SILP改進(jìn)算