基于最大化間隔的核譜學(xué)習(xí)分類算法.pdf

1、基于核的學(xué)習(xí)算法是一種新興的重要的分類技術(shù)，近年來(lái)己被廣泛研究，并且成功應(yīng)用于模式識(shí)別.圖像處理等等相關(guān)領(lǐng)域。傳統(tǒng)的核方法通常僅使用標(biāo)準(zhǔn)的核函數(shù),如線性核和RBF核，因此它們的分類性能是有限的。另一方面，傳統(tǒng)算法通常使用監(jiān)督學(xué)習(xí)的方式，在訓(xùn)練過(guò)程中僅僅使用已標(biāo)記數(shù)據(jù)。一個(gè)好的分類模型不僅要使用己標(biāo)記樣本，還要有效利用無(wú)標(biāo)記樣本。
　　 為了解決傳統(tǒng)算法所存在的不足之處，本文提出了一種新的半監(jiān)督核譜學(xué)習(xí)算法(Spectral Ke

2、rnel Learning based on Maximizing Margin, MSKL)。算法同時(shí)利用標(biāo)記數(shù)據(jù)和無(wú)標(biāo)記數(shù)據(jù)來(lái)學(xué)習(xí)新的核矩陣，并且采用一種更有效的泛化性能的度量標(biāo)準(zhǔn)，能有效改善算法的分類性能。
　　 本文的工作主要包含以下兩個(gè)方面：
　　 一是提出一種新的核譜學(xué)習(xí)算法。本文算法通過(guò)最優(yōu)化泛化性能度量標(biāo)準(zhǔn)來(lái)修改核矩陣的譜值。算法采用最大化兩類數(shù)據(jù)的間隔的方式來(lái)學(xué)習(xí)新的核矩陣。比較傳統(tǒng)的度量標(biāo)準(zhǔn)，如目標(biāo)核

3、適合度(Kernel Target Alignment)，分類間隔被認(rèn)為是一種更合適的度量標(biāo)準(zhǔn)。此外，本文算法是基于標(biāo)準(zhǔn)核函數(shù)來(lái)學(xué)習(xí)新的核矩陣，而不是圖核。最后算法可以被轉(zhuǎn)換成一個(gè)非線性的最優(yōu)化問(wèn)題。使用梯度下降算法和拉格朗日支撐向量機(jī)能夠有效地求解這個(gè)最優(yōu)化問(wèn)題。
　　 二是在五個(gè)公共數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)來(lái)評(píng)估本文提出的核譜學(xué)習(xí)算法的分類性能。實(shí)驗(yàn)將本文提出的算法與基于標(biāo)準(zhǔn)核函數(shù)的傳統(tǒng)分類算法以及基于目標(biāo)核的核譜學(xué)習(xí)算法進(jìn)行比較。