基于成對約束和稀疏表示的特征選擇算法研究.pdf

1、特征選擇作為高維數(shù)據(jù)降維的有效方法,已被廣泛應(yīng)用在文本分類、信息檢索、遺傳基因分析等領(lǐng)域。現(xiàn)有的大多數(shù)特征選擇算法都是基于有標(biāo)記樣本或無標(biāo)記樣本的。然而,除了類標(biāo)記,還存在另一種監(jiān)督信息,即標(biāo)識樣本對是否屬于同一類的成對約束。成對約束作為一種新穎的監(jiān)督信息,由于其比類標(biāo)記更易獲取,已在機器學(xué)習(xí)的很多方面得到了成功應(yīng)用。因此,本文首先針對基于成對約束的特征選擇算法從多個角度展開了充分研究。另一方面,由于稀疏表示的良好特性,近年來,也引起了

2、機器學(xué)習(xí)領(lǐng)域研究人員的廣泛關(guān)注。本文將稀疏表示引入特征選擇方法的框架中,提出了一種全新的基于稀疏表示的特征選擇算法。主要創(chuàng)新和研究工作總結(jié)如下:
　　 (1)在基于成對約束的特征選擇算法Constraint Score的基礎(chǔ)上,結(jié)合半監(jiān)督降維的思想,通過加入全局或者局部的無監(jiān)督信息,提出了半監(jiān)督特征選擇算法Semi-CS。Semi-CS能夠同時利用成對約束和無標(biāo)號數(shù)據(jù)進行特征選擇,且在多個UCI高維數(shù)據(jù)集上獲得了很好的性能。

3、r>　　 (2)針對Constraint Score的性能易受成對約束集具體組成影響的缺點,提出了特征選擇集成算法BCS。BCS以集成的觀點利用成對約束集,有效地提高了在多個UCI高維數(shù)據(jù)集和基因表達數(shù)據(jù)集上的分類和聚類性能。
　　 (3)將稀疏表示引入特征選擇中,提出了基于稀疏表示的特征選擇算法Sparsity Score。該算法選取最能夠保持?jǐn)?shù)據(jù)間稀疏重構(gòu)關(guān)系的特征子集,在多個UCI高維數(shù)據(jù)集和基因表達數(shù)據(jù)集上的實驗結(jié)果驗