基于圖的半監(jiān)督學習和維數約簡：方法及其應用研究.pdf

1、半監(jiān)督學習和維數約簡已經成為當前機器學習領域的研究熱點。半監(jiān)督學習研究的是整個數據集中只有一部分樣本有標記的情況下如何對數據進行分類，本文主要研究的是基于圖的半監(jiān)督學習。維數約簡是在盡可能多的保持數據集結構的前提下，將數據集轉換成一個新的數據集，新數據集的維數是原始數據集的本征維數。本文對基于圖的半監(jiān)督學習和維數約簡進行了系統的研究，具體來說，全文的主要工作概括如下：
　　 （1）提出了一種新的多步驟降維方法對基因表達譜進行降維

2、。首先采用秩和檢驗方法進行差異表達的基因選擇，然后將排在前面的一定數量的基因再進行離散余弦變換，并采用主成分分析對變換后的系數進行主成分提取。我們首先將基于圖的半監(jiān)督方法引入到腫瘤分類中，采用基于圖的半監(jiān)督學習算法對抽取的主成分特征進行分類性能評估。
　　 （2）針對基于圖的半監(jiān)督學習方法提出了一種新的自適應權值。傳統的基于圖的半監(jiān)督學習算法采用高斯函數來計算圖的邊權。我們提出一種新穎的針對基于圖的半監(jiān)督學習方法的邊權設計方式。

3、該方法添加了標簽信息，并且采用測地距離而不是歐氏距離計算兩個數據之間的距離。此外，我們還添加類的先驗信息。
　　 我們針對基于局部和全局一致性的學習來改進邊權。實驗結果表明，我們提出的方法優(yōu)于原算法。
　　 （3）提出了一種基于局部保持投影的監(jiān)督特征提取方法局部保持判別投影。
　　 局部保持投影(LPP)是從拉普拉斯特征譜推導的線性子空間學習方法。與許多流形學習算法相比，LPP 擁有一個顯著的優(yōu)點是能產生清晰的映

4、射，然而LPP 沒有加入判別信息，LPP在分類或聚類時僅僅考慮局部信息。我們將類內散度矩陣和類間散度矩陣加入到LPP的目標函數，提出局部保持判別投影(LPDP)。LPDP能夠最大化類間距離和最小化類內距離，同時保持LPP的局部保持特性。LPDP可被看作是一種組合了流形準則和Fisher 準則的新方法。因此，與LPP相比，LPDP 能夠成功找到具有更好判別性能的子空間，更適合做分類，從而有效提高識別率。
　　 （4）提出了基于譜回

5、歸的判別分析(Spectral Regression Discriminant Analysis,SRDA)和基于譜回歸的核化判別分析(Spectral Regression Kernel DiscriminantAnalysis，SRKDA)的正則化參數估計方法。SRDA是最近提出的一種有效的子空間學習方法，只有一個自由參數，正則化參數。然而在SRDA的原始論文中，這個參數被設置為常數，這顯然是次優(yōu)的。該正則化參數的估計在以往的研究中