基于矩陣的2D度量學習和空間結構化歐拉核的研究與應用.pdf

1、度量是機器學習領域中的熱點問題之一，很多機器學習算法的性能都嚴重依賴于數(shù)據(jù)的度量（如KNN算法)。度量學習作為一種學習與特定任務以及數(shù)據(jù)相關的度量方法己被廣泛用于分類、聚類和信息檢索等領域。隨著機器學習理論的發(fā)展和學習任務的復雜化、多樣化，度量學習也取得了眾多成果并形成了一個龐大的框架。但這些算法大多是基于向量的1D算法，當處理具有結構的矩陣數(shù)據(jù)時也要將其向量化后進行處理，這就忽略了矩陣數(shù)據(jù)內在的空間結構信息。為了利用數(shù)據(jù)內在的空間結構

2、信息，最直接的方法是直接使用矩陣數(shù)據(jù)進行計算，即基于矩陣的2D算法。自Yang等人將向量主成分分析(1D-PCA)推廣至面向圖像的2D-PCA以來，眾多基于向量的1D形式算法己經被相繼推廣到其對應的2D形式。雖然從寬泛的角度上來說己經出現(xiàn)了一些2D的度量學習算法，但這些已有的2D算法并不具有通用性，而且度量學習中比較經典的基于成對約束的全局度量學習算法仍然沒有其相應的2D形式。
　　本文在基于成對約束的全局度量學習算法的基礎上提出

3、2D度量學習算法。其主要特點是利用矩陣數(shù)據(jù)進行計算，并通過結構化的度量矩陣體現(xiàn)矩陣數(shù)據(jù)的空間結構信息，并通過實驗證明，其在處理圖像數(shù)據(jù)時獲得了較原1D方法更好的性能。
　　另一方面，相比傳統(tǒng)1D算法，盡管2D算法在處理矩陣數(shù)據(jù)時取得了較好的結果，但仍有其不足。主要表現(xiàn)在：（1）2D算法幾乎都是線性的，因此對作線性數(shù)據(jù)處理的能力有限；（2）2D算法的空間結構信息利用仍不夠充分。
　　本文針對不足（1），通過核方法進行改進，但相

4、對于1D算法，2D算法因難以利用表示定理而導致核化困難，因此本文繞過表示定理，通過改變度量獲得一個簡潔的核化方法。本文針對不足（2），通過在核空間對空間結構信息進行補償?shù)姆绞絹砭徑?。但這需要在核空間中描述矩陣數(shù)據(jù)的空間結構，如果使用隱式核進行核化會導致矩陣數(shù)據(jù)空間結構可能的扭曲，從而使對空間結構信息的描述和利用變得困難；如果使用顯式核進行核化，會導致維數(shù)災難而失去隱式核的優(yōu)勢。因此本文采用一個顯式、等維且各分量非耦合的映射，從而自然地描