多標記維度約減和分類算法研究.pdf

1、多標記學習來源于文本分類問題的研究,現(xiàn)實生活中很多基于機器學習的問題都可以看作是多標記學習。傳統(tǒng)監(jiān)督學習中每個示例僅僅具有單個標記,但是多標記學習中每個示例擁有多個標記。為了提高多標記學習中分類的準確率,示例的大量原始特征被采集,導致輸入空間維數(shù)非常高,從而造成“維數(shù)災難”問題。因此,如何從輸入空間的高維特征向量中獲取有效的低維數(shù)據(jù),對于提高多標記分類問題的準確率有重要意義。本文的研究重點是多標記分類中的維度約減算法和多標記分類算法。本

2、文主要工作內容如下:
　　(1)介紹多標記學習、常見的維度約減算法和流形學習算法。流形學習算法能夠從高維特征向量數(shù)據(jù)中獲取低維流形結構,并且從高維特征向量數(shù)據(jù)映射到低維特征空間時,能夠保留高維數(shù)據(jù)中局部鄰域間的相互關系。但是局部線性嵌入流形學習(Locally Linear Embedding,LLE)算法的近鄰點個數(shù)是固定的,不能剔除流形中的小規(guī)模結構和不能避免將連續(xù)的流形分割為不相關的子流形。因此,如何選取近鄰點個數(shù)成為一個重

3、要的問題。
　　(2)研究了在已標記數(shù)據(jù)比較少但是未標記數(shù)據(jù)大量存在的場景下,多標記分類正確率不高的問題。由于實際場景中輸入空間的高維特征向量數(shù)據(jù)僅有少量被標記,大部分數(shù)據(jù)都沒有標記。為了有效去除冗余特征并使用大量未標記樣本所提供的潛在信息,需要使用半監(jiān)督學習方法。為了能夠利用類別已知的示例的監(jiān)督信息,又利用大量類別未知的示例的統(tǒng)計信息進行維度約減;并且確定合適的近鄰點個數(shù),本文提出一種可變 K近鄰半監(jiān)督局部線性嵌入流形維度約減算

4、法(Variable K-Nearest Semi-Supervised Locally Linear Embedding,VKSSLLE)。
　　(3)探討多標記分類問題中出現(xiàn)的數(shù)據(jù)分類性能不理想的問題,并提出一種基于VKSSLLE維度約減算法的多標記樸素貝葉斯分類算法。該方法通過使用可變K近鄰半監(jiān)督流形學習算法進行維度約減,并引入樸素貝葉斯分類器進行多標記分類,從而提高多標記分類的準確率。利用不同維度約減算法與樸素貝葉斯分類器