基于SOM的文本聚類(lèi)模型研究.pdf

1、隨著信息科技的日益發(fā)展,人們所能得到的信息在飛速增長(zhǎng)。為了使各種資源能夠及時(shí)的被用戶(hù)發(fā)掘,搜索引擎已經(jīng)成為了人們?nèi)粘Ｉ钪斜夭豢缮俚墓ぞ?。雖然目前主流的文字搜索引擎都是基于內(nèi)容的檢索,但在實(shí)際實(shí)施時(shí),它們往往沒(méi)有從語(yǔ)義的層面處理文本信息。所以,搜索引擎在針對(duì)某個(gè)查詢(xún)返回的結(jié)果中往往包含了許多并非用戶(hù)真正需要的信息。基于這種考慮,對(duì)搜索引擎返回的結(jié)果進(jìn)行再次分析,挖掘出返回結(jié)果中包含的各種主題信息,將會(huì)大大的提升用戶(hù)體驗(yàn)。
　　自組

2、織映射(Self-Organizing Map,SOM)屬于人工神經(jīng)網(wǎng)絡(luò)的范疇。它不僅能夠準(zhǔn)確、高效對(duì)文本信息進(jìn)行聚類(lèi),而且可以將高維的文本信息映射到用戶(hù)可直觀理解的低維空間中。通過(guò)一定的學(xué)習(xí)規(guī)則,SOM網(wǎng)絡(luò)能夠發(fā)掘文本集合中潛在的模式,并將這些模式展現(xiàn)在訓(xùn)練穩(wěn)定的神經(jīng)元中。對(duì)于原始空間中相似的文本,將被映射到鄰近的神經(jīng)元上。對(duì)于相異的文本,則被映射到疏遠(yuǎn)的神經(jīng)元上。從而保持了文本集合在原始空間中的拓?fù)浣Y(jié)構(gòu)。但原有的SOM模型中沒(méi)有考慮

3、文本集合中語(yǔ)義層面的相似性。因此,在原始的SOM模型中引入狄利克雷分布(Latent Dirichlet Allocation,LDA)模型。LDA模型是一個(gè)典型的三層貝葉斯模型,能夠完整的描述文檔集合的生成過(guò)程。通過(guò)LDA模型,能夠得到文檔在給定數(shù)目主題上的分布和主題在文檔集合的詞匯表上的分布。將LDA模型得到的主題作為輸入空間的維度,訓(xùn)練SOM神經(jīng)元的連接權(quán)向量。最后,當(dāng)網(wǎng)絡(luò)穩(wěn)定后,即可得到基于語(yǔ)義層面的文檔集合的聚類(lèi)效果。此時(shí),各