基于數(shù)據(jù)流挖掘的網(wǎng)頁熱門主題獲取技術(shù)研究.pdf

1、隨著網(wǎng)絡(luò)的迅速發(fā)展，輿情研究面臨著新的問題和挑戰(zhàn)。網(wǎng)絡(luò)輿論提供了一個更為全面更為集中的民意反映，且由于其匿名性等特點(diǎn)，能更真實(shí)地反映大多數(shù)民眾對事件的看法。
　　對網(wǎng)絡(luò)輿論進(jìn)行研究，需要收集網(wǎng)絡(luò)上發(fā)布的信息并對其進(jìn)行挖掘，屬于Web挖掘的研究范圍。Web挖掘是以從Web上挖掘有用知識為目標(biāo)，以數(shù)據(jù)挖掘、文本挖掘、多媒體挖掘?yàn)榛A(chǔ)，綜合運(yùn)用計算機(jī)網(wǎng)絡(luò)、數(shù)據(jù)庫與數(shù)據(jù)倉庫、人工智能、信息檢索、可視化、自然語言處理等技術(shù)，將傳統(tǒng)的數(shù)據(jù)挖掘

2、技術(shù)與Web結(jié)合起來的一門新興學(xué)科。傳統(tǒng)的分類方法根據(jù)挖掘?qū)ο蟮牟煌瑢eb挖掘分為三類：Web內(nèi)容挖掘、Web結(jié)構(gòu)挖掘和Web使用記錄挖掘。為了能夠更容易地對應(yīng)用進(jìn)行分類，本文介紹并完善了一種從應(yīng)用的角度出發(fā)的分類方法。該方法將Web挖掘分為基于生產(chǎn)者的挖掘，基于消費(fèi)者的挖掘和基于增值服務(wù)提供者的挖掘，文中進(jìn)行了詳細(xì)的介紹。
　　通過對用戶所頻繁訪問的網(wǎng)頁主題進(jìn)行研究，可以了解一段時間內(nèi)用戶關(guān)心的事件，掌握輿情的動向。針對這一需

3、求，本文對實(shí)際的網(wǎng)頁傳輸過程進(jìn)行了研究，總結(jié)了網(wǎng)頁傳輸?shù)奶攸c(diǎn)，并針對這些特點(diǎn)對網(wǎng)頁的URL的提取及網(wǎng)頁的主題的提取進(jìn)行了相應(yīng)的處理。
　　網(wǎng)絡(luò)流量中提取出的主題流可以看作是一個無限的數(shù)據(jù)流，統(tǒng)計其中頻繁出現(xiàn)的主題可看作是數(shù)據(jù)流的頻繁項(xiàng)挖掘問題。由于內(nèi)存的限制，進(jìn)行頻繁項(xiàng)統(tǒng)計時所使用的算法需要具備只掃描一遍即可發(fā)現(xiàn)頻繁項(xiàng)和低空間開銷及低時間開銷的特點(diǎn)。改進(jìn)的LC算法提出了一種不同于原算法的數(shù)據(jù)結(jié)構(gòu)和處理流程，進(jìn)一步減少了算法的時間開

4、銷，能夠滿足處理要求。為使改進(jìn)算法能夠適用于輸入數(shù)據(jù)為相似字符串的情況，增加了對輸入數(shù)據(jù)的處理。
　　基于以上理論基礎(chǔ)，本文最后實(shí)現(xiàn)了一個基于數(shù)據(jù)流挖掘的網(wǎng)頁熱門主題的獲取系統(tǒng)，屬于基于增值服務(wù)提供者的Web挖掘應(yīng)用。該系統(tǒng)對局域網(wǎng)出入口的網(wǎng)絡(luò)流量進(jìn)行捕獲，過濾出其中的HTTP連接，記錄網(wǎng)頁的URL和標(biāo)題等信息，采用改進(jìn)的LC算法對頻繁出現(xiàn)的主題類進(jìn)行統(tǒng)計，并將頻繁出現(xiàn)的主題類提交給用戶。對該系統(tǒng)進(jìn)行的實(shí)測實(shí)驗(yàn)表明，系統(tǒng)能夠發(fā)現(xiàn)主