基于網頁分塊的主題爬蟲方法研究.pdf

1、隨著網絡上信息的爆炸式增長，普通搜索引擎的查詢結果越來越不能滿足用戶查詢的需要，尤其是那些查詢特定信息的不同領域、不同背景的用戶，因此適應特定主題和個性化搜索的垂直搜索引擎應運而生。
　　主題爬蟲作為垂直搜索引擎的核心組成部分，其抓取的網頁的質量好壞直接影響垂直搜索引擎的返回結果。如何判斷下載的網頁與目標主題的相關度和如何確定待爬行隊列中URL的訪問優(yōu)先級是主題爬蟲中影響抓取的網頁質量的關鍵因素；同時由于Web頁面的結構特性，致使

2、主題爬蟲在爬行過程中存在“隧道”現(xiàn)象，它的存在將會對爬行的覆蓋率和準確率造成較大的影響。
　　本文利用網頁分塊判斷主題相關度和最佳優(yōu)先搜索策略的優(yōu)勢，同時為了克服“隧道”現(xiàn)象，提出了一種基于網頁分塊的主題爬蟲方法：
　　①將分類器的思想應用到主題爬蟲中，訓練出了針對主題爬蟲的類中心向量分類器，該分類器主要用于確定網頁或網頁塊的主題類別和它們之間的相似度，其突出的優(yōu)點是可以較好的描述用戶感興趣的主題，分類速度快，能提高爬行的速

3、度；
　　②在網頁塊內考慮URL的差異，將塊內的URL分為特殊URL和普通URL進行訪問優(yōu)先級預測，從而提高預測的準確性，克服由于預測不準確帶來的相關網頁被忽略的問題；
　?、弁ㄟ^在網頁塊內引用類間轉移概率，克服爬行過程中存在的“黑色隧道”現(xiàn)象，通過利用網頁分塊的思想，克服爬行過程中存在的“灰色隧道”現(xiàn)象。
　　最后從DMOZ目錄中選取3種不同的目標主題對基于本文提出的方法和已存在的基于文字內容的方法及基于分類器的方法