主題爬蟲搜索策略及關鍵技術研究.pdf

1、主題網絡爬蟲是主題搜索引擎的關鍵技術。主題爬蟲能夠智能地采集與特定主題相關的網頁，而避免不相關網頁的訪問；主題爬蟲的提出與運用能夠極大緩解目前基于通用網絡爬蟲的搜索引擎中搜索覆蓋率低，搜索精度低、網頁更新不及時而無法滿足用戶的個性化需求的問題。主題爬蟲的核心難點是預測未訪問鏈接的主題相關度。目前比較經典的主題爬蟲中普遍采用向量空間模型來計算網頁內容的主題相關度，這種方法沒有考慮到主題詞項的語義信息；在網頁內容相關性分析鏈接上下文時，往往

2、引入噪音，不能準確反應主題相關性；在結合鏈接結構分析和內容相似性分析時考慮因素不全，只是二者分值相加；在主題爬取過程中沒有考慮隧道特征，或者引入隧道方法不佳導致大量非相關網頁被下載。
　　為了解決上述問題，本文研究工作如下：
　　(1)本文在原有向量空間模型的基礎上，還考慮關鍵詞項的語義相似度，提出了基于詞項語義相似度的向量空間模型(TSSVSM)。本文主題爬蟲算法將利用TSSVSM模型計算網頁文本與主題的相似度。
　

3、　(2)本文在分析隧道特征的基礎上，提出了自適應隧道穿越方法，此方法能夠網頁內容和穿越路徑的相關性綜合動態(tài)計算隧道穿越的距離，從而在獲得更多主題相關網頁的前提下減少無關網頁的訪問。
　　(3)本文分析了鏈接上下文的局限性，在計算內容相似度時去掉鏈接上下文因素而加入網頁標題因素，網頁內容相似度由網頁標題、網頁文本和錨文本綜合決定，然后對OPIC算法進行改進，提出了依據網頁內容相似度大小進行不平均分配現金值的NOS算法。
　　(