基于最大匹配的書面漢語自動分詞研究.pdf

1、書面漢語自動分詞是中文信息處理中的重要步驟，它是文本校對、機器翻譯、文本分類、文本檢索、計算機人機接口等諸多中文信息應用領域的基礎。目前漢語自動分詞方法主要包括基于字符串匹配的方法、基于統(tǒng)計的方法和基于理解的方法。本文在深入分析現有自動分詞算法的基礎上，著重研究了基于字符串匹配的漢語自動分詞算法，引入最大匹配法預處理分詞，同時運用統(tǒng)計方法進行歧義切分和未登錄詞識別。 根據漢語中二字詞較多的特點，給出一種改進的自動分詞詞典機制，該

2、機制在詞典數據結構中增加二字詞檢測位圖表。在此基礎上，對最大匹配分詞算法進行改進，實現了一種基于二字詞檢測位圖表的最大匹配分詞算法，本算法利用二字詞檢測位圖表快速判斷二字詞，減少詞典匹配次數，以提高自動分詞速度。針對偽歧義型高頻最大交集型歧義字段在大型語料庫中表現出較強的穩(wěn)定性和一定的覆蓋能力，歧義處理著重于研究該類歧義字段的自動獲取，將它們的正確切分形式記錄到歧義庫中，其歧義消解通過直接查表實現，這在本質上是一種基于記憶的策略。未登錄

3、詞識別技術研究著眼于Web資源中未登錄詞的獲取，并提出一種基于Web查詢日志的未登錄詞識別算法，本算法分析Web查詢日志的搜索關鍵字頻度表識別未登錄詞。 基于上述研究結果，設計并實現了一個面向實際應用的書面漢語自動分詞系統(tǒng)。實驗結果表明：在相同條件下，基于二字詞檢測位圖表的最大匹配分詞算法較原算法分詞速度更快。利用卡耐基梅隆大學分詞評估系統(tǒng)進行評測，評測結果表明，基于二字詞檢測位圖表的最大匹配分詞算法的查準率提高了3.57％，F