基于主動學習的漢語依存樹庫構(gòu)建.pdf

1、句法分析是自然語言處理領(lǐng)域的一個關(guān)鍵問題，如能將其有效解決，一方面，可對相應樹庫構(gòu)建體系的正確性和完善性進行驗證；另一方面，也可直接服務于各種上層應用，比如搜索引擎用戶日志分析和關(guān)鍵詞識別，比如信息抽取、自動問答、機器翻譯等其他自然語言處理相關(guān)的任務。
　　目前句法分析仍主要采用有指導的機器學習方法，因此需要大規(guī)模高質(zhì)量的樹庫作為訓練語料，而現(xiàn)階段漢語依存樹庫資源相對較少，樹庫標注又是一件費時費力的工作。
　　本文首先介紹

2、HIT-CIR-CDT（全稱為“哈工大社會計算與信息檢索研究中心漢語依存樹庫”）的詳細標注過程，然后基于該樹庫介紹如何將主動學習應用到漢語依存樹庫的構(gòu)建以達到減少標注成本的目的。主要采用了以下兩大類方法：
　?。?）聚類方法：采用聚類直接剔除冗余實例的標注，以期達到使用相同數(shù)目的訓練實例能使句法分析達到更高性能；（2）置信度判別法：優(yōu)先選擇當前句法模型預測不準（即置信度較低）的實例交由人工標注，以期使句法分析達到相同性能只需更少的

3、訓練實例。在置信度判別法中，本文提出并比較了多種衡量依存句法模型預測可信度的準則，包括基于不確定性度量和委員會投票兩大類。
　　實驗結(jié)果表明，置信度判別法比基于聚類的方法更簡單有效。一方面，它使依存句法分析在達到相同性能時只需標注更少量實例，人工標注量最多可減少30％；另一方面，與隨機選擇標注實例相比，當使用相同數(shù)目的訓練實例時，它總能使?jié)h語依存句法分析性能有所提高，性能最高提升0.8%。這種方法也可用到句法分析的領(lǐng)域移植上，以減