非平衡數(shù)據(jù)集分類方法研究及其在電信行業(yè)中的應用.pdf

1、近年來，非平衡數(shù)據(jù)集分類問題一直是數(shù)據(jù)挖掘和機器學習領域的研究難點。所謂非平衡數(shù)據(jù)集分類問題，是指訓練樣本數(shù)量存在類分布不平衡的模式分類問題。在許多實際問題中，數(shù)據(jù)集是非平衡的，即某些類的樣本量比其他類少得多。當使用傳統(tǒng)的機器學習算法來解決該問題時，往往會出現(xiàn)少數(shù)類的預測準確率大大低于多數(shù)類的情況，從而導致分類器性能大幅度下降。本論文針對非平衡數(shù)據(jù)集分類困難的問題，尤其是少數(shù)類識別困難問題，提出一種新的算法——AdaBoost-SVM-

2、OBMS，該算法結合集成算法和采用錯分樣本點生成新樣本點的過抽樣技術。同時，在研究電信數(shù)據(jù)集特點和非平衡數(shù)據(jù)集分類方法的基礎上，針對電信數(shù)據(jù)挖掘的常用主題——欠費挖掘，對電信欠費預測做了深入的研究和探討。論文的主要研究工作如下：
　　 1.針對非平衡數(shù)據(jù)集分類問題，本文提出一種新的算法——AdaBoost-SVM-OBMS。該算法結合boosting算法和基于錯分樣本產(chǎn)生新樣本的過抽樣技術。在新算法中，以支持向量機為元分類器，每

3、次boosting迭代中標記出錯分的樣本點，然后在錯分樣本點與其近鄰樣本間隨機產(chǎn)生一定數(shù)量與錯分樣本點同一類別的新樣本點。新產(chǎn)生樣本點加入原訓練集中重新訓練學習，以提高分類困難樣本的識別率。在AUC，F(xiàn)-value和G-mean等3個不同價格的評價指標下，針對8個benchmark數(shù)據(jù)集上對AdaBoost-SVM-OBMS算法進行了實驗，實驗結果表明了AdaBoost-SVM-OBMS算法在非平衡數(shù)據(jù)集分類中的對少數(shù)類和多數(shù)類具有較高