增量矩陣分解中線性特征變換的研究與應(yīng)用.pdf

1、矩陣分解是推薦系統(tǒng)中應(yīng)用最為廣泛的技術(shù)之一，由于其高精度、高效率、易實現(xiàn)、易拓展而為人們所知?，F(xiàn)如今，大部分的矩陣分解都是批處理式模型。此類模型一般要求訓(xùn)練階段與測試階段明確分離，利用數(shù)據(jù)完成相關(guān)模型的訓(xùn)練之后不再對模型進行更新及修改。然而在現(xiàn)實世界的在線場景中，新數(shù)據(jù)的到來，往往意味著特征的改變。因此增量地對矩陣分解模型進行更新完善是一類非常重要的需求。雖然目前對于增量式矩陣分解問題，已經(jīng)有相當一部分研究工作用于改善其分解效果，但除了

2、精度的提升之外還有許多亟待解決的問題。例如，更新效率如何改善，超參數(shù)是否能夠重用，模型的一般性如何保證以及是否能夠?qū)υ隽窟^程的誤差界進行分析。
　　為了解決上述問題，由向量自回歸模型的啟發(fā)，本文對增量矩陣分解模型提出了一種具有一般性的框架。當一批增量數(shù)據(jù)到來時，該框架能夠高效地對用戶及項目的潛在特征向量進行更新。而所提出框架的關(guān)鍵技術(shù)在于:通過訓(xùn)練用戶和項目特征隨時間進行的線性變換取代傳統(tǒng)方法中直接對原問題所有參數(shù)進行的重訓(xùn)練。此

3、外對于所提出框架，通過利用與規(guī)模無關(guān)參數(shù)的批量式矩陣分解模型，使模型規(guī)模增大時的調(diào)參代價大幅減少。不僅如此，本文還通過形式化定義對所提出框架的一般性進行說明，即大部分具有顯式目標函數(shù)的批量式矩陣分解模型可以通過該框架拓展為增量式矩陣分解模型。與此同時，本文還從低秩近似角度對該框架進行了合理性的解釋，并給出在某些特殊情況下使用該框架進行增量學(xué)習(xí)時所能達到的訓(xùn)練誤差上界。最后，通過對所提出框架在兩個真實世界數(shù)據(jù)集上進行大量實驗，說明其在精度