面向高性能計算的分布式內存文件緩存系統(tǒng).pdf

1、隨著設計理念和硬件制造工藝的不斷發(fā)展,在過去的十多年中,磁盤存儲設備的容量和訪問性能有了長足的進步,但是依舊與CPU運算速度之間出現(xiàn)了不斷擴大的不匹配問題,磁盤I/O逐漸成為數(shù)據(jù)密集型計算任務的瓶頸所在。特別是在分布式的高性能計算環(huán)境下,大量數(shù)據(jù)往往通過共享的存儲設備進行存儲,相比并行的計算速度,即使采取了NAS專用存儲設備或SAN專用存儲網(wǎng)絡,使用RAID磁盤陣列提高磁盤數(shù)據(jù)訪問吞吐量,磁盤I/O也往往成為系統(tǒng)總體性能的主要制約因素。

2、在大量計算節(jié)點需要并發(fā)訪問相同的文件數(shù)據(jù)時,存儲系統(tǒng)局部會負擔大量的文件訪問請求,磁盤以及網(wǎng)絡I/O在系統(tǒng)中的瓶頸地位就越發(fā)明顯。
　　面向高性能計算的分布式內存文件緩存系統(tǒng),利用各計算節(jié)點上的空閑內存空間,構建分布式的共享內存池,利用數(shù)據(jù)訪問的局部性,對高訪問頻度的文件數(shù)據(jù)進行內存緩存,提供統(tǒng)一的文件訪問接口,透明的對存在于緩存或磁盤上的文件進行訪問,降低高性能計算任務的I/O開銷與等待時間,提高執(zhí)行效率,同時降低共享存儲系統(tǒng)的

3、負載。使用優(yōu)化的緩存文件置換機制,對緩存中的文件數(shù)據(jù)進行換入換出,緩存高頻度訪問的文件,提高緩存數(shù)據(jù)訪問的命中率。實時監(jiān)控計算節(jié)點的運行狀態(tài),使用預測算法對未來空閑內存大小進行預測,根據(jù)預測調整共享內存池大小,在不影響本地應用程序執(zhí)行的前提下,最大程度利用空閑內存空間。
　　實驗表明,面向高性能計算的分布式內存文件緩存系統(tǒng)能夠正確穩(wěn)定的運行,有效利用計算節(jié)點的空閑內存對文件數(shù)據(jù)進行緩存,提高了上層應用的數(shù)據(jù)訪問效率。在使用1Gbp