HEVC視頻編碼的率失真優(yōu)化技術研究.pdf

1、高效視頻編碼標準(HEVC)是針對視頻應用的多樣化和視頻高清化趨勢而提出的新一代視頻編碼標準。HEVC采用了許多新的編碼技術，包括基于四叉樹結構的塊劃分技術、更加不同的幀內預測技術等。相對于以前的H.264/AVC編碼標準，HEVC能夠在相同的視覺質量下壓縮效率提高約50％。但是，它是以計算復雜度的顯著增加為代價的。HEVC采用率失真優(yōu)化（RDO）技術，在輸出的碼率和編碼的失真度之間進行平衡，從而確定最優(yōu)的圖像塊的劃分結構和最優(yōu)的預測模

2、式等。因此，RDO技術是影響HEVC視頻編碼的視覺質量和編碼效率的關鍵因素。本文將從降低計算復雜度和改善率失真性能的角度，研究HEVC視頻編碼的RDO技術。具體地，本文的主要工作與創(chuàng)新點如下：
　　首先，針對HEVC中RDO技術存在的計算復雜度過高的問題，提出了一個基于量化后的系數碼率估計和失真估計的簡化RDO技術的框架，加速其RDO技術過程。通過對量化后的DCT系數進行碼率估計和失真估計，使其編碼時跳過RDO技術標準框架中的熵編

3、碼、反量化和反變換等模塊，顯著降低了其計算復雜度。此外，通過使用Sobel算子計算圖像邊緣的梯度矢量值，并根據預測單元（PU）梯度矢量值的總和，對候選的幀內預測候選模式集進行篩選，從而確定幀內編碼預測模式，可以極大地降低由于候選預測模式過多引起的巨大計算復雜度。實驗結果表明，本文提出的方法可以極大降低HEVC的RDO技術和幀內預測算法的復雜度。
　　其次，對于RDO技術的失真度準則，提出了一種結合結構相似度（SSIM）和平方誤差和

4、（SSE）的失真度測量準則。現有的RDO技術失真測度通常采用SSE，并不總是能符合人眼視覺系統(tǒng)。通過結合SSIM和SSE并納入到RDO技術過程的視頻失真估計，兼顧了SSIM對于邊緣等紋理復雜區(qū)域的失真估計所表現出的良好性能和SSE對于平滑區(qū)域失真估計可以表現出的良好性能且所具有的計算簡單的優(yōu)勢，進一步提高了編碼后的感知視頻質量。此外，考慮到HEVC編碼時每個編碼塊的量化參數（QP）可能不同，提出了一種基于最優(yōu)QP的拉格朗日算子，更好地平