計量經(jīng)濟學(xué)第三章第3節(jié)多元線性回歸模型的顯著性檢驗

1、第三節(jié) 顯著性檢驗及預(yù)測,第三章 多元線性回歸模型,一、擬合優(yōu)度檢驗二、變量的顯著性檢驗三、回歸方程的顯著性檢驗四、利用方程進行預(yù)測,一、多元線性回歸模型的統(tǒng)計檢驗,類似一元回歸，多元回歸同樣可以用擬合優(yōu)度R2度量樣本回歸方程擬合樣本觀察值的程度。R2越接近1，擬合的越好。, 擬合優(yōu)度,（1）總離差平方和分解,設(shè)多元線性回歸模型為：,樣本回歸方程為：,可得總的離差平方和分解式為,TSS=ESS+RSS,,(2) 擬合優(yōu)度（樣本

2、決定系數(shù)，可決系數(shù)）,(3) 擬合優(yōu)度（樣本決定系數(shù)）的計算,(4) 擬合優(yōu)度的特性,擬合優(yōu)度給出了解釋變量的改變導(dǎo)致被解釋變量改變的程度(百分比),R2 越大，擬合的越好。但在多元回歸回歸模型中，擬合優(yōu)度有這樣的特點：如果模型增加一個新的解釋變量，TSS不會改變，但是ESS將會增加，即R2隨著解釋變量個數(shù)的增加而變大。,詳細證明見下頁（選講）,命題： 殘差平方和RSS是解釋變量個數(shù)k的減函數(shù)。因此，樣本決定系數(shù)R2是解釋變量個數(shù)k的增

3、函數(shù)。,* 選講：殘差平方和RSS的特性,k元回歸模型的殘差平方和,證明：,增加一個解釋變量，殘差平方和變?yōu)?考慮RSSk和RSSk+1取得極小值的的情況。（在利用最小二乘法求參數(shù)估計值時,兩者都應(yīng)分別達到極小值。）,而RSSk 取到極小值相當(dāng)于RSSk+1在 的條件下取極小值。,條件極值和無條件極值的關(guān)系是：條件極小值大于等于無條件極小值；條件極大值小于或等于無條件極大值。,例：從全

4、班同學(xué)中選出一個個子最矮的同學(xué)。在不包括班長的情況下挑選出最矮的身高，一定高于或等于班長參加挑選時最矮的身高。后者是條件極小值。,因為新增加的解釋變量即使和被解釋變量不相關(guān)，解釋變量的增加也可以導(dǎo)致殘差的減小，從而導(dǎo)致擬合優(yōu)度的增大，這顯然不合理。必須對擬合優(yōu)度加以調(diào)整。,擬合優(yōu)度的特性會給人一種錯覺：,要使模型模擬的好，只要增加解釋變量即可！,但是現(xiàn)實情況是：在多元線性回歸中，由增加變量個數(shù)引起的擬合優(yōu)度增大與擬合的好壞沒有直接關(guān)系

5、。,A) 擬合優(yōu)度(可決系數(shù))的調(diào)整思路,擬合優(yōu)度中的殘差平方和RSS隨著解釋變量個數(shù)的增加而減少,可以將該式除以一個隨變量個數(shù)增加而減少的因子,這樣可以抵消單純由變量個數(shù)增加導(dǎo)致的RSS的減少的影響。,調(diào)整的擬合優(yōu)度,總變差TSS并不隨解釋變量個數(shù)的增加而改變，但考慮擬合優(yōu)度取值的幅度和相對性，將TSS除以不隨解釋變量個數(shù)變化的自己的自由度n-1。,RSS的自由度n-k-1可以勝任這一角色。,B)調(diào)整后的擬合優(yōu)度(樣本決定系數(shù)),一增

6、一減，此消彼長,說明：,解釋變量的增加，可能導(dǎo)致樣本回歸方程與樣本觀察值擬合程度虛假的提高，調(diào)整的擬合優(yōu)度，是剔除由于解釋變量個數(shù)增加導(dǎo)致擬合優(yōu)度數(shù)值虛假提高，而擬合程度并沒有實際提高的情況。,（5）對調(diào)整后擬合優(yōu)度的補充說明：,當(dāng)增加一個對被解釋變量有較大影響的解釋變量時，殘差平方和減小的比n-k-1 減小的更顯著，擬合優(yōu)度就增大，這時就可以考慮將該變量放進模型。,如果增加一個對被解釋變量沒有多大影響的解釋變量，殘差平方和減小沒有

7、n-k-1減小的顯著，擬合優(yōu)度會減小，其說明模型中不應(yīng)該引入這個不重要的解釋變量，可以將其剔除。,由此可見，修正的擬合優(yōu)度 比一般意義的擬合優(yōu)度 更準(zhǔn)確的反映了解釋變量對被解釋變量的影響程度。因此在一般情況下修正擬合優(yōu)度 比 應(yīng)用更廣。,解釋變量的增加，有可能導(dǎo)致樣本回歸方程與樣本觀察值擬合程度的提高，也會由于變量的個數(shù)的增加導(dǎo)致擬合優(yōu)度虛假的提高。調(diào)整后的擬合優(yōu)度，是剔除由于解釋變量個數(shù)增加導(dǎo)致擬合數(shù)值虛

8、假提高，而擬合程度并沒有實際提高的部分。,(6) 修正的擬合優(yōu)度總結(jié),*赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則,為了比較所含解釋變量個數(shù)不同的多元回歸模型的擬合優(yōu)度，常用的標(biāo)準(zhǔn)還有:,施瓦茨準(zhǔn)則（Schwarz criterion，SC）,這兩準(zhǔn)則均要求僅當(dāng)所增加的解釋變量能夠減少AIC值或AC值時才在原模型中增加該解釋變量。,赤池信息準(zhǔn)則（Akaike information criterion, AIC）,數(shù)據(jù)采用1978～2000年23年的人均

9、國內(nèi)生產(chǎn)總值X和人均消費支出Y的時間序列數(shù)據(jù)，且都轉(zhuǎn)換成1990年的不變價，且剔除了物價上漲因素的影響。,舉例說明：擬合優(yōu)度、修正擬合優(yōu)度、與增加解釋變量之間的關(guān)系。,在第二章第四節(jié)講義中，我們考察中國居民收入與消費支出的關(guān)系，建立了以人均國內(nèi)生產(chǎn)總值為解釋變量X，以人均消費支出為被解釋變量Y的一元線性回歸模型。,使用的數(shù)據(jù),人們的消費具有一定的慣性，有些耐用品和固定資產(chǎn)可以連續(xù)使用一年以上。所以，今年的消費和今年的人均國內(nèi)生產(chǎn)總值

10、有關(guān)，也和去年已經(jīng)發(fā)生了的消費支出有關(guān)，這里建立消費支出模型為：,其中t為當(dāng)前期變量，t-k稱為k期滯后變量。,1) 使用軟件估計模型,將之前已經(jīng)建立的Workfile文件打開點擊菜單中的“Quick”→“Estimate Equations”在對話框中輸入： y c x y(-1) y c x y(-1) y(-2) 字母之間用空格分隔。,注：滯后變量不需重新形成新的時間序列，軟件自動運算實現(xiàn)，k期滯后變量

11、，用y(-k)表示。,使用k期滯后變量，數(shù)據(jù)將損失k個樣本觀察值，例如：,2) 模型的估計表達式,,,一元、二元模型的系數(shù)均大于0，符合經(jīng)濟意義，三元模型系數(shù)的符號與經(jīng)濟意義不符。用一元回歸模型的預(yù)測值是1758.7，二元回歸模型的預(yù)測值是1767.4，2001年的實際值是1782.2。一元、二元模型預(yù)測的絕對誤差分別是23.5、14.8。,3) 三個模型的擬合優(yōu)度與殘差,從上式可以看出：隨著自變量的個數(shù)增加，殘差明顯的減少，殘差平方

12、和越小，擬合程度越大。,其中擬合程度的增大有解釋變量對被解釋變量有效部分，也有變量個數(shù)增加導(dǎo)致虛假提高的部分。,二元回歸相對于一元回歸，擬合優(yōu)度增加了0.0027，修正的擬合優(yōu)度增加了0.0025，二者的差0.0002即為由于增加解釋個數(shù)變量導(dǎo)致的擬合程度虛假提高的數(shù)值。三元回歸相對于二元回歸，擬合優(yōu)度增加了0.0003，修正的擬合優(yōu)度增加是0.000015，二者的差0.000285,即為由于增加解釋變量個數(shù)導(dǎo)致。,4) 擬合優(yōu)度與

13、修正擬合優(yōu)度的比較,由于增加的變量y(-2)導(dǎo)致的修正擬合優(yōu)度增加的值很小，甚至可以忽略，表明該變量和Y不相關(guān)，可以將其從模型中剔除.,回歸方程的顯著性檢驗,方程的顯著性檢驗，旨在對模型中被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立作出推斷。,多元回歸，我們關(guān)心被解釋變量是不是和一組解釋變量存在線性關(guān)系。如果總體回歸模型解釋變量的系數(shù)同時為0，表明被解釋變量與解釋變量之間不存在線性關(guān)系。,所有解釋變量的系數(shù)

14、是否同時為0的顯著性檢驗。如果不同時為0，則被解釋變量與這組解釋變量之間存在線性關(guān)系；反之則被解釋變量與這組解釋變量之間不存在線性關(guān)系。,即對多元線性回歸模型,方程的顯著性檢驗的原假設(shè)是所有解釋變量的系數(shù)同時為0，即：b1= b2=… = bk= 0。只要存在一個不為0的bj 就表明模型的線性關(guān)系是顯著的。,類似于一元線性回歸模型的方程顯著性檢驗,F檢驗的思想來自于總離差平方和的分解式： TSS

15、=ESS+RSS,此處也用F檢驗法檢驗回歸方程的顯著性,如果這個比值較大，則X的聯(lián)合體對Y的解釋程度高，可認為總體存在線性關(guān)系，反之總體上可能不存在線性關(guān)系。,因此,可通過該比值的大小對總體線性關(guān)系進行推斷。,以下為具體的假設(shè)檢驗過程,第三步：做出判斷,第一步: 提出假設(shè),第二步：構(gòu)造F統(tǒng)計量,回歸系數(shù)的顯著性檢驗,回歸方程顯著成立，并不意味著每個解釋變量對被解釋變量都是重要的，每個解釋變量對于被解釋的影響有大有小，各不相同。如

16、果某個解釋變量Xi對Y影響不重要，可以考慮將其從模型中剔除，重新建立更簡潔有效的模型。變量多意味著增加建模難度及成本，剔除對被解釋變量影響不顯著的解釋變量，具有重要的意義。,如果某變量對Y的影響不重要，需要將其剔除，此時，可以認為其前面的系數(shù)bi=0。,系數(shù)的顯著性檢驗，就是對各個變量的系數(shù)bk是否顯著的不等于0分別進行檢驗，具體步驟如下:,(1) 提出假設(shè),原假設(shè) H0： 備擇假設(shè) H1：,參數(shù)估計量的方差-協(xié)方差矩陣,(

17、2) 構(gòu)造統(tǒng)計量,設(shè)矩陣 主對角線上的元素為cjj，則參數(shù) 的方差為,且由樣本回歸方程參數(shù)的無偏性知,(3) 做出判斷,參數(shù)及回歸方程顯著性檢驗的例題，可以參考本節(jié)中的二元及三元線性回歸模型進行說明。,附：Eviews回歸分析結(jié)果如下,利用回歸方程進行預(yù)測,所謂預(yù)測，就是給定解釋變量某一個特定值 利用回歸方程對Y的值進行估計。同一元的相同，預(yù)測方

18、法是點預(yù)測和區(qū)間預(yù)測。,（1）點預(yù)測,注：利用回歸方程進行點預(yù)計，所得的預(yù)測值與真值的誤差可能會比較大。這是因為，一方面回歸方程的系數(shù)是有樣本求的，自然會有抽樣誤差；另一方面，在進行上述預(yù)測時，使模型中的隨機項取得了它的均值0，但實際上可能不是0。因此有必要考慮區(qū)間預(yù)測。,（2）區(qū)間預(yù)測（對個別值Y0的預(yù)測）,類似構(gòu)造參數(shù)的區(qū)間估計一樣，構(gòu)造對Y的預(yù)測置信區(qū)間。,(證明略),（1）構(gòu)造t統(tǒng)計量,（2）確定臨界值,多元線性回歸分析實例,（

19、1）從宏觀經(jīng)濟看，經(jīng)濟整體增長是稅收增長的基本源泉。（2）公共財政的需求，稅收收入是財政收入的主體，社會經(jīng)濟的發(fā)展和社會保障的完善等都對公共財政提出要求，因此對預(yù)算支出所表現(xiàn)的公共財政的需求對當(dāng)年的稅收收入可能會有一定的影響,問題：研究影響中國稅收收入增長的主要原因，分析中央和地方稅收收入的增長規(guī)律，預(yù)測中國稅收未來的增長趨勢。,影響稅收收入增長的因素很多，其主要因素可能有：,（3）物價水平。我國的稅制結(jié)構(gòu)以流轉(zhuǎn)稅為主，以現(xiàn)行價格

20、計算的GDP等指標(biāo)和經(jīng)營者的收入水平都與物價水平有關(guān)。,(4）稅收政策因素。由于財稅體制的改革難以量化，而且1985年以后財稅體制改革對稅收增長影響不是很大，可暫不考慮稅制改革對稅收增長的影響。,設(shè)定的多元線性回歸模型為：,選擇包括中央和地方稅收的“國家財政收入”中的“稅收收入”作為被解釋變量，以反映國家稅收的增長；選擇“國內(nèi)生產(chǎn)總值（GDP）”作為經(jīng)濟整體增長水平的代表；選擇中央和地方“財政支出”作為公共財政需求的代表；選擇“

21、商品零售物價指數(shù)”作為物價水平的代表。,所以解釋變量設(shè)定為可觀測的“國內(nèi)生產(chǎn)總值”、“財政支出”、“商品零售物價指數(shù)”等變量。,經(jīng)過Eviews運行后，顯示如下結(jié)果,結(jié)果解釋：,模型估計結(jié)果說明，在假定其它變量不變的情況下，當(dāng)年GDP每增長1億元，稅收收入就會增0.02207億元；在假定其它變量不變的情況下，當(dāng)年財政支出每增長1億元，稅收收入會增長0.7021億元；在假定其它變量不變的情況下，當(dāng)年零售商品物價指數(shù)上漲一個百分點，稅收

22、收入就會增長23.9854億元。,（1）經(jīng)濟意義解釋,（2）統(tǒng)計檢驗解釋,(1)擬合優(yōu)度：由結(jié)果數(shù)據(jù)可以看到：修正的可決系數(shù)為 這說明模型對樣本的擬合很好。,(2)F檢驗：針對原假設(shè) ,給定顯著性水平 。由結(jié)果數(shù)據(jù)中中得到 ， F統(tǒng)計量的伴隨概率為P=0<0.05，所以應(yīng)拒絕原假設(shè) ，說明回歸方程顯著。,即:“國內(nèi)生產(chǎn)總值”、“財政支出”、“

23、商品零售物價指數(shù)”等變量聯(lián)合起來確實對“稅收收入”有顯著影響。,由運行結(jié)果數(shù)據(jù)可知,它們的絕對值都大于2.08，所以均應(yīng)拒絕原假設(shè),也就是說，當(dāng)在其它解釋變量不變的情況下，解釋變量“國內(nèi)生產(chǎn)總值”、“財政支出”、“商品零售物價指數(shù)”分別對被解釋變量“稅收收入”都有顯著的影響。,(3)T檢驗,附：關(guān)于擬合優(yōu)度檢驗與方程顯著性檢驗關(guān)系,可推出：,或,時,同向變化：,因此F檢驗是所估計回歸的總顯著性的一個度量，也是修正擬合優(yōu)度的一個度量，亦