Bài giảng Kinh tế lượng: Chương 6 - ĐH Bách khoa Hà Nội

Bài giảng Kinh tế lượng - Chương 6: Hiện tượng đa cộng tuyến cung cấp cho người học các kiến thức: Bản chất, nguyên nhân của đa cộng tuyến; ước lượng các tham số, hậu quả, phát hiện đa cộng tuyến, khắc phục đa cộng tuyến. Mời các bạn cùng tham khảo nội dung chi tiết.

CHƯƠNG 6

HIỆN TƯỢNG ĐA CỘNG TUYẾN

(MULTICOLLINEARITY)

1 Hiểu bản chất và hậu quả của

Thu nhập Sự giàu có Chi tiêu

Khi lập mô hình hồi quy bội

Có sự phụ thuộc tuyến tính cao giữa các biến giải thích gọi là đa cộng tuyến

a Đa cộng tuyến hoàn hảo

Tồn tại 2, 3,… k không đồng thời bằng 0

sao cho

2X2 + 3X3 + …+ kXk = 0Nói cách khác là xảy ra trường hợp một biến

giải thích nào đó được biểu diễn dưới dạng một

tổ hợp tuyến tính của các biến còn lại

ki k

i i

Y ˆ  b ˆ1  b ˆ2 2  b ˆ3 3   b ˆ

6.1 Bản chất của đa cộng tuyến

b Đa cộng tuyến không hoàn hảo

2X2 + 3X3 + …+ kXk + vi= 0

Với vi là sai số ngẫu nhiên thì ta có hiện tượng đa cộng tuyến không hoàn hảo giữa các biến giải

thích

Nói cách khác là một biến giải thích nào đó có

tương quan với một số biến giải thích khác

6.1 Bản chất của đa cộng tuyến

X3i = 5X2i, vì vậy có cộng tuyến hoàn hảo giữa

X2 và X3 ; r23 = 1

X2 và X3* không có cộng tuyến hoàn hảo,

nh ưng hai biến này có tương quan chặt

75 0

97 7

129 9

152 2

6.1 Bản chất của đa cộng tuyến

VD

6.1 Bản chất của đa cộng tuyến

Hình 6.1 Biểu đồ Venn mô tả hiện tượng đa cộng tuyến

Hình 6.1 Biểu đồ Venn mô tả hiện tượng đa cộng tuyến

6.1 Bản chất của đa cộng tuyến

Một số nguyên nhân gây ra hiện tượng

- Khi số quan sát nhỏ hơn số biến độc lập.

- Cách thu thập mẫu: mẫu không đặc

trưng cho tổng thể

- Chọn biến Xi có độ biến thiên nhỏ

6.1 Nguyên nhân của đa cộng tuyến

6.2 Ước lượng khi có đa cộng tuyến

1 Trường hợp có đa cộng tuyến hoàn hảo

Xét mô hình hồi qui 3 biến dưới dạng sau:

Yi = b2 X2i + b3 X3i + eigiả sử X3i = X2i, mô hình được biến đổi thành:

Yi = (b2+ b3)X2i + ei = b0 X2i + eiPhương pháp OLS

2 ˆ )

ˆ(

ˆ

i

i i o

b

 Không thể tìm được lời giải duy nhất cho b ˆ , b ˆ

6.2 Ước lượng khi có đa cộng tuyến

 Các hệ số ước lượng không xác định

 Phương sai và sai số chuẩn của b2 và b3

là vô hạn

2 3

2

2 3

2 2

3 2

3

2 3 2

2

) (

i i

i i

i i

i i

i

x x

x x

x x

x y x

2 3

2 2

3

2 3 2

3 3

3

2 3 3

i i

i i

i i

i i

i

x x

x x

x x

x y x

x y







 b

6.2 Ước lượng các tham số khi có đa cộng tuyến

 Các hệ số ước lượng không xác định: chúng ta không

tách rời tác động của từng biến Xi lên Y do không thể giả định X2 thay đổi trong khi X3 không đổi.

2 3

2

2 3

2 2

3 2

3

2 3 2

2

) (

i i

i i

i i

i i

i

x x

x x

x x

x y x

2 3

2 2

3

2 3 2

3 3

3

2 3 3

i i

i i

i i

i i

i

x x

x x

x x

x y x

x y







 b

6.2 Ước lượng các tham số khi có đa cộng tuyến

2 Trường hợp có đa cộng tuyến không hoàn hảo

• Đa cộng tuyến hoàn hảo thường không xảy ra trong

thực tế

• Xét mô hình hồi qui 3 biến dưới dạng sau:

yi = b2 x2i + b3 x3i + eiGiả định x3i =  x2i + vi

Với   0 và vi là sai số ngẫu nhiên

• Trong trường hợp này, các hệ số hồi qui b2 và

b3 có thể ước lượng được:

Ta có thể ước lượng được các này nhưng s.e

sẽ rất lớn

6.2 Ước lượng các tham số khi có đa cộng tuyến

b ˆ

6.3 Hậu quả của đa cộng tuyến

Nếu có cộng tuyến gần hoàn hảo:

1 Phương sai và hiệp phương sai của các ước

lượng OLS lớn

r23 là hệ số tương quan giữa X2 và

X3.Khi r23  1, các giá trị trên  

6.3 Hậu quả của đa cộng tuyến

Nếu có cộng tuyến gần hoàn hảo:

2 Khoảng tin cậy rộng hơn

• Khoảng tin cậy của b2 và b3 (với độ tin cậy 1 – )

b

^ 3

b

^ 2

b

^ 3

b



 232 ) 221



Giá trị của r23 Khoảng tin cậy 95% của B2

0 0.5 0.95

0.995

0.999

A

* 96 1

* 96 1

* 96 1

* 96 1

* 96 1

6.3 Hậu quả của đa cộng tuyến

Nếu có cộng tuyến gần hoàn hảo:

Trong trường hợp cộng tuyến cao thì sai số chuẩn

sẽ rất lớn và do đó làm cho giá trị t sẽ nhỏ đi, kết quả là sẽ làm tăng chấp nhận giả thuyết H0

)

ˆ ( se

ˆ t

2

2

b b



6.3 Hậu quả của đa cộng tuyến

Nếu có cộng tuyến gần hoàn hảo:

4 R2 cao nhưng tỉ số t ít có ý nghĩa

số góc riêng) không có ý nghĩa về mặt thống

6.3 Hậu quả của đa cộng tuyến

Nếu có cộng tuyến gần hoàn hảo:

5 Các ước lượng OLS và sai số chuẩn của chúng

trở nên rất nhạy với những thay đổi nhỏ trong

dữ liệu

6 Dấu của các ước lượng của các hệ số hồi qui có

thể sai

7 Thêm vào hay bớt đi các biến cộng tuyến với các

biến khác, mô hình sẽ thay đổi về dấu hoặc

thay đổi về độ lớn của các ước lượng

Ví dụ: Bảng 2 do nhập sai số liệu nên

xảy ra đa cộng tuyến

0 )

ˆ , ˆ cov(

; 5523

0

; 81

.

0

003 0 446

0 193

.

1

ˆ

3 2 23

2

3 2

r R

X X

Se (0.7736) (0.1848) (0.0850)

t (1.543) (2.415) (0.0358)

0282

0 )

ˆ , ˆ cov(

; 8285

0

; 81 0

027 0 401

0 210 1 ˆ

3 2 23

2

3 2

r R

X X

Se (0.7480) (0.2720) (0.1252)

t (1.618) (1.4752) (0.2152)

Đa cộng tuyến là một hiện tượng theo

mẫu, nghĩa là cho dù các biến độc lập

Xi không tương quan tuyến tính trong

tổng thể nhưng chúng có thể tương

quan tuyến tính trong một mẫu cụ thể

nào đó Do đó cỡ mẫu lớn thì hiện

tượng đa cộng tuyến ít nghiêm trọng

hơn cỡ mẫu nhỏ

1 Hệ số R2 lớn nhưng tỷ số t nhỏ

2 Tương quan cặp giữa các biến giải thích cao

3 Sử dụng mô hình hồi qui phụ

4 Sử dụng yếu tố phóng đại phương sai (VIF)

6.4 Cách phát hiện đa cộng tuyến

1 R 2 lớn nhưng tỷ số t nhỏ

Nếu R2 cao, chẳng hạn, >0,8 và F test bác bỏ giả

thuyết b2 = b3 = … = bk = 0, nhưng t test cho

từng bi lại chấp nhận H0

2 Tương quan cặp giữa các biến giải thích cao

Trong đó X, Z là 2 biến giải thích trong mô hình

) (

) (

) )(

(

Z Z

X X

Z Z

X

X r

i i

i i

XZ

6.4 Cách phát hiện đa cộng tuyến

3 Sử dụng mô hình hồi quy phụ

Hồi qui một biến giải thích X nào đó theo các biến

còn lại

Tính R2 và F cho mỗi mô hình theo công thức:

Lập giả thiết H0: R2 = 0 ~ H0: không có đa cộng tuyếnNếu F > F(m-1,n-m): bác bỏ H0 => có đa cộng tuyếnNếu F < F(m-1,n-m): chấp nhận H0 => không có đa cộng tuyến

mi k

i

) 1 )(

1 (

m n

R F

6.4 Cách phát hiện đa cộng tuyến

VD: Cho doanh số bán (Y), chi phí chào hàng (X2)

và chi phí quảng cáo (X3) trong năm 2001 ở 12

khu vực bán hàng của 1 công ty Có hiện tượng

đa cộng tuyến không?

Hồi quy biến chi phí chào hàng với chi phí quảngcáo, ta có kết quả

X 2 =42,012 + 0,387 *X 3

R 2 = 0,22922 F= 2,9738

Với mức ý nghĩa α=5%, tra bảng F0.05 (1,10)=

4,96 Ta thấy F < F0.05 (1,10) nên chấp nhận Ho hay không có đa cộng tuyến

6.4 Cách phát hiện đa cộng tuyến

4 Sử dụng nhân tử phóng đại phương sai (VIF)

Đối với hàm hồi quy 2 biến giải thích, VIF được định nghĩa như sau:

Đối với trường hợp tổng quát, có (k-1) biến giải thích thì:

R 2

j : là giá trị R 2 trong hàm hồi quy của Xj theo (k-1) biến giải thích còn lại Thông thường khi VIF > 10, thì biến này được coi là có cộng tuyến cao

)1

(

1

2 23

2 2



  b

Giá trị của r23 VIF

B x

1 Dùng thông tin tiên nghiệm

Ví dụ khi hồi quy mô hình sản xuất Cobb-Douglas

Ln(Yi)=b1 + b2ln(Ki)+ b3ln(Li) + ui

Có thể gặp hiện tượng đa cộng tuyến do K và L

cùng tăng theo quy mô sản xuất Nếu ta biết là hiệu suất không đổi theo quy mô tức là b2+b3=1

Ln(Yi)=b1 + b2ln(Ki)+ (1-b2)ln(Li) + uiLn(Yi) – Ln(Li) = b1 + b2[ln(Ki) - ln(Li)] + uiLn(Yi /Li ) = b1 + b2ln(Ki /Li) + ui

=> mất đa cộng tuyến (vì đây là mô hình hồi quy

i

u i

1 Dùng thông tin tiên nghiệm

Ví dụ

Yi=b1 + b2X2i+ b3X3i + uiBiết b3=0.1b2

Biến đổi Yi=b1 + b2X2i+ 0.1b2X3i + ui

Yi=b1 + b2Xi+ ui

Với Xi=X2i+ 0.1X3i

6.5 Cách khắc phục

2 Loại trừ một biến giải thích ra khỏi mô

B2: Tính R2 đối với các hàm hồi quy: có mặt cả

2 biến; không có mặt một trong 2 biến

B3: Loại biến mà giá trị R2 tính được khi không

có mặt biến đó là lớn hơn

6.5 Cách khắc phục

6.5 Cách khắc phục

3 Bổ sung thêm dữ liệu hoặc chọn mẫu mới

không có nghĩa sai phân của chúng cũng như

vậy

6.5 Cách khắc phục

5 Đổi biến

Ví dụ : yt = 1 + b1x1t + b2x2t + ut

Với Y: tiêu dùng

X1: GDP X2: dân số

Vì GDP và dân số theo thời gian có xu hướng tăng nên có thể cộng tuyến

Biện pháp: chia các biến cho dân số

6.5 Cách khắc phục

t

t t

t t

t

X

u X

X X

Y

2

2 2

1 2

1 2







  b b

Khảo sát chi tiêu tiêu dùng, thu nhập và sự giàu có,

1 Ước lượng mô hình hồi quy Y= β1 + β2

X2 + β3.X3 +U

Nhận xét ban đầu: Theo lý thuyết kinh tế thì

chi tiêu cho tiêu dùng (Y) có xu hướng

tăng theo thu nhập (X2) và sự giàu có

(X3) nên dấu của các hệ số hồi quy riêng

là dương

Kết quả hồi quy trên Eviews như sau: