Trong mô hình hồi quy bộiCó sự phụ thuộc tuyến tính cao giữa các biến độc lập ki k i i... - Chọn các biến độc lập có mối quan hệ nhân quả hay có tương quan cao vì đồng phụ thuộc vào một
Trang 1CHƯƠNG 6
HIỆN TƯỢNG
ĐA CỘNG TUYẾN (MULTICOLLINEARITY)
Trang 21 Hiểu bản chất và hậu quả
của đa cộng tuyến
2 Biết cách phát hiện đa cộng
tuyến và biện pháp khắc phục
M C Ụ
TIÊU
Trang 4Trong mô hình hồi quy bội
Có sự phụ thuộc tuyến tính cao giữa các biến độc lập
ki k
i i
Trang 56.1 Bản chất của đa cộng tuyến
a Đa cộng tuyến hoàn hảo
Tồn tại λ2, λ3,… λk không đồng thời bằng 0 sao cho
λ2X2 + λ3X3 + …+ λkXk = 0
b Đa cộng tuyến không hoàn hảo
λ2X2 + λ3X3 + …+ λkXk + vi= 0với vi là sai số ngẫu nhiên
Trang 6X3i = 5X2i, có cộng tuyến hoàn hảo giữa X2 và
Trang 7Hình 6.1 Biểu đồ Venn mô tả hiện tượng đa cộng tuyến
Trang 8Hình 6.1 Biểu đồ Venn mô tả hiện tượng đa cộng tuyến
Đa cộng tuyến hoàn hảo
6.1 Bản chất của đa cộng tuyến
Trang 9- Chọn các biến độc lập có mối quan
hệ nhân quả hay có tương quan cao
vì đồng phụ thuộc vào một điều kiện khác
- Số quan sát nhỏ hơn số biến độc lập.
- Cách thu thập mẫu: mẫu không đặc trưng cho tổng thể
- Chọn biến Xi có độ biến thiên nhỏ
* Nguyên nhân của đa cộng tuyến
Trang 106.2 Ước lượng khi có đa cộng tuyến
6.2.1 Trường hợp có đa cộng tuyến hoàn
hảo
Xét mô hình hồi qui 3 biến dưới dạng sau:
Yi = β2 X2i + β3 X3i + Uigiả sử X3i = λX2i, mô hình được biến đổi thành:
Yi = (β2+ λβ3)X2i + Ui = β0 X2i + UiPhương pháp OLS
∑
∑
= +
2
2 3
ˆ (
ˆ
i
i
i o
x
y
x
β λ β
β
Không thể tìm được lời giải duy nhất cho β ˆ2, β ˆ3
Trang 112 3
2
2 3
2 2
3 2
3
2 3
2 2
) (
i i
i i
i i
i i
i
x x
x x
x x
x y x
2 3
2
2 3
2 3 2
3 3
3
2 3
i i
i i
i i
i i
i
x x
x x
x x x
y x
x
y
λ λ
λ
λ β
Phương sai và sai số chuẩn của β2 và β3 là
vô hạn
6.2 Ước lượng khi có đa cộng tuyến
Trang 126.2.2 Trường hợp có đa cộng tuyến không
Với λ ≠ 0 và vi là sai số ngẫu nhiên
6.2 Ước lượng khi có đa cộng tuyến
Trang 13 Có thể ước lượng được các hệ số hồi quy nhưng sai số chuẩn rất lớn.
Có thể ước lượng được các hệ số hồi
quy nhưng sai số chuẩn rất lớn
2
2 2
2 2
2
2 2
2 2 2
2 2
2 2
2 2
i i
i i
i i
i i
i i
i
x v
x x
x v
y x
y v
x x
y
λ λ
λ λ
λ β
6.2 Ước lượng khi có đa cộng tuyến
Trang 146.3 Hậu quả của đa cộng tuyến
Nếu có cộng tuyến gần hoàn hảo
1 Phương sai và hiệp phương sai của các
ước lượng OLS lớn
2 Khoảng tin cậy rộng hơn.
3 Tỉ số t "không có ý nghĩa"
4 R2 cao nhưng tỉ số t ít có ý nghĩa
Trang 155 Các ước lượng OLS và sai số chuẩn của
chúng trở nên rất nhạy với những thay
đổi nhỏ trong dữ liệu
6 Dấu của các ước lượng của các hệ số hồi
qui có thể sai
7 Thêm vào hay bớt đi các biến cộng tuyến
với các biến khác, mô hình sẽ thay đổi
về dấu hoặc thay đổi về độ lớn của các ước lượng
6.3 Hậu quả của đa cộng tuyến
Trang 16Đa cộng tuyến là một hiện tượng theo mẫu, nghĩa là cho dù các biến độc lập Xikhông tương quan tuyến tính trong tổng thể nhưng chúng có thể tương quan
tuyến tính trong một mẫu cụ thể nào đó
Do đó cỡ mẫu lớn thì hiện tượng đa
cộng tuyến ít nghiêm trọng hơn cỡ mẫu nhỏ
6.3 Hậu quả của đa cộng tuyến
Trang 17(
Z Z
X X
Z Z
X
X r
i i
i
i XZ
6.4 Cách phát hiện đa cộng tuyến
Trang 183 Sử dụng mô hình hồi quy phụ
Hồi qui một biến giải thích X theo các biến còn lại
tuyến
ki k
i
Xˆ 2 = βˆ1 + βˆ3 3 + + βˆ
)2)(
1(
)1
()
1/(
)1
(
)2
/(
2
2 2
k n
R k
n R
k
R F
6.4 Cách phát hiện đa cộng tuyến
Trang 194 Sử dụng nhân tử phóng đại phương sai (VIF)
Đối với hàm hồi quy 2 biến giải thích
Đối với trường hợp tổng quát, có (k-1) biến giải thích
biến giải thích còn lại.
Thông thường khi VIF > 10, thì biến này được coi là
có cộng tuyến cao
) 1
(
1
2 23
(
1
2
j R
Trang 201 Dùng thông tin tiên nghiệm
Ví dụ mô hình sản xuất Cobb-Douglas
Trang 212 Loại trừ một biến giải thích ra khỏi mô
B2: Tính R2 đối với các hàm hồi quy: có mặt cả
2 biến; không có mặt một trong 2 biến
B3: Loại biến mà giá trị R2 tính được khi không
có mặt biến đó là lớn hơn
6.5 Cách khắc phục
Trang 223 Bổ sung thêm dữ liệu hoặc chọn mẫu mới
=
) 1
2 2
r
x i
σ β
6.5 Cách khắc phục
Trang 234 Dùng sai phân cấp 1
Có hàm hồi qui: Yt = β1 + β2X2t + β3X3t + Ut
suy ra
Yt-1 = β1 + β2X2,t-1 + β3X3,t-1 + Ut-1Trừ hai vế cho nhau, được:
Yt – Yt – 1 = β2(X2,t – X2,t – 1) + β3(X3,t – X3,t – 1) + (Ut – Ut – 1)
Hay:Đặt yt = Yt – Yt – 1; x2t = X2t – X2,t-1;
x3t = X3t - X3,t-1; ut = Ut-Ut-1
6.5 Cách khắc phục