Ước lượng trong trường hợp đa cộng tuyến không hoàn hảo... 2.Ước lượng khi có đa cộng tuyến không hoàn hảo• Xét mô hình hồi quy biến dạng độ lệch: Với λ, và là sai số ngẫu nhiên.. Do đó
Trang 1Nhóm 5
1 Nguyễn Thị Lan Anh
2 Nguyễn Vũ Minh Anh
3 Huỳnh Thị Kim Ngân
4 Trần Thị Kim Ngân
5 Nguyễn Ngọc Thảo Nguyên
Trang 2Chương 6: Đa cộng
tuyến
1 Bản chất của đa cộng tuyến
2 Ước lượng trong trường hợp có đa
cộng tuyến
3 Hậu quả của đa cộng tuyến
4 Phát hiện đa cộng tuyến
5 Các biện pháp khắc phục
Trang 36.1 Bản chất của đa cộng tuyến
Xét hàm hồi quy tuyến tính k biến:
Y i =ββ1 + β2X2 + β3X3 + … + βkXk + Ui
Mô hình lý tưởng khi các biến giải thích
Xi (i=β2, 3, …, k) độc lập tuyến tính, khi đó ta nói không xảy ra hiện tượng đa cộng tuyến.
Trang 46.1 Bản chất của đa cộng tuyến
Nhắc lại: Giả thiết trong mô hình hồi quy bội:
Hồi quy tuyến tính 3 biến
Trang 56.1 Bản chất của đa cộng tuyến
Nếu tồn tại các 2, 3, …, k sao cho:
2X2i + 3X3i + kXki =β0, với i (i=β2,3,…,k) không đồng thời bằng 0 thì giữa các biến Xi (i=β2,3,
…,k): xảy ra hiện tượng đa cộng tuyến hoàn hảo
(Perfect Multicollinearity)
Nếu 2X2i + 3X3i + … + kXki + Vi =β0
Với Vi là sai số ngẫu nhiên thì ta nói xảy ra hiện
tượng đa cộng tuyến không hoàn hảo (Imperfect
Multicollinearity).
Trang 66.1 Bản chất của đa cộng tuyến
Ví dụ:
X2i =β 5X1i: Cộng tuyến hoàn hảo, r12=β1
X2 và X3 : Không có cộng tuyến hoàn hảo,
r23=β0,9959
Trang 76.2 ƯỚC LƯỢNG TRONG TRƯỜNG HỢP
ĐA CỘNG TUYẾN
Có 2 trường hợp:
1 Trường hợp có đa cộng tuyến hoàn hảo
2 Ước lượng trong trường hợp đa cộng tuyến
không hoàn hảo
Trang 81.Trường hợp có đa cộng tuyến hoàn hảo
• Theo kết quả chương 4, ta có:
•
Trang 91.Trường hợp có đa cộng tuyến hoàn hảo
Trang 102.Ước lượng khi có đa cộng tuyến không hoàn hảo
• Xét mô hình hồi quy biến dạng độ lệch:
Với λ, và là sai số ngẫu nhiên Do đó
Trong trường hợp này, các hệ số hồi quy và có thể ước lượng được:
=β
• Như vậy, với đủ nhỏ, không có lý do gì để nói trường hợp này không ước lượng được
•
Trang 116.3 Hậu quả của đa cộng tuyến:- Trong trường hợp đa cộng tuyến gần hoàn hảo, có thể gặp các tình huống sau đây:
1 Phương sai và hiệp phương sai của các ước lượng OLS lớn
Var () =β Var () =β
Cov () =β
Trang 122 Khoảng tin cậy rộng hơn
• Trong chương trước, khoảng tin cậy của và ( với hệ số tin cậy là 1-) là:
* se(); *se()
se() =β ; se() =β
Như vậy khi càng gần 1 thì khoảng tin cậy của và càng rộng
•
Trang 133 Tỷ số t “không có ý nghĩa”
• Khi kiểm định giả thuyết :=β0 chúng ta sử dụng tỷ số t
T =β
So sánh giá trị ước lượng của t với giá trị tới hạn của t
Như vậy, khi đó đa cộng tuyến cao thì sai số chuẩn sẽ rất lớn, do đó làm cho giá trị
t nhỏ đi, kết quả là sẽ làm tăng khả năng chấp nhận giả thiết
•
Trang 144 R2 cao nhưng tỉ số t ít có ý nghĩa
Xét mô hình hồi quy sau đây:
Trang 155 Các ước lượng bình phương bé nhất và các sai số tiêu chuẩn của chúng trở nên rất nhạy cảm với những thay đổi nhỏ trong bộ số liệu.
6 Dấu của các ước lượng hồi quy có thể sai
7 Thêm vào hay bớt đi các biến cộng tuyến với các biến khác, mô hình sẽ thay đổi về độ lớn của các ước lượng hoặc dấu của chúng.
Trang 166.4 Phát hiện sự tồn tại
của ĐCT
• Hệ số R2 lớn (thường R2>0,8) nhưng tỷ số t nhỏ
• Tương quan cặp giữa các biến giải thích cao Rxz =
Nếu tương quan cặp giữa các biến giải thích cao (lớn hơn 0,8) thì có thể xảy ra hiện
tượng đa cộng tuyến Tuy nhiên tiêu chuẩn này thường không chính xác
•
Trang 176.4 Phát hiện sự tồn tại của ĐCT
Có những trường hợp tương quan cặp
không cao nhưng vẫn xảy ra hiện tượng
Trang 186.4 Phát hiện sự tồn tại của ĐCT
• Sử dụng mô hình hồi qui phụ
Hồi qui phụ là hồi qui một biến giải thích X nào đó theo các biến còn lại
F = n: số quan sát
k: số tham số trong mô hình hồi qui phụ (kể cả hệ số tự do)
* Kiểm định giả thiết H: R2 = 0 : Không có đa cộng tuyến
•
Trang 196.4 Phát hiện sự tồn tại của ĐCT
-Nếu Fi > F ở mức ý nghĩa đã cho,
có nghĩa là Xi có liên hệ tuyến
tính với các biến X khác Trường hợp này ta giữ lại các biến trong
Trang 206.4 Phát hiện sự tồn tại của ĐCT
• Sử dụng nhân tử phóng đại phương sai (VIF)
Tốc độ gia tăng của phương sai và hiệp
phương sai có thể thấy qua nhân tử phóng đại phương sai
- Đối với hàm hồi qui có 2 biến giải thích X2
và X3:
VIF = Khi r23 = 1 thì VIF tiến đến vô hạn Nếu
không có cộng tuyến giữa X2 và X3 thì VIF bằng 1
•
Trang 226.5.Các biện pháp khắc
phục
1 Sử dụng thông tin tiên nghiệm:
• Dựa vào kinh nghiệm khi làm việc với các mô hình
Ví dụ hàm sản xuất Cobb-Douglas:
(6.1)
Qt là sản lượng sản phẩm được sản xuất ở thời
kỳ t
Lt là lao động ở thời kỳ t; Kt là vốn ở thời kỳ t;
Ut là sai số ngẫu nhiên
A, , là các tham số chúng ta cần ước lượng
t
u t
t
Trang 23Lấy Lôgarit tự nhiên (6.1):
t t
t
Trang 24thay = 1 - , ta được:
Như vậy, thông tin tiên nghiệm đã giúp chúng ta giảm số biến độc lập của mô hình xuống chỉ còn một biến
Trang 25Bước 2: Tính R2 đối với các hàm hồi qui: có mặt cả hai biến; không có mặt một trong hai biến
Bước 3: Ta loại biến mà giá trị R2 tính được khi
không có mặt biến đó là lớn hơn
Trang 276.5.Các biện pháp khắc
phục
5 Giảm tương quan trong hàm hồi qui đa
thức
Trong thực hành, để giảm tương quan trong hồi qui
đa thức, người ta thường sử dụng dạng độ lệch
(lệch so với giá trị trung bình)
Nếu sử dụng dạng độ lệch mà không giảm đa cộng tuyến thì người ta có thể phải xem xét đến kỹ
thuật “đa thức trực giao”.
Trang 28Hồi qui thành phần chính
Hồi qui dạng sóng