Chương I. LÝ LUẬN CƠ BẢN VỀ HIỆN TƯỢNG ĐA CỘNG TUYẾN1.Khái niệm đa cộng tuyến và nguyên nhân.1.1Khái hiệm1.2Ước lượng khi có đa cộng tuyến.1.3Hậu quả của hiện tượng đa cộng tuyến.2.Cách phát hiện và khắc phục hiện tượng đa cộng tuyến2.1Các cách phát hiện đa cộng tuyến2.2Các biện pháp khắc phục hiện tượng đa cộng tuyến.Chương II. VÍ DỤ MINH HỌA VỀ HIỆN TƯỢNG ĐA CỘNG TUYẾN: 1.Lập mô hình hồi quy và kiểm định sự phù hợp của mô hình2.Các cách phát hiện đa cộng tuyến3. Các biện pháp khắc phục hiện tượng đa cộng tuyếnKẾT LUẬN LỜI MỞ ĐẦUTrong mô hình phân tích hồi quy bội, chúng ta giả thiết giữa các biến giải thích Xi của mô hình độc lập tuyến tính với nhau, tức là các hệ số hồi quy đối với một biến cụ thể là số đo tác động riêng phần của biến tương ứng khi tất cả các biến khác trong mô hình được giữ cố định. Tuy nhiên khi giả thiết đó bị vi phạm tức là các biến giải thích có tương quan thì chúng ta không thể tách biệt sự ảnh hưởng riêng biệt của một biến nào đó.Hiện tượng trên được gọi là đa công tuyến. Vậy để đa cộng tuyến là gì, hậu quả của hiện tượng này như thế nào, làm thế nào để phát hiện và biện pháp khắc phục nó. Để trả lời được những câu hỏi trên, sau đây chúng ta cùng sau đây chúng ta cùng đi thảo luận về đề tài: “Hiện tượng đa cộng tuyến”.Nội dung của bài thảo luận được chia thành 2 phần chính :
Trang 1MỤC LỤC
LỜI MỞ ĐẦU
Chương I LÝ LUẬN CƠ BẢN VỀ HIỆN TƯỢNG ĐA CỘNG TUYẾN
1. Khái niệm đa cộng tuyến và nguyên nhân.
1.1 Khái hiệm
1.2 Ước lượng khi có đa cộng tuyến
1.3 Hậu quả của hiện tượng đa cộng tuyến
2. Cách phát hiện và khắc phục hiện tượng đa cộng tuyến
2.1 Các cách phát hiện đa cộng tuyến
2.2 Các biện pháp khắc phục hiện tượng đa cộng tuyến
Chương II VÍ DỤ MINH HỌA VỀ HIỆN TƯỢNG ĐA CỘNG TUYẾN:
1. Lập mô hình hồi quy và kiểm định sự phù hợp của mô hình
2. Các cách phát hiện đa cộng tuyến
3. Các biện pháp khắc phục hiện tượng đa cộng tuyến
KẾT LUẬN
Trang 2LỜI MỞ ĐẦU
Trong mô hình phân tích hồi quy bội, chúng ta giả thiết giữa các biến giải thích Xi của
mô hình độc lập tuyến tính với nhau, tức là các hệ số hồi quy đối với một biến cụ thể là
số đo tác động riêng phần của biến tương ứng khi tất cả các biến khác trong mô hìnhđược giữ cố định Tuy nhiên khi giả thiết đó bị vi phạm tức là các biến giải thích cótương quan thì chúng ta không thể tách biệt sự ảnh hưởng riêng biệt của một biến nào đó
Hiện tượng trên được gọi là đa công tuyến Vậy để đa cộng tuyến là gì, hậu quả củahiện tượng này như thế nào, làm thế nào để phát hiện và biện pháp khắc phục nó Để trảlời được những câu hỏi trên, sau đây chúng ta cùng sau đây chúng ta cùng đi thảo luận về
đề tài: “Hiện tượng đa cộng tuyến”.Nội dung của bài thảo luận được chia thành 2 phầnchính :
Chương I LÝ LUẬN CƠ BẢN VỀ HIỆN TƯỢNG ĐA CỘNG TUYẾN
1. Khái niệm đa cộng tuyến và nguyên nhân
1.1. Khái niệm
Khi xây dựng mô hình hồi quy bội, trường hợp lý tưởng là các biến Xi trong mô hìnhkhông có tương quan với nhau; mỗi biến Xi thông tin riêng về Y, thông tin không chứatrong bất kì biến Xi khác Trong thực hành, khi điều này xảy ra ta không gặp hiện tượng
đa cộng tuyến
Ở các trường hợp ngược lại, ta gặp hiện tượng đa cộng tuyến hoàn hảo.Giả
sử ta phải ước lượng hàm hồi quy Y gồm k biến giải thích X1, X2, X3,… , Xk
Y1 = β1+ β2X2i+ β3X3i+ … +βkXki + Ui
- Các biến X2, X3, , Xk gọi là các đa cộng tuyến hoàn hảo hay còn gọi là đa cộng tuyếntoàn phần nếu tồn tại λ2, , λkkhông đồng thời bằng 0 sao cho:
λ2X2 + λ3X3 + + λkXk = 0 với mọi i
- Các biến X2, X3 , Xk gọi là các đa cộng tuyến không hoàn hảo nếu tồn tại λ2, ,
λk không đồng thời bằng 0 sao cho:λ2X2+ λ3X3+ + λkXk+ Vi= 0 (1.1)trong đó Vi làsai số ngẫu nhiên
Trong (1.1) giả sử ∃λi ≠ 0 khi đó ta biểu diễn:
X2i = - X3i - X4i - … - - (1.2)
Trang 3Từ (1.2) ta thấy, hiện tượng đa cộng tuyến xảy ra khi một biến là tổ hợp tuyến tính củacác biến còn lại và một sai số ngẫu nhiên, hay nói cách khác là có một biến biểu diễn xấp
xỉ tuyến tính qua các biến còn lại
1.2. Ước lượng khi có đa cộng tuyến
Do phương pháp thu thập dữ liệu: Các giá trị của biến độc lập phụ thuộc lẫn nhautrong mẫu nhưng không phụ thuộc lẫn nhau trong tổng thể
Ví dụ: Người thu nhập cao có khuynh hướng có nhiều của cải hơn Điều này có thểđúng với mẫu mà không đúng với tổng thể Trong tổng thể sẽ có các quan sát về các cácnhân có thu nhập cao nhưng không có nhiều của cải và ngược lại
Các dạng mô hình dễ xảy ra đa cộng tuyến:
- Hồi quy dạng các biến độc lập bình phương sẽ xảy ra đa cộng tuyến, đặc biệt khiphạm vi giá trị ban đầu của biến độc lập là nhỏ
- Các biến độc lập vĩ mô được quan sát theo chuỗi thời gian
a. Ước lượng khi có hiện tượng đa cộng tuyến hoàn hảo
Sau đây chúng ta sẽ chỉ ra rằng khi có đa cộng tuyến hoàn hảo thì các hệ
số hồi quy là không xác định còn các sai số tiêu chuẩn là vô hạn Để đơn giản về mặt trình bày chúng ta sẽ xét mô hình hồi quy 3 biến và chúng ta sẽ
sử dụng dạng độ lệch trong đó:
yi = Yi - ; xi = Xi - (1.3)
= i ; = i (1.4)thì mô hình hồi quy 3 biến có thể viết lại dưới dạng :
yi =2 + 3 + ei (1.5)Theo tính toán trong chương hồi quy bội ta thu được các ước lượng 2 và 3
2 cho ta tốc độ thay đổi trung bình của Y khi X2thay đổi 1 đơn vị còn X3 không đổi.Nhưng khi X3i = 2 thì điều đó có nghĩa là không thể tách ảnh hưởng của X2 và X3 khỏi mẫu
đã cho Trong kinh tế lượng, điều này phá hủy toàn bộ ý định tách ảnh hưởng riêng củatừng biến lên biến phụ thuộc
Thí dụ: X3i = 2i thay điều kiện này vào (1.5) ta được:
Yi = 2 + 3) + ei =(2+ 3 + ei = + ei
Trang 4Áp dụng công thức tính ước lượng của phương pháp bình phương nhỏ nhất thông thường
b. Ước lượng trong trường hợp có đa cộng tuyến không hoàn hảo
Đa cộng tuyến hoàn hảo chỉ là một trường hợp đặc biệt hiếm xảy ra Trong các sô liệuliên quan đén chuỗi thời gian, thường xảy ra đa cộng tuýen không hoàn hảo
Xét mô hình (1.5) Bây giờ chúng ta giả thiết giữa X2 và X3 có cộng tuyến không hoànhảo theo nghĩa:
X3i = + Vi
Trong đó 0, Vi là nhiễu ngẫu nhiên sao cho =0
Trong trường hợp này theo phương pháp bình phương nhỏ nhất ta dễ dàng thu được các ước lượng 2 và 3
1.3.Hậu quả của hiện tượng đa cộng tuyến
Ta xét các trường hợp mô hình của hiện tượng đa cộng tuyến không hoàn hảo tức làbiến độc lập Xi có thể xấp xỉ tuyến tính theo các biến X2 , X3 ,…,Xk Có một số trườnghợp xảy ra như sau:
a. Phương sai và hiệp phương sai của các ước lượng bình quân bé nhất lớn
Trong chương mô hình hồi quy bội ta đã có biểu thức:
Var(2) = (1.a)Var(3) = (2.a)Và: cov(2 , 3 ) = (3.a) Trong đó là hệ số tương quan giữa X2 , X3
Trang 5Từ (1.a) và (2.a) ta thấy tăng dần tới 1 (nghĩa là cộng tuyến tăng) thì phương sai của haiước lượng này tăng dần tới vô hạn (3.a) chỉ ra rằng khi tăng dần tới 1 thì cov(2 , 3 ) tăng
về gía trị tuyệt đối
b. Khoảng tin cậy rộng hơn
Giả sử khi thực hành ta có khoảng tin cậy 95% cho 2 , 3 khi đã biết là:
2 1,96 se(2) và 3 1,96 se (3)
Trong đó :
Se(2 ) = = Se(3 ) = = Cho nên ta có thể viết lại các khoảng tin cậy 95% cho 2 là :
2 1,96 (1.b)
Và cho 3 là :
3 1,96(2.b)
Từ (1.b) và (2.b) chứng tỏ càng gần tới 1 thì khoảng tin cậy cho các tham số càng rộng
Do đó trong trường hợp có đa cộng tuyến gần hoàn hảo thì các số liệu của mẫu có thểthích với tập thể các giả thiết khác nhau, vì thế xác suất chấp nhận giả thuyết sai tăng lên
c. Tỷ số t mất ý nghĩa
Như ta đã biết, khi kiểm định giả thuyết H0 : 2 = 0 chúng ta đã sử dụng tỷ số :
t = và đem so sánh giá trị t đã được ước lượng với giá trị tới hạn t Nhưng khi có đacộng tuyến gần hoàn hảo thì sai số tiêu chuẩn ước lượng sẽ rất cao vì vậy làm cho tỉ số tnhỏ đi, kết quả sẽ làm tăng khả năng chấp nhận giả thuyêt H0,
d. cao nhưng tỉ số ít ý nghĩa.
Để giải thích điều này, ta xét mô hình hồi quy k biến như sau :
= + X2i + X3i + … + Xki + Ui
Trong trường hợp có đa cộng tuyến gần hoàn hảo, có thể tìm được một hoặc một số hệ
số góc riêng là không có ý nghĩa về mặt thống kê trên cơ sở kiểm định t nhưng trong khi
đó lại rất cao, nên bằng kiểm định F chúng ta có thể bác bỏ giả thuyết: H0: = = =… = =
0 Mâu thuẫn này cũng là tín hiệu của đa cộng tuyến
e. Các ước lượng bình phương bé nhất và các sai số tiêu chuẩn của chúng trở nên rất nhạy cảm đối với những thay đổi nhỏ trong số liệu.
f. Dấu của các ước lượng của hệ số hồi quy có thể sai.
Trang 6Khi có đa cộng tuyến gần hoàn hảo thì có thể thu được các ước lượng của hệ số hồiquy trái với điều mà chúng ta mong đợi
g. Thêm vào hay bớt đi các biến cộng tuyến với các biến khác, mô hình sẽ thay đổi về
độ lớn của các ước lượng hoặc dấu của chúng.
2. Cách phát hiện và khắc phục hiện tượng đa cộng tuyến
2.1.Các cách phát hiện đa cộng tuyến
a. R 2 cao nhưng tỷ số t thấp:
Trong trường hợp R2 cao ( thường R2> 0.8) mà tỷ số t thấp thì đó chính là dấu hiệucủa hiện tượng đa cộng tuyến
b. Tương quan cặp giữa các biến giải thích cao :
Nếu hệ số tương quan cặp giữa các biến giải thích cao (vượt 0.8) thì có khả năng tồntại đa cộng tuyến Tuy nhiên tiêu chuẩn này thường không chính xác
Có những trường hợp tương quan cặp không cao nhưng vẫn có đa cộng tuyến.Thí dụ,
ta có 3 biến giải thích như sau :
c. Xem xét tương quan riêng
Vì vấn đề được đề cập đến dựa vào tương quan bậc 0.Farrar và Glouber đã đề nghị sửdụng hệ thống tương quan riêng Trong hồi quy của Y đối với các biến X2,X3,X4 Ta nhậnthấy rằng r2
12,34 ,r2 13,24,r2
rằng X2,X3 và X4 có tương quan cao và ít nhất 1 trong các biến này là thừa
Dù tương quan riêng rất có ích nhưng nó không đảm bảo được rằng sẽ cung cấp cho
ta hướng dẫn chính xác trong việc phát hiện ra hiện tượng đa cộng tuyến
d. Hồi quy phụ:
Trang 7Một cách có thể tin cậy được để đánh giá mức độ của đa cộng tuyến là hồi quyphụ.Hồi quy phụ là hồi quy mỗi một biến giải thích theo các biến giải thích còn lại R2
được tính từ hồi quy này ta ký hiệu R2
i là hệ số xác định trong hồi quy của biến Xi
có liên hệ với các biến X khác.Nếu Fi có ý nghĩa về mặt thống kê chúng ta vẫn phải quyếtđịnh biến Xi nào sẽ phải loại khỏi mô hình Một trở ngại của kỹ thuật hồi quy phụ làgánh nặng tính toán Nhưng ngày nay nhiều chương trình máy tính đã có thể đảm đươngcông việc tính toán này
e. Nhân tử phóng đại phương sai:
Phân tử phóng đại phương sai gắn với biến Xi ký hiệu :
VIF(Xi) = Nhìn vào công thức có thể giải thích VIF(X i) bằng tỷ số của phương sai thực của βi
trong hồi quy gốc của Y với các biến X và phương sai của ước lượng βi trong hồi quy mà
ở đó Xi trực giao với các biến khác Ta coi tình huống lý tưởng là tình huống mà trong đócác biến độc lập không tương quan với nhau,và VIF so sánh tình huống thực với tìnhhuống lý tưởng Sự so sánh này không có ích nhiều và nó không cung cấp cho ta biết phảilàm gì với tình huống đó Nó chỉ cho biết rằng tình hình là không lý tưởng
Đồ thị của mối liên hệ của R
2
i
và VIF là:
VIF
Trang 8Như hình vẽ chỉ ra, khi R
Trang 9, X3… Xk không tương quan với nhau thì m = 0 vì những đóng góp tăng thêm đó cộng
lại bằng R
2
Trong các trường hợp khác m có thể nhận giá trị âm hoặc dương lớn
Để thấy được độ đo này có ý nghĩa, chúng ta xét trường hợp mô hình có 2 biến giải thích
X2 và X3 Theo ký hiệu đã sử dụng ở chương trước ta có:
2– r
2 13)
Tỷ số t liên hệ với tương quan riêng r
2 3 , 12, r
2 2 , 13
Trong phần hồi quy bội ta đã biết:
2 2 , 13
2 3 , 12
Thay 2 công thức này vào biểu thức xác định m ta được:
m = R
2
- (r
2 12 + (1- r
2 12) r
2 2 , 13
- r
2 12) - ( r
2 13 + (1- r
2 13) r
2 3 , 12
- r
2 13 )
= R
2
- ((1- r
2 12) r
2 2 , 13 + (1- r
2 13) r
2 3 , 12)
Trang 10m = R
2
- (w2 r
2 2 , 13 + w3 r
2 3 , 12)Như vây độ đo Theil bằng hiệu giữa hệ số xác định bội và tổng có trọng số của các hệ sốtương quan riêng
Như vậy chúng ta đã biết một số độ đo đa cộng tuyến nhưng tất cả đều có ý nghĩa sử dụng hạn chế Chúng chỉ cho ta những thông báo rằng sự việc không phải là lý tưởng.Còn một số độ đo nữa nhưng liên quan đến giá trị riêng hoặc thống kê Bayes chúng ta không trình bày ở đây
2.2.Các biện pháp khắc phục hiện tượng đa cộng tuyến
a. Sử dụng thông tin tiên nghiệm
Một trong các cách tiếp cận để giải quyết vấn đề đa cộng tuyến là phải tận dụng thôngtin tiên nghiệm hoặc thông tin từ nguồn khác để ước lượng các hệ số riêng
Thí dụ: ta muốn ước lượng hàm sản xuất của 1 quá trình sản xuất nào đó có dạng:
Q*t = A* + αL*t + ( 1 - α )K*t + Ut (5.19)
Trang 11β
= 1 –α̂
b. Thu thập số liệu hoặc lấy thêm mẫu mới
Vì đa cộng tuyến là đặc trưng của mẫu nên có thể có mẫu khác liên quan đến cùng cácbiến trong mẫu ban đầu mà đa cộng tuyến có thể không nghiêm trọng nữa Điều này cóthể làm được khi chi phí cho việc lấy mẫu khác có thể chấp nhận được trong thực tế Đôi khi chỉ cần thu thập them số liệu, tăng cỡ mẫu có thể làm giảm tính nghiêm trọngcủa đa cộng tuyến
c. Bỏ biến
Khi có hiện tượng đa cộng tuyến nghiêm trọng thì cách “đơn giản nhất” là bỏ biếncộng tuyến ra khỏi phương trình Khi phải sử dụng biện pháp này thì cách thức tiến hànhnhư sau:
Giả sử trong mô hình hồi quy của ta có Y là biến được giải thích còn X, X3 …Xk làcác biến giải thích Chúng ta thấy rằng X2 tương quan chặt chẽ với X3.Khi đó nhiều thôngtin về Y chứa ở X2 thì cũng chứa ở X3.Vậy nếu ta bỏ 1 trong 2 biến X2 hoặc X3
Khỏi mô hình hồi quy, ta sẽ giải quyết được vấn đề đa cộng tuyến nhưng sẽ mất đi 1 phầnthông tin về Y
Trang 12Thí dụ R2 đối với hồi quy của Y đối với tất cả các biến X1 X2 X3 …Xk là 0.94; R2 khiloại biến X2 là 0.87 và R2 khi loại biến X3 là 0.92 ;như vậy trong trường hợp này ta loại
X3
Chúng ta lưu ý 1 hạn chế của biện pháp này là trong các mô hình kinh tế có nhữngtrường hợp đòi hỏi nhất định phải có biến này hoặc biến khác ở trong mô hình Trongtrường hợp như vậy việc loại bỏ 1 biến phải được cân nhắc cẩn thận giữa sai lệch khi bỏ
1 biến cộng tuyến với việc tăng phương sai của các ước lượng hệ số khi biến đó ở trong
mô hình
d. Sử dụng sai phân cấp 1
Thủ tục được trình bày trong chương 7 – tự tương quan Mặc dù biện pháp này có thểgiảm tương quan qua lại giữa các biến nhưng chúng cũng có thể được sử dụng như 1 giảipháp cho vấn đề đa cộng tuyến
Thí dụ Chúng ta có số liệu chuỗi thời gian biểu thị liên hệ giữa các biến Y và các biếnphụ thuộc X2 và X3 theo mô hình sau :
Yt = β1 + β2 X 2t + β3X 3t+ U t (5.20)Trong đó t là thời gian Phương trình trên đúng với t thì cũng đúng với t-1, nghĩa là :
Trang 13x3t = X 3t - X 3t-1
Vt = U t - U t-1
Ta được: yt= β2 x2t + β3 x3t + Vt (5.23)
Mô hình hồi quy dạng (5.23) thường làm giảm tính nghiêm trọng của đa cộng tuyến vì
dù X2 và X3 có thể tương quan cao nhưng không có lý do tiên nghiệm nào chắc chắn rằngsai phân của chúng cũng tương quan cao
Tuy nhiên biến đổi sai phân bậc nhất sinh ra 1 số bấn đề chẳng hạn như số hạng sai số
Vt trong (5.23) có thể không thỏa mãn giả thiết của mô hình hồi quy tuyến tính cổ điển làcác nhiễu không tương quan Vậy thì biện pháp sửa chữa này có thể lại còn tồi tệ hơn cănbệnh
e. Giảm tương quan trong hồi quy đa thức
Nét khác nhau của hồi quy đa thức là các biến giải thích xuất hiện với lũy thừa khácnhau trong mô hình hồi quy Trong thực hành để giảm tương quan trong hồi quy đa thứcngười ta thường sử dụng dạng độ lệch Nếu việc sử dụng dạng độ lệch mà vẫn khônggiảm đa cộng tuyến thù người ta có thể phải xem xét đến kỹ thuật đa thức trực giao
f. Một số biện pháp khác
Ngoài các biện pháp đã kể trên người ta còn sử dụng 1 số biện pháp khác nữa để cứuchữa căn bệnh này như sau
- hồi quy thành phần chính
- Sử dụng các ước lượng từ bên ngoài
Nhưng tất cả các biên pháp đã trình bày ở trên có thể làm giải pháp cho vấn đề đacộng tuyến như thế nào còn phụ thuộc vào bản chất của tập số liệu và tính nghiêm trọngcủa vấn đề đa cộng tuyến
Chương II: VÍ DỤ MINH HỌA VỀ HIỆN TƯỢNG ĐA CỘNG TUYẾN
Trang 14Dựa trên những cơ sở lý luận đã tìm hiểu ở trên, chúng ta cùng đi phân tích một tìnhhuống kinh tế cụ thể để thấy được cách phát hiện và khắc phục hiện tượng đa cộng tuyếnnhư thế nào
Theo số liệu từ Tổng cục thống kê, ta có 1 mẫu với các biến như sau:
MỘT SỐ CHỈ TIÊU KINH TẾ - XÃ HỘI CỦA CHND TRUNG HOA TỪ NĂM 1995 – 2010
Yi : GDP hàng năm (tỷ nhân dân tệ )
Xi : dân số (triệu người )
Zi : lực lượng lao động có việc làm (triệu người)
1. Lập mô hình hồi quy và kiểm định sự phù hợp của mô hình
a. Lập mô hình hàm hồi quy
Trang 15Mô hình ước lượng của hàm hồi quy là :
Từ bảng số liệu trên, sử dụng phần mềm eviews, ta được kết quả :
Từ kết quả ước lượng, ta thu được hàm hổi quy mẫu sau:
b. Kiểm định sự phù hợp của mô hình
Từ bảng eviews, ta thấy Prob(F-statistic)=0.0000 < α (=0.05)
Theo phương pháp P-giá trị, ta bác bỏ, chấp nhận
Vì thế, trong 2 yếu tố dân số và lực lượng lao động có việc làm, có ít nhất một yếu tố ảnhhưởng đến GDP hàng năm của CHND trung hoa