cách pháp hiện hiện tượng đa cộng tuyến

cách pháp hiện hiện tượng đa cộng tuyến

A LÍ THUYẾT:

I.GIỚI THIỆU VỀ ĐA CỘNG TUYẾN:

Thông thường các biến độc lập không có mối quan hệ tuyến tính, nếu quy tắc

này bị vi phạm sẽ có hiện tượng đa cộng tuyến Như vậy, đa cộng tuyến là hiện tượng các biến độc lập trong mô hình phụ thuộc lẫn nhau và thể hiện được dưới dạng hàm số

1 R2 cao nhưng tỉ số t thấp

Trong trường hợp R2 cao (thường R2 > 0,8) mà tỉ số t thấp thì đó chính là dấu hiệu của hiện tượng đa cộng tuyến

2 Tương quan cặp giữa các biến giải thích cao

Nếu hệ số tương quan cặp giữa các biến giải thích cao (vượt 0,8) thì có khả năng

có tồn tại đa cộng tuyến Tuy nhiên tiêu chuẩn này thường không chính xác Có những trường hợp tương quan cặp không cao nhưng vẫn có đa cộng tuyến Thí dụ,

ta có 3 biến giải thích X1, X2 , X3 như sau

Vì vấn đề được đề cập đến dựa vào tương quan bậc không Farrar và Glauber đã

đề nghị sử dụng hệ số tương quan riêng Trong hồi quy của Y đối với các biến X2

, X3 ,X4 Nếu ta nhận thấy răng r2

234 ,

1 cao trong khi đó r2

34 ,

12 ; r2

24 ,

13 ; r2

23 , 14

tương đối thấp thì điều đó có thể gợi ý rằng các biến X2 , X3 và X4 có tương quan cao và ít nhất một trong các biến này là thừa

Dù tương quan riêng rất có ích nhưng nó cũng không đảm bảo rằng sẽ cung cấp cho ta hướng dẫn chính xác trong việc phát hiện ra hiện tượng đa cộng tuyến

4 Hồi quy phụ

Một cách có thể tin cậy được để đánh giá mức độ của đa cộng tuyến là hồi quy phụ Hồi quy phụ là hồi quy mỗi một biến giải thích Xi theo các biến giải thích còn lại R2 được tính từ hồi quy này ta ký hiện R2

i (x1=x2 x3 x4 )

Mối liên hệ giữa Fi và R2

i : F=

) 1 /(

) 1 (

) 2 /(

k R

i i

Fi tuân theo phân phối F với k – 2 và n-k +1 bậc tự do Trong đó n là , k là số biến giải thích kể cả hệ số chặn trong mô hình R2

i là hệ số xác định trong hồi quy của biến Xi theo các biến X khác Nếu Fi tính được vượt điểm tới hạn Fi(k-2,n-k+1) ở mức ý nghĩa đã cho thì có nghĩa là Xi có liên hệ tuyến tính với các biến X khác Nếu Fi có ý nghĩa về mặt thống kê chúng ta vẫn phải quyến định liệu biến

Xi nào sẽ bị loại khỏi mô hình Một trở ngại của kỹ thuật hồi quy phụ là gánh nặng tính toán Nhưng ngày nay nhiều chương trình máy tính đã có thể đảm

đương được công việc tính toán này

Một thước đo khác của hiện tượng đa cộng tuyến là nhân tử phóng đại phương sai gắn với biến Xi , ký hiệu là VIF(Xi)

VIF(Xi) được thiết lập trên cơ sở của hệ số xác định R2

i trong hồi quy của biến

Xi với các biến khác nhau như sau:

VIF(Xi) = 1 1R2

i

− (5.15)Nhìn vào công thức (5.15) có thể giải thích VIF(Xi) bằng tỷ số chung của

phương sai thực của β1 trong hồi quy gốc của Y đối với các biến X và phương sai của ước lượng β1 trong hồi quy mà ở đó Xi trực giao với các biến khác Ta coi tình huống lý tưởng là tình huống mà trong đó các biến độc lập không tương quan với nhau, và VIF so sánh tình huông thực và tình huống lý tưởng Sự so sánh này không có ích nhiều và nó không cung cấp cho ta biết phải làm gì với tình huống

đó Nó chỉ cho biết rằng các tình huống là không lý tưởng

Đồ thị của mối liên hệ của R2

i và VIF là

0

V IF

… Xk trong mô hình hồi quy:

Để thấy được độ đo này có ý nghĩa, chúng ta xét trường hợp mô hình có 2 biến giải thích X2 và X3 Theo ký hiệu đã sử dụng ở chương trước ta có:

12 , r2

2 , 13

Trong phần hồi quy bội ta đã biết:

R2 = r2

12 + (1- r2

12) r2

2 , 13

R2 = r2

13 + (1- r2

13) r2

3 , 12

Thay 2 công thức này vào biểu thức xác định m ta được:

m = R2 - (r2

12 + (1- r2

12) r2

2 ,

12 - r2

13 ) = R2- ((1- r2

12) r2

2 ,

13 + (1- r2

13) r2

3 ,

12 ) Đặt 1- r2

13 + w3 r2

3 ,

12 )Như vây độ đo Theil bằng hiệu giữa hệ số xác định bội và tổng có trọng số của các hệ số tương quan riêng

Như vậy chúng ta đã biết một số độ đo đa cộng tuyến nhưng tất cả đều có ý nghĩa

sử dụng hạn chế Chúng chỉ cho ta những thông báo rằng sự việc không phải là lý tưởng

Còn một số độ đo nữa nhưng liên quan đến giá trị riêng hoặc thống kê Bayes chúng ta không trình bày ở đây

III Biện pháp khắc phục

1 Sử dụng thông tin tiên nghiệm

Một trong các cách tiếp cận để giải quyết vấn đề đa cộng tuyến là phải tận dụng thông tin tiên nghiệm hoặc thông tin từ nguồn khác để ước lượng các hệ số riêng.Thí dụ : ta muốn ước lượng hàm sản xuất của 1 quá trình sản xuất nào đó có dạng :

Qt =AL

Trong đó Qt là lượng sản phẩm được sản xuất thời kỳ t ; Lt lao động thời kỳ t ; Kt vốn thời kỳ t ; Ut là nhiễu ;A , α, β là các tham số mà chúng ta cần ước lượng Lấy

ln cả 2 vế (5.17) ta được :

LnQt = LnA + αlnLt + βKt UtĐặt LnQt = Q*t ; LnA = A* ; LnLt = L*t

Y*t = A* + α Z*t + Ut Thông tin tiên nghiệm đã giúp chúng ta giảm số biến độc lập trong mô hình xuống còn 1 biến Z*t

Sau khi thu được ước lượng α µ của α thì βµ tính được từ điều kiện µβ= 1 – α µ

2 Thu thập số liệu hoặc lấy thêm mẫu mới

Vì đa cộng tuyến là đặc trưng của mẫu nên có thể có mẫu khác liên quan đến

cùng các biến trong mẫu ban đầu mà đa cộng tuyến có thể không nghiêm trọng nữa Điều này có thể làm được khi chi phí cho việc lấy mẫu khác có thể chấp nhận được trong thực tế

Đôi khi chỉ cần thu thập them số liệu , tăng cỡ mẫu có thể làm giảm tính nghiêm trọng của đa cộng tuyến

3 Bỏ biến

Khi có hiện tượng đa cộng tuyến nghiêm trọng thì cách “ đơn giản nhất “là bỏ biến cộng tuyến ra khỏi phương trình Khi phải sử dụng biện pháp này thì cách thức tiến hành như sau :

Giả sử trong mô hình hồi quy của ta có Y là biến được giải thích còn X2 X3 …

Xk là các biến giải thích Chúng ta thấy rằng X2 tương quan chặt chẽ với X3 Khi đó nhiều thông tin về Y chứa ở X2 thì cũng chứa ở X3 Vậy nếu ta bỏ 1 trong

2 biến X2 hoặc X3

Khỏi mô hình hồi quy , ta sẽ giải quyết được vấn đề đa cộng tuyến nhưng sẽ mất đi

1 phần thông tin về Y

Bằng phép so sánh R2 và R2trong các phép hồi quy khác nhau mà có và không có 1 trong 2 biến chúng ta có thể quyết định nên bỏ biến nào trong biến X2 và X3 khỏi mô hình

Thí dụ R2 đối với hồi quy của Y đối với tất cả các biến X1X2X3 …Xk là 0.94;

R2 khi loại biến X2 là 0.87 và R2 khi loại biến X3 là 0.92 ;như vậy trong trường hợp này ta loại X3

Chúng ta lưu ý 1 hạn chế của biện pháp này là trong các mô hình kinh tế có những trường hợp đòi hỏi nhất định phải có biến này hoặc biến khác ở trong mô hình Trong trường hợp như vậy việc loại bỏ 1 biến phải được cân nhắc cẩn thận giữa sai lệch khi bỏ 1 biến cộng tuyến với việc tăng phương sai của các ước lượng hệ số khi biến đó ở trong mô hình

4 Sử dụng sai phân cấp 1

Thủ tục được trình bày trong chương 7 – tự tương quan Mặc dù biện pháp này có thể giảm tương quan qua lại giữa các biến nhưng chúng cũng có thể được sử dụng như 1 giải pháp cho vấn đề đa cộng tuyến

Thí dụ Chúng ta có số liệu chuỗi thời gian biểu thị liên hệ giữa các biến Y và các biến phụ thuộc X2 và X3 theo mô hình sau :

Tuy nhiên biến đổi sai phân bậc nhất sinh ra 1 số bấn đề chẳng hạn như số hạng sai số Vt trong (5.23) có thể không thỏa mãn giả thiết của mô hình hồi quy tuyến tính cổ điển là các nhiễu không tương quan Vậy thì biện pháp sửa chữa này có thể lại còn tồi tệ hơn căn bệnh

5.Giảm tương quan trong hồi quy đa thức

Nét khác nhau của hồi quy đa thức là các biến giải thích xuất hiện với lũy thừa khác nhau trong mô hình hồi quy Trong thực hành để giảm tương quan trong hồi quy đa thức người ta thường sử dụng dạng độ lệch Nếu việc sử dụng dạng độ lệch mà vẫn không giảm đa cộng tuyến thù người ta có thể phải xem xét đến kỹ thuật “

đa thức trực giao “

6 Một số biện pháp khác

Ngoài các biện pháp đã kể trên người ta còn sử dụng 1 số biện pháp khác nữa để cứu chữa căn bệnh này như sau :

- hồi quy thành phần chính

- Sử dụng các ước lượng từ bên ngoài

Nhưng tất cả các biên pháp đã trình bày ở trên có thể làm giải pháp cho vấn đề

đa cộng tuyến như thế nào còn phụ thuộc vào bản chất của tập số liệu và tính nghiêm trọng của vấn đề đa cộng tuyến

I/ Phát hiện hiện tượng đa cộng tuyến

Ta có hàm hồi quy mẫu:

Thống kê t của hệ số ứng với biến Z

T = 1.547751 < 2.179

Vậy R2 cao nhưng t thấp Suy ra có hiện tượng đa cộng tuyến

Cách 2: Hệ số tương quan cặp giữa các biến giải thích cao

S.E of regression 0.555048 Akaike info criterion 1.784043

Ta có α = 0.05 ta đi kiểm định giả thiết

H0: X không có hiện tượng đa cộng tuyến với Z

H1: X có hiện tượng đa cộng tuyến với Z

Nhận xét:

Ta thấy giá trị p-value của thống kê F là 0.000000 < α =0.05

=> bác bỏ giả thiết H0 chấp nhận giả thiết H1

Vậy càng có cơ sở khẳng định mô hình trên có hiện tượng đa cộng tuyến

Bước 1: hồi quy Y theo X => 2 2

* Bước 2 Hồi quy Y theo Z

Dependent Variable: Y Method: Least Squares Date: 05/06/10 Time: 22:44 Sample: 1 15

Included observations: 15

Ta thu được bảng số liệu mới

R-squared 0.318112 Mean dependent var 0.417764

Ta có hệ số tương quan giữa các biến giải thích

Khi ta tiến hành hồi quy phụ x t theo z t, mặc dù vẫn còn hiện tượng đa cộng tuyến nhưng mức độ cộng tuyến giảm vìP value=0.028778 đã gần với α =0.05 hơn Tuy

nhiên ta thấy, khi sử dụng sai phân cấp 1 mức độ phù hợp của mô hình đã bị suy giảm

Bỏ biến sai phân

Hồi quy Y theo biến X

Hồi quy Y theo biến Z

Dependent Variable: Y Method: Least Squares Date: 05/07/10 Time: 07:55 Sample: 1 14

Included observations: 14

Từ kết quả hồi quy của y ttheo x tvày t theo z tta sẽ chọn loại bỏ biến z tkhỏi mô hình

Ta có hàm hồi quy mới sau khi bỏ đi quan sát đầu tiên

Có nhiều cách phát hiện và khắc phục hiện tượng đa cộng tuyến khác nhau Mỗi phương pháp có những hạn chế nhất định Vì vậy, khi áp dụng một phương pháp nào ta cần cân nhắc kĩ lượng để mang lại kết quả tin cậy nhất.

CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM

Độc lập –Tự do – Hạnh phúc

BIÊN BẢN HỌP NHÓM THẢO LUẬN

Thời gian: 8 giờ 30 phút ngày 28/4/2010

Địa điểm: Sân thư viên trường đại học Thương Mại

Nội dung hop: Phân chia công việc cho mỗi thành viên Thảo luận về nội dung đề tài.

Buổi họp kết thúc vào lúc 10 giờ 30 phút cùng ngày

Hà Nội, ngày 28 tháng 4 năm 2010

Thư kí

Kí tên

Nhóm trưởng

Kí tên

CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM

Độc lập –Tự do – Hạnh phúc

BIÊN BẢN HỌP NHÓM THẢO LUẬN

Thời gian: 8 giờ 30 phút ngày 5/5/2010

Địa điểm: Sân thư viên trường đại học Thương Mại

Thành viên vắng mặt: không có thành viên vắng mặt

Nội dung họp: Nộp bài thảo luận Tổng hợp nội dung đề tài nhóm Phân công đánh máy, người thuyết trình

Buổi họp kết thúc vào lúc 10 giờ 30 phút cùng ngày

Hà Nội, ngày 5tháng 5năm 2010

BẢN ĐÁNH GIÁ ĐIỂM CÁ NHÂN

BẢN ĐÁNH GIÁ ĐIỂM CỦA CÔ GIÁO

1 Phạm Thị Vân

2 Nguyễn Xuân Cẩm Vân

3 Đinh Thị Hoàng Yến