Tiểu luận kinh tế lượng đại học thương mại lý luận cơ bản về hiện tượng đa cộng tuyến

LỜI MỞ ĐẦUTrong mô hình phân tích hồi quy bội, chúng ta giả thiết giữa các biến giải thích Xi của mô hình độc lập tuyến tính với nhau, tức là các hệ số hồi quy đối với mộtbiến cụ thể là

Danh sách thành viên và bảng đánh giá.

LỜI MỞ ĐẦU

Trong mô hình phân tích hồi quy bội, chúng ta giả thiết giữa các biến giải thích

Xi của mô hình độc lập tuyến tính với nhau, tức là các hệ số hồi quy đối với mộtbiến cụ thể là số đo tác động riêng phần của biến tương ứng khi tất cả các biếnkhác trong mô hình được giữ cố định Tuy nhiên khi giả thiết đó bị vi phạm tức làcác biến giải thích có tương quan thì chúng ta không thể tách biệt sự ảnh hưởngriêng biệt của một biến nào đó

Hiện tượng trên được gọi là đa công tuyến Vậy để đa cộng tuyến là gì, hậu quảcủa hiện tượng này như thế nào, làm thế nào để phát hiện và biện pháp khắc phục

nó Để trả lời được những câu hỏi trên, sau đây chúng ta cùng sau đây chúng ta

cùng đi thảo luận về đề tài: “Hiện tượng đa cộng tuyến” Nội dung của bài thảo

luận được chia thành 2 phần chính:

Chương I Lý luận cơ bản về hiện tượng đa cộng tuyến

Chương II Bài tập minh họa

Chương I Lý luận cơ bản về hiện tượng đa cộng tuyến

1 Khái niệm đa cộng tuyến và nguyên nhân

1.1 Khái niệm

Khi xây dựng mô hình hồi quy bội, trường hợp lý tưởng là các biến Xi trong môhình không có tương quan với nhau; mỗi biến Xi thông tin riêng về Y, thông tinkhông chứa trong bất kì biến Xi khác Trong thực hành, khi điều này xảy ra takhông gặp hiện tượng đa cộng tuyến

Ở các trường hợp ngược lại, ta gặp hiện tượng đa cộng tuyến hoàn hảo.Giả

sử ta phải ước lượng hàm hồi quy Y gồm k biến giải thích X1, X2, X3,… , Xk

Y1 = β1+ β2X2i+ β3X3i+ … +βkXki + Ui

- Các biến X2, X3, , Xk gọi là các đa cộng tuyến hoàn hảo hay còn gọi là đa cộngtuyến toàn phần nếu tồn tại λ2, , λkkhông đồng thời bằng 0 sao cho:

λ2X2 + λ3X3 + + λkXk = 0 với mọi i

- Các biến X2, X3 , Xk gọi là các đa cộng tuyến không hoàn hảo nếu tồn tại λ2, ,

λk không đồng thời bằng 0 sao cho:λ2X2+ λ3X3+ + λkXk+ Vi= 0 (1.1)trong đó

Vi là nhiễu ngẫu nhiên

Trong (1.1) giả sử ∃λi ≠ 0 khi đó ta biểu diễn:

X2i = - X3i λ 3 λ 2 - X4iλ 4 λ 2 - … - λ k λ 2- λ 2 Vi (1.2)

Từ (1.2) ta thấy, hiện tượng đa cộng tuyến xảy ra khi một biến là tổ hợp tuyến tínhcủa các biến còn lại và một sai số ngẫu nhiên, hay nói cách khác là có một biếnbiểu diễn xấp xỉ tuyến tính qua các biến còn lại

1.2 Ước lượng khi có đa cộng tuyến

Do phương pháp thu thập dữ liệu: Các giá trị của biến độc lập phụ thuộc lẫnnhau trong mẫu nhưng không phụ thuộc lẫn nhau trong tổng thể.

Ví dụ: Người thu nhập cao có khuynh hướng có nhiều của cải hơn Điều này cóthể đúng với mẫu mà không đúng với tổng thể Trong tổng thể sẽ có các quan sát

về các các nhân có thu nhập cao nhưng không có nhiều của cải và ngược lại

Các dạng mô hình dễ xảy ra đa cộng tuyến:

- Hồi quy dạng các biến độc lập bình phương sẽ xảy ra đa cộng tuyến, đặc biệtkhi phạm vi giá trị ban đầu của biến độc lập là nhỏ

- Các biến độc lập vĩ mô được quan sát theo chuỗi thời gian

a Ước lượng khi có hiện tượng đa cộng tuyến hoàn hảo

Sau đây chúng ta sẽ chỉ ra rằng khi có đa cộng tuyến hoàn hảo thì các hệ

số hồi quy là không xác định còn các sai số tiêu chuẩn là vô hạn Để đơn giản về mặt trình bày chúng ta sẽ xét mô hình hồi quy 3 biến và chúng ta sẽ

yi =^β2x2i + ^β3x3i + ei (1.5)

Theo tính toán trong chương hồi quy bội ta thu được các ước lượng ^β2 và ^β3.

đổi Nhưng khi X3i = λX2ithì điều đó có nghĩa là không thể tách ảnh hưởng của X2

và X3 khỏi mẫu đã cho Trong kinh tế lượng, điều này phá hủy toàn bộ ý định táchảnh hưởng riêng của từng biến lên biến phụ thuộc

Thí dụ: X3i = λX2i thay điều kiện này vào (1.5) ta được:

Yi = ^β2x2i + ^β3 ¿ 2i) + ei =^β2+ λ.^β3X2i + ei = α^x2i + eiTrong đó:α^ = ^β2 + λ ^β3

Áp dụng công thức tính ước lượng của phương pháp bình phương nhỏ nhất thôngthường ta được:

Như vậy dù αđược ước lượng một cách duy nhất thì cũng không thể xác định được ^β2 và ^β3 từ một phương trình 2 ẩn.

Như vậy, trong trường hợp đa cộng tuyến hoàn hảo, chúng ta không thể nhận đượclời giải thích duy nhất cho các hệ số hồi quy riêng, nhưng trong khi đó ta lại có thểnhận được lời giải thích duy nhất cho tổ hợp tuyến tính của các hệ số này Chú ýrằng trong trường hợp đa cộng tuyến hoàn hảo thì phương sai và các sai số tiêuchuần của các ước lượng ^β2 và ^β3 là vô hạn.

b Ước lượng trong trường hợp có đa cộng tuyến không hoàn hảo

Đa cộng tuyến hoàn hảo chỉ là một trường hợp đặc biệt hiếm xảy ra Trong các

sô liệu liên quan đén chuỗi thời gian, thường xảy ra đa cộng tuýen không hoàn hảoXét mô hình (1.5) Bây giờ chúng ta giả thiết giữa X2 và X3 có cộng tuyến khônghoàn hảo theo nghĩa:

X3i = λX2i + λViTrong đó λ ≠0, Vi là nhiễu ngẫu nhiên sao cho ∑X 2 iVi=0

Trong trường hợp này theo phương pháp bình phương nhỏ nhất ta dễ dàng thu được các ước lượng ^β2 và ^β3.

1.3 Hậu quả của hiện tượng đa cộng tuyến

Ta xét các trường hợp mô hình của hiện tượng đa cộng tuyến không hoàn hảotức là biến độc lập Xi có thể xấp xỉ tuyến tính theo các biến X2 , X3 ,…,Xk Có một

số trường hợp xảy ra như sau:

a Phương sai và hiệp phương sai của các ước lượng bình quân bé nhất lớn

Trong chương mô hình hồi quy bội ta đã có biểu thức:

Từ (1.a) và (2.a) ta thấy r23tăng dần tới 1 (nghĩa là cộng tuyến tăng) thì phương saicủa hai ước lượng này tăng dần tới vô hạn (3.a) chỉ ra rằng khi r23 tăng dần tới 1thì cov(^β2 , ^β3 ) tăng về gía trị tuyệt đối.

b Khoảng tin cậy rộng hơn

Giả sử khi thực hành ta có khoảng tin cậy 95% cho ^β2 , ^β3 khi δ2 đã biết là:

x 3 i2

Cho nên ta có thể viết lại các khoảng tin cậy 95% cho ^β2 là :

Do đó trong trường hợp có đa cộng tuyến gần hoàn hảo thì các số liệu của mẫu

có thể thích với tập thể các giả thiết khác nhau, vì thế xác suất chấp nhận giả thuyếtsai tăng lên

c.Tỷ số t mất ý nghĩa

Như ta đã biết, khi kiểm định giả thuyết H0 : ^β2 = 0 chúng ta đã sử dụng tỷ số :

t = ^β 2

khi có đa cộng tuyến gần hoàn hảo thì sai số tiêu chuẩn ước lượng sẽ rất cao vì vậylàm cho tỉ số t nhỏ đi, kết quả sẽ làm tăng khả năng chấp nhận giả thuyêt H0,

d. R2 cao nhưng tỉ số ít ý nghĩa.

Để giải thích điều này, ta xét mô hình hồi quy k biến như sau :

Y i = β1 + β2X2i + β3X3i + … + β kXki + Ui Trong trường hợp có đa cộng tuyến gần hoàn hảo, có thể tìm được một hoặcmột số hệ số góc riêng là không có ý nghĩa về mặt thống kê trên cơ sở kiểm định t.nhưng trong khi đó R2 lại rất cao, nên bằng kiểm định F chúng ta có thể bác bỏ giả

thuyết: H0: β1= β2= β3=… = β k = 0 Mâu thuẫn này cũng là tín hiệu của đa cộngtuyến

e Các ước lượng bình phương bé nhất và các sai số tiêu chuẩn của chúng trở nên rất nhạy cảm đối với những thay đổi nhỏ trong số liệu.

f Dấu của các ước lượng của hệ số hồi quy có thể sai.

Khi có đa cộng tuyến gần hoàn hảo thì có thể thu được các ước lượng của hệ sốhồi quy trái với điều mà chúng ta mong đợi

g Thêm vào hay bớt đi các biến cộng tuyến với các biến khác, mô hình sẽ thay đổi về độ lớn của các ước lượng hoặc dấu của chúng.

2 Cách phát hiện và khắc phụ hiện tượng đa cộng tuyến

2.1 Các cách phát hiện đa cộng tuyến

a R 2 cao nhưng tỷ số t thấp:

Trong trường hợp R2 cao ( thường R2> 0.8) mà tỷ số t thấp thì đó chính là dấuhiệu của hiện tượng đa cộng tuyến

b Tương quan cặp giữa các biến giải thích cao :

Nếu hệ số tương quan cặp giữa các biến giải thích cao (vượt 0.8) thì có khảnăng tồn tại đa cộng tuyến Tuy nhiên tiêu chuẩn này thường không chính xác

Có những trường hợp tương quan cặp không cao nhưng vẫn có đa cộngtuyến.Thí dụ, ta có 3 biến giải thích như sau :

r12 = - 1/3, r13 = r 23= 0.59Như vậy đa cộng tuyến xảy ra mà không có sự báo trước của tương quan cặpnhưng dẫu sao nó cũng cung cấp cho ta những kiểm tra tiên nghiệm có ích

c Xem xét tương quan riêng

Vì vấn đề được đề cập đến dựa vào tương quan bậc 0.Farrar và Glouber đã đềnghị sử dụng hệ thống tương quan riêng Trong hồi quy của Y đối với các biếnX2,X3,X4 Ta nhận thấy rằng r2 1,234 cao trong khi đó r 2 12,34 ,r 2 13,24,r 2 14,23 tương đối thấpthì điều đó có thể gợi ý rằng X2,X3 và X4 có tương quan cao và ít nhất 1 trong cácbiến này là thừa

Dù tương quan riêng rất có ích nhưng nó không đảm bảo được rằng sẽ cung cấpcho ta hướng dẫn chính xác trong việc phát hiện ra hiện tượng đa cộng tuyến

i

Fi tuân theo phân phối F với k-2 và n-k+1 bậc tự do.Trong đó n: cỡ mẫu ,k: biến

số giải thích kể cả hệ số chặn trong mô hình R2 i là hệ số xác định trong hồi quycủa biến Xi có liên hệ với các biến X khác.Nếu Fi có ý nghĩa về mặt thống kêchúng ta vẫn phải quyết định biến Xi nào sẽ phải loại khỏi mô hình Một trở ngại

của kỹ thuật hồi quy phụ là gánh nặng tính toán Nhưng ngày nay nhiều chươngtrình máy tính đã có thể đảm đương công việc tính toán này

e Nhân tử phóng đại phương sai:

Phân tử phóng đại phương sai gắn với biến Xi ký hiệu :

VIF(X i) = 1/ 1-R2

iNhìn vào công thức có thể giải thích VIF(X i) bằng tỷ số của phương sai thựccủa βi trong hồi quy gốc của Y với các biến X và phương sai của ước lượng βitrong hồi quy mà ở đó Xi trực giao với các biến khác Ta coi tình huống lý tưởng làtình huống mà trong đó các biến độc lập không tương quan với nhau,và VIF sosánh tình huống thực với tình huống lý tưởng Sự so sánh này không có ích nhiều

và nó không cung cấp cho ta biết phải làm gì với tình huống đó Nó chỉ cho biếtrằng tình hình là không lý tưởng

2.2 Các biện pháp khắc phục hiện tượng đa cộng tuyến

a Sử dụng thông tin tiên nghiệm

Một trong các cách tiếp cận để giải quyết vấn đề đa cộng tuyến là phải tận dụngthông tin tiên nghiệm hoặc thông tin từ nguồn khác để ước lượng các hệ số riêng.Thí dụ: ta muốn ước lượng hàm sản xuất của 1 quá trình sản xuất nào đó có dạng:

Qt =ALα tK ᵦ te UtTrong đó Qtlà lượng sản phẩm được sản xuất thời kỳ t ; Lt lao động thời kỳ t ;Ktvốn thời kỳ t ; Ut là nhiễu ;A ,, β là các tham số mà chúng ta cần ước lượng.Lấy ln cả 2 vế (5.17) ta được :

LnQt = LnA + lnLt + βKt UtĐặt LnQt = Q*t ; LnA = A* ; LnLt = L*t

Sau khi thu được ước lượng α̂ của  thì tính được từ điều kiện  = 1 –α̂

b Thu thập số liệu hoặc lấy thêm mẫu mới

Vì đa cộng tuyến là đặc trưng của mẫu nên có thể có mẫu khác liên quan đếncùng các biến trong mẫu ban đầu mà đa cộng tuyến có thể không nghiêm trọngnữa Điều này có thể làm được khi chi phí cho việc lấy mẫu khác có thể chấp nhậnđược trong thực tế

Đôi khi chỉ cần thu thập them số liệu, tăng cỡ mẫu có thể làm giảm tính nghiêmtrọng của đa cộng tuyến

c Bỏ biến

Khi có hiện tượng đa cộng tuyến nghiêm trọng thì cách “đơn giản nhất” là bỏbiến cộng tuyến ra khỏi phương trình Khi phải sử dụng biện pháp này thì cáchthức tiến hành như sau:

Giả sử trong mô hình hồi quy của ta có Y là biến được giải thích còn X2, X3 …

Xk là các biến giải thích Chúng ta thấy rằng X2 tương quan chặt chẽ với X3.Khi đónhiều thông tin về Y chứa ở X2 thì cũng chứa ở X3.Vậy nếu ta bỏ 1 trong 2 biến X2hoặc X3

Khỏi mô hình hồi quy, ta sẽ giải quyết được vấn đề đa cộng tuyến nhưng sẽ mất đi

1 phần thông tin về Y

Bằng phép so sánh R2 và R2trong các phép hồi quy khác nhau mà có và không

có 1 trong 2 biến chúng ta có thể quyết định nên bỏ biến nào trong biến X2 và X3khỏi mô hình

Thí dụ R2 đối với hồi quy của Y đối với tất cả các biến X1 X2 X3 …Xk là 0.94;

R2 khi loại biến X2 là 0.87 và R2 khi loại biến X3 là 0.92 ;như vậy trong trường hợpnày ta loại X3

Chúng ta lưu ý 1 hạn chế của biện pháp này là trong các mô hình kinh tế cónhững trường hợp đòi hỏi nhất định phải có biến này hoặc biến khác ở trong môhình Trong trường hợp như vậy việc loại bỏ 1 biến phải được cân nhắc cẩn thậngiữa sai lệch khi bỏ 1 biến cộng tuyến với việc tăng phương sai của các ước lượng

hệ số khi biến đó ở trong mô hình

d Sử dụng sai phân cấp 1

Thủ tục được trình bày trong chương 7 – tự tương quan Mặc dù biện pháp này

có thể giảm tương quan qua lại giữa các biến nhưng chúng cũng có thể được sửdụng như 1 giải pháp cho vấn đề đa cộng tuyến

Thí dụ Chúng ta có số liệu chuỗi thời gian biểu thị liên hệ giữa các biến Y vàcác biến phụ thuộc X2 và X3 theo mô hình sau :

Yt = β1 + β2 X 2t + β3X 3t+ U t (5.20)Trong đó t là thời gian Phương trình trên đúng với t thì cũng đúng với t-1,nghĩa là :

Tuy nhiên biến đổi sai phân bậc nhất sinh ra 1 số bấn đề chẳng hạn như số hạngsai số Vt trong (5.23) có thể không thỏa mãn giả thiết của mô hình hồi quy tuyếntính cổ điển là các nhiễu không tương quan Vậy thì biện pháp sửa chữa này có thểlại còn tồi tệ hơn căn bệnh

e Giảm tương quan trong hồi quy đa thức

Nét khác nhau của hồi quy đa thức là các biến giải thích xuất hiện với lũy thừakhác nhau trong mô hình hồi quy Trong thực hành để giảm tương quan trong hồiquy đa thức người ta thường sử dụng dạng độ lệch Nếu việc sử dụng dạng độ lệch

mà vẫn không giảm đa cộng tuyến thù người ta có thể phải xem xét đến kỹ thuật đathức trực giao

f Một số biện pháp khác

Ngoài các biện pháp đã kể trên người ta còn sử dụng 1 số biện pháp khác nữa đểcứu chữa căn bệnh này như sau

- hồi quy thành phần chính

- Sử dụng các ước lượng từ bên ngoài

Nhưng tất cả các biên pháp đã trình bày ở trên có thể làm giải pháp cho vấn đề

đa cộng tuyến như thế nào còn phụ thuộc vào bản chất của tập số liệu và tínhnghiêm trọng của vấn đề đa cộng tuyến

Chương II: Ví dụ minh họa về hiện tượng đa cộng tuyến: cách phát hiện và

biện pháp khắc phục

Dựa trên những cơ sở lý luận đã tìm hiểu ở trên, chúng ta cùng đi phân tích mộttình huống kinh tế cụ thể để thấy được cách phát hiện và khắc phục hiện tượng đacộng tuyến như thế nào

Theo số liệu từ Tổng cục thống kê, ta có 1 mẫu với các biến như sau:

- Lực lượng lao động từ 15 tuổi trở lên (nghìn người): Y

- Dân số trung bình (nghìn người): X2

- Mật độ dân số (người/km2): X3

- Tỷ lệ dân số từ 15 tuổi trở lên biết chữ (%): X4

Ta có bảng số liệu sau

Bảng số liệu

Lực lượng laođộng 15 tuổi trở lên (nghìn người)

Dân số trung bình (Nghìn người)

Mật độ dân

số (Người/km2)

Tỷ lệ dân số

từ 15 tuổi trởlên biết chữ (%)

1 Lập mô hình hồi quy và kiểm định sự phù hợp của mô hình

a Lập mô hình hàm hồi quy

Ta có mô hình hàm hồi quy tuyến tính thể hiện sự phụ thuộc của lực lượng laođộng từ 15 tuổi trở lên vào dân số, mật độ dân số và tỷ lệ dân số 15 tuổi trở lên biếtchữ :

C

123.178

-6 7-6.99291 -1.5998-69 0.124-6

X3

0.02091

-4 0.022300 -0.937859 0.3590X4

760.820

0Adjusted R-

35.2382

0

Akaike info criterion

10.1077

9Sum squared resid

-3 F-statistic

2923.20

8Durbin-Watson

Từ bảng eviews, ta thấy Prob(F-statistic)=0.0000 < α (=0.05)

Theo phương pháp P-giá trị, ta bác bỏ H0, chấp nhận H1

Vì thế, trong 3 yếu tố dân số, mật độ dân số và tỷ lệ dân số 15 tuổi trở lên biết chữ,

có ít nhất một yếu tố ảnh hưởng đến lực lượng lao động từ 15 tuổi trở lên ở cáctỉnh khu vực phía Bắc nước ta

2 Phát hiện hiện tượng đa cộng tuyến:

a Hệ số xác định bội R2 cao nhưng tỷ số T thấp

Mặt khác, ta có thể so sánh giá trị của t với t(α / 2 n−k)

Như vậy, ta thấy có sự mâu thuẫn giữa hệ số xác định bội R2 và hệ số góc β3

Vì thế, ta nghi ngờ trong mô hình với mẫu trên có hiện tượng đa cộng tuyến.

b Hệ số tương quan cặp giữa các biến cao

Sử dụng phần mềm eviews, ta có bảng hệ số tương quan cặp giữa các biến giảithích như sau:

Như vậy, theo bảng hệ số tương quan cặp giữa các biến giải thích ở trên, ta có

thể nghi ngờ không có hiện tượng đa cộng tuyến