Phương sai của sai số thay đổi

MỤC LỤC TrangI.LÝ THUYẾT1. Thế nào là hiện tượng phương sai của sai số thay đổi……………...….………..32. Bản chất của hiện tượng phương sai của sai số thay đổi………………………..3 3. Nguyên nhân của hiện tượng phương sai sai số thay đổi……………………….44. Hậu quả phương sai của sai số thay đổi…………………………….……..….…45.Ước lượng bình phương nhỏ nhất khi phương sai của sai số thay đổi………….46. Phương pháp bình phương nhỏ nhất tổng quát…………………………………..56.1. Phương pháp bình phương nhỏ nhất có trọng số…………………..…………56.2. Phương pháp bình phương nhỏ nhất tổng quát………………………..……..67. Phát hiện phương sai của sái số thay đổi………………………….……………..77.1. Bằng phương pháp định tính……………………………..…………………..77.1.1. Dựa vào bản chất vấn đề nghiên cứu…………………………………..……77.1.2. Dựa vào đồ thị của phần dư………………………………………….……..87.2. Bằng phương pháp định lượng……………………………….………………87.2.1. Kiểm định park………………………………………………………..…….87.2.2. Kiểm định Glejser………………………………………………………....…97.2.3. Kiểm định GoldfeldQuandt………………………………………….…..107.2.4. Kiểm định White………………………….………………………………107.2.5. Kiểm định dựa trên biến phụ thuộc………………………………..…..…108. Cách khắc phục…………………………………………………………...……128.1. Chưa biết σ2………………………………………………………………….128.2.Đã biết σ2………………………………………………………………….…..12 MỤC LỤC TrangGiả thiết 1………………………………………………………….…………….13Giả thiết 2………………………………………………………………….…….13Giả thiết 3…………………………………………………………….………….14Giả thiết 4……………………………………………………………….……….15II.Chọn và xử lí số liệu……………………………………………………….….151. Phương pháp định tính…………………………………………………….…..172. Phương pháp định lượng ………………………………………………….…...193.Cách khắc phục…………………………………………………………………23Tài liệu tham khảo……………………………………………………………….25

MỤC LỤC Trang I.LÝ THUYẾT

1 Thế nào là hiện tượng phương sai của sai số thay đổi……… ….……… 3

2 Bản chất của hiện tượng phương sai của sai số thay đổi……… 3

3 Nguyên nhân của hiện tượng phương sai sai số thay đổi……….4

4 Hậu quả phương sai của sai số thay đổi……….…… ….…4

5.Ước lượng bình phương nhỏ nhất khi phương sai của sai số thay đổi………….4

6 Phương pháp bình phương nhỏ nhất tổng quát……… 5

6.1 Phương pháp bình phương nhỏ nhất có trọng số……… …………5

6.2 Phương pháp bình phương nhỏ nhất tổng quát……… …… 6

7 Phát hiện phương sai của sái số thay đổi……….……… 7

7.1 Bằng phương pháp định tính……… ……… 7

7.1.1 Dựa vào bản chất vấn đề nghiên cứu……… ……7

7.1.2 Dựa vào đồ thị của phần dư……….…… 8

7.2 Bằng phương pháp định lượng……….………8

7.2.1 Kiểm định park……… …….8

7.2.2 Kiểm định Glejser……… …9

7.2.3 Kiểm định Goldfeld-Quandt……….… 10

7.2.4 Kiểm định White……….………10

7.2.5 Kiểm định dựa trên biến phụ thuộc……… … …10

8 Cách khắc phục……… ……12

8.1 Chưa biết σ2……….12

8.2.Đã biết σ2……….… 12

MỤC LỤC Trang

Giả thiết 1……….……….13

Giả thiết 2……….…….13

Giả thiết 3……….………….14

Giả thiết 4……….……….15

II.Chọn và xử lí số liệu……….….15

1 Phương pháp định tính……….… 17

2 Phương pháp định lượng ……….… 19

3.Cách khắc phục………23

Tài liệu tham khảo……….25

Một trong những giả thiết quan trọng của mô hình hồi quy tuyến tính cổ điển làcác sai số ngẫu nhiên Ui trong hàm hổi quy tổng thể có phương sai không đổi Tuynhiên, trong thực tế thì giả thiết này không phải lúc nào cũng đúng.

I LÝ THUYẾT.

1 Thế nào là hiện tượng phương sai của sai số thay đổi ?

Để đơn giản và không mất tính tổng quát,xét mô hình hồi quy tổng thể hai biến:

Yi = β1 + β2Xi + Ui

Giả thiết cuả mô hình yêu cầu phương sai của sai số là không đổi tức là Var(Ui)

= σ2 (với mọi i).Khi giả thiết trên không được thỏa mãn, phương sai của sai số ứngvới mỗi quan sát i là những số khác nhau tức là Var(Ui) = σi2 Khi đó ta nóiphương sai của sai số thay đổi

2 Bản chất của hiện tượng phương sai của sai số thay đổi.

Xét ví dụ mô hình hồi quy 2 biến trong đó biến phụ thuộc Y là tiết kiệm của hộgia đình và biến giải thích X là thu nhập khả dụng của hộ gia đình

Hình a cho thấy tiết kiệm trung bình có xu hướng tăng theo thu nhập và mứctiết kiệm của từng hộ gia đình chính bằng mức tiết kiệm trung bình của các hộ tạimọi mức thu nhập (phương sai của sai số không đổi)

Hình b cho thấy mức độ dao động giữa tiết kiệm của từng hộ gia đình so vớimức tiết kiệm trung bình thay đổi theo thu nhập Đây là hiện tượng phương sai củasai số thay đôỉ.

3 Nguyên nhân cuả hiện tượng phương sai của sai số thay đổi.

- Do bản chất của các mối quan hệ kinh tế: có nhiều mối quan hệ kinh tế chứađựng hiện tượng này, ví dụ như mối quan hệ giữa thu nhập và chi tiêu, thôngthường khi thu nhập tăng lên thì chi tiêu cũng tăng lên

- Do kỹ thuật thu nhập số liệu được cải tiến Kỹ thuật thu thập số liệu càng đượccải tiến sai lầm phạm phải càng ít hơn

- Do con người học được hành vi trong quá khứ, chẳng hạn lỗi của người đánhmáy càng ít nếu thời gian thực hành càng tăng

- Có các quan sát ngoại lai: là các quan sát khác biệt rất nhiều (quá lớn hoặc quánhỏ) với các quan sát trong mẫu Việc đưa vào hoặc loại bỏ các quan sát này ảnhhưởng rất lớn đến phân tích hồi quy

- Một nguyên nhân khác là mô hình định dạng sai Có thể do bỏ sót biến thíchhợp hoặc dạng giải thích của hàm là sai

4 Hậu quả của phương sai của sai số thay đổi.

Khi giả thiết phương sai của sai số không đổi không được thỏa mãn thì sẽ làmcho các ước lượng thu được xảy ra một số vấn đề sau:

• Các ước lượng bình phương nhỏ nhất vẫn là không chệch nhưng không hiệuquả

• Ước lượng của phương sai sẽ bị chệch làm mất hiệu lực kiểm định

• Việc dùng thống kê T và F để kiểm định giả thuyết không còn đáng tin cậydẫn đến kết quả kiểm định không được chính xác

5 Ước lượng bình phương nhỏ nhất khi phương sai của sai số thay đổi.

Nếu phương sai của sai số thay đổi nhưng vẫn giữ nguyên các giả thiết khác của

mô hình hồi quy tuyến tính cổ điển thì điều gì sẽ xảy ra với các ước lượng bìnhphương bé nhất và phương sai của chúng

Với điều kiện phương sai của sai số thay đổi, xét mô hình hồi quy hai biến:

Như ta đã biết là ước lượng tuyến tính không chệch của β2 nếu các giả thiết của

mô hình hồi quy tuyến tính cổ điển được thỏa mãn Nhưng liệu với giả thuyếtphương sai của sai số thay đổi thì nó có còn là ước lượng hiệu quả nữa không ?Nếu không thì cái gì là ước lượng tuyến tính không chệch tôt nhất trong trườnghợp này ?

6.Phương pháp bình phương nhỏ nhất tổng quát.

6.1.Phương pháp bình phương nhỏ nhất có trọng số.

Xét mô hình 2 biến : Yi = β1 + β2Xi + Ui

Như ta đã biết phương pháp bình phương nhỏ nhất thông thường trong cácchương trước không có trọng số là cực tiểu tổng bình phương các phần dư Cònphương pháp bình phương nhỏ nhất có trọng số là cực tiểu tổng bình phương cácphần dư có trọng số, tức là:

2

Trong đó và là các ước lượng bình phương nhỏ nhất có trọng số (wi)

W = (với mọi i).

Vi phân cả 2 vế của phương trình trên theo và sau đó dùng phép toán đạo hàm

6.2 Phương pháp bình phương nhỏ nhất tổng quát.

Hiện tượng phương sai của sai số thay đổi đã làm cho không còn là ước lượngtốt nhất mặc dù nó vẫn là ước lượng tuyến tính không chệch Sau đây là mộtphương pháp tổng quát để đưa ra một mô hình không thỏa mãn giả thiết phươngsai của sai số không đổi

Xét mô hình hồi quy gốc có 2 biến:

Yi = β1 + β2Xi + Ui

Trong đó tất cả các giả thiết của mô hình hồi quy tuyến tính cổ điển đều đượcthỏa mãn trừ giả thiết phương sai của sai số không đổi Phương trình này có thểđược viết lại dưới dạng:

Yi = β1X01 + β2Xi + Ui

Trong đó X01 = 1 với mọi i Với mỗi i, chia cả hai vế cho σi > 0 ta được:

Đặt:

; ;

Vậy mô hình đã được biến đổi có dạng:

Ta có: Var() = E(2 = E = = 1

Vậy Ui có phương sai không đổi

Vì chúng ta vẫn giữ lại các giả thiết khác của mô hình hồi quy tuyến tính cổđiển và có phương sai không đổi nên nếu tiếp tục phương pháp bình phương nhỏnhất cho mô hình trên thì các ước lượng sinh ra sẽ là các ước lượng tuyến tínhkhông chệch tốt nhất

Tất cả các thủ tục biến đổi theo cách trên trong đó các biến đã được biến đổithỏa mãn các giả thiết của mô hình hồi quy cổ điển rồi sau đó áp dụng phươngpháp bình phương nhỏ nhất vào chúng được gọi là phương pháp bình phương nhỏnhất tổng quát

7 Phát hiện phương sai của sai số thay đổi.

7.1 Bằng phương pháp định tính:

7.1.1 Dựa vào bản chất của vấn đề nghiên cứu

Thông thường bản chất của vấn đề nghiên cứu chỉ ra cho chúng ta rằng có thểxáy ra hiện tượng phương sai của sai số thay đổi hay không Trên thực tế thì số liệuchéo liên quan đến các đơn vị không thuần nhất hay xảy ra hiện tượng phương saicủa sai số thay đổi

7.1.2 Dựa vào đồ thị của phần dư

Đồ thị của sai số hồi quy (phần dư) đối với biến độc lập hoặc ước lượng củabiến phụ thuộc sẽ cho ta biết liệu phương sai của sai số có thay đổi hay không.Phương sai của phần dư được chỉ ra bằng độ rộng của biểu đồ phân rải của phần dưkhi giá trị của biến độc lập tăng Nếu độ rộng của phần dư tăng hoặc giảm khi giátrị của biến phụ thuộc tăng thì phương sai của sai số thay đổi Nhưng vấn đề ở đây

là nếu xem xét hồi quy bội có từ hai biến gải thích trở lên thì liệu có thể dùng đồthị được nữa hay không ?.Khi đó chúng ta sử dụng phương pháp định lượng

7.2 Bằng phương pháp định lượng

7.2.1 Kiểm định Park.

Kiểm định Park là một phương pháp kiểm định hiện tượng phương sai của sai

số thay đổi trong các mô hình hồi quy Như đã biết, đây là một phương pháp kiểmđịnh cho kết quả khá chính xác, tuy nhiên hạn chế của phương pháp này là nó chỉ

áp dụng được đối với mô hình hồi quy đơn Trong đó Park đã tiến hành hình thứchóa phương pháp đồ thị cho rằng là hàm nào đó của biến giải thích X Dạng hàm

Trong đó là số hạng ngẫu nhiên

Các bước tiến hành kiểm định Park:

Bước 1: Ước lượng hồi quy gốc, cho dù có hay không tồn tại hiện tượng

phương sai của sai số thay đổi

Bước 2: Từ hồi quy gốc, thu được các phần dư sau đó bình phương chúng

đượcrồi đến lấy

Bước 3: Ước lượng hồi quy trong đó biến giải thích ()là biến giải thích trong hồi

quy gốc, nếu có nhiều biến giải thích có thể ước lượng hồi quy đối với mỗi biếngiải thích, hoặc có thẻ ước lượng hồi quy đối với mỗi biến giải thích, trong đó với

là đã được ước lượng

Bước 4: Kiểm định giả thiết nghĩ là không có hiện tượng phương sai của sai số

thay đổi Nếu có tồn tại mối liên hệ có ý nghĩa về mặt thống kê giữa và Thì giảthiết := 0 có thể bác bỏ trong trường hợp này ta phải tìm cách khắc phục

Bước 5: Nếu giả thiết := 0 được chấp nhận thì trong hồi quy (3) có thể được giải

thích như là giá trị của phương sai không đổi ()

7.2.2 Kiểm định Glejser.

Tương tự như kiểm định Park: Sau khi thu thập được phần dư e i từ mô hình hồi

qui gốc theo phương pháp bình phương nhỏ nhất, Glejser đề nghị chạy hồi qui |e i| theo biến X nào mà có quan hệ chặt chẽ với σi2

Trong thực nghiệm,Glejser đề xuất một số dạng hàm hồi quy sau:

Park.Goldfeld và Quandt đã chỉ ra rằng sai số v i trong các mô hình hồi qui của

Glejsercos một số vấn đề như giá trị kỳ vọng khác không, nó có tương quanchuỗi.Tuy nhiên Glejser đã cho rằng trong mẫu lớn thì 4 mô hình đầu cho kết quảtốt khi sử dụng OLS trong việc vạch ra hiện tượng phương sai của sai số thay đổi.Hai mô hình sau (phi tuyến tính tham số) do đó không thể ước lượng được bằngphương pháp bình phương nhỏ nhất thông thường (không sử dụng OLS) Do vậy,kiểm định Glejser được dùng để chẩn đoán đối với những mẫu lớn

7.2.3 Kiểm định Goldfeld-Quandt

Xét mô hình hai biến:

Yi = β1 + β2Xi + Ui

Giả sử σ2 có liên hệ dương với biến X theo cách σi2 = σ2Xi2

Trong đó σ2 là hằng số Giả thiết này có nghĩa là σi2 tỉ lệ với bình phương của biến X Nếu điều giả sử trên đúng thì điều này có nghĩa là khi X tăng thì σi2 cũng tăng

Kiểm định Goldfeld-Quandt gồm các bước sau:

Bước 1: Sắp xếp mẫu theo giá trị tăng dần của biến X.

Bước 2: bỏ c quan sát ở giữa theo cách sau:

Đối với mô hình 2 biến thì :

C = 4 nếu cỡ mẫu khoảng n = 30

C = 10 nếu cỡ mẫu khoảng n = 60

Và chia số quan sát còn lại thành hai nhóm, mỗi nhóm có quan sát

Bước 3 : Sử dụng OLS ước lượng tham số của các hàm hồi quy đối với quan

sát đầu và cuối, thu được tổng bình phương các phần dư của RSS1, RSS2 tươngứng Bậc tự do tương ứng là hoặc Trong đó k là số các tham số được ước lượng(kể cả hệ số chặn)

Bước 1: Ước lượng (4) bằng OLS, từ đó thu được các phần dư tương ứng.

Bước 2: Ước lượng mô hình sau:

℮i2 = α1 + α2X2 + α3X3 + α4X22 + α5X32 + α6X2X3 + Vi (5)

R2 là hệ số xác định bội từ (5).

Bước 3: Kiểm định giả thuyết:

H0: phương sai của sai số đồng đều (các hệ số α bằng nhau)

H1: Phương sai của sai số thay đổi

nR2 có phần xấp xỉ χ2(df), df bằng hệ số của mô hình (5) không kể hệ số chặn

Bước 4: Nếu nR2 không vượt quá giá trị χα2(df) thì giả thuyết H0 không có cơ sởbác bỏ và ngược lại

7.2.5 Kiểm định dựa trên biến phụ thuộc

Kiểm định này dựa trên ý tưởng cho rằng phương sai của yếu tố ngẫu nhiên phụthuộc các biến độc lập có hay không có trong mô hình, nhưng không biết rõ chúng

là những biến nào Vì vậy thay vì xem xét quan hệ đó người ta xem xét mô hìnhsau đây:

(6)

Trong (6), σi2 và E(Y1) đều chưa biết do đó sử dụng các ước lượng của nó là ℮i2

và Ŷi2

Bước 1: Ước lượng mô hình ban đầu bằng OLS Từ đó thu được ℮i và Ŷi.

Bước 2: Ước lượng mô hình sau đây bằng OLS:

℮i2 = α1 + α2Ŷi2 + v1

Từ kết quả này thu được R2 tương ứng Có thể sử dụng hai kiểm định dưới đây

để kiểm định giả thuyết:

H0: Phương sai của sai số đồng đều

H1: Phương sai của sai số thay đổi

a. Kiểm định χ2:

nR2 có phân phối xấp xỉ χ2 Nếu nR2 lớn hơn χ2 thì H0 bị bác bỏ, ngược lạikhông đủ cơ sở để bác bỏ H0

b. Kiểm định F:

F =(

) ˆ (

Chia 2 vế của mô hình gốc với X i (X i 0):

Giả thuyết 2: Phương sai của sai số tỉ lệ với biến giải thích X:

E(Ui)2 = Xi.

Nếu sau khi ước lượng hồi quy bằng phương pháp bình phương nhỏ nhất thông thường chúng ta vẽ đồ thị của phần dư này đối với biến giải thích X và quan sát thấy hiện tượng chỉ ra phương sai của sai số liên hệ tuyến tính với biến giải thích hoặc bằng cách nào đó có thể tin tưởng như vậy thì mô hình gốc sẽ được biến đổi như sau:

Với mỗi I chia cả hai vế của mô hình cho (với >0):

= + + = + + (8)

Trong đó = và có thể thấy ngay rằng E() =

Chú ý: mô hình (8) là mô hình không có hệ số chặn cho nên ta sẽ sử dụng mô

hình hồi quy qua gốc để ước lượng và , sau khi ước lượng (8) chúng ta sẽ trở lại

mô hình gốc bằng cách nhân cả 2 vế (8) với

Giả Thuyết 3: Phương sai của sai số tỉ lệ với bình thương của giá trị kỳ vọng

của Y, nghĩa là:

E() = (E())2

Khi đó thực hiện phép biến đổi như sau:

= + Xi + = + Xi + Vi (9)

Trong đó : Vi= , Var(Vi ) =

Nghĩa là nhiễu Vi có phương sai không đổi Điều này chỉ xảy ra ở hồi quy (9) thỏa mãn giả thiết phương sai không đổi của mô hình hồi quy tuyến tính cổ điển.Tuy nhiên phép biển đổi (9) vẫn chưa thực hiện được vì bản thân E(Yi) phụ thuộc vào và trong khi và lại chưa biết

Nhưng chúng ta biết = + X i là ước lượng của E(Y i ) Do đó có thể tiến hành

theo 2 bước sau:

Bước 1: Ước lượng hồi quy bằng phương pháp bình phương nhỏ nhất thông

thường , thu được Sau đó sử dụng để biến đổi mô hình gốc thành dạng như sau :

= + X i + V i (10)

Trong đó : Vi=

Bước 2: Ước lượng hồi quy (10), dù không chính xác là E(Yi), chúng chỉ là ước

lượng vững nghĩa là khi cỡ mẫu tăng lên vô hạn thì chúng hội tụ đến E(Yi) vì vậy phép biến đổi (10) có thể biến đổi trong thực hành khi cỡ mẫu tương đối lớn

Giả thuyết 4: Dạng hàm sai.

Đôi khi thay cho việc dự đoán về người ta định dạng lại mô hình Chẳng hạn thay cho việc ước lượng hồi quy gốc có thể chúng ta sẽ ước lượng hồi quy:

Ln = + Ln + ….+ U i (11)

Việc ước lượng hồi quy (11) có thể làm giảm phương sai của sai số thay đổi do tác động của phép biến đổi loga Một ưu điểm trong phép biến đổi loga là hệ số góc là hệ số co dãn của Y đối với X

II CHỌN VÀ XỬ LÍ SỐ LIỆU

Sử dụng bảng số liệu sau: ( nguồn tổng cục thống kê)

Kinh doanh của các doanh nghiệp phân theo địa phương trong năm 2010:

Tỉnh/thành phô Doanh thu (Y) Lao động (X) Vôn (Z)

Trong đó :

X: Tổng số người lao động của tỉnh/thành phố trong năm 2010

Y: Tổng doanh thu (tỷ đồng) của các doanh nghiệp trong tỉnh/thành phố trong năm 2010

Z : Tổng vốn (tỷ đồng) của các doanh nghiệp trong năm 2010

1.Phương pháp định tính

a) Dựa vào bản chất của vấn đề để nghiên cứu

Chúng ta thu thập số liệu chéo giữa các tỉnh thành khác nhau trong cùng một

thời điểm Do doanh thu, lao động, vốn … của các tỉnh thành là không giống nhau cho nên doanh thu của các tỉnh/ thành phố có quy mô khác nhau ứng với lao động

và vốn sẽ biến động không giống nhau Do vậy chúng ta có bộ số liệu có phương sai thay đổi chúng ta cũng xem xét chúng trên những mặt khác

b) Dựa vào đồ thị của phần dư.

Với bộ số liệu trên ta có đồ thị của phần dư và như sau: