Bài giảng Kinh tế lượng - Chương 7: Hiện tượng phương sai của sai số (số dư) thay đổi cung cấp cho người học các kiến thức: Bản chất hiện tượng phương sai sai số thay đổi; hậu quả; cách phát hiện phương sai sai số thay đổi; cách khắc phục phương sai sai số thay đổ. Mời các bạn cùng tham khảo.
Trang 1CHƯƠNG 7
HIỆN TƯỢNG PHƯƠNG SAI
CỦA SAI SỐ (SỐ DƯ) THAY ĐỔI
(HETEROSCEDASTICITY)
2
1 Hiểu bản chất và hậu quả của phương sai sai số thay đổi
2 Biết cách phát hiện phương sai sai số thay đổi và biện pháp khắc phục
MỤC
TIÊU
PHƯƠNG SAI THAY ĐỔI
NỘI DUNG
3
Bản chất hiện tượng phương sai sai số thay đổi
1
Hậu quả
2
3
Cách khắc phục phương sai sai số thay đổi
4
Cách phát hiện phương sai sai số thay đổi
7.1 Bản chất
• Xét ví dụ mô hình hồi qui 2 biến trong đó biến phụ thuộc Y là tiết kiệm của hộ gia đình và biến giải thích X là thu nhập khả dụng của hộ gia đình
4
7.1 Bản chất
5
X 1 X 2 X n
X Y
0
(a)
X 1 X 2 X n
X Y
0
(b)
Hình 7.1: (a) Phương sai của sai số không đổi và (b) Phương sai của sai số
thay đổi
7.1 Bản chất
• Hình 7.1a cho thấy tiết kiệm trung bình có khuynh hướng tăng theo thu nhập Tuy nhiên mức độ dao động giữa tiết kiệm của từng hộ gia đình so với mức tiết kiệm trung bình không thay đổi tại mọi mức thu nhập
• Đây là trường hợp của phương sai sai số (nhiễu) không đổi, hay phương sai bằng nhau
E(ui2 ) = 2
6
1
2
4
5
Trang 27.1 Bản chất
• Trong hình 7.1b, mức độ dao động giữa
tiết kiệm của từng hộ gia đình so với mức
tiết kiệm trung bình thay đổi theo thu
nhập Đây là trường hợp phương sai của
sai số thay đổi
E(ui2) = i2
7
Giải thích
• Những người có thu nhập cao, nhìn
chung, sẽ tiết kiệm nhiều hơn so với
người có thu nhập thấp nhưng sự biến
động của tiết kiệm sẽ cao hơn
• Đối với người có thu nhập thấp, họ chỉ
còn để lại một ít thu nhập để tiết kiệm
• Phương sai sai số của những hộ gia đình
có thu nhập cao có thể lớn hơn của
những hộ có thu nhập thấp
8
• Do tích lũy kinh nghiệm mà sai số theo thời gian ngày
càng giảm
• Do bản chất của hiện tượng kinh tế
• Công cụ về thu thập xử lý số liệu cải thiện dẫn đến
sai số đo lường và tính toán giảm
• Trong mẫu có các outlier (giá trị rất nhỏ hoặc rất lớn
so với các giá trị quan sát khác)
• Mô hình hồi quy không đúng (dạng hàm sai, thiếu
biến quan trọng, chuyển đổi dữ liệu không đúng)
9
7.1 Nguyên nhân của phương sai thay đổi
• Hiện tượng phương sai thay đổi thường gặp khi thu thập số liệu chéo (theo không gian)
VD khảo sát doanh thu, chi phí quảng cáo của các công ty khác nhau trong cùng lĩnh vực kinh doanh Do quy mô, thương hiệu các công ty khác nhau nên doanh thu của các công ty có quy mô khác nhau ứng với mức chi quảng cáo
sẽ biến động khác nhau
10
1 Ước lượng OLS vẫn tuyến tính, không chệch
2 Tuy nhiên, chúng sẽ không còn có phương sai nhỏ nhất nữa, nghĩa là, chúng sẽ không còn hiệu quả nữa
3 Ước lượng phương sai của ước lượng OLS, nhìn chung, sẽ bị chệch
11
7.1 Hậu quả của phương sai thay đổi
5 Do đó, các khoảng tin cậy và kiểm định giả thuyết thông thường dựa trên phân phối t và F sẽ không còn đáng tin cậy nữa Do vậy, nếu chúng ta áp dụng các
kỹ thuật kiểm định giả thuyết thông thường sẽ cho ra kết quả sai
Chẳng hạn thống kê t xác định bởi công thức
12
7.1 Hậu quả của phương sai thay đổi
) ˆ ( ˆ
2
* 2 2
SE
t
7
8
10
11
Trang 3Do sử dụng ước lượng của là
nên không đảm bảo t tuân theo quy luật
phân phối t-student =>kết quả kiểm định
không còn tin cậy
6.Kết quả dự báo không còn hiệu quả nữa khi
sử dụng các ước lượng OLS có phương sai
không nhỏ nhất
13
) ( i
SE SE (ˆi)
Phương pháp định tính
1 Dựa vào bản chất vấn đề nghiên cứu
2 Xem xét đồ thị của phần dư
Phương pháp định lượng
1 Kiểm định Park
2 Kiểm định Glejser
3 Kiểm định Goldfeld – Quandt
4 Kiểm định White
14
7.2 Phương pháp phát hiện phương sai thay đổi
VD: nghiên cứu quan hệ giữa chi tiêu tiêu
dùng so với thu nhập, phương sai phần
dư của chi tiêu tiêu dùng có xu hướng
tăng theo thu nhập Do đó đối với các
mẫu điều tra tương tự, người ta có
khuynh hướng giả định phương sai của
nhiễu thay đổi
15
1 Dựa vào bản chất vấn đề nghiên cứu
2 Xem xét đồ thị của phần dư
16
Biến phụ thuộc
Biến độc lập
Đường hồi qui ước lượng
2 Xem xét đồ thị của phần dư
Hình a cho thấy biến đổi của các
e i2 không
có tính
hệ thống
Hình b,c,d cho thấy các
e i2thay đổi khi
Y tăng
17
u
Y
(a)
u
Y
(b) u
Y
(c)
u
Y
(d)
3 Kiểm định Park
• Park cho rằng i2là một hàm số nào đó của biến giải thích X
i2= B1+B2ln|Xi|+vi trong đó vi
là phần sai số ngẫu nhiên
• Vì i2 chưa biết, Park đề nghị sử dụng lnei2
thay cho i2và chạy mô hình hồi qui sau
lnei2= B1+ B2 ln|Xi|+ vi(*)
ei2được thu thập từ mô hình hồi qui gốc
18
13
14
16
17
Trang 43 Kiểm định Park
• Các bước của kiểm định Park:
1) Chạy hàm hồi qui gốcYi= b1+ b2Xi+ Ui
2) Từ hàm hồi qui, tính , phần dư ei và
lnei2
3 Chạy hàm hồi qui (*), sử dụng biến giải
thích của hàm hồi qui ban đầu Nếu có
nhiều biến giải thích, chạy hồi qui cho từng
biến giải thích đó Hay, chạy hồi qui mô
hình với biến giải thích là
19
i
Yˆ
i Yˆ
3 Kiểm định Park
4) Kiểm định giả thuyết H0: β2= 0,tức, không
có phương sai của sai số thay đổi Nếu giả
thuyết H0 bị bác bỏ, mô hình gốc có
phương sai của sai số thay đổi
5) Nếu giả thuyết H0 được chấp nhận, B1
trong mô hình (*) có thể được xem là giá trị
chung của phương sai của sai số không
đổi,2
20
4 Kiểm định Glejser
• Tương tự như kiểm định Park: Sau khi thu
thập được phần dư từ mô hình hồi qui
gốc, Glejser đề nghị chạy hồi qui | ei |
theo biến X nào mà có quan hệ chặt chẽ
với i2
• Glejser đề xuất một số dạng hàm hồi qui
sau:
|ei| = B1+ B2Xi+ vi
21
i i
e = 1+ 2 +
i i
X B B
e = 1+ 2 1 +
4 Kiểm định Glejser
• Nếu giả thuyết H0:β2= 0 bị bác bỏ thì có thể có hiện tượng phương sai sai số thay đổi
22
i i
X B B
i i
i i
2 1
4 Kiểm định Glejser
• Kiểm định Glejser có một số vấn đề như kiểm định Park như sai sốvi trong các mô hình hồi qui có giá trị kỳ vọng khác không,
nó có tương quan chuỗi
– 4 mô hình đầu cho kết quả tốt khi sử dụng OLS
– 2 mô hình sau (phi tuyến tính tham số) không sử dụng OLS được
• Do vậy, kiểm định Glejser được dùng để chẩn đoán đối với những mẫu lớn
23
5 Kiểm định Goldfeld - Quandt
• Xét mô hình hồi qui sau:
Yi= b1+ b2Xi+ ui Giả sử i2có quan hệ dương với biến X theo cách sau:
i2= 2Xi2 trong đó 2là hằng số
• Các bước thực hiện kiểm định Goldfeld -Quandt như sau:
1 Sắp xếp các quan sát theo thứ tự tăng dần
về giá trị của biến X
24
19
20
22
23
Trang 55 Kiểm định Goldfeld - Quandt
2 Bỏ qua quan sát ở giữa theo cách sau:
Đối với mô hình 2 biến:
c = 4 nếu cỡ mẫu khoảng n = 30;
c = 10 nếu cỡ mẫu khoảng n = 60
và chia số quan sát còn lại thành 2
nhóm, trong đó mỗi nhóm có (n – c)/2
quan sát
25
5 Kiểm định Goldfeld - Quandt
3 Sử dụng phương pháp OLS để ước lượng
tham số của các hàm hồi qui đối với (n –
c)/2 quan sát đầu và cuối; tính RSS1 và
RSS2tương ứng
tham số được ước lượng kể cả hệ số
chặn)
26
k 2 c n
5 Kiểm định Goldfeld - Quandt
4 Tính tỷ số
tuân theo phân phối F với bậc tự do ở tử
số và mẫu số là
27
df RSS df RSS λ
/
/
=
1 2
2
2k c
n
Nếu > F ở mức ý nghĩa α thì bác bỏ giả
thuyết H0, nghĩa là phương sai của sai số
thay đổi
6 Kiểm định White
• White đã đề nghị một phương pháp không cần đòi hỏiu có phân phối chuẩn
• Xét mô hình hồi qui sau:
Yi= b1+ b2X2i+ b3X3i+ ui Bước 1: Ước lượng mô hình trên bằng OLS, thu được các phần dư ei
Bước 2: Ước lượng một trong các mô hình sau
ei2= 1+ 2X2i+ 3X3i+ 4X2i2+ 5X3i2+ v2i (1)
28
6 Kiểm định White
hay
ei2 = 1 + 2X2i + 3X3i + 4X2i2 + 5X3i2 +
6X2iX3i + V2i (2) (1) và (2) có thể có số mũ cao hơn và nhất thiết phải có hệ số chặn bất kể mô hình gốc có hay không
R2 là hệ số xác định bội, thu được từ (1) với
mô hình không có số hạng chéo hay (2) với mô hình có số hạng chéo
29
6 Kiểm định White
Đặt GT Ho: 2= 3= 4= 5= 0 (1)
2= 3= 4= 5= 6= 0 (2)
Tương đương H0: phương sai của sai số không đổi
• nR2có phân phối xấp xỉ 2(df), với df bằng
số hệ số của mô hình (1) và (2) không kể
hệ số chặn
30
25
26
28
29
Trang 66 Kiểm định White
• Bước 4 Quy tắc quyết định
• nR2 < 2(df): chấp nhận Ho
• nR2 > 2(df): bác bỏ Ho, hay có hiện tượng
phương sai sai số thay đổi
31
7 Phương pháp bình phương
nhỏ nhất tổng quát
• 1 Phương pháp bình phương nhỏ nhất có
trọng số
• 2 Phương pháp bình phương nhỏ nhất tổng
quát
29/11/2010 701003- Phương sai của sai số thay đổi 32
8 Biện pháp khắc phục
• 1 Phương pháp bình phương bé nhất có trọng
số (trường hợp đã biết i2)
• 2 Phương pháp bình phương bé nhất tổng
quát (trường hợp chưa biết i2)
• 3 Chuyển đổi dạng hàm (trường hợp chưa
biết i2)
29/11/2010 701003- Phương sai của sai số thay đổi 33
8 Biện pháp khắc phục
1 Ước lượng bình phương bé nhất có trọng số (trường hợp đã biết i 2)
Có mô hình hồi qui mẫu 2 biến:
phương sai sai số của mỗi quan sát đã biết, chia
hay
34
i i i i i i
Y
1 1 2
*
*
*
*
*
i i
i i
Ước lượng bình phương
bé nhất có trọng số
• Phương pháp OLS
35
min
2 1 2
i i i i i i
e
2 2
*
i i i i i
i i i i i i i
X X w w
X w X Y X w w
i i
w 1/
Ước lượng bình phương
bé nhất có trọng số
36
31
32
34
35
Trang 71 Trường hợp đã biết i
Khi đó
Trong thực tế, chia mỗi quan sát Yivà Xicho
iđã biết và chạy hồi qui OLS cho dữ liệu
đã được chuyển đổi này
Ước lượng OLS của 1và 2được tính theo
cách này được gọi là ước lượng bình
phương bé nhất có trọng số (WLS); mỗi
quan sát Y và X được chia cho trọng số
(độ lệch chuẩn) của riêng nó, i
37
i e
Var e
Var
i i i i
i i
, 1 ) ( 2 2
2
Trường hợp 1: Phương sai sai số tỷ lệ với
biến giải thích
Sau khi ước lượng hồi qui OLS thông
thường, chúng ta vẽ đồ thị phần dư từ ước
lượng này theo biến giải thích X và quan
sát hình ảnh của nó Nếu hình ảnh của
phần dư tương tự như hình sau:
38
39
2 Trường hợp chưa biết i
Như vậy, phương sai sai số có quan hệ tuyến tính với biến giải thích
Var(ui) = E(ui2 ) = 2 Xi Chúng ta chia hai vế của mô hình cho căn bậc hai của Xi, với
i i
i i
i i i
X u X X X X
Y
1 1 2
40
i i i
v X
0
i X
• Khi đó
• Một điều quan trọng mà chúng ta cần lưu ý
là để ước lượng mô hình trên, chúng ta phải
sử dụng mô hình hồi qui qua gốc.
41
i X u Var X
u Var
i i
i
, )
Trường hợp 2: Phương sai sai số tỷ lệ với bình phương của biến giải thích
Var(ui) =E(ui2) = 2Xi2
Nếu hình ảnh của phần dư tương tự như hình bên dưới, phương sai sai số có quan
hệ tuyến tính với bình phương của Xi Chúng ta chia hai vế của mô hình cho Xivới
Xi≠0
42
i i i
i
i
X
u X
X
Y
i
v
X
1 1 2
37
38
40
41
Trang 82 Trường hợp chưa biết i
43
Khi đó:
Trường hợp 3: Phương sai sai số tỷ lệ với
bình phương của giá trị kỳ vọng của Y
Var(ui) = E(ui2) = 2[E(Yi)]2
Chia hai vế của mô hình cho E(Yi) với
E(Yi)=
44
i
Yˆ 12
i X
u Var X
u
Var
i i
i i
, )
2
Tiến hành theo 2 bước sau:
Bước 1: Ước lượng mô hình hồi qui:
Yi = 1 + 2Xi + ui
bằng phương pháp OLS thông thường, từ đó ta
thu được
Biến đổi mô hình gốc về dạng như sau:
45
i Yˆ
i i
i 2 i 1 i
i
v Yˆ
X Yˆ
1 Yˆ
Y
2 Trường hợp chưa biết i
46
Bước 2: Ước lượng hồi qui trên dù không chính xác là E(Yi\X i), nhưng chúng là ước lượng vững, nghĩa là khi cỡ mẫu tăng lên vô hạn thì chúng hội tụ về E(Yi|Xi) Do vậy, phép biến đổi trên có thể dùng được khi cỡ mẫu tương đối lớn.
Khi đó
i
Yˆ
i Y
Y E Y
u Var Y
u Var
i i i
i
i i
,
)
2 2 2 2
Trường hợp 4:Định dạng lại mô hình
Thay vì ước lượng mô hình hồi qui gốc, ta có thể ước lượng mô hình hồi qui:
lnYi= 1+ 2lnXi+ ui Tình trạng phương sai sai số không đồng nhất
sẽ bớt nghiêm trọng hơn so với mô hình gốc bởi vì khi được logarit hóa, độ lớn các biến
bị ‘nén lại’
Một ưu thế của phép biến đổi này là hệ số 2
sẽ đo lường hệ số co giãn của Y theo X, nghĩa là, nó cho biết % thay đổi của Y khi X thay đổi 1%
47
Lưu ý:
• Khi nghiên cứu mô hình có nhiều biến giải thích thì việc chọn biến nào để biến đổi cần phải được xem xét cẩn thận
• Phép biến đổi logarit không dùng được khi các giá trị của các biến âm
• Khi i2 chưa biết, nó sẽ được ước lượng từ một trong các cách biến đổi trên Các kiểm định t, F mà chúng ta sử dụng chỉ đáng tin cậy khi cỡ mẫu lớn, do đó chúng ta phải cẩn thận khi giải thích các kết quả dựa trên các phép biến đổi khác nhau trong các mẫu nhỏ
48
43
44
46
47
Trang 9Ví dụ
• Cho số liệu quan sát như sau: Y: thu nhập
trung bình (USD/giờ) X1: số năm kinh
nghiệm (năm) X2: số năm được đào tạo
(năm)
1 Ước lượng mô hình hồi quy Y= β0 + β1
X1 + β2.X2 +U
2 Mô hình có phương sai thay đổi không?
Vì sao?
3 Nếu xảy ra phương sai thay đổi, hãy tìm
cách khắc phục
49
1 Ước lượng mô hình
50
2 Phát hiện phương sai thay đổi
• 1 Vẽ đồ thị phần dư
51
b Kiểm định Park
• B1 Tạo biến mới umu=resid
• B2: Chạy hồi quy theo từng Xihoặc theo Y^
theo mô hình:
LOG(umu^2) c LOG(X2)
Hoặc LOG(umu^2) c LOG(X3)
Hoặc LOG(umu^2) c LOG(Ymu)
3 Đặt giả thuyết H0: β2 = 0, hay “không có phương sai thay đổi”
52
b Kiểm định Park
LOG(umu^2) c LOG(Ymu)
53
b Kiểm định Glejser
1 Hồi quy theo mô hình sau ABS(umu) c X2
Hoặc ABS(umu) c X3
2 Đặt giả thuyết H0: β2 = 0, hay không có phương sai thay đổi
54
49
50
52
53
Trang 10c Kiểm định White
B1 Mở eq01
B2 View\ Residual Tests\ White
Heteroskedasticity (cross terms)
GT Ho: 2= 3= 4= 5= 6= 0
Hoặc
• View\ Residual Tests\ White
Heteroskedasticity (no cross terms)
GT Ho: 2= 3= 4= 5= 0
57
Kết quả
• Theo kết quả bảng trên, ta thấy n*R2 (Obs*R-squared) = 14,70020
• Với mức ý nghĩa 5%, 2(df)= 2(5)=
11,0705 Ta thấy n*R2 > 2(5)
=>bác bỏ Ho 2 = 3 = 4 = 5 = 6 = 0 Cách 2: n*R2 có xác suất p-value= 0,011724 < α
=5% Vậy bác bỏ giả thiết Ho: phương sai không đổi Tức mô hình hồi quy của Y theo X1
và X2 có phương sai thay đổi
58
3 Biện pháp khắc phục
B1 Hồi quy Y, X1, X2 dựa vào các giả thiết B2: Kiểm định tiếp xem có phương sai thay đổi không
Thực hành:
B1: Do ta chưa biết các i2 nên theo các giả thiết sau:
• a E(ui2) = 2Xi2
Chạy hồi quy (Y/X1) (1/X1) c (X2/ X1 )
59
• Dùng kiểm định White có số hạng tích chéo (cross terms)
60
55
56
58
59
Trang 11• b E(ui2) = 2Xi
Chạy hồi quy (Y/SQR(X1)) 1/SQR(X1)
SQR(X1) (X2/ SQR(X1) )
61
Dùng kiểm định White có số
hạng tích chéo (cross terms)
62
c Dùng phép biến đổi
logarit
• Chạy hồi quy LOG(Y) C LOG(X1) LOG(X2)
63
Dùng kiểm định White có
số hạng tích chéo (cross
terms)
64
Vd2
• Hồi quy lương (W, $) theo số lượng nhân viên (N) tại 30 công ty có các kết quả sau
W=7.5 + 0.009N +e R 2 =0.9 (1)
t na (16.10) W/N=0.008 + 7/8(1/N) +e R 2 =0.99 (2)
t (14.43) (76.58)
1 Giải thích ý nghĩa các hệ số hồi quy.
2 Tại sao tác giả chuyển từ mô hình 1 sang mô hình 2?
3 Hệ số tự do và hệ số góc của hai mô hình có liên hệ như thế nào?
65
Ví dụ
• Cho số liệu quan sát như sau: Y: thu nhập trung bình (USD/giờ) X1: số năm kinh nghiệm (năm) X2: số năm được đào tạo (năm)
1 Ước lượng mô hình hồi quy Y= β0 + β1
X1 + β2.X2 +U
2 Mô hình có phương sai thay đổi không?
Vì sao?
3 Nếu xảy ra phương sai thay đổi, hãy tìm cách khắc phục
66
61
62
64
65