Chương 2: ƯỚC LƯỢNG VÀ KIỂM ĐỊNH GIẢ THUYẾT TRONG MÔ HÌNH HỒI QUI ĐƠN 1.. Độ chính xác của ước lượng bình phương nhỏ nhất 3.. Khoảng tin cậy và kiểm định giả thuyết 4.1... Khoảng tin
Trang 1Chương 2:
ƯỚC LƯỢNG VÀ KIỂM ĐỊNH GIẢ THUYẾT
TRONG MÔ HÌNH HỒI QUI ĐƠN
1 Phương pháp bình phương nhỏ nhất (Ordinary Least Squared - OLS)
PRF: EY/X i 1 2X i
PRM: Y i 1 2X i U i
SRF: Yˆi ˆ1ˆ2X i
SRM: Y i ˆ1 ˆ2X i e i
X
Y 2
ˆ
2 Độ chính xác của ước lượng bình phương nhỏ nhất
3 Hệ số r 2 đo độ phù hợp của hàm hồi qui mẫu
TSS = ESS + RSS
)) ( (
* ) 1 (n SD Y
RSS = (n 2 ) * ˆ 2
Hệ số xác định r 2
r2 =
TSS
RSS TSS
ESS
4 Khoảng tin cậy và kiểm định giả thuyết
4.1 Khoảng tin cậy của hệ sốj
- Khoảng tin cậy hai phía (đối xứng):
) 2 ( 2 / )
2 ( 2
) ˆ (
j j
j n
j
j Se t Se t
- Khoảng tin cậy bên trái:
) 2 ( ) ˆ (
j j
j Se t
- Khoảng tin cậy bên phải:
Trang 2) 2 ( ) ˆ (
j j
j Se t
4.2 Kiểm định giả thiết đối với j
* Trường hợp 1:
* 1
* 0
:
:
j j
j j H
H
- Tiêu chuẩn kiểm định:
) ˆ (
ˆ *
j
j j Se
T
T(n-2)
2 /
:
t t t
- Tính
) ˆ (
ˆ *
j
j j qs Se
t
2 /
n
t
- Kết luận:
t
t qs (n/22) qs bác bỏ giả thuyết H0, chấp nhận giả thuyết H1
t
t qs (n/22) qs chưa có cơ sở bác bỏ giả thuyết H0
* Trường hợp 2:
* 1
* 0
:
:
j j
j j H
H
- Tiêu chuẩn kiểm định:
) ˆ (
ˆ *
j
j j Se
T
T(n-2)
t t t
- Tính
) ˆ (
ˆ *
j
j j qs Se
t
; tìm (n 2 )
t
- Kết luận:
t
t qs (n 2) qs bác bỏ giả thuyết H0, chấp nhận giả thuyết H1
t
Trang 3* Trường hợp 3:
* 1
* 0
:
:
j j
j j H
H
- Tiêu chuẩn kiểm định:
) ˆ (
ˆ *
j
j j Se
T
T(n-2)
:
t t t
- Tính
) ˆ (
ˆ *
j
j j qs Se
t
; tìm (n 2 )
t
- Kết luận:
t
t qs (n 2) qs bác bỏ giả thuyết H0, chấp nhận giả thuyết H1
t
t qs (n 2) qs chưa có cơ sở bác bỏ giả thuyết H0
* Chú ý: Nếu ta đi kiểm định cặp giả thuyết mà *j 0 thì giá trị tqs được xác định
như sau:
) ˆ (
ˆ
j
j qs
Se
t
, giá trị tqs này đã cho trên kết quả báo cáo
4.3 Khoảng tin cậy đối với 2
KTC hai phía:
) 2 ( )
2
2 2
2 / n
RSS n
RSS
- KTC bên phải:
) 2 ( 2
2
n
RSS
- KTC bên trái:
) 2 (
( 2 1
2
n
RSS
4.4 Kiểm định giả thuyết đối với 2
* Trường hợp 1:
Trang 42 0 2 1
2 0 2 0
:
:
H H
0
2
2 ( 2 ) ˆ
n 2(n 2 )
- Miền bác bỏ: W 2 :2 2/2(n 2 ) hoac 2 12/2(n 2 )
0
2
2 ( 2 ) ˆ
qs n ; tìm 2/2(n 2 ) va 12/2(n 2 )
- Kết luận:
+ Nếu qs2 2/2(n 2 ) hoac qs2 12/2(n 2 ) qs2 W bác bỏ giả thuyết
H0, chấp nhận giả thuyết H1
+ Nếu 12/2(n 2 ) qs2 2/2(n 2 ) qs2 W chưa có cơ sở bác bỏ giả thuyết H0
* Trường hợp 2:
2 0 2 1
2 0 2 0
:
:
H H
0
2
2 ( 2 ) ˆ
n 2(n 2 )
- Miền bác bỏ: W 2:2 2(n 2 )
0
2
2 ( 2 ) ˆ
qs n ; tìm 2(n 2 )
- Kết luận:
+ Nếu qs2 2(n 2 ) qs2 W bác bỏ giả thuyết H0, chấp nhận giả thuyết
H1
+ Nếu qs2 2(n 2 ) qs2 W chưa có cơ sở bác giả thuyết H0
* Trường hợp 3:
Trang 52 0 2 1
2 0 2 0
:
:
H H
0
2
2 ( 2 ) ˆ
n 2(n 2 )
- Miền bác bỏ: W 2 : 2 12(n 2 )
0
2
2 ( 2 ) ˆ
qs n ; tìm 2 ( 2 )
1 n
- Kết luận:
+ Nếu qs2 12(n 2 ) qs2 W bác bỏ giả thuyết H0, chấp nhận giả thuyết
H1
+ Nếu qs2 12(n 2 ) qs2 W chưa có cơ sở bác bỏ giả thuyết H0
5 Kiểm định sự phù hợp của hàm hồi qui
H0: r2 = 0 (hàm hồi qui là không phù hợp)
H1: r2 > 0 (hàm hồi qui là phù hợp)
- Để kiểm định cặp giả thuyết này ta dùng tiêu chuẩn kiểm định F:
1, n - 2
F
~ 1 ) -1 (
) 2 ( r ) 1 /(
) -1 (
) /(
r
2 2 2
2
r
n k
r
k n
- Miền bác bỏ: Wα F:F Fα1 ,n- 2
2
-1
) 2 ( r
r
n
; tìm Fα1 ,n- 2
- Kết luận:
+ Nếu F qs Fα1 ,n- 2 F qsW bác bỏ giả thuyết H0, chấp nhận giả thuyết H1, vậy với mức ý nghĩa hàm hồi qui là phù hợp
+ Nếu F qs Fα1 ,n- 2 F qsW chưa có cơ sở bác bỏ giả thuyết H0 vậy với mức ý nghĩa hàm hồi qui là không phù hợp
Trang 66 Phân tích hồi qui và dự báo
6.1 Dự báo trung bình có điều kiện với X=X 0
0 ) 2 ( 2 / 0 0 0
) 2 ( 2 /
0 t Se Y E Y X Y t Se Y
Y n n
Trong đó:
0 2 1
0 ˆ ˆ
Y
2 1
2 2
0 2
0
ˆ ˆ
) ˆ (
ˆ )
ˆ (
Y X
Var X
X n
Y Se
6.2 Dự báo giá trị cá biệt của Y với X = X 0
) ( ˆ
) (
ˆ
0 ) 2 ( 2 / 0 0 0 ) 2 ( 2 /
0 t Se Y Y Y t Se Y
Y n n
Trong đó:
( ˆ )
ˆ ˆ
)
2 2
n Y
Trang 7Chương 3
MÔ HÌNH HỒI QUI BỘI
1 Hồi qui bội
PRF: EY/X2, ,X k 1 2X2i k X ki
PRM: Y i EY/X2, ,X kU i 1 2X2i k X ki U i
SRF: Yˆi ˆ ˆ X i ˆk X ki
2 2
SRM: Y i ˆ ˆ X i ˆk X ki e i
2 2 1
2 Ước lượng các tham số trong mô hình hồi qui bội
3 3 2 2
ˆ Y X X
3 Hệ số xác định bội
3.1 Hệ số xác định bội R 2
Ta có: TSS = ESS + RSS
Trong đó: TSS = (n-1)*(SD(Y))2
RSS = (n-k)* ˆ 2
Hệ số xác định bộ được xác định như sau:
TSS
RSS TSS
ESS
R2 1
3.2 Hệ số xác định bội đã hiệu chỉnh 2
R
k n
n R Y
SD
R
)) ( (
ˆ
2
Ta có:
1 1
2
n
k n R R
Trang 84 Khoảng tin cậy và kiểm định giả thuyết trong mô hình hồi qui bội
4.1 Khoảng tin cậy của βj
- Khoảng tin cậy hai phía (đối xứng):
) ( 2 / )
( 2
) ˆ (
j j
j k n j
j Se t Se t
- Khoảng tin cậy bên trái:
) ( ) ˆ (
j j
j Se t
- Khoảng tin cậy bên phải:
) ( ) ˆ (
j j
j Se t
4.2 Kiểm định giả thuyết đối với βj
Tiêu chuẩn kiểm định là: (n - k)
* j T
~ ) βˆ (
β -βˆ
j
j
Se
1
2
3
*
= j
j β β
* j
βj
*
β
βj j
*
β
βj j
*
β
βj j
*
β
βj j
2 / :t t n k t
:t t n k t
W
:t t n k t
W
4.3 Khoảng tin cậy đối với 2
- KTC hai phía:
) ( )
2 2
2
RSS k
n
RSS
- KTC bên phải:
) ( 2 2
k n
RSS
Trang 9- KTC bên trái:
) ( 2 1
2
k n
RSS
4.4 Kiểm định giả thuyết đối với 2
Tiêu chuẩn kiểm định: nk 2nk
2 0
2 2
~
0
2
0
2
n k hoac
k n
2 / 1 2
2 2 / 2
2 :
0
2
0
2
0
2
0
2
1 2 2
5 Kiểm định sự phù hợp của hàm hồi qui
H0: R2 = 0 (hàm hồi qui là không phù hợp)
H1: R2 > 0 (hàm hồi qui là phù hợp)
- Tiêu chuẩn kiểm định:
k - 1, n - k
F
~ ) 1 )(
-1 (
) ( R 2
2
k R
k n F
- Miền bác bỏ: Wα F:F Fαk 1 ,n-k
- Tính
) 1 )(
-1 (
) ( R 2
2
k R
k n
F qs ; tìm Fαk 1 ,n-k
- Kết luận:
+ Nếu F qs Fαk 1 ,n- k F qsW bác bỏ giả thuyết H0, chấp nhận giả thuyết H1, vậy với mức ý nghĩa hàm hồi qui là phù hợp
Trang 10+ Nếu F qs Fαk 1 ,n-k F qsW chưa có cơ sở bác bỏ giả thuyết H0
vậy với mức ý nghĩa hàm hồi qui là không phù hợp
Kiểm định sự thu hẹp của hàm hồi qui (kiểm định có điều kiện ràng buộc)
Cho mô hình hồi qui:
Yi = β1 + β2X2i + β3X3i + β4X4i + β5X5i + β6X6i + Ui Vấn đề ta muốn loại 3 biến X3, X5, X6 khỏi mô hình ban đầu
- ước lượng mô hình gốc thu được RSS1, R12
- Ước lượng mô hình: Yi = β1 + β2X2i+ β4X4i + Vi thu được RSS2, R22
- Kiểm định cặp giả thuyết sau:
H0: β3 = β5 = β6 =0
H1: tồn tại ít nhất 1 βj ≠ 0 (j= 3,5,6)
- Tiêu chuẩn kiểm định:
)
; (
~ )
1 (
) )(
(
*
) )(
(
2 1
2 2 2 1 1
1 2
k n m F m
R
k n R R m
RSS
k n RSS RSS
Trong đó m là số biến cần loại khỏi mô hình (m=3), k là số biến của mô hình lớn (k=6)
- Miền bác bỏ: W F:F F(m;nk)
- Kết luận
Nếu F qs F(m;nk) F qsW bác bỏ H0, chấp nhận H1
Ngược lại, nếu F qs F(m;nk) F qsW chưa có cơ sở bác bỏ H0
Trang 111
Chương 5
ĐA CỘNG TUYẾN Phát hiện đa cộng tuyến
a Hồi qui phụ
Xét mô hình hồi qui k biến: Y i 1 2X2i3X3i4X4iU i
Bước 1: Hồi qui mô hình:
2
4i 1 2 2i 3 3i i (*) 1
X X X V R , k1
Bước 2: Kiểm định cặp giả thuyết sau:
H0: Mô hình gốc không có đa cộng tuyến (2 = 3 = 0, R21=0)
H1: Mô hình gốc có đa cộng tuyến (tồn tại một j 0, j=2,3; R21>0) Tiêu chuẩn
1 2 1 1 2 1
; 1 1
k n R
Miền bác bỏ: W F :FFk1 1 ,nk1
Nếu Fqs > F(k1 - 1; n – k1) bác bỏ H0 chấp nhận H1, mô hình gốc có
đa cộng tuyến
Nếu Fqs ≤ F(k1 - 1; n – k1) chưa có cơ sở bác bỏ H0, mô hình gốc không có đa cộng tuyến
b Độ đo Theil
Xét mô hình hồi qui k biến: Y i 12X2i 3X3i k X ki U i
Bước 1: Hồi qui mô hình đã cho thu được R2
Bước 2: Lần lượt hồi qui các mô hình sau:
2
1 2 2 3 3 1 1 1 1
Bước 3: Độ đo Theil được ký hiệu là m và được xác định như sau:
j
j R R R
m
2
2 2 2
Bước 4: Kết luận
Trang 122
- Nếu m 0 mô hình không có đa cộng tuyến
- Nếu m 1 mô hình có đa cộng tuyến cao
Trang 133
Chương 6
PHƯƠNG SAI SAI SỐ THAY ĐỔI
Phát hiện phương sai sai số thay đổi
a Kiểm định White
Xét mô hình: Y i 12X2i 3X3i U i
Bước 1: Ước lượng mô hình xuất phát thu được phần dư ei 2
i
e
Bước 2: Ước lượng mô hình của kiểm định White:
i i i i
i i
i
3 5 2 2 4 3 3 2 2
1
Bước 3: Kiểm định cặp giả thuyết:
H0: Phương sai sai số không thay đổi (2 = 3 = … = 6 = 0, R21=0)
H1: Phương sai sai số thay đổi (tồn tại ít nhất một j ≠ 0, j=2,6; R21>0)
Để kiểm định cặp giả thuyết trên ta dùng một trong hai tiêu chuẩn sau:
* Tiêu chuẩn 2:
- 2 = nR2 2(m), với m là số tham số nhận giá trị bằng 0
- Miền bác bỏ: W 2:2 2(m)
- Tính 2
qs
= nR21, tìm 2
(m) + Nếu 2
qs
> 2 (m) qs2 W bác bỏ giả thuyết H0 chấp nhận giả thuyết H1 phương sai sai số thay đổi
qs
2
(m) qs2 W chưa có cơ sở bác bỏ giả thuyết H0
phương sai sai số không thay đổi
* Tiêu chuẩn F – kiểm định sự phù hợp của hàm hồi quy (*):
) 1 )(
1 (
) ( 1 2 1 1 2 1
k R
k n R
b Kiểm định dựa trên biến phụ thuộc
Xét mô hình: Y i 12X i U i
Bước 1: Ước lượng mô hình xuất phát ta thu được ei, ˆ 2; ˆ 2
i i
i e Y
Y
Trang 144
Bước 2: Ước lượng mô hình sau:
i i
e 2
2 1
2 ˆ thu được R21, k1
Bước 3: Ta kiểm định cặp giả thuyết sau:
H0: Phương sai sai số không thay đổi (2 = 0, R21=0)
H1: Phương sai sai số thay đổi (2 ≠ 0, R21>0)
Để kiểm định cặp giả thuyết này ta có thể dùng một trong các kiểm định sau:
a Kiểm định 2
- Ta có: 2= nR21 2(1)
- Miền bác bỏ: W 2:2 2( 1 )
- Tính 2
qs
= nR21, tìm 2
(1) + Nếu 2
qs
> 2
(1) qs2 W bác bỏ giả thuyết H0 chấp nhận giả thuyết H1 phương sai sai số thay đổi
qs
2 (1) qs2 W chưa có cơ sở bác bỏ giả thuyết H0
phương sai sai số không thay đổi
b Kiểm định F- kiểm định sự phù hợp của hàm hồi qui
2 1
2 1 2 2
2
1
) 2 ( )
) ˆ (
ˆ (
R
n R se
F
Miền bác bỏ: W F:F F( 1 ;n 2 )
Nếu Fqs > F(1; n-2) F qsW bác bỏ H0, chấp nhận H1 phương sai sai số thay đổi
Nếu Fqs ≤ F(1; n-2) F qsW chưa có cơ sở bác bỏ H0 phương sai sai số không thay đổi
c Tiêu chuẩn T:
) ˆ (
ˆ
2
2
se
T ~T(n-2)
Trang 155
Chương 7
TỰ TƯƠNG QUAN
Phát hiện tự tương quan
a Kiểm định Durbin- Watson
Thủ tục kiểm định như sau:
Kiểm định cặp giả thuyết sau:
H0: Mô hình không có tự tương quan
H1: Mô hình có tự tương quan
Xác định thống kê d:
i i
n i
i i
e
e e d
1 2 2
2
1 ) (
, dqs cho trước
Với 0 05, kích thước mẫu (n), số biến giải thích k’ = k - 1, tra bảng giá trị tới hạn ta tìm được dL và d U , tính 4 - dU; 4 - dL
Bảng kết luận như sau:
Tự tương
quan dương
Không có kết luận
Không có tự tương quan
Không có kết luận
Tự tương quan âm
0 dL dU 4- dU 4- dL 4
b Kiểm định Breusch - Godfrey (BG)
Xét mô hình: Y i 1 2X2i3X3i U i
Thủ tục BG được tiến hành như sau:
Bước 1: Ước lượng mô hình xuất phát và ta thu được phần dư et
Bước 2: Ước lượng mô hình của kiểm định BG có dạng sau:
1 2 2i 3 3i 1 i 1 2 i 2 p i p i
ei X X e e e V (*) ta thu được R21, k1
Bước 3: Kiểm định cặp giả thuyết sau:
Trang 166
H0: Mô hình gốc không có tự tương quan (1 = 2 = = p = 0)
H1: Mô hình gốc có tự tương quan (Tồn tại ít nhất một j 0, j 1,p)
Ta dùng tiêu chuẩn 2 để kiểm định cặp giả thuyết này với:
n pR12 2 p
Miền bác bỏ: W 2:2 2(p)
Tính 2
qs
= (n - p)*R21 ; tìm 2(p)
qs
> 2(p) bác bỏ H0, chấp nhận H1, mô hình có tự tương quan Nếu 2
qs
≤ 2(p) chấp nhận H0, mô hình không có tự tương quan
Ngoài ra ta dùng kiểm định F kiểm đinh thu hẹp cho mô hình (*) để kiểm định cặp giả thuyết này, với:
p R
k n R R F
B
B L
) 1 (
) )(
(
2 1 2
2
L, R2
B)
Với k1 là số biến của mô hình (*), k1 = k + p
Miền bác bỏ: W F:F F(p;nk1)
Tính
p R
k n R R F
B
B L qs
) 1 (
) )(
(
2 1 2
2
Nếu Fqs > F(p; n-k1) bác bỏ H0, chấp nhận H1 mô hình gốc có tự tương quan
Nếu Fqs F(p; n-k1) chưa có cơ sở bác bỏ H0 mô hình gốc không
có tự tương quan
Trang 177
Chương 8 CHỌN MÔ HÌNH VÀ KIỂM ĐỊNH VIỆC CHỈ ĐỊNH MÔ HÌNH
Kiểm định các biến bỏ sót
a Kiểm định Ramsey
Giả sử ta có mô hình: Y i 1 2X2i3X3iU i
Bước 1: Ước lượng mô hình xuất phát thu được 2
R , Yˆ i tính ˆ ˆ 2, 3, , ˆp
Y Y Y
2
1 2 3 3 3 2 ˆ ˆp
Y X X Y Y V (*) thu được 2
1
R , k1
Bước 3: Ta kiểm định cặp giả thuyết sau:
H0: Mô hình gốc không bỏ sót biến (2 = 3 = = p = 0)
H1: Mô hình gốc bỏ sót biến (Tồn tại ít nhất một j ≠ 0) Tiêu chuẩn F – kiểm định sự thu hẹp của hàm hồi qui (*):
2 2
2 1
F
R m
F(m; n-k1) trong đó: m là số biến bỏ sót, k1 là số biến của mô hình mới (*),
k1=k + p-1
Miền bác bỏ: W F:F F(m;nk1)
Nếu Fqs > F(m; n-k1) bác bỏ H0, chấp nhận H1 mô hình gốc bỏ sót
biến
Nếu Fqs F(m; n-k1) chưa có cơ sở bác bỏ H0 mô hình gốc không
bỏ sót biến
b Phương pháp nhân tử Lagrange (LM)
Bước 1: Ước lượng mô hình xuất phát thu được phần dư ei và Yˆ i
1 2 2 3 3 2 ˆ ˆp
(*) thu được R2 , k1
Trang 188
Bước 3: Kiểm định cặp giả thuyết sau:
H0: Mô hình gốc không bỏ sót biến (2 = 3 = = p = 0)
H1: Mô hình gốc bỏ sót biến (Tồn tại ít nhất một j ≠ 0)
- Tiêu chuẩn kiểm định: 2 =nR2
1 2(m), m là số biến nghi ngờ bị bỏ sót m = p - 1
- Miền bác bỏ: W 2:2 2(m)
+ Nếu 2
qs
> 2
(m) bác bỏ H0 chấp nhận H1 mô hình gốc bỏ sót biến
+ Nếu 2
qs
(m) chưa có cơ sở bác bỏ H0 mô hình gốc không
bỏ sót biến
Ngoài ra ta dùng tiêu chuẩn F kiểm định thu hẹp cho mô hình mới (*), nếu kiểm định một biến bị bỏ sót ta dùng được T
Kiểm định tính chuẩn của U
- Kiểm định cặp giả thuyết sau:
H0: U có phân phối chuẩn
H1: U không có phân phối chuẩn
- Dùng tiêu chuẩn Jarque – Bera (JB):
24
) 3 ( 6
2 2
K S n
với S là hệ số bất đối xứng, K là hệ số nhọn
- Miền bác bỏ: W JB:JB 2( 2 )
+ Nếu JB > 2( 2 ) bác bỏ H0 chấp nhận H1 U không phân phối chuẩn
+ Nếu JB < 2( 2 ) chưa có cơ sở bác bỏ H0 U có phân phối chuẩn