ước lượng hàm hồi tổng thể dựa trên số. nhỏ quy liệu[r]
Trang 1HỒI QUY ĐA BIẾN
CHƯƠNG 3
HỒI QUY ĐA B
HỒI QUY ĐA BIẾN
1 Biết đư ợc phư ơ ng phá p ư ớc lượng bình phương
ước lượng hàm hồi tổng thể dựa trên số
nhỏ quy liệu
nhất để
đa biến mẫu
MỤC TIÊU
2 Hiểu các giả thiết
cách kiểm định những
2
NỘI DUNG
Mô hình hồi quy 3 biến
1
Mô hình hồi quy k biến
2
3 Dự báo
5
3
3.1 Mô hình hồi quy 3 biến
�Mô hình hồi quy tổng thể PRF
E(Y/ X2,X3) =β1+β2X2+β3
X3
Ý nghĩa: PRF cho biết trung bình có điều kiện của Y với điều kiện đã biết các giá trị
cố định
�Y:
�X2và
�β1:
của biến X2
biến biến
và X3.
phụ thuộc độc lập
X3:
hệ số tự do
hệ số hồi quy riêng
�β2,β3:
4
3.1 Mô hình hồi quy 3 biến
Ýnghĩahệsốhồiquyriêng:chobiếtảnh
hưởngcủatừngbiếnđộclậplêngiátrịtrung
bìnhcủabiếnphụthuộckhicácbiếncònlại
đượcgiữkhôngđổi.
�Mô hình hồi quy tổng thể ngẫu nhiên:
Y i=β1+
β
+β3X
3i +u i
2X 2i
ui: sai số ngẫu nhiên của tổng thể
P K c
K
v U
á
à
á
ô c ô
n
n X ó
n g
g
g c
c
E V
C
s a
o
â
g U a
h v h
b c U ệ U ệ p
2
ủ
ố
X c
c
c
3
á ợn
ợn h
a
=
g
0 g ẩ
U 0
c n
à
≠ n
ư
g
n
h ơ
g ô n
u
n g
y 0
q
đ u
σ
ổ
an
ữ
g
a X2
Các giả thiết của mô hình
1 Giá trị trung bình của ibằng 0
E(Ui/X2i,X3i)=0
2 Phương sai của các Uilà không đổi
Var(Ui)=σ2
3 Khôn có hiện tượng tự tươn quan giữa các Ui
Cov(Ui,Uj)=0; i≠
4 Khôn có hiện tượng cộng tuyến giữa X2
và X3
5.Ui có phân phối chuẩn: Ui N (0, σ2)
t
g
g
t
r(
/ c )
c á
)
h
U
t
c
i
i≠j n
n g đ
ữ gi
Trang 23.1.1 Ước lượng các tham số
Hàm hồi quy mẫu:
β ˆ ˆ2 2iX ˆ3 3iX
ˆ
thứ i
1
sai số của mẫu ứng với quan sát
ˆ
phương pháp bình phương
để ước lượng các tham số
Sử dụng
nhỏ nhất
βˆ , βˆ , βˆ1 2 3
7
3.1.1 Ước lượng các tham số
X
=∑(Yβˆ βˆX
βˆ
)2
dQ
βˆ βˆ
βˆ
2∑(Y i
0
X3i)
dβ1
2 2i βˆ
2∑(Y i
= X 3i)(X 2i) =
0
dβ2
2 2i βˆ X )( X ) =
0 3 3i 3i
2∑(Y i = ˆ 1 dβ3 8 3.1.1 Ước lượng các tham số ∑ y x2∑ x3 2 ∑ y x3∑ x2x3 ˆ i i i i i i i β =2 ∑ 2 2i∑ 3 2i ∑ )2 ( x x x x2i 3i ∑ yix3i∑ x22i ∑ yix2i∑ x2ix3i βˆ =3 ∑ 2 2i∑ 2 ∑ )2 ( x x3i x x2i 3i β ˆ = Y β ˆ β ˆ 2X 3X 1 2i 3i yi= Yi Y =X xi i X 9 Năm Sản lượng Giá bán (X 2 ) Chi phí quảng Q D (Y) cáo (X 3 ) 2002 100 80 40
2003 80 100 30
2004 70 120 25
2005 69 140 20
2006 58 160 19
2007 49 180 15
2008 43 200 14
2009 41 220 10
2010 38 240 11
3.1.2 Phương sai của các ước lượng
X22∑x32i+X32∑x22i2X2X3∑x2i x3i
1
Var(β1) = (
+
n
)σ
∑x2 2i∑x3 2i ∑ )2
(
x x2i 3i
∑x3 2
Var(β2)
=
σ
∑x2 2i∑x3 2i ∑ )2
(
x x2i 3i
∑x2
(β3)
=
σ
Var
∑ 2 2i∑ 2 ∑
)2
x (
x 3i x x2 3i
σ2là phương sai của uichưa biết nên dùng ước
lượng không chệch:
∑i2 (1 R2 ∑i y2
2
Hệ số xác định
Hệ số xác định R2
n
∑e i
i=1 n
2
ESS TSS RSS TSS
2 = = 1
= 1
R
∑
i
=1
2
y i
β2∑y i x2i+β3∑y i
x3i
Mô hình hồi quy 3 biến R2=
∑y2
i
e2
∑i
(nk)
Hệ số xác định hiệu chỉnh Vớik là tham số của mô hình,
kể cả hệ số tự do
2
R =
y2
∑ i
(n 1)
12
Trang 3Hệ số xác định hiệu chỉnh
n 1 n k
R2 = 1 (1 R 2
)
Dùng để xét việc đưa thêm 1 biến vào mô
hình Biến mới đưa vào mô hình phải thỏa 2
điều kiện:
- Làm tăng
- Hệ số hồi quy biến mới thêm vào mô hình
khác 0 có ý nghĩa
13
3.1.4 Khoảng tin cậy
Với mức ý nghĩa hay độ tin cậy
βi ∈ ( i εi; i + εi) Với
βˆi
ε =SE ( )t
( n 3 ,α
14
3.1.5 Kiểm định giả thiết
*
1 Kiểm định giả thiết H0:βi=βi
β ˆ β*
B1 Tính i i
B2 Nguyên tắc quyết định
bỏ H0
�Nếu
�Nếu
|ti
|ti
|
|
>
≤
t(n-3,α/2): bác
15
3.1.5 Kiểm định giả thiết
2 Kiểm định giả
H0: β2
thiết đồng thời bằng không:
= β3= nhất 1
0;
tham số (H1: ít khác 0)
R
F =
2
(1
B2 Nguyên tắc quyết định
�F > Fα(2, n-3): Bác bỏ H0: Mô hình phù hợp
�F ≤ Fα(2, n-3): Chấp nhận H0: Mô hình không phù hợp
16
3.2 Mô hình hồi quy k biến
Mô hình hồi quy tổng thể
E(Y/X2, X k) =β1+β +
+ βk X ki
2X 2i
Mô hình hồi quy mẫu ngẫu nhiên:
β ˆ β ˆ2 2iX + + β ˆ
ˆ
sai số của mẫu ứng với quan sát thứ i
ˆ
e i =Y i Y i =Y iβ1β2X 2iβ3X 3i
βk X ki
17
3.2.1 Ước lượng các tham số
2
X
)
∑ ∑
i =1
i =1
∂∑n e2
i (i )
=
n
i= =
2
1 Y 1 X2i 3 3X i k X ki 0
∂β 1 i=1
∂∑e2
i (Y X )X2
n
∑ βˆ 1 βˆ 2X2 βˆ βˆ
i= =
2
=
1 i i 3X3i k k i, i 0
∂
β2 i=1 n
∂∑e2
i n (Y X )
∑ βˆ 1 βˆ 2X2 βˆ βˆ
i= =
2
=
1 i i 3X3i k ki X ki 0
∂β =
1
i k
18
Trang 43.2.2 Khoảng tin cậy
Với mức ý nghĩa αhay độ tin cậy1- α
(βˆ βˆ
β ∈i i ε ;i i+ ε )i
Với
= SE
(βˆ
19
Hệ số xác định
∑ y2
i
Hệ số xác định hiệu chỉnh
n
1
2)
R
n k
Vớiklà tham số của mô hình,
tự do
kể cả hệ số
20
Hệ số xác định hiệu chỉnh
n 1 n k
R2 = 1 2
(1 ) R
Dùng để xem xét việc đưa thêm biến vào
mô hình Biến mới đưa vào mô hình phải
thỏa 2 điều kiện:
- Làm tăng
- Biến mới có
hình mới
ý nghĩa thống kê trong mô
21
3.2.3 Kiểm định các giả thiết hồi quy
1 Kiểm định giả thiết về hệ số hồi quy
*
KiểmđịnhgiảthiếtH 0 :
βˆ
βi=βi
*
β
i i
SE(βˆ )i B2 Nguyên tắc quyết định
�Nếu |ti| >
�Nếu |ti| ≤
t(n-k,α/2)
t(n-k,α/2)
: bác bỏ H0
: chấp nhận H0
22
3.2.4 Kiểm định các giả thiết hồi quy
2 Kiểm định sự phù hợp của mô hình: kiểm
định giả thiết đồng thời bằng không:
H0: β2
(H1: ít
= β3=…= βk= 0;
nhất 1 trong k tham số khác 0)
F =
(1
B2 Nguyên tắc quyết định:
�Nếu
hợp
�Nếu
không
F > Fα(k-1, n-k): Bác bỏ H0: Mô hình phù
F ≤ Fα(k-1, n-k): Chấp nhận H0:
phù hợp
Mô hình
23
3.3 DỰ BÁO
Mô hình hồi quy
ˆ
Y i = + X2 +
⎤
⎥
⎥
⎥
⎥
1
⎡ 1
⎥ 0
X2
⎥
0 =
X
Cho trước giá trị ⎥
⎥
⎥
⎣
X
0
k
Dự báo giá trị trung bình và giá trị cá biệt của
1 - α
Y với mức ý nghĩa α hay độ tin cậy
24
Trang 53.3 DỰ BÁO
* Ước lượng điểm
Yˆ0 = β +ˆ ˆ 0 ˆ 0
β2
X2 +
+
βk X k
1
* Dự báo giá trị trung bình của Y
) ∈ (Yˆ ε
;Yˆ
+ε
ˆ
ε0 =SE(Y0) ( n k ,α / 2 )
Với:
SE(Yˆ0)= Var(Yˆ )0
1 0
σˆ
=
25
3.3 DỰ BÁO
* Dự báo giá trị cá biệt
( Yˆ
của Y
'
0
Với:
ˆ
'
ε0 =SE(Y0 Y0)t( n k,α / 2 )
+σˆ
26