TS Nguyễn Minh Đức 2009Không chệch 2 ^ 2 β = β E Khi thay đổi của giá trị biến hồi qui càng lớn so với giá trị trung bình của nó thì phương sai hệ số ước lượng càng nhỏ, tham số ước lượ
Trang 1Hàm hồi quy đa biến
n Ý nghĩa của hệ số hồi quy
n Giả định
i i i
Y =β1+β2 2 +β3 3 +
Trang 2TS Nguyễn Minh Đức 2009
n Phương pháp bình phương tối thiểu
i ki k i
i
Y = β ˆ + β ˆ + β ˆ + + β ˆ +
3 3 2 2 1
1
3 3 2 2 1 1
∑
=
=
−
−
−
−
−
i
ki k i
i i
n
i
2
0 ˆ
ˆ ˆ
ˆ 2
0 ˆ
ˆ ˆ
ˆ 2
1
, ,
3 3 , 2 2 1 1
2
, 2 1
, ,
3 3 , 2 2 1 2
1
2
1
, ,
3 3 , 2 2 1 1
1
2
=
−
−
−
−
−
−
=
∂
∂
=
−
−
−
−
−
−
=
∂
∂
=
−
−
−
−
−
−
=
∂
∂
∑
∑
∑
∑
∑
∑
=
=
=
=
=
=
ki n
i
i K K i
i i
k
n
i
i
i n
i
i K K i
i i
n
i
i
n
i
i K K i
i i
n
i
i
X X X
X Y
e
X X X
X Y
e
X X
X Y
e
β β
β β β
β β
β β β
β β
β β β
3 3 2 2
ˆ = − β − β
β
2 n
1 i
i , 3 i , 2 n
1 i 2 n
1 i 2
n
1 i
i , 3 i , 2 n
1 i i , 3 i n
1 i 2 n
1
i
i , 2 i
2
x x x
x
x x x
y x
x y
ˆ
i 3 i
2
i 3
−
−
=
β
∑
∑
∑
∑
∑
∑
∑
=
=
=
=
=
=
=
2 n
1 i
i 3 i 2 n
1 i 2 n
1 i 2
n
1 i
i 3 i 2 n
1 i
i 2 i n
1 i 2 n
1
i
i 3 i
3
x x x
x
x x x
y x
x y ˆ
i 3 i
2
i 2
−
−
=
β
∑
∑
∑
∑
∑
∑
∑
=
=
=
=
=
=
=
Trang 3TS Nguyễn Minh Đức 2009
TSS
RSS 1 TSS
ESS
k n
1 n ) R 1
(
1
−
−
−
−
=
v
Phân phối của ước lượng tham số
) var(
)
(
^
^
k
k
=
∑
∑
∑
=
=
=
n
1 i 2 i 3 n
1 i 2 i 2
n
1 i i 3 i 2 X
x x
x x
r 3
2 n
1 i i 3 i 2 n
1 i
2 i 3 n
1
i
2
i 2
n
1 i
2 i 3 2
x x x
x
x ˆ
−
=
β
∑
∑
∑
∑
=
=
=
=
Quan hệ giữa R 2 và F
) ( ) 1 ( ) 1 ( ) 1 )(
1 ( ) ( ) (
) 1 ( SS
2 2 2 2
k n R k R R k R k n k n RSS k E F
−
−
−
=
−
−
−
=
−
−
=
( )
( )
2 2 23 n
1
i
2
i
2
2
r 1
x
1
ˆ
−
=
β
∑
=
quy đa biến và hồi quy đơn là giống nhau
2 1 3 2 1
2 1
2
1 3 2 1
3 1
2 1
2 2
2
ˆ
−
−
+
=
∑
∑
∑
∑
∑
∑
∑
=
=
=
=
=
=
=
n
i i i n
i i n
i i
n
i i i n
i i i n
i i n
i
i i
x x x
x
x x x x
ε
β
β
Trang 4TS Nguyễn Minh Đức 2009
Không chệch
2
^
2)
( β = β
E
Khi thay đổi của giá trị biến hồi qui càng lớn so với giá trị
trung bình của nó thì phương sai hệ số ước lượng càng nhỏ,
tham số ước lượng càng chính xác
Thông thường biến đổi của biến hồi qui càng lớn khi cỡ mẫu
(số quan sát) của chuỗi dữ liệu càng lớn
Cóthể giải thích điều này bằng đồ thị hàm mật độ xác xuất
Như vậy số quan sát nào là đủ lớn cho một bộ dữ liệu?
Kiểm định mức ý nghĩa chung của mô hình
H0: β2= β3= β4… = βk= 0 hay R2=0
) , 1 ( 2
2
~ ) 1 )(
1 (
) ( k)
-(n
SS
1)
-(k
SS
k n k
F k
R k n R R
E
F
−
−
−
−
−
=
=
Trang 5TS Nguyễn Minh Đức 2009
Kiểm định giả thuyết về hệ số hồi quy
) (
~
)
(
^
^
^
se
t
k
k
=
β
β
β
Kiểm định giả thuyết về phương sai của sai số
) ˆ e s t
ˆ )
ˆ e s t
ˆ
m ) 2 / 1 , k n ( m m m ) 2 / 1
,
k
n
(
Ước lượng phương sai của sai số
k n
e s
n
1 i
2 i 2
−
= ε 2
s
2
2 δ
δ ≠
H0:
H1:
2
0
^
δ
δ
−
2 / 1 2 2
2
2
2 δ
δ =
Kiểm định Wald
(U)
(R)
H0: βm=…= βk-1=0
H1: có ít nhất một βj≠0
u X X
X X
X
Y = β0+ β1 1+ β2 2+ + βm−1 m−1+ βm m+ + βk−1 k−1+
v X X
X
Y = β0+ β1 1+ β2 2+ + βm−1 m−1+
Trang 6TS Nguyễn Minh Đức 2009
tự do
kiểm định thừa biến…
n Kiểm định tổ hợp tuyến tính về hệ số hồi quy
) , ( 2
2 2
~ ) )(
1 (
) ( )
/(
) /(
) (
k n m k U
R U U
U R
k n R
m k R R k
n RSS
m k RSS RSS
F
−
−
−
−
−
−
=
−
−
−
u X X
u Z u
X X
Y=β0+β1( 1+ 2)+ =β0+β1 +
) 3 , 1 ( 2
2 2
~ ) 3 )(
1
(
) 2 3 (
−
−
−
−
−
U
R U
n R
R
R
F
Cách 2: Kiểm định t gián tiếp
đặt δ=β1- β2; H0: β1= β2; H0: δ=0
u X X X u
X X
Y = β0+ β1 1+ ( β1− δ ) 2+ = β0+ β1( 1+ 2) − δ 2+
u X Z
Y = β0+ β1 − δ 2+
^
*
~ 0
−
Trang 7TS Nguyễn Minh Đức 2009
) ( )
(
0
^ 2
^ 1
^
^ 2
^ 1
^
^
^
*
β β
β β δ
δ
−
−
=
−
=
se se
t
) ( var )
(
^ 2
^ 1
^
^
2
^
1
^
β β β
se
) , cov(
2 ) ( var ) ( var )
(
var
^ 2
^ 1
^ 2
^
^ 1
^
^
2
^
1
^
β β β
β β
Hàm hồi qui với biến giả
biến định tính: nam, nữ, việc thích hay không thích, tôn giáo, tốt
nghiệp đại học hay chưa, sống ở thành thị hay nông thôn, màu da,
quốc tịch
khoảng 1-9
n Yi= b1+ b2Xi+ b3Di+ ei
Cách xây dựng biến giả:
Ví dụ: xem ảnh hưởng của trình độ đối với lương của giáo viên
D=1: nếu là thạc sĩ
Y = b1+ b2D + u
Trang 8TS Nguyễn Minh Đức 2009
Y = b1+ b2D1+ b3D2+ u
thạc sĩ
tiến sĩ
kỹ thuật sử dụng biến giả
Y: lương của giáo viên
X: số năm giảng dạy
D: giới tính (nam=1, nữ=0)
Dịch chuyển số hạng tung độ gốc: lương khởi điểm của giáo viên nam và nữ
khác nhau nhưng tốc độ tăng lương theo số năm giảng dạy là như nhau
Dịch chuyển số hạng độ dốc: lương khởi điểm là như nhau nhưng tốc độ
tăng khác nhau
Trang 9TS Nguyễn Minh Đức 2009
Dịch chuyển số hạng độ dốc và số hạng tung độ gốc: lương khởi
điểm khác nhau và tốc độ tăng lương khác nhau