Biết được phương pháp ước lượng bình phương nhỏ nhất để ước lượng hàm hồi quy tổng thể dựa trên số liệu mẫu.. 2..[r]
Trang 1CH ƯƠ NG 2
H I QUY Đ N BI N Ồ Ơ Ế
Trang 21 Biết được phương pháp ước lượng bình phương nhỏ nhất để ước lượng hàm hồi quy tổng thể dựa trên số liệu mẫu
2 Hiểu các cách kiểm định những giả thiết
3 Sử dụng mô hình hồi quy
để dự báo
MỤC
TIÊU
H I QUY Đ N BI NỒ Ơ Ế
H I QUY Đ N BI NỒ Ơ Ế
Trang 3N I DUNG Ộ
Mô hình
1
Phương pháp bình phương nhỏ nhất (OLS)
2
3
Kiểm định giả thiết
4
Ví dụ
5
Khoảng tin cậy
Trang 4Ví dụ
Cho số liệu về số lượng gạo bán (tấn) hàng tháng của
6 cửa hàng gạo Nếu anh A mở một của hàng gạo thì dự báo lượng gạo bán hàng tháng.
Trang 5Ví dụ
• Nếu anh A muốn bán gạo mức giá 6 ngàn đ/kg thì dự
báo số lượng gạo bán trong tháng
Cửa hàng Giá Số lượng
Trang 6Mô hình h i quy tuy n tính hai bi n (đ n ồ ế ế ơ
bi n)ế
PRF dạng xác định
• E(Y/Xi) = f(Xi)= β1 + β2Xi
dạng ngẫu nhiên
• Yi = E(Y/Xi) + Ui = β1 + β2Xi + Ui
SRF dạng xác định
• dạng ngẫu nhiên
i
Y ˆ ˆ1 ˆ2
i i
i i
Trang 7Trong đó
• : Ước lượng cho 1
• : Ước lượng cho 2
• : Ước lượng cho E(Y/Xi)
• Sử dụng phương pháp bình phương nhỏ nhất thông thường (OLS) để tìm , ˆ 2
1 ˆ
2 ˆ
1 ˆ
i Yˆ
Trang 8Y
X
1
2
ˆ
1
ˆ
PRF
2
SRF
Hình 2.1: Hệ số hồi quy trong hàm hồi quy PRF và SRF
Trang 92.2 PH ƯƠ NG PHÁP
OLS
Giả sử có n cặp quan sát (Xi, Yi) Tìm giá trị Ŷi sao cho Ŷi gần giá trị Yi nhất, tức ei= |Yi - Ŷi| càng nhỏ càng tốt.
Tuy nhiên, ei thường rất nhỏ và thậm chí bằng 0
vì chúng triệt tiêu lẫn nhau Để tránh tình trạng này,
ta dùng phương pháp bình phương nhỏ nhất (
Ordinary least squares OLS ).
Với n cặp quan sát, muốn
min(*) ˆ
2 1
2 n
i i
n
e
Trang 102.2 PH ƯƠ NG PHÁP
OLS
Điều kiện (*) có nghĩa tổng bình phương các sai lệch giữa giá trị thực tế (Yi ) và giá trị tính theo hàm hồi quy mẫu là nhỏ nhất.
Bài toán thành tìm , sao cho f min
Điều kiện để phương trình trên đạt cực trị là:
2
ˆ
1
ˆ
0 e
2 X
ˆ ˆ
Y
2 ˆ
1
i i
n
1
i i 1 2 i 1
n
1
i
2 i
0 X
e 2
X X
ˆ ˆ
Y
2 ˆ
i i i
n
i 2 1
i
n
1
i
2 i
i
Yˆ
Trang 112.2 PH ƯƠ NG PHÁP OLS
n
i
i
n
i
i
n
i
i i
n
i
n
i
i i
Y X
X X
Y X
n
2 2
1
2 1
ˆ ˆ
ˆ ˆ
Hay
Trang 122.2 PH ƯƠ NG PHÁP OLS
• Giải hệ ta được
X
Y 2
ˆ
n
i i
n
i i i
X n
X
Y X n X
Y
1
2 2
1 2
) (
.
ˆ
X X
xi i
Y Y
1 i
2 i
n
1
2
x
x y ˆ
Trang 132.2 PH ƯƠ NG PHÁP OLS
V i ớ
n
Yi Y
là trung bình m u (theo bi n)ẫ ế
n
Xi X
g i là đ l ch giá tr c a bi n so v i giá tr ọ ộ ệ ị ủ ế ớ ị trung bình m uẫ
X X
Trang 14Đ c đi m c a đặ ể ủ ường h i quy m uồ ẫ
Một khi thu được các ước lượng từ mẫu, ta
có thể vẽ được đường hồi quy mẫu và đường này có những đặc tính sau:
Trang 15Đ c đi m c a đặ ể ủ ường h i quy m uồ ẫ
1 Nó đi qua giá trị trung bình mẫu của X và
Y, do
Trang 16Đ c đi m c a đặ ể ủ ường h i quy m uồ ẫ
2 Giá trị ước lượng trung bình của Y bằng với giá trị trung bình của Y quan sát.
0
1
^
i
n
i
e i
Y
0
1
i
n
i
X
Trang 17CÁC T NG BÌNH PH Ổ ƯƠ NG Đ L CH Ộ Ệ
2
^ 2
^
)
Trang 18• TSS (Total Sum of Squares - Tổng bình phương sai số tổng cộng)
• ESS: (Explained Sum of Squares - Bình phương sai số được giải thích)
• RSS: (Residual Sum of Squares - Tổng bình phương sai số)
2 2
2
)
TSS
2
2 2
) ˆ
ESS
2
2 2
2 2
i i
i i
e RSS
Trang 19ESS Tổng
chênh lệch RSS
SRF
TSS Y
X
Yi
Xi
i
Yˆ
Trang 20TSS = ESS + RSS →
TSS
RSS TSS
ESS
1
Hàm SRF phù hợp tốt với các số liệu quan sát (mẫu) khi gần Yi Khi đó ESS lớn
hơn RSS
Hệ số xác định R2: một thước đo mức độ phù hợp của hàm hồi quy mẫu
i
Yˆ