Biết được phương pháp ước lượng bình phương nhỏ nhất để ước lượng hàm hồi quy tổng thể dựa trên số liệu mẫu2.. HỆ SỐ XÁC ĐỊNH ĐIỀU CHỈNHR2k n n R • Khi đưa thêm biến vào mô hình màR2
Trang 1CHƯƠNG 2
HỒI QUY ĐƠN BIẾN
Trang 21 Biết được phương pháp ước lượng bình phương nhỏ nhất để ước lượng hàm hồi quy tổng thể dựa trên số liệu mẫu
2 Hiểu các cách kiểm định những giả thiết
3 Sử dụng mô hình hồi quy để dự báo
MỤC
TIÊU
HỒI QUY ĐƠN BIẾN
Trang 4Mô hình hồi quy tuyến tính hai biến
i i
2.1 MÔ HÌNH
Trang 5Trong đó
: Ước lượng cho 1
: Ước lượng cho 2
Sử dụng phương pháp bình phương nhỏ nhất thông thường (OLS) để tìm , ˆ2
Trang 72.2 PHƯƠNG PHÁP OLS
Giả sử có n cặp quan sát (Xi, Yi) Tìm giá trị Ŷisao cho Ŷi gần giá trị Yi nhất, tức ei= |Yi - Ŷi| càng nhỏ càng tốt
Hay, với n cặp quan sát, muốn
i i
n
i
Trang 8 Bài toán thành tìm , sao cho f min Điều kiện để đạt cực trị là:
1 i
i 2 1
i 1
n
1
i
2 i
e
i
n
1 i
i 2 1
i 2
n
1
i
2 i
Trang 9n i
i
n i
i i
n i
n i
i i
Y X
X X
Y X
n
2 2
1
2 1
ˆˆ
ˆˆ
Trang 10i i
X n
X
Y X n X
Y
1
2 2
1 2
) (
.
ˆ
X X
xi i
Y Y
2 i
n
1 i
i i
2
x
x
y ˆ
2.2 PHƯƠNG PHÁP OLS
Trang 12 TSS (Total Sum of Squares - Tổng bình phương sai số tổng cộng)
ESS: (Explained Sum of Squares - Bình phương sai số được giải thích)
RSS: (Residual Sum of Squares - Tổng bình phương sai số)
i i
e
Trang 13RSS
SRF
TSS Y
Trang 14HỆ SỐ XÁC ĐỊNH R 2
TSS
RSS TSS
ESS
1
Hàm SRF phù hợp tốt với các số liệu quan sát (mẫu) khi gần Yi Khi đó ESS lớn
Trang 15Trong mô hình 2 biến
i
y
x R
1
2 1
2
2 2 2
i
y
e TSS
RSS TSS
ESS R
1 2 1 2
Trang 16Nhược điểm: R 2 tăng khi số biến X đưa vào mô hình tăng, dù biến đưa vào không có ý nghĩa.
=>Sử dụng R 2 điều chỉnh (adjusted R 2 -R 2 ) để quyết định đưa thêm biến vào mô hình.
Trang 17HỆ SỐ XÁC ĐỊNH ĐIỀU CHỈNHR2
k n
n ) R (
• Khi đưa thêm biến vào mô hình
màR2 tăng thì nên đưa biến vào và ngược lại
Trang 18Hệ số tương quan r: đo mức độ chặt chẽ
của quan hệ tuyến tính giữa 2 đại lượng X
x y
x
y r
1
2 1
2 1
HỆ SỐTƯƠNG QUAN r
Trang 19r đo sự kết hợp tuyến tính hay phụ thuộc tuyến tính, không có ý nghĩa để mô tả quan hệ phi tuyến.
TÍNH CHẤT HỆ SỐTƯƠNG QUAN r
-1≤ r ≤1
Có tính chất đối xứng: r XY = r YX
Nếu X, Y độc lập theo quan điểm thống kê
thì hệ số tương quan giữa chúng bằng 0.
Trang 212.3 Các giả thiết của phương pháp OLS
Giả thiết 1: Các giá trị Xi được xác định trước và không phải là đại lượng ngẫu nhiên
Giả thiết 2: Kỳ vọng hoặc trung bình số học của các sai số là bằng 0 (zero
conditional mean), nghĩa là E(U/Xi) = 0
Trang 22 Giả thiết 3: Các sai số U có phương sai bằng nhau (homoscedasticity)
Var(U/Xi) = σ2
Giả thiết 4: Các sai số U không có sự
tương quan, nghĩa là
Cov(Ui, Ui’) = E(UiUi’) = 0, nếu i i’
2.3 Các giả thiết của phương pháp OLS
Trang 23Giả thiết 5: Các sai số U độc lập với biến giải thích
Cov(Ui, Xi) = 0
Giả thiết 6: Đại lượng sai số ngẫu nhiên
có phân phối chuẩn Ui ~ N(0, δ2 )
2.3 Các giả thiết của phương pháp OLS
Trang 24Định lý Gauss-Markov
Định lý: Với những giả thiết (từ 1 đến 5) của
mô hình hồi quy tuyến tính cổ điển, mô hình hồi quy tuyến tính theo phương pháp bình phương nhỏ nhất là ước lượng tuyến tính không chệch tốt nhất
Trang 252.4 TÍNH CHẤT CÁC ƯỚC LƯỢNG OLS
, được xác định một cách duy nhất với n cặp giá trị quan sát (X2 i , Yi)
Đo lường độ chính xác các ước lượng
bằng sai số chuẩn (standard error –
se)
Đo lường độ chính xác các ước lượng
bằng sai số chuẩn (standard error –
Trang 26 2 : phương sai nhiễu của tổng thể
2 = Var (Ui ) -> thực tế khó biết được giá trị 2 -> dùng ước lượng không chệch
Sai số chuẩn của các ước lượng OLS
var: phương sai
se: sai số chuẩn
2
2 2
Trang 27Sai số chuẩn của các ước lượng OLS
2
2 2
)
ˆ ( 2 2
Trang 28Sai số chuẩn của hồi quy: là
độ lệch tiêu chuẩn các giá trị
Y quanh đường hồi quy mẫu
Sai số chuẩn của các ước lượng OLS
2ˆ
Trang 291 SRF đi qua trung bình mẫu
Tính chất đường hồi quy mẫu SRF
Trang 302.4 KHOẢNG TIN CẬY CỦA HỆ SỐ HỒI QUY
Xác suất của khoảng (i - i, i + i) chứa
giá trị thực của i là 1 - hay:
2 /
Trang 31 (i - i, i + i) : khoảng tin cậy,
i : độ chính xác của ước lượng,
Trang 322.4 KHOẢNG TIN CẬY CỦA 2
2 / )
(
; 1
) ( 2 12 /2 P 2 2/2
P
, : giá trị của đại lượng ngẫu nhiên phân phối theo quy luật với bậc tự do n-2 thỏa điều kiện
2
2 /
2 2
2 / 1
n P
ˆ ) 2 (
ˆ ) 2
(
2 / 1
2 2
2 2 /
n P
hay
Trang 332.5 KIỂM ĐỊNH GIẢ THIẾT
1 Kiểm định giả thiết về hệ số hồi quy
* 1
* 0
:
:
i i
* 0
* 0
:
:
i i
Trang 34Cách 1: Phương pháp giá trị tới hạn
Bước 1: Tính t
Bước 2: Tra bảng t-student để có giá trị tới hạn
Bước 3: Quy tắc quyết định
Nếu bác bỏ H0.
Nếu chấp nhận H0.
)
ˆ (
ˆ
2
* 2 2
t n
t
) 2 / , 2 (
t n t
* 1
* 0
t
Trang 35Miền chấp nhận Ho
Trang 36Cách 2: Phương pháp khoảng tin cậy
Khoảng tin cậy của i:
với mức ý nghĩa trùng với mức ý nghĩa của H0
*
i i
i i
*
i i
i i
1 Kiểm định giả thiết về hệ số hồi quy
Trang 37i
i i
T
1 Kiểm định giả thiết về hệ số hồi quy
Trang 381 Kiểm định giả thiết về hệ số hồi quy
Loại GT H 0 H 1 Miền bác bỏ
Hai phía βi = βi* βi ≠ βi* |t|>t/2 (n-2)Phía phải βi ≤ βi* βi > βi* t>t (n-2)
Phía trái βi ≥ βi* βi < βi* t<t (n-2)
Trang 40Miền bác bỏ Ho
Trang 41Kiểm định giả thiết H0: R 2 = 0
(tương đương H0: β2= 0 ) với mức ý nghĩa hay độ tin cậy 1 -
Bước 1:
Tính
a Phương pháp giá trị tới hạn
Bước 2: Tra bảng F với mức ý nghĩa và hai bậc
(
R
n
R F
Trang 43Miền bác bỏ Ho Miền chấp nhận Ho
F Thống kê F=0,05
Trang 44Mô hình hồi quy
Cho trước giá trị X = X0, dự báo giá trị trung bình và giá trị cá biệt của Y với mức ý nghĩa hay độ tin cậy 1 - .
* Ước lượng điểm
0 2
Trang 45* Dự báo giá trị trung bình của Y
)
ˆ
;
ˆ ( )
/ ( Y X 0 Y0 0 Y 0 0
E
) 2 / , 2 (
ˆ ( Y0 Var Y0
)
) (
1 ( ˆ
)
ˆ
2 0
2 0
Y
Với:
2.6 DỰ BÁO
Trang 46* Dự báo giá trị cá biệt của Y
0 0
1 1
( ˆ )
ˆ
2 0
2 0
Y Y
Var
2.6 DỰ BÁO
Trang 472.7 HỒI QUY VÀ ĐƠN VỊ ĐO CỦA BIẾN
Nếu đơn vị đo của biến X, Y thay đổi thì mô hình hồi quy mới là
i i
ˆ
ˆ
i
e X
Y i i Với
i i
2 1