Bài giảng Kinh tế lượng - Chương II: Mô hình hồi quy hai biến. Nội dung chương này bao gồm: Hồi quy tuyền tính hai biến, phương pháp bình phương nhỏ nhất, kiểm định mô hình nội quy. Mời các bạn cùng tham khảo tài liệu.
Trang 1MÔ HÌNH
HỒI QUY HAI BIẾN
Chương II
1
I HỒI QUY TUYẾN TÍNH HAI BIẾN
1 Hàm hồi quy tuyến tính hai biến
Trong quan hệ hồi quy, một biến phụ thuộc có thể
được giải thích bởi nhiều biến độc lập
Nếu chỉ nghiên cứu một biến phụ thuộc bị ảnh hưởng bởi một biến độc lập=> mô hình hồi quy
hai biến
=> Hàm hồi quy tuyến tính được hiểu là tuyến tính theo tham số
Y X U
2
I HỒI QUY TUYẾN TÍNH HAI BIẾN
Hàm hồi quy tổng thể (PRF) của mô hình hồi quy
hai biến
hay
Trong đó:
Y: biến phụ thuộc
Yi: giá trị cụ thể của Y
X: biến độc lập
Xi: Giá trị cụ thể của X
Ui: sai số ngẫu nhiên ứng với quan sát thứ i
PRF Y X U
3
I HỒI QUY TUYẾN TÍNH HAI BIẾN
Hàm hồi quy tổng thể (PRF) của mô hình hồi quy hai biến
hay Trong đó:
β1: tung độ gốc của hàm hồi quy tổng thể,
là trị trung bình của biến phụ thuộc Y khi biến độc lập X nhận giá trị bằng 0
β2: Độ dốc của hàm hồi quy tổng thể, là lượng thay đổi trung bình của Y khi X thay đổi 1 đơn vị
4
I HỒI QUY TUYẾN TÍNH HAI BIẾN
Y
X
PRF
Ui Ui
Đồ thị minh họa
5
𝑖 = 𝛽1+𝛽2𝑋𝑖
I HỒI QUY TUYẾN TÍNH HAI BIẾN
2 Hàm hồi quy mẫu hai biến
Trong thực tế rất khó nghiên cứu trên tổng thể nên thông thường ta nghiên cứu xây dựng hàm hồi quy trên một mẫu => Gọi là hàm hồi quy mẫu
6
Trang 2I HỒI QUY TUYẾN TÍNH HAI BIẾN
2 Hàm hồi quy mẫu hai biến
SRF:
Trong đó:
: là tung độ gốc của hàm (SRF), ước lượng điểm của
: là độ dốc của hàm hồi qui, ước lượng điểm của
e i : là sai số ngẫu nhiên, ước lượng của U i
Nếu bỏ qua sai số e i thì giá trị thực tế Y i sẽ trở thành giá trị
ước lượng
1
2
7
𝑌𝑖= 𝛽1+ 𝛽2𝑋𝑖+𝑒𝑖
𝛽1
𝛽2
𝑖
𝑆𝑅𝐹: 𝑌𝑖= 𝛽1+ 𝛽2𝑋𝑖
I HỒI QUY TUYẾN TÍNH HAI BIẾN
2 Hàm hồi quy mẫu hai biến8
SRF:
Y
X
SRF
ei ei
𝑌𝑖 = 𝛽1+𝛽2𝑋𝑖+ 𝑒𝑖
𝑖 = 𝛽1+ 𝛽2𝑋𝑖
𝛽2
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
1 Ước lượng tham số của mô hình
SRF thực tế:
SRF ước lượng:
Vậy =? để
-> min
9
𝑌𝑖= 𝛽1+ 𝛽2𝑋𝑖+𝑒𝑖
𝑖= 𝛽1+ 𝛽2𝑋𝑖
𝑒𝑖2 = 𝑌𝑖− 𝑖2= 𝑌𝑖− ( 𝛽1+ 𝛽2𝑋𝑖) 2
𝛽1, 𝛽2
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
1 Ước lượng tham số của mô hình
Giải bài toán cực trị hai biến ta xác định được:
Trong đó: _ _
;
;
10
𝛽2= 𝑋𝑖𝑌𝑖− 𝑛 𝑋 𝑌
𝑋𝑖2− 𝑛( 𝑋)2= 𝑥𝑖𝑦𝑖
𝑥𝑖2
𝛽1= 𝑌 − 𝛽2𝑋
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
1 Ước lượng tham số của mô hình
VÍ DỤ: Cho số liệu về thu nhập (X – trđ/tháng) và chi
tiêu (Y – trđ/tháng) của 10 người như sau:
Hãy xây dựng hàm hồi qui
Y 4 4.2 5 7 3.5 4 6 4.6 7 8.5
11
𝑌𝑖 = 𝛽1+ 𝛽2𝑋𝑖
12
STT X Y X i Y i X 2
1 5 4 20 25
2 6 4,2 25,2 36
3 10 5 50 100
4 15 7 105 225
5 4 3,5 14 16
6 7 4 28 49
7 9 6 54 81
8 8 4,6 36,8 64
9 11 7 77 121
10 16 8,5 136 256
Tổng 91 53,8 546 973
9,1
i X X n
Y n
56, 42
x y X Yn X Y
^
( )
i i
x
2 2 ( ) 2 144, 9
0, 3893
Hàm hồi quy:
⇒ 𝛽1= 𝑌 − 𝛽2𝑋 = 1,8373
𝑌𝑖= 1,8373 + 0,3893𝑋𝑖
Trang 3II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
2 Các giả thuyết của OLS
a Giả thiết 1
- Quan hệ giữa Y và X là tuyến tính
phân tích hồi qui là phân tích hồi qui có điều kiện)
b Giả thiết 2
=> không ảnh hưởng hệ thống tới giá trị trung bình của Y
13
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
2 Các giả thuyết của OLS
c Giả thiết 3
( i| i)
Var U X const
14
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
2 Các giả thuyết của OLS
d Giả thiết 4
Không có tương quan giữa các Ui (giá trị Ui là ngẫu
nhiên và không ảnh hưởng tới sai số của quan sát khác)
e Giả thiết 5
Không có tương quan giữa Xi với Ui
f Giả thiết 6
( i, j) 0,
Cov U U i j
( i, i) 0
15
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
2 Các giả thuyết của OLS
Định lý Guass- Markov:
Khi các giả thiết được đảm bảo thì ước lượng bằng phương pháp OLS là ước lượng tuyến tính, không chệch và hiệu quả nhất của hàm hồi quy tổng thể Hay gọi là BLUE ( B est
L inear U nbiased E stimators)
16
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
3 Hệ số xác định của mô hình
Tổng bình phương toàn phần (TSS: total sum of squares)
2
TSS=y =(Y -Y) =Y -n Y
Tổng bình phương hồi quy (ESS: Explained sum of squares)
Tổng bình phương phần dư (RSS: Residual sum of squares)
17
𝑅𝑆𝑆 = 𝑌𝑖− 𝑖
2
= 𝑒𝑖2
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
3 Hệ số xác định của mô hình
0
SRF
Y
X
ESS
TSS i
Y
X Y
i
X
RSS
i
Y
Ta có thể chứng minh được TSS = ESS+RSS (bài tập)
18
Trang 4II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
3 Hệ số xác định của mơ hình
Hệ số xác định:
+
+ Với: đường hồi qui phù hợp mức hồn hảo
+ Với: mơ hình khơng phù hợp với mẫu ngẫu
nhiên
2
1
R
2
2
1
R
2
0
R
2
R
19
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
VÍ DỤ: Cho số liệu về thu nhập (X – trđ/tháng) và chi
tiêu (Y – trđ/tháng) của 10 người như sau:
Tính hệ số xác định của mơ hình
Thu nhập X 5 6 10 15 4 7 9 8 11 16 Chi tiêu Y 4 4.2 5 7 3.5 4 6 4.6 7 8.5
3 Hệ số xác định của mơ hình
20
𝑖= 𝛽1+ 𝛽2𝑋𝑖
21
STT X Y X i Y i X 2
1 5 4 20 25
2 6 4,2 25,2 36
3 10 5 50 100
4 15 7 105 225
5 4 3,5 14 16
6 7 4 28 49
7 9 6 54 81
8 8 4,6 36,8 64
9 11 7 77 121
10 16 8,5 136 256
Tổng 91 53,8 546 973
9,1
i X X n
Y n
56, 42
x y X Yn X Y
( ) 144, 9
2
314, 3
i
Y
2 2 2 ˆ
ESS x i 21, 9602
2 2 i
TSS Y -n Y 24,856
0,8834
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
4 Hệ số tương quan của mơ hình
Hệ số tương quan r dùng để đo mức độ chặt chẽ của quan hệ tuyến tính giữa X, Y.
Công thức của hệ số tương quan là:
i i
x y r
Có thể chứng minh được:
Trong trường hợp này dấu cuả r trùng với dấu của
2
r R
22
𝛽2
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
4 Hệ số tương quan của mơ hình
Tính chất hệ số tương quan (r).
- r có thể dương hoặc âm, dấu của r phụ thuộc vào dấu
của số hạng trong tử số hoặc
- r nằm từ –1 đến +1 , nghĩa là: 1 r 1
- BaÛn chất của r là đối xứng ; nghĩa là hệ số tương quan
- Nếu X và Y là độc lập theo quan điểm thống kê, hệ
số tương quan giữa chúng bằng 0; nhưng nếu r = 0, điều
đó không có nghĩa là hai biến này độc lập.
2
ˆ
23
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
4 Hệ số tương quan của mơ hình
Tính chất hệ số tương quan (r).
- r chỉ là đại lượng đo sự kết hợp tuyến tính hay là phụ thuộc tuyến tính; r không có ý nghĩa để mô tả quan hệ
hệ chính xác nhưng r = 0.
- Mặc dù r là đại lượng đo sự kết hợp tuyến tính giữa hai biến, r không ngụ ý là có bất kỳ mối liên quan
nhân quả nào.
24
Trang 5II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
4 Hệ số tương quan của mơ hình
Tính chất hệ số tương quan (r).
r > 0 thì X ,Y có tương quan thuận (tương
quan dương) Tức X tăng thì giá trị trung bình
của Y tăng; X giảm thì giá trị trung bình của Y
giảm
r < 0 thì X ,Y có tương quan nghịch (tương
quan âm) Tức X tăng thì giá trị trung bình của
Y giảm; X giảm thì giá trị trung bình của Y
tăng
25
r = 1
0 5 10 15 20 25 30
26
r = -1
0
5
10
15
20
25
30
27
r > 0 và gần 1
0 5 10 15 20 25
28
r < 0 và gần 1
0
5
10
15
20
25
29
r > 0 và gần 0
0 2 4 6 8 10 12 14 16
30
Trang 6r < 0 và gần 0
0
2
4
6
8
10
12
14
16
31
r = 0
0 2 4 6 8 10 12 14 16
32
X và Y có quan hệ phi tuyến r = 0
0
5
10
15
20
25
33
II PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT
VÍ DỤ: Cho số liệu về thu nhập (X – trđ/tháng) và chi
tiêu (Y – trđ/tháng) của 10 người như sau:
Tính hệ số tương quan của mơ hình
Y 4 4.2 5 7 3.5 4 6 4.6 7 8.5
4 Hệ số tương quan của mơ hình
34
R TSS
0,8834 Do 𝛽2 > 0 r 0, 9398
Ta cĩ 𝑆𝑅𝐹: 𝑌𝑖= 1,8373 + 0,3893𝑋𝑖
𝑌𝑖 = 𝛽1+ 𝛽2𝑋𝑖
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
1 Các đại lượng ngẫu nhiên
a Đại lượng ngẫu nhiên Ui
Theo giả thiết trong phương pháp OLS thì giá trị trung bình
lượng bằng phương sai mẫu
35
𝜎2= 𝑒𝑖
2
𝑛 − 2=
𝑅𝑆𝑆
𝑛 − 2
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
1 Các đại lượng ngẫu nhiên
a Đại lượng ngẫu nhiên Ui
Ta cĩ
Y X U
Vì Nên
36
𝑈𝑖~𝑁 0, 𝜎2
Trang 7III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
1 Các đại lượng ngẫu nhiên
b Đại lượng ngẫu nhiên 𝛽1, 𝛽2
𝑇𝑎 𝑐ĩ
𝑉ớ𝑖
37
𝛽1~𝑁(𝛽1, 𝜎𝛽
1
2 ) 𝛽2~𝑁(𝛽2, 𝜎𝛽
2
2 )
𝜎𝛽
1
2 = 𝑋𝑖2
𝑛 𝑋𝑖2 − 𝑛 𝑋 2 𝜎 2 ≈ 𝑋𝑖2
𝑛 𝑋𝑖2 − 𝑛 𝑋 2 𝜎 2
𝜎𝛽
2
2
𝑋𝑖2 − 𝑛 𝑋 2 ≈ 𝜎
2
𝑋𝑖2 − 𝑛 𝑋 2
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
1 Các đại lượng ngẫu nhiên
b Đại lượng ngẫu nhiên 𝛽1, 𝛽2
38
𝛽1~𝑁(𝛽1, 𝜎𝛽
1
2 )
𝛽2~𝑁(𝛽2, 𝜎𝛽
2
2 )
𝛽1− 𝛽1
𝜎𝛽1 ~𝑁(0,1)
𝛽2− 𝛽2
𝜎𝛽2 ~𝑁(0,1)
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
2 Khoảng tin cậy
a Khoảng tin cậy của 𝛽2
Với độ tin cậy 1- , KTC của 2 là:
Nên
lượng bằng𝜎2
với
39
𝛽 2 − 𝛽 2
𝜎𝛽2 ~𝑁(0,1)
𝛽2− 𝛽2
𝜎𝛽2 ~𝑇(𝑛 − 2)
𝑠𝑒(𝛽2)= 𝜎𝛽
2
2 sai số chuẩn của 𝛽2
( 𝛽2−𝑡𝛼
2
𝑛−2𝑠𝑒( 𝛽2); 𝛽2+ 𝑡𝛼
2
𝑛−2𝑠𝑒( 𝛽2)
T T(n-2) thỏa ĐK:
P(|T|> t/2) =
-t/2 0 t/2
Để xác định t/2ta có thể tra bảng hoặc dùng hàm TINV trong Excel
40
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
2 Khoảng tin cậy
b Khoảng tin cậy của 𝛽1
Với độ tin cậy 1- , KTC của 1là:
Lập luận tương tự như phần trên ta cĩ
với
41
𝛽1− 𝛽1
𝑠𝑒( 𝛽1) ~𝑇(𝑛 − 2)
𝑠𝑒(𝛽1)= 𝜎𝛽
1
2 sai số chuẩn của 𝛽1
( 𝛽1−𝑡𝛼
2
𝑛−2𝑠𝑒( 𝛽1); 𝛽1+ 𝑡𝛼
2
𝑛−2𝑠𝑒( 𝛽1)
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
2 Khoảng tin cậy
c Khoảng tin cậy của 𝜎2
Vì 𝜎2là ước lượng của σ2nên ta cĩ thể chứng minh được rằng
𝜎2(𝑛 − 2)
σ2 ~𝜒2(𝑛 − 2)
Với độ tin cậy 1- , KT C của 𝜎 2 là:
(𝑛 − 2) 𝜎 2
𝜒𝛼/22 ≤ σ 2 ≤ (𝑛 − 2) 𝜎
2
𝜒1−𝛼/22
Để xác định 2
/2ta cĩ thể tra bảng 2với bậc tự do
n-2 mức ý nghĩa /2
42
Trang 8III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
2 Khoảng tin cậy
VÍ DỤ: Cho số liệu về thu nhập (X – trđ/tháng) và chi
tiêu (Y – trđ/tháng) của 10 người như sau:
Từ kết quả ví dụ trên, yêu cầu tính khoảng tin cậy của 𝛽 1,
𝛽 2 và σ 2 với độ tin cậy 95%.
Y 4 4.2 5 7 3.5 4 6 4.6 7 8.5
Với độ tin cậy 1- = 95%, KTC của 2 là:
Ta cĩ
- Tính se( 𝛽 2 )
0, 3619
0, 0024
144, 9
a) Khoảng tin cậy cho 2 :
( 𝛽2−𝑡𝛼 2
𝑛−2𝑠𝑒( 𝛽2); 𝛽2+ 𝑡𝛼
2
𝑛−2𝑠𝑒( 𝛽2)
45
Với độ tin cậy 1- = 95%, KTC của 2 là:
Ta cĩ
- Tính 2
/ 2
n
t
/ 2 0,05/ 2 0,025
n
Tra bảng t-student hoặc sử dụng hàm TINNV(0,05;8)
2
n
t
Vậy khoảng tin cậy của 𝛽 2 là
( 𝛽2−𝑡𝛼
2
𝑛−2
𝑠𝑒( 𝛽2); 𝛽2+ 𝑡𝛼
2
𝑛−2
𝑠𝑒( 𝛽2)
46
Với độ tin cậy 1- = 95%, KTC của 1 là:
Ta cĩ
- Tính se( 𝛽 1 )
b) Khoảng tin cậy cho 1 :
Vậy khoảng tin cậy của 𝛽 1 là
𝜎𝛽
1
2 = 𝑋𝑖
2
𝑛 𝑋𝑖2 − 𝑛 𝑋 2 𝜎 2 =973 × 0,3619
10 × 144,9 = 0,2430
( 𝛽1−𝑡𝛼 2
𝑛−2𝑠𝑒( 𝛽1); 𝛽1+ 𝑡𝛼
2
𝑛−2𝑠𝑒( 𝛽1)
47
Với độ tin cậy 1- = 95%, KTC của σ 2 là:
2
0, 361
- Ta cĩ:
c) Khoảng tin cậy cho σ2:
Vậy khoảng tin cậy của σ 2 là
- Tra bảng tính 2
/2 và 2 1-/2
2 2
/2 0,05/2 17,5346
1 /2 0,975 2,17973
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
Ơn tập kiểm định giả thiết
Trong thống kê, giả thiết cần kiểm định (giả thiết
Thơng thường người ta cố tình đặt giả thiết sao cho khả năng mắc sai lầm loại I cao hơn sai lầm loại II
H0sai Đúng Sai lầm loại II
H0đúng Sai lầm loại I Đúng
48
Trang 9III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
Đặt là khả năng mắc sai lầm loại I
Chú ý: - Chấp nhận H0khơng cĩ nghĩa là H0đúng
- cĩ thể lựa chọn tùy ý thường ta chọn
mức 1%, 5%, 10%
49
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY Các giả thiết cần kiểm định gồm cĩ:
Các loại giả thiết: giả thiết 2 phía, giả thiết trái , giả thiết
phải
Các cách kiểm định cơ bản:
50
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
3 Kiểm định giả thiết về hệ số hồi quy
0 2 0
1 2 0
:
:
H
0 2 0
1 2 0
: :
H H
0 2 0
1 2 0
: :
H H
t
f(t)
Miền B.Bỏ
Miền chấp nhận α t
t
f(t)
Miền B.Bỏ
Miền chấp nhận
α
-t
f(t)
t
2
2
t
2
2
t
1
Miền
bác
bỏ
Miền
bác
bỏ
Miền
chấp
nhận
51
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
3 Kiểm định giả thiết về hệ số hồi quy
Phương pháp khoảng tin cậy
- Bước 1: lập khoảng tin cậy cho β2
52
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
3 Kiểm định giả thiết về hệ số hồi quy
Phương pháp điểm tới hạn ( kiểm định t)
- Bước 1: tính giá trị tới hạn
- Bước 3:
2
t se
53
III KIỂM ĐỊNH MƠ HÌNH HỒI QUY
3 Kiểm định giả thiết về hệ số hồi quy
Phương pháp p-value
- Bước 1: tính giá trị tới hạn
- Bước 3:
54
Trang 10III KIỂM ĐỊNH MÔ HÌNH HỒI QUY
3 Kiểm định giả thiết về hệ số hồi quy
0 1 0
1 1 0
:
:
H
55
III KIỂM ĐỊNH MÔ HÌNH HỒI QUY
3 Kiểm định giả thiết về hệ số hồi quy
2 2
2 2
: :
H
Bước 1: lập khoảng tin cậy cho σ2
Bước 2:
56
III KIỂM ĐỊNH MÔ HÌNH HỒI QUY
3 Kiểm định giả thiết về hệ số hồi quy
Từ số liệu ví dụ trước kiểm định các giả thiết sau
với độ tin cậy 95%:
0 2
1 2
1)
H
H
0 2
1 2
2)
H
H
57
III KIỂM ĐỊNH MÔ HÌNH HỒI QUY
4 Kiểm định sự phù hợp của mô hình
Trong thực tế hàm hồi qui được xác định dựa trên mẫu lấy ra từ tổng thể nên có thể bị ảnh hưởng bởi sai số trong lấy mẫu Vì thế chúng ta cần kiểm định xem dữ liệu đang khảo sát có phù hợp với mô hình hay không?
58
III KIỂM ĐỊNH MÔ HÌNH HỒI QUY
4 Kiểm định sự phù hợp của mô hình
Kiểm định giả thiết
2
0
2
1
H R
Phương pháp kiểm định F:
Bước 1: tính
Bước 2: Tra bảng tìm F(1,n-2) với mức ý nghĩa
Bước 3: + Nếu F> F(1,n-2) : bác bỏ H0
+ Nếu F≤ F(1,n-2) : chấp nhận H
2 2
( 2) (1 )
R n F
R
59
0 2
1 2
H H
III KIỂM ĐỊNH MÔ HÌNH HỒI QUY
4 Kiểm định sự phù hợp của mô hình
Kiểm định sự phù hợp của mô hình với độ tin cậy 95%:
60
Thu nhập X 5 6 10 15 4 7 9 8 11 16 Chi tiêu Y 4 4.2 5 7 3.5 4 6 4.6 7 8.5
VÍ DỤ: Cho số liệu về thu nhập (X – trđ/tháng) và chi
tiêu (Y – trđ/tháng) của 10 người như sau:
Ta có : 1,8373 0, 3893
Trang 11Ta có
- Bước 1: tính
0,8834(10 2)
60,8106
1 0,8834
Ở phần trước ta tính được 2
0,8834
R
2 0 2 1
H R
H R
2 2
( 2) (1 )
R n F
R
-Bước 2: Tra bảng F(1,8) =5,32 với mức ý nghĩa =0,05
-Bước 3: + F> F(1,n-2) nên bác bỏ H0
Vậy mô hình phù hợp với mẫu ngẫu nhiên
hay thu nhập có sự tác động lên chi tiêu.