Bài giảng Kinh tế lượng - Chương 2: Hồi quy đơn biến (2019)

Bài giảng Kinh tế lượng - Chương 2: Hồi quy đơn biến cung cấp cho người học các kiến thức: Mô hình, phương pháp bình phương nhỏ nhất (OLS), khoảng tin cậy, kiểm định giả thiết. Mời các bạn cùng tham khảo nội dung chi tiết.

CH ƯƠ NG 2

H I QUY Đ N BI N Ồ Ơ Ế

1 Biết được phương pháp ước lượng bình phương nhỏ nhất để ước lượng hàm hồi quy tổng thể dựa trên số liệu mẫu

2 Hiểu các cách kiểm định những giả thiết

3 Sử dụng mô hình hồi quy

Ví dụ

Cho số liệu về số lượng gạo bán (tấn) hàng tháng của

6 cửa hàng gạo Nếu anh A mở một của hàng gạo thì dự báo lượng gạo bán hàng tháng.

Ví dụ

• Nếu anh A muốn bán gạo mức giá 6 ngàn đ/kg thì dự

báo số lượng gạo bán trong tháng

e Y

Trong đó

2.2 PH ƯƠ NG PHÁP 

OLS

Giả sử có n cặp quan sát (Xi, Yi) Tìm giá trị Ŷi sao cho Ŷi gần giá trị Yi nhất, tức ei= |Yi - Ŷi| càng nhỏ càng tốt

 Tuy nhiên, ei thường rất nhỏ và thậm chí bằng 0

vì chúng triệt tiêu lẫn nhau Để tránh tình trạng này,

ta dùng phương pháp bình phương nhỏ nhất (

 Với n cặp quan sát, muốn

9

min(*) ˆ

n

i

e

2.2 PH ƯƠ NG PHÁP 

OLS

Điều kiện (*) có nghĩa tổng bình phương các sai lệch giữa giá trị thực tế (Yi ) và giá trị tính theo hàm hồi quy mẫu là nhỏ nhất

 Bài toán thành tìm , sao cho f  min

Điều kiện để phương trình trên đạt cực trị là:

2X

ˆˆ

Y

2ˆ

n

1

i

2 i

n

2 i

i

Yˆ

2.2 PH ƯƠ NG PHÁP OLS

11

n i

i

n i

i

n i

i i

n i

n i

i i

Y X

X X

Y X

n

2 2

1

2 1

ˆ ˆ

ˆ ˆ

Hay

Y X n X

Y

1

2 2

1 2

) (

.

ˆ

X X

Y Y

n

1

i i i2

x

x y ˆ

là trung bình m u (theo bi n) ẫ ế

n

Xi X

g i là đ  l ch giá tr  c a bi n so v i giá tr    ọ ộ ệ ị ủ ế ớ ị trung bình m u ẫ

X X

Đ c đi m c a đặ ể ủ ường h i quy m uồ ẫ

Một khi thu được các ước lượng từ mẫu, ta

có thể vẽ được đường hồi quy mẫu và đường này có những đặc tính sau:

Đ c đi m c a đặ ể ủ ường h i quy m uồ ẫ

1 Nó đi qua giá trị trung bình mẫu của X và

Y, do

15

Hình 2.2: Đường hồi quy mẫu qua giá trị trung bình

Đ c đi m c a đặ ể ủ ường h i quy m uồ ẫ

2 Giá trị ước lượng trung bình của Y bằng với giá trị trung bình của Y quan sát.

3 Giá trị trung bình của sai số ei bằng 0: ē = 0.

4 Sai số ei không có tương quan với giá trị dự báo của Yi. 0

1

^

i

n i

e i

Y

0

n

e X

CÁC T NG BÌNH PH Ổ ƯƠ NG Đ  L CH Ộ Ệ

17

2

^ 2

^

) ( Yi Y Yi Yi Yi Y

TSS = RSS + ESS

• TSS (Total Sum of Squares - Tổng bình phương sai số tổng cộng)

• ESS: (Explained Sum of Squares - Bình phương sai số được giải thích)

• RSS: (Residual Sum of Squares - Tổng bình phương sai số)

CÁC T NG BÌNH PHỔ ƯƠNG Đ  L CHỘ Ệ

2 2

2 ( ˆ ))

2 2

i i

i i

e RSS

TSS = ESS + RSS →

H  S  XÁC Đ NH RỆ Ố Ị 2

TSS

RSS TSS

ESS

1

sát (mẫu) khi gần Yi Khi đó ESS lớn

hơn RSS

 Hệ số xác định R2: một thước đo mức độ phù hợp của hàm hồi quy mẫu.

i

Yˆ

Trong mô hình 2 biến, người ta chứng minh được rằng

n i

1

2 1

2

2 2 2

ˆ

H  S  XÁC Đ NH RỆ Ố Ị 2

n i

i

n i

i

y

e TSS

RSS TSS

ESS R

1 2 1 2

Nhược điểm: R2 tăng khi số biến X đưa vào mô hình tăng, dù biến đưa vào không có ý nghĩa.

=>Sử dụng R2 điều chỉnh (adjusted R2 - R2) để quyết định đưa thêm biến vào mô hình

H  S  XÁC Đ NH ĐI U CH NHỆ Ố Ị Ề Ỉ R2

k n

n ) R (

• Khi k > 1, R2 < R2 Do vậy, khi số biến X

tăng, R2 sẽ tăng ít hơn R2

• Khi đưa thêm biến vào mô hình mà làm

cho R2 tăng thì nên đưa biến vào và ngược

lại

23

Hệ số tương quan r: đo lường mức độ chặt chẽ

của quan hệ tuyến tính giữa 2 đại lượng X và Y

x

y r

1

2 1

2 1

H  S TỆ Ố ƯƠNG QUAN r

• Hệ số tương quan có tính chất đối xứng: rXY = rYX

• Nếu X, Y độc lập theo quan điểm thống kê thì hệ số tương quan giữa chúng bằng 0

• r chỉ là đại lượng đo sự kết hợp tuyến tính hay phụ

thuộc tuyến tính, r không có ý nghĩa để mô tả quan hệ phi tuyến

TÍNH CH T H  S TẤ Ệ Ố ƯƠNG QUAN r

1

1 r

HI P TỆ ƯƠNG QUAN M U Ẫ

27

1

) )(

( )

X

X Y

X Cov

2.3 Các giả thiết của phương pháp

OLS

• Giả thiết 1: Các giá trị Xi được xác định

trước và không phải là đại lượng ngẫu

nhiên VD: Mẫu 1 Mẫu 2Chi tiêu Y         Thu nh p  ậ

• Giả thiết 2: Kỳ vọng hoặc trung bình số

học của các sai số là bằng 0 (zero

conditional mean), nghĩa là E(U/Xi) = 0

• Giả thiết 3: Các sai số U có phương sai

Phương sai sai số không đồng nhất:

var(Ui|Xi) = i2

31

2.3 Các giả thiết của phương pháp OLS

• Giả thiết 4: Các sai số U không có sự

tương quan, nghĩa là

Cov(Ui, Ui’) = E(UiUi’) = 0, nếu i i’

Một số kiểu mẫu biến thiên của thành

phần nhiễu

33

2.3 Các giả thiết của phương pháp OLS

• Giả thiết 5: Các sai số U độc lập với biến

• Giả thiết 6: Đại lượng sai số ngẫu nhiên

có phân phối chuẩn Ui ~ N(0, δ2 )

2.4  TÍNH CH T CÁC Ấ ƯỚC LƯỢNG

, là ước lượng điểm của , tìm được bằng phương pháp OLS có tính chất:

• , được xác định một cách duy nhất với n cặp giá trị quan sát (Xi , Yi)

• , là các đại lượng ngẫu nhiên, với các mẫu khác nhau, giá trị của chúng sẽ khác nhau

• Ta đo lường độ chính xác các ước lượng

bằng sai số chuẩn (standard error – se).

Sai số chuẩn của các ước lượng OLS

2 : phương sai nhiễu của tổng thể

2 = Var (Ui )

-> thực tế khó biết được giá trị 2 -> dùng ước lượng không chệch

var: phương sai

se: sai số chuẩn

2

Sai số chuẩn của các ước lượng OLS

37

)

ˆ var(

X

2

2 2

ˆ )

ˆ

var(

i

x

Sai số chuẩn của hồi quy: là

độ lệch tiêu chuẩn các giá trị

Y quanh đường hồi quy mẫu

2 ˆ

2

n

ei

Định lý Gauss-Markov

• Định lý: Với những giả thiết (từ 1 đến 5) của mô hình hồi quy tuyến tính cổ điển, mô hình hồi quy tuyến tính theo phương pháp bình phương tối thiểu là ước lượng tuyến tính không chệch tốt nhất, tức là, chúng là BLUE

39

Định lý Gauss-Markov

• Một ước lượng được gọi là “ước lượng không chệch tuyến tính tốt nhất” (BLUE) nếu thỏa các điều kiện:

– Nó là tuyến tính, có nghĩa là một hàm tuyến tính của một biến ngẫu nhiên,

– Nó không chệch,

– Nó có phương sai nhỏ nhất, hay còn gọi là

ước lượng hiệu quả (efficient estimator).

j j

E( ˆ )

i

n i

i

j k Y

1

ˆ

2.4 KHO NG TIN C Y C A H  S  H I QUYẢ Ậ Ủ Ệ Ố Ồ

Xác suất của khoảng ( i - i, i + i) chứa

giá trị thực của i là 1 - hay:

P( i - i i i + i) = 1 - với

2 /

2.4 KHO NG TIN C Y C A H  S  H I QUYẢ Ậ Ủ Ệ Ố Ồ

– ( i - i, i + i) : là khoảng tin cậy,

– 1 - : hệ số tin cậy,

– với (0 < < 1): là mức ý nghĩa.

– t ( /2, n-2): giá trị tới hạn (tìm bằng

cách tra bảng số t-student) – n: số quan sát

• Ví dụ: nếu = 0,05 = 5%, ta đọc “xác suất

2.4 KHO NG TIN C Y Ả Ậ C A Ủ 2

, : giá trị của đại lượng ngẫu nhiên phân phối theo quy luật với bậc tự do n-2 thỏa điều kiện

43

2 / )

(

; 1

) ( 2 12 /2 P 2 2/2P

2

2 /

1 2/2

2

1)

ˆ)2

(

2 / 2

2 2

2 / 1

n P

1)

ˆ)2(

ˆ)2

(

2 / 1

2 2

2 2 /

n P

hay

2.5 KI M Đ NH GI  THUY T Ể Ị Ả Ế

• Do Ui theo phân phối chuẩn, các ước

lượng OLS của 1 và 2 cũng theo phân phối chuẩn vì chúng là các hàm số tuyến tính của Ui.

F, và 2 để kiểm định các giả thuyết về

các ước lượng OLS.

1 Kiểm định giả thuyết về hệ số hồi quy

45

* 1

* 0

:

:

i i

i

H

* 1

* 0

H H

* 1

* 0

:

:

i i

Cách 1: Phương pháp giá trị tới hạn

Bước 1: Tính t

Bước 2: Tra bảng t-student để có giá trị tới hạn

Bước 3: Quy tắc quyết định

* 1

* 0

1 Kiểm định giả thuyết về hệ số hồi

quy

) 2 / , 2

(n

t

)

ˆ (

Miền chấp nhận Ho

Cách 2: Phương pháp khoảng tin cậy

Khoảng tin cậy của i:

với mức ý nghĩa trùng với mức ý nghĩa của H0

*

i i

i i

i

ˆ ˆ

1 Kiểm định giả thuyết về hệ số hồi

quy

i

i i

SE t

p t

T

1 Kiểm định giả thuyết về hệ số hồi

quy

su t  ấ 1­β   (Sai l m lo i 1) ầ ạ  

Phía trái βi ≥ βi* βi < βi* t<-t (n-2)

0 t

f(t)

-t

H0 : βi ≥ βi*

H1 : βi < βi* Kiểm định phía trái

Miền bác bỏ Ho

Kiểm định giả thiết H0: R2 = 0

(tương đương H0: β2= 0) với mức ý nghĩa hay độ tin cậy 1 -

Bước 1:

Tính

a Phương pháp giá trị tới hạn

Bước 2: Tra bảng F với mức ý nghĩa và hai bậc

(

R

n

R F

2 Kiểm định sự phù hợp của mô hình

Miền bác bỏ Ho Miền chấp nhận Ho

F Thống kê F=0,05

Với mô hình hồi quy

Cho trước giá trị X = X0, hãy dự báo giá trị trung bình và giá trị cá biệt của Y với mức ý nghĩa hay độ tin cậy 1 -

* Ước lượng điểm

0 2

* Dự báo giá trị trung bình của Y

)

ˆ

;

ˆ ( )

/

E

) 2 / , 2 (

0

0 SE ( Y ˆ ) t n

)

ˆ ( )

1 (

ˆ )

Y Var

Với:

0 0

'

)

ˆ (

1 1

(

ˆ )

X

X n

Y Y

Var

2 0

0

Var

2.7 H I QUY VÀ Đ N V  ĐO C A BI NỒ Ơ Ị Ủ Ế

Nếu đơn vị đo của biến X, Y thay đổi thì không

cần hồi quy lại Mô hình hồi quy mới là

i i

Trong đó

i i

)

ˆvar(

.)

ˆvar(

);

ˆvar(

.)

ˆvar(

2 1

* 2

k

a.Hãy lập mô hình hồi quy mẫu biễu diễn mối phụ thuộc về nhu cầu vào đơn giá gạo

b.Tìm khoảng tin cậy của 1, 2 với =0,05

c Hãy xét xem nhu cầu của loại hàng trên có phụ thuộc vào đơn giá của nó không với =0,05.

d Có thể nói rằng nếu giá gạo tăng 1.000đ/kg thì nhu cầu gạo trung bình giảm 2 tấn/tháng không? Cho với =0,05

e Hãy kiểm định sự phù hợp của mô hình Cho =0,05.

f Hãy dự báo nhu cầu trung bình và nhu cầu cá biệt của loại hàng trên khi đơn giá ở mức 6.000 đồng/kg với độ tin cậy 95%.

g Hãy viết lại hàm hồi quy nếu nhu cầu gạo được tính theo

a Mô hình hồi quy mẫu biễu diễn mối phụ thuộc về nhu

cầu vào đơn giá gạo

Giả sử mô hình hồi quy mẫu là:

i

4 6

4 (

6 120

6 4 6

111 )

.(

.

ˆ

2

1

2 2

1

2 n

i i

n i

i i

X n

X

Y X n X

Y

Như vậy, mô hình hồi quy mẫu

=> X và Y có quan hệ nghịch biến

* = 11,5: nhu cầu tối đa là 11,5 tấn/tháng

* = -1,375: khi giá tăng 1000 đồng/kg thì nhu cầu trung bình sẽ giảm 1,375 tấn/tháng với điều kiện các yếu tố khác trên thị trường không đổi

ˆ (

ˆ )

ˆ (

ˆ

1 )

2 / ,2 ( 1

1 1

) 2 / ,2 (

)

ˆ (

ˆ )

ˆ (

ˆ

2 )

2 / ,2 ( 2

2 2

) 2 / ,2 (

Ta có

9864 ,

0 46

24 ) 375 ,

1 (

ˆ

2

1

2 1

2

2 2 2

n i

i

n i

i

y

x R

Mà:

46 ).

9864 ,

0 1

(

) 1

( ˆ

2

3609 ,

0 )

ˆ ( )

ˆ (

1303 ,

0 15625

,

0 24

6

120 ˆ

)

ˆ (

1 1

2 2

2 1

Var SE

x n

X Var

i i

0806 ,

0 )

ˆ ( )

ˆ (

0065 ,

0 24

15625 ,

0

ˆ )

ˆ (

2 2

2

2 2

Var SE

x

Var

i

0019 ,

1 3609

, 0 776

, 2 )

ˆ ( 1

) 2 / , 2 (

2237 ,

0 0806

, 0 776

, 2 )

ˆ

) 2 / , 2 (

5019 ,

12 4981

,

1513 ,

1 5987

776 ,

2

025 0 , 4

t

Tra bảng ta có

c Kiểm định giả thuyết 2 = 0 H 0 : 2 = 0

C1: Sử dụng khoảng tin cậy Theo kết quả ở câu a, với

= 0,05, 2 không thuộc khoảng tin cậy => bác bỏ H0

17 0806

, 0

0 375

,

1 )

ˆ (

ˆ

2

* 2

2

SE

t

776 ,

2 0379

,

t

12 ,

290 )

9864 ,

0 1

(

9864 ,

0 ) 2 6

( )

1 (

) 2

C3: sử dụng kiểm định F đối với mô hình hai biến

Mà F0,05(1,4) = 7,71 < Ftt

=> Bác bỏ H0, hay nhu cầu trung bình có phụ thuộc vào đơn giá

)

ˆ (

ˆ )

6 /

052 ,

0

) 24

) 4 6

( 6

1 ( 1562 ,

0 )

) (

1 (

ˆ )

Y

Var

2283 ,

0 )

ˆ ( )

ˆ

SE

) 8838 ,

3

; 6162 ,

2 ( )

6 /

E

d Dự báo

-Dự báo điểm: (tấn/tháng)-Dự báo giá trị trung bình của YY ˆ0 11 , 5 1 , 375 x 6 3 , 25

- Dự báo giá trị cá biệt của Y

)

ˆ (

.

ˆ

0 0

) 2 / , 2 (

0

4565 ,

0 )

ˆ (

4

; 9828 ,

0

) 24

) 4 6

( 6

1 1 ( 1562 ,

0 )

) (

1 1 ( ˆ )

Y Y

Var

Cho số liệu chi tiêu tiêu dùng Y (USD/tuần) và thu nhập

hàng tuần X (USD/tuần) của 10 hộ gia đình Giả sử X và Y

có quan hệ tuyến tính trong đó Y là biến phụ thuộc

Chạy số liệu trên Eviews, ta có kết quả sau

1 Viết hàm hồi quy Y theo X Ý nghĩa các hệ số

hồi quy

2 Tính khoảng tin cậy của B2 Ý nghĩa của khoảng

tin cậy này là gì? Cho độ tin cậy 95%

3 Nếu thu nhập của hộ gia đình tăng 1 USD/tuần

thì chi tiêu trung bình của hộ gia đình có tăng 0.7 USD/tuần không? Cho mức ý nghĩa 5%

4 Mô hình có phù hợp không? Cho mức ý nghĩa

1%

5 Dự báo chi tiêu và chi tiêu trung bình của hộ gia

đình khi thu nhập là 300 USD/tuần Cho mức ý nghĩa 5% và X trung bình là 170 USD/tuần

VÍ D  2 Ụ

Trình bày kết quả phân tích hồi quy

) 000 ,

0 )(

005 ,

0 (

) 243 ,

14 )(

813 ,

3 (

) 0357 ,

0 )(

4138 ,

6 (

5091 ,

0 4545

, 24 ˆ

ˆ

j j

se t

) 0000 ,

0 (

87 , 202 )

8 , 1 (

8

9621 ,

0

2

p F df R

Lưu ý