Bài giảng Kinh tế lượng: Chương 1 - Nguyễn Ngọc Lam (2017)

Bài giảng Kinh tế lượng - Chương 1: Tương quan, hồi quy tuyến tính cung cấp cho người học các kiến thức: Tương quan tuyến tính, hồi quy tuyến tính đơn giản, hồi quy tuyến tính bội, một số dạng hàm... Mời các bạn cùng tham khảo nội dung chi tiết.

Trang 1

Chương 1

TƯƠNG QUAN,

HỒI QUI TUYẾN TÍNH

www.nguyenngoclam.com

Trang 2

I.TƯƠNG QUAN TUYẾN TÍNH

1 Hệ số tương quan đơn:  được gọi là đại lượng đolường mối tương quan tuyến tính của 2 đại lượng ngẫu nhiên

X và Y nếu:

• -1   1

•  < 0: X, Y có mối liên hệ nghịch

•  > 0: X, Y có mối liên hệ thuận

•  = 0: X, Y không có mối liên hệ

•: càng lớn thì X, Y có mối liên hệ càng chặt chẽ

• Ký hiệu: XY

Trang 3

Mô hình (a) tuyến tính kém chặt chẽ hơn mô hình (b)

Trang 4

2 Hệ số tương quan mẫu Pearson :

Chọn ngẫu nhiên n cặp quan sát (Xi, Yi) từ hai tổng thể X,Y

Ta có hệ số tương quan Pearson:

Y X

XY Y

X n

i

n

i i i

n

i i i n

i

n

i i i

n

XY

S S

S

Y X Cov y

x

y x

Y Y

X X

Y Y

X X

)(

))(

(

2 2

1

2 2

),

x i  i  i  i 

Trang 5

3 Kiểm định tương quan tuyến tính:

Chọn ngẫu nhiên n cặp quan sát (Xi, Yi) từ hai tổng thể X,Y

có phân phối chuẩn Ta có hệ số tương quan Pearson:

0:

• Giả trị kiểm định:

)2/(

)1



n r

r t

• Bác bỏ giả thuyết H0: t  t n2, /2

Trang 6

Ví dụ: Xem tương quan tuyến tính giữa chi tiêu và thu nhập

Code Chi tiêu Y Thu nhập X

Trang 7

Trang 8

)215

/(

)921,

01

(

921,

1524

Trang 9

Trang 10

4 Kiểm định tương quan hạng Spearman:

(X,Y không có phân phối chuẩn)

0:

61

2 1 2

d r

n

s

• Bác bỏ H0: rn,α/2: Tra bảng phân phối Spearman

• Nếu n ≥ 30: kiểm định phân phối chuẩn

2 / , 

1



Trang 11

Trang 12

61

2 1

d r

Trang 13

Trang 14

II.H ỒI QUI TUYẾN TÍNH ĐƠN GIẢN

1 Khái niệm hồi qui:

Ví dụ, Nghiên cứu mối liên hệ giữa chi tiêu Y và thu nhập Xcủa hộ gia đình:

X Y

Trang 15

Đồ thị:

Trang 16

• E(Y/X1) = β1 + 2X : Phương trình hồi qui tuyến tính

• 2: Tham số của biến

• U: Yếu tố ngẫu nhiên

• X,Y không có mối quan hệ hàm số mà có mối quan hệ nhân quả và thống kê

Trang 17

2 Xây dựng mô hình hồi qui mẫu: Ta cần ước lượng 1, 2, giả sử đó là B1,B2 Chọn n cặp quan sát (Xi,Yi) từ X,Y:

i i

i

X B B

Y

e X

B B

Y

2 1

Ta cần tìm B1, B2 sao cho 2 giá trị trên càng gần càng tốt

Phương pháp bình phương bé nhất (OLS):

min)

()

ˆ

(

1

2 2

1 1

2 1

Y Y

Y e

SSE

Trang 18

B B

Y f

X B B

Y f

0)

)(

(2

0)

1)(

(2

2 1

min)

()

,

(

1

2 2

1 2

Y B

B f

B

x

y x X

X

Y Y

X

X B

i

i i i

i i

2 1

2 2

2

)(

))(

(

X B B

Y

X Y

2 1



: Hồi qui tuyến tính mẫu SRF

Sử dụng Hessian đây là điểm cực tiểu toàn cục => min

Trang 19

Trang 20

Trang 21

3 Tính chất của phương pháp OLS:

• Bi: được xác định duy nhất với n cặp quan sát (Xi,Yi)

• Bi: là các ước lượng điểm của βi và là các đại lượng ngẫu nhiên, với các mẫu khác nhau thì giá trị khác nhau

Tính chất của SRF:

• SRF đi qua trung bình mẫu:

• Trung bình của bằng trung bình các quan sát

• Trung bình phần dư bằng 0

• Các phần dư không tương quan với

X B B

i yˆ

i Yˆ i X

Trang 22

4 Các giả thiết cơ bản của phương pháp OLS:

Để ước lượng là ước lượng tuyến tính, không chệnh và có phương sai nhỏ nhất cần thỏa các điều kiện sau:

Giả thiết 1: Các biến giải thích là phi ngẫu nhiên Điều này là đương nhiên vì Hồi qui là trung bình có điều kiện

Giả thiết 2: Kỳ vọng của các yếu tố ngẫu nhiên bằng 0

X X

Y E X

U

E( / )  0  ( / )  1  2Điều này phương pháp OLS thỏa mãn

Trang 23

Giả thiết 3: Phương sai của các Ui bằng nhau

2

)/

()

/(U i X i  Var U j X j  

Var

Điều này có thể vi phạm do những người có thu nhập cao sẽ

có nhiều sự lựa chọn khác nhau Người có nhiều kinh

nghiệm thì sai lầm càng ít

Trang 24

Phương sai thay đổi:

Trang 25

Đồ thị phương sai bằng nhau:

Trang 26

Đồ thị phương sai không bằng nhau:

Trang 27

Giả thiết 4: Không có sự tương quan giữa các Ui

j i U

U

Cov( i, j)  0, ,

Tức là các giá trị Yi độc lập với nhau Điều này có nghĩa chi

chi tiêu của nhóm người có thu nhập Yj

Trang 28

Giả thiết 5: Ui và Xi không tương quan với nhau

Nếu phương pháp OLS thỏa mãn 5 giả thuyết trên thì Bi:

- Các ước lượng tuyến tính

- Không chệnh

- Phương sai nhỏ nhất của βi

i X

U Cov( i, i)  ,0 

Trang 29

Giả thiết 6: Ui có phân phối N(0,2) Các ước lượng có tính chất sau:

1 Quan sát đủ lớn thì các ước lượng xấp xỉ phân phối chuẩn

)1,0(

~)

,(

2 1

1

N B

~)

,(

2 2

2

N B

2

~

)2

về các tham số hồi qui.

Trang 30

Định lý Gauss-Markov: Một ước lượng được gọi là “ước

lượng không chệch tuyến tính tốt nhất” (BLUE-Best Linear

Unbiased Estimator) nếu thỏa các điều kiện:

• Ước lượng tuyến tính, có nghĩa i là một hàm tuyến tính

của một biến ngẫu nhiên, chẳng hạn như Y.

• Ước lượng không chệch E(Bi)=βi

• Ước lượng có phương sai nhỏ nhất, hay còn gọi là ước lượng hiệu quả (efficient estimator).

các ước lượng bình phương bé nhất có phương sai nhỏ

nhất, trong nhóm những ước lượng tuyến tính không chệch, tức là, chúng là BLUE

Trang 31

i i i

i i

i

i i

i i i

i i

i i i

i i

Y

k x

Y x x

X X

Y x

Y

x

X X

Y x

Y x x

Y x Y

x x

Y Y

x x

y

x B

2 2

2

2 2

x

x k

Trong đó:

Vậy B2 là một hàm tuyến tính của Y.

Trang 32

i i

i i i

i i

i

i i

x

x x

X k k

X X

k X

X k

x

k

x x k

Trang 33

i i

i

i i

i

U k

U k X

k k

U X

k Y

k B

2

21

Trang 34

U U

k k

U U k k U

k U

k

E

U k E

B

E

B E B

E B

1 1

2 1 2 1

2 2

2 1

2

1

2

2 2 2

2

2 2

Theo giả thiết: E(Ui2) = 2 với mỗi i và E(UiUj) = 0, ta có:

Chứng minh phương sai của B2 là nhỏ nhất, xem Gujarati (2004), trang 104

Trang 35

5 Độ chính xác của ước lượng OLS:

2

2 2

B

x

S B

Se x

S B

2

2 2

i B

x n

X B

Se x

n

X S

B Var

Trang 36

5,305.0 9,094.0 (106.2) 11,288.6 1,124,589.6 82,700,836.0 5,320.0 9,229.0 (136.7) 18,688.4 856,488.6 85,174,441.0 5,320.0 9,347.0 (176.4) 31,130.8 652,002.4 87,366,409.0 5,492.0 9,098.0 79.4 6,305.2 1,116,121.8 82,773,604.0 5,507.0 9,282.0 32.4 1,052.9 761,198.1 86,155,524.0 5,538.0 9,525.0 (18.4) 337.7 396,228.3 90,725,625.0 5,540.0 9,138.0 113.9 12,981.5 1,033,204.5 83,503,044.0 5,692.0 9,756.0 57.8 3,345.5 158,775.7 95,179,536.0 5,871.0 10,282.0 59.7 3,566.8 16,264.8 105,719,524.0 5,907.0 11,307.0 (249.4) 62,210.4 1,328,333.1 127,848,249.0 6,124.0 11,432.0 (74.5) 5,551.8 1,632,091.4 130,690,624.0 6,157.0 10,662.0 217.8 47,422.7 257,590.1 113,678,244.0 6,186.0 11,449.0 (18.2) 332.5 1,675,816.6 131,079,601.0 6,224.0 11,697.0 (63.7) 4,063.1 2,379,409.1 136,819,809.0 6,342.0 11,019.0 282.6 79,838.3 747,417.9 121,418,361.0

86,525.0 152,317.0 0.0 288,116.3 14,135,531.7 1,560,833,431.0

Trang 37

Ví dụ:

914,

403

4,146

1638

,168

227

,513

135

1415

4311.560.833

1

2 2

S

x x

x

X

8,162

222

15

7,116

2882

2 2

0001568

,

07

,531

135

14

8,162

22

2

2 2

Trang 38

6 Ước lượng tham số hồi qui: Với khoảng tin cậy (1-α),

)

(

2

2 / , 2 2

2 B t n  S B

Ví dụ, Với α = 10% => tn-2,α/2 = t13,5%=1,771

422,

0251

,0)

0396,

0771,

134

,0

Trang 39

7 Kiểm định tham số hồi qui: Với mức ý nghĩa α,

Ví dụ, Với α = 10% => tn-2,α/2 = t13,5%=2,160

Với mức ý nghĩa 10%, Y phụ thuộc vào X (Biến X có ý nghĩa thống kê)

0 2

/ ,

1 1

0

b t

H

k

n bi

i i

2 1

2 0

771,

15

,

80396

,

0

34,0

0

:

0:

BBH t

Trang 40

8 Hệ số xác định R 2 : R2 là hệ số nhằm xác định sự biến động của Y phụ thuộc bao nhiêu % vào sự biến động của X

SSR R

SSE SSR

3,855

890

1

3,166

2881

Trang 41

9 Kiểm định sự phù hợp của hàm hồi qui:

0 2

,

1 2

1

2 0

,2

/

1

/

0:

0

:

BBH

F n

SSE

SSR F

2 1

2 0

14,3317

,72

317,

723

,116

288

1,739

602

13

,116

288

3,116

2883

,855

890

1

0

:

0:

BBH F

Trang 42

k n

n n

k k

U X

X X

Y

U X

X X

Y

U X

X X

2 2

1

2 2

32 3

22 2

2 2

1 1

31 3

21 2

1 1

Trang 43

III.H ỒI QUI TUYẾN TÍNH BỘI

Khi đó hệ giá trị thực tế như sau: Y = Xβ + U

n

k k

X X

X

X X

X

X X

1

2 32

22

1 31

2 1

2 3

2

2 2 1

2

1 3

1 2

1

2 1

n n

n

n T

U U

U

U U

U

U U U

U U

UU

Trang 44

i U

j i U

U

Cov( i, j)  0, ,

Giả thiết 5: Ui và Xi không tương quan với nhau

Giả thiết 6: Ui có phân phối N(0,2)

Giả thiết 7: Không có hiện tượng đa cộng tuyến giữa các biến độc lập

Trang 45

2 Xây dựng mô hình hồi qui mẫu: Mục tiêu là ta cần ước lượng 1, 2,… k, giả sử đó là B1,B2,…Bk, Chọn n cặp quan sát (X1i, X2i,… Xki,Yi) từ X và Y:

: Giá trị thực tế: Giá trị lý thuyết

ki k

i i

i

i ki

k i

i i

X B

X B X

B B

Y

e X

B X

B B

2 2

1

3 3

2 2

X B B

Y

e

1

2 2

2

1 1

2

min)

(

Trang 46

Phương pháp ma trận:

XB X

B Y

X B

Y Y

XB X

B Y

X B

XB Y

Y Y

XB Y

e e

e

T T

T

T T

n i

T i

)

(

1 2

Y X

X X

B XB

X Y

X B

e

)(

22

Trang 47

Phương pháp ma trận:

Y X

X X

2

3

2 3 2

3 3

2 3

2

2 2 2

3 2

k k

k k k

X X

X n

XTX là ma trận đối xứng (A = AT)

Trang 48

Ví dụ, Xây dựng hàm hồi quy doanh thu (Y) phụ thuộc vào chi phí quảng cáo (X2) và tiền lương của nhân viên tiếp thị (X3):

Trang 49

-0,013 -0,031 -0,059 0,026 -0,032 0,028 0,001 0,016 0,012 -0,012 0,013 0,052

B=(X*X)-1.X*Y= 32,277

(kxn)(nx1) 2,506

4,759

Trang 50

Hiện phương sai:

U X

X X

Y X

X X

B

T T

1

1 1

1

)(

-B

U)

(U)

X()

(

B

UX

Y)

(

),

()

,(

(

),

()

,(

),

(

),

()

,(

)(

2 1

2 2

2 1

2

1 2

1 1

1

k k

B B

Cov B

B Cov B

B Cov

B B

Cov B

B Cov B

B Cov

B B

Cov B

B Cov

B B

Cov B

Cov

Trang 51

1 2

1 1

2 1

1 1

)(

)()

(

))(

()

(

)(

})

)((

){(

]}

))

((

)][(

){[(

}])

][(

){[(

})-

B)(

B{(

-)(

B Cov

X X

I

X X

IX X

X X

X UU

E X

X X

X UU

X X

X E

X X

U X

X X

E

U X

X X

U X

X X

E

E B

Cov

T T

T

T T

T

T T

Trang 52

03,

163

12

23,144

23,144)

()(

2 2

e S

XB Y

e

i

T i

(X*X)

-1 = 2,440 -0,088 -0,045

-0,088 0,007 -0,004 -0,045 -0,004 0,011

Cov(B)= 39,101 -1,416 -0,727

-1,416 0,108 -0,065 -0,727 -0,065 0,168

S(B)= 6,253

0,329

0,410

Trang 53

B

f

1

2 2

2 1

)(

(2

)(

(2

0)

1)(

(2

B X

B B

Y f

X X

B X

B B

Y f

X B X

B B

Y f

k

Giải hệ phương trình tuyến tính Crame k phương trình k ẩn số

Trang 54

Xét trường hợp 2 biến độc lập: E(Y/X 1 ,X 2 ) = β 1 + 2 X 2 + 3 X 3

x x

x y x

x y B

x x

x y x

x y B

X B X

B Y

B

1

2 3

2 1

2 3 1

2 2

1 2 3

1 21

2 2

1 33

1

2 3

2 1

2 3 1

2 2

1 2 3

1 31

2 3

1 22

3 3

2 2

1

)(

3 3

3

2 2

2

X X

x

X X

x

Y Y

y

i i

Trang 55

x x

x B

Var

1

2 23

2 2

1

2 3

2 1

2 3 1

2 2

1

2 3 2

)1

()

x x

r n

e

2 3

2 2

2

1 2 3

2 23 1

2 2

)(

,3

x x

x B

Var

1

2 23

2 3

2 2

1

2 3

2 1

2 3 1

2 2

1

2 2 3

)1

()

(

)



Trang 56

Ví dụ, Xây dựng hàm hồi quy doanh thu (Y) phụ thuộc vào chi phí

quảng cáo (X1) và tiền lương của nhân viên tiếp thị (X2) (triệu đồng)

Trang 57

277,

3217

,74506

,233,141

759,

417

,7467

,12392

,192

17,7433

,8362

,19233

,774)

(

506,

217

,7467

,12392

,192

17,7433

,77467

,12333

,836)

(

2 3

3 2

2 1

2

1

2 3

2 1

2 3 1

2 2

1 2 3

1 21

2 2

1 33

2

1

2 3

2 1

2 3 1

2 2

1 2 3

1 31

2 3

1 22

B Y

B

x

x x

x x x

x

x x x

y x

x y B

x

x x

x x x

x

x x x

y x

x y B

Trang 58

1684,

0)

4801,

01

(67,123

0252,

16)

1(

)(

1079,

0)

2

^4801,

01

(92,192

0252,

16)

1(

)2(

2

1

2 23

2 3

1

2 23

2 2

x

B Var

x r

x

B Var

n i

067

,12392

,192

17,74

,0252,

163

15

23,1443

23

1

2 2

Trang 59

File: DT CPQC LTT

_cons 32.27726 6.253073 5.16 0.001 18.13183 46.4227 luongtt 4.758693 .4103835 11.60 0.000 3.830341 5.687045 cpqc 2.505729 .3285726 7.63 0.000 1.762446 3.249012 doanhthu Coef Std Err t P>|t| [95% Conf Interval]

Total 5924.66667 11 538.606061 Root MSE = 4.0032 Adj R-squared = 0.9702 Residual 144.226934 9 16.0252149 R-squared = 0.9757 Model 5780.43973 2 2890.21987 Prob > F = 0.0000 F( 2, 9) = 180.35 Source SS df MS Number of obs = 12 regress doanhthu cpqc luongtt

Trang 60

3 Ước lượng β j :

• 1,762<β2<3,249: Với độ tin cậy 95%, nếu CPQC tăng thêm

1 triệu đồng thì DT tăng thêm từ 1,762 – 3,249 triệu đồng

• 3,830<β3<5,687: Với độ tin cậy 95%, nếu LTT tăng thêm 1 triệu đồng thì DT tăng thêm từ 3,830 – 5,687 triệu đồng

)(

~)( j n k j j n k, /2 B j

j j

S t

B

t B

e X

X N

B N

1 2

2

S),)

(,

(

~,

0

Trang 61

4 Kiểm định từng tham số hồi qui:

0:

/

t S

• P2= 0,000 < 0,1: Biến CPQC có ý nghĩa thống kê

• P3= 0,000 < 0,1: Biến LTT có ý nghĩa thống kê

• P1= 0,001 < 0,1: Hồi quy không qua gốc tọa độ

Trang 62

5 Hệ số xác định: R2 là hệ số nhằm xác định sự biến động của Y phụ thuộc bao nhiêu % vào sự biến động của X2, X3,

SSR R

SSE SSR

biến động của CPQC, LTT

Trang 63

6 Hệ số xác định đã điều chỉnh:

sự đo lường thường không chính xác Để khắc phục nhược điểm ta có:

)

1)(

1(

1)

1/(

)

2

k n

n R

n SST

k n

SSR R

2



R

Trang 64

7 Kiểm định sự phù hợp của mô hình:

0 ),

( ,

2 2

3 2

0

H

1

)/

/

0

:

BB F

F

R

R k

k n

SSE

k SSR MSE

MSR F

H

k n k

0

1,00

pProb

0:

Trang 65

Doanh thu (Triệu đồng)

Adj-R 2 =0,9702; Prob.F=0,000, n=12

Tóm tắt kết quả hồi qui

Trang 66

Trình tự giải thích kết quả Hồi qui:

• Tóm tắt kết quả hồi quy

• Khẳng định mô hình có ý nghĩa Thông qua giá trị Sig.F

• Kiểm tra mức ý nghĩa thống kê của từng biến độc lập

•Trình bày mức độ ảnh hưởng của các biến độc lập đến biến phụ thuộc

Trang 67

IV.M ỘT SỐ DẠNG HÀM

Các trường hợp mở rộng:

• Biến độc lập là biến định tính: Mô hình hồi qui với biến giả

• Biến phụ thuộc là biến định tính: Phân tích nhân tố

• Trường hợp phương trình hồi qui phi tuyến tính đối với biến

Trang 68

1 Một biến độc lập định tính: Hồi qui với biến giả

1.1.Biến giả có 2 phạm trù: Xây dựng mô hình so sánh tiền lương ($) của công nhân làm việc trong khu vực tư nhân và quốc doanh

E(Y/D) = 0 + 1D

• Y: Tiền lương

• D = 1: Công nhân khu vực tư nhân

• D = 0: Công nhân khu vực quốc doanh

E(Y/D=1) = +: Lương công nhân khu vực tư nhân

Trang 69

Ví dụ: (File: Hồi qui 2 biến giả)

D D

Y E

• Lương khu vực QD bình quân là 9244$.

• Lương khu vực TN trung bình cao hơn khu vực QD 1599$.

_cons 9244.714 177.1387 52.19 0.000 8858.762 9630.666 d1 1599.143 250.512 6.38 0.000 1053.324 2144.962 thunhap Coef Std Err t P>|t| [95% Conf Interval]

Total 11586164.9 13 891243.451 Root MSE = 468.66 Adj R-squared = 0.7536 Residual 2635762.29 12 219646.857 R-squared = 0.7725 Model 8950402.57 1 8950402.57 Prob > F = 0.0000 F( 1, 12) = 40.75 Source SS df MS Number of obs = 14 regress thunhap d1

Định dạng
Số trang	80
Dung lượng	2,11 MB