Hồi quy bội trong kinh tế lượng

09/16/15 1Mô hình kinh tế lượng tham số giải thích của mô hình Biến phụ thuộc, biến nội suy , biến được giải thích Biến độc lập, biến ngoại suy, biến giải thích biến ngẫu nhiên Eε Varε t

09/16/15 1

Mô hình kinh tế lượng

tham số giải thích của mô hình

Biến phụ thuộc, biến nội suy , biến được giải thích

Biến độc lập, biến ngoại suy, biến giải thích

biến ngẫu nhiên

E(ε) Var(ε)

tham số ẩn của mô hình

i ki

k i

Mô hình hồi qui tổng thể Mô hình hồi qui mẫu

Mô hình hồi qui bội

Mô hình hồi qui bội là mô hình trong đó biến phụ thuộc phụ thuộc vào ít nhất hai biến giải thích.

x ki : biến mà giá trị quan sát là x it

β1, β2, ,βκ là những tham số chưa biết tham số chưa biết

εi : sai số

Mục tiêu : ước lượng những tham số β_mu1, β_mu2, ,β_muκ

với i = 1, ,n

i ki

k i

i

y = β ˆ1 + β ˆ2 2 + β ˆ3 3 + + β ˆ +

Hay

Hay được biểu diễn một cách tường minh như sau

Giả sử ta có n quan sát và mỗi quan sát gồm k trị số (Yi,X2i Xki)

Mô hình hồi qui tổng thể theo dạng

thông thường

n i

X X

X Y

E ( i ) = β1 + β2 2i +  + βk ki ∀ = 1 ,

n i

X X

+ +

=

+ +

+ +

=

+ +

+ +

=

k k

k k

X X

Y

X X

Y

X X

Y

ε β

β β

ε β

β β

ε β

β β

222

12

11

212

11

09/16/15 5

Ví dụ :

Investment = β1 + β2 GNP + β3 CPI + β4 Rate+ ε

Mô hình hồi quy tuyến tính bội

Dạng biểu thức thứ hai của mô hình :

n

ki i

i

k k

n

i

x x

x

x x

x

x x

x

x x

x

X

y y

y y

Y

εε

εεε

ββ

ββ

β

;

2

1 2

1

3 2

3 2

2 32

22

1 31

21 2

1

( )( ) ( ) ( ) , 1 n , k k , 1 n , 1

X n

! Có thể nói những vec tơ và ma trận của mô hình là những biến.

Về nguyên tắc chung, X pt = 1, ∀t, t=1, ,T biến X k là hằng số.

ước lượng tham số β _mu1, β _mu2,… β _muk

có thể được thực hiện bằng phương pháp BPBN

Mô hình hồi quy tuyến tính bội

STT Theo dạng thông thường Theo dạng ma trận

4 Không có hiện tượng đa

cộng tuyến Không có đa cộng tuyến, tức hạng của ma trận X

bằng khác nhau

Các giả thiết cho mô hình hồi

qui tuyến tính cổ điển

09/16/15 11

Giả thiết cổ điển

I Tuyến tính

thể giải quyết mô hình

Giả thiết cổ điển

IV Không có hiện tượng tự tương quan giữa

VI Sai số phân phối chuẩn ε – N(0, σ )

VII Không có hiện tượng đa cộng tuyen

09/16/15 13

Giả thiết 1

0 0

0 0

) (

) (

) ( )

E

ε

ε ε

ε

ε ε ε

Phương sai của các sai sô

Hiệp phương sai của các sai

s ố

Ma trận hiệp phương sai của sai số

I Var

Cov Cov

Cov Var

Cov

Cov Cov

Var

n n

1

2

2 2 2

1

1 2

1

2 1

) ( )

( )

(

) (

) ( )

(

) (

) (

) (

ε

ε ε

ε ε

ε

ε ε ε

ε ε

ε ε ε

ε ε

) (

) (

) (

) (

) (

) (

) (

) (

) (

22

1

2

222

1

12

1

21

'

n n

n

n n

E E

E

E E

E

E E

E E

ε ε

ε ε

ε

ε ε ε

ε ε

ε ε ε

ε

ε εε

2

2 2 2

1

1 2

1

2 1

2 1 2

1 '

) (

) (

n n

n

n n

n

n

E u

u u E

E

ε ε

ε ε

ε

ε ε ε

ε ε

ε ε ε

ε ε

ε

ε

ε εε

( )

(

) (

) ( )

(

) (

) (

) ( )

(

2 2

1

2

2 2 2

1

1 2

1

2 1 '

n n

n

n n

E E

E

E E

E

E E

E E

ε ε

ε ε

ε

ε ε ε

ε ε

ε ε ε

ε ε

0 0

1 0

0

0 0

( )

(

) (

) ( )

(

) (

) (

) ( )

(

2 2

1

2

2 2 2

1

1 2

1

2 1

'

n n

n

n n

E E

E

E E

E

E E

E E

ε ε

ε ε

ε

ε ε ε

ε ε

ε ε ε

ε ε

Hậu quả của những giả thiết

Vecteur kỳ vọng

toán hoặc trung bình

Vecteur ngẫu nhiên ε là một vecteur tuân theo phân phối chuẩn, và :

ma trận hiệp phương sai

= Ω

Y là một vecteur ngẫu nhiên tuân theo

quy luật phân phối chuẩn, và :

Mine e

Mô hình hồi quy tuyến tính bội

ước lượng những tham số - 2

Kết quả của phương pháp bình phương tối thiểu

Ước lượng bằng phương pháp bình phương tối thiểu :

Người ta chứng minh :

có phương sai nhỏ nhât : đó là ước lượng BLUE (Best Linear Unbiased Estimator)

là một đó là ước lượng hội tụ của β

nhưng σ2 (ε) là chưa biết

09/16/15 21

Ví dụ :

Model fitting results for: EXECO.Investment

Independent variable coefficient std error t-value sig.level - CONSTANT 357.188693 42.733747 8.3585 0.0000 EXECO.GNP 0.689021 0.064034 10.7602 0.0000 EXECO.CPI -9.548226 1.137803 -8.3918 0.0000 EXECO.Rate -4.211399 2.296132 -1.8341 0.0938 - R-SQ (ADJ.) = 0.9908 SE= 11.289098 MAE= 8.200200 DurbWat= 1.917

-ước lượng những tham số

Mô hình hồi quy tuyến tính bội

ước lượng những tham số - 3

ước lượng σ2 (ε)

Từ ước lượng a, ta có thể tính được ước lượng Y :

Sai số có thể được ước lượng bởi :

Từ đó có thể ước lượng được:

Y Y

1

σ

( )

( I X X X X ) e e

2 1

e k

Mô hình hồi quy tuyến tính bội

09/16/15 23

ước lượng những tham số - 4

ước lượng có thể bởi ước lượng σ2(ε) và bởi công thức

ước lượng không chệch của ma trận hiệp phương sai

ước lượng không chệch của ma trận hiệp phương sai

ước lượng những tham số - 5

Quy luật phân phối xác suất Theo giả thiết [H4], ta có :

β β

β

2 1

t

i

βσ

09/16/15 25

ước lượng những tham số - 6

Luật phân phối đã biết Tính Khoảng tin cậy

Khoảng tin cậy đối với βi

Khoảng tin cậy đối với σ2

k n

k n

Ví dụ :

95 percent confidence intervals for coefficient estimates

Estimate Standard error Lower Limit Upper Limit CONSTANT 357.189 42.7337 263.108 451.270 EXECO.GNP 0.68902 0.06403 0.54805 0.83000 EXECO.CPI -9.54823 1.13780 -12.0532 -7.04328 EXECO.Rate -4.21140 2.29613 -9.26648 0.84368 -

Mô hình hồi quy tuyến tính bội

09/16/15 27

kiểm định giả thiết - 1

Kiểm định giả thiết về β

Ví dụ về hồi qui bội

ˆ

ˆ

=

Khoảng tin cậy của β2

tham số được ước lượng kể cả bậc tự do).

∧

∧

Pr(-tα/2 < t < tα/2)

09/16/15 31

Định nghĩa

0 ≤ R 2 ≤ 1

R 2 ≈ 1 : phương sai của biến x được giải thích hoàn toàn bởi mô hình

R 2 ≈ 0 : phương sai của biến x không được giải thích hoàn toàn bởi mô hình

Kiểm định độ phù hợp của mô hình

y y

e R

1

2 1

y

y

22

t

i i

ĐO LƯỜNG ĐỘ PHÙ HỢP

mô hình càng đáng tin cậy.

của nó tăng khi số biến X đưa vào

mô hình tăng, bất chấp biến đưa vào không có ý nghĩa.

n i i

y y

e R

1

2 1

2

k n

kiểm định giả thiết - 2

Kiểm định độ phù hợp của mô hình

Kiểm định (H 0 ) : β2 = β3 = … = βκ =0 đối nghịch với (H 1 ) ∃ i, i=1,…,k, βi ≠ 0

hệ số tương quan tuyến tính bội là giá trị quan sát của biến

n i i

y y

e R

1

2 1

2

k n

: H

; 0 R

:

j 1

2 j

09/16/15 35

kiểm định giả thiết - 3

Kiẻm định sự phù hợp của mô hình

) ,

1 (

~ ) 1 )(

1 (

)

( )

/(

) 1

/(

2

2

k n k

F k

R

k n

R k

n RSS

09/16/15 37

Analysis of Variance for the Full Regression

Source Sum of Squares DF Mean Square F-Ratio P-value - Model 192158 3 64052.6 502.595 0.0000 Error 1401.88 11 127.444

Total (Corr.) 193560 14

-R-squared = 0.992757 Stnd error of est = 11.2891 R-squared (Adj for d.f.) = 0.990782 Durbin-Watson statistic = 1.91719

Ví dụ : mô hình hồi quy tuyến tính bội

1

Sum of

Predictors: (Constant), age, surface

3,024311468 =INVERSE.LOI.F(0,05;2;316)

dự báo - 1

vì dữ liệu những giá trị, được giả sử đã biết, những biến ngoại suy đối với một giá trị θ t.

người ta có thể dự đoán giá trị tương ứng X?

09/16/15 41

Dự báo

Phân tích số dư cho phép xác định :

Tư đó ta có thể tính được khoảng cách dự báo

mô hình hồi quy tuyến tính bội

Phương pháp dự đoán trong mô hình hồi qui

2

2 2

0 2 1

1 1

i

o /

x

) x X

( n

s t

) X ˆ ˆ

(

Σ

− +

+

±

β

hồi quy để dự báo giá trị Y ứng với một mức tin

s: sai số chuẩn của ước lượng