Bài giảng Kinh tế lượng - Bài 4: Mô hình hồi quy bội

Với mục tiêu cung cấp kiến thức về mô hình hồi quy gồm 2 biến độc lập; mô hình hồi quy bội gồm k biến; phương pháp OLS cho mô hình hồi quy bộ; hệ số xác định bội và hệ số xác định bội đã hiệu chỉnh; Tailieu.vn giới thiệu đến các bạn Bài giảng Kinh tế lượng - Bài 4: Mô hình hồi quy bội.

Bài 4: Mô hình h i quy b i

BÀI 4 MÔ HÌNH H I QUY B I

M c tiêu

Sau khi k t thúc bài, h c viên s hi u

đ c nh ng v n đ sau đây:

 Mô hình h i quy b i có 2 bi n và mô hình t ng quát k bi n

 Ý ngh a c a các h s h i quy c l ng

 H s xác đ nh b i và h s xác đ nh

b i đã hi u ch nh

 Kho ng tin c y và ki m đ nh gi thi t cho các h s h i quy

 Ki m đ nh v s phù h p c a mô hình hay nh h ng c a t t c các

bi n đ c l p

 D báo trong mô hình h i quy b i

 Mô hình h i quy b i g m 2 bi n đ c l p

 Mô hình h i quy b i g m k bi n (k-1 bi n

đ c l p)

 Ph ng pháp OLS cho mô hình h i quy b i

 H s xác đ nh b i và h s xác đ nh b i đã

hi u ch nh

 c l ng kho ng tin c y và ki m đ nh gi

thuy t cho h s h i quy

 Ki m đ nh v s phù h p c a mô hình

h i quy

 D báo trong mô hình h i quy b i

 ngh h c viên ôn l i ph n c

l ng và ki m đ nh gi thi t trong môn

lý thuy t xác su t và th ng kê toán

 Theo dõi k bài gi ng

 Xem các ví d cho m i ph n bài gi ng

 Làm các ví d và tr l i câu h i

tr c nghi m

Bài 4: Mô hình h i quy b i

TÌNH HU NG D N NH P

Tình hu ng

H i đ ng qu n tr c a công ty may c Giang đang mu n xem xét

nh h ng c a 2 y u t đ u vào c a s n xu t là V n (V, t đ ng) và

Lao đ ng (L, ng i) lên s n l ng (SL, tri u s n ph m) c a công ty

C th , h mu n đ a ra quy t đ nh v vi c có nên ti p t c m r ng

s n xu t, thu h p l i hay gi nguyên nh hi n t i ti n hành nghiên

c u này, phòng k ho ch c a công ty thu th p s li u v v n đ u t ,

lao đ ng s d ng và s n l ng s n xu t ra trong 30 tháng qua t i công ty (có n = 30 quan sát)

Mô hình dùng đ nghiên c u có d ng

log(SLi) = 1 + 2log(Vi) + 3log(Li)+ui

Dùng s li u c a m u, c l ng đ c hàm h i quy m u có d ng,



log(SL )0.424816 0.7358 log(V ) 0.9489 log(L ). 

Câu h i

 V y công ty c Giang nên t ng, gi m hay gi nguyên quy mô s n xu t?

 Li u c 2 bi n v n và lao đ ng cùng không có nh h ng đ n s n l ng có đúng không?

 Gi s trong tháng t i, công ty quy t đ nh s d ng l ng v n là 10 t đ ng và lao đ ng là

3000 thì s n l ng d báo là bao nhiêu?

Bài 4: Mô hình h i quy b i

Trong bài tr c chúng ta đã nghiên c u mô hình h i quy tuy n tính đ n gi n, đó là h i quy tuy n tính đ n, trong mô hình này chúng ta đã nghiên c u các m i quan h gi a m t bi n đ c gi i thích là Y và m t bi n gi i thích X Bài này chúng ta m r ng nghiên c u sang mô hình h i quy tuy n tính b i v i m t bi n đ c gi i thích Y và (k – 1) bi n gi i thích X , , X Trong th c t 2 k

mô hình h i quy tuy n tính b i đ c s d ng r ng rãi vì đ i v i nhi u tr ng h p nó gi i thích

v hành vi c a bi n ph thu c (bi n đ c gi i thích) Y t t h n mô hình h i quy tuy n tính đ n

Ví d trong bài tr c chúng ta xét m i quan h gi a thu nh p và chi tiêu nh ng th c t chi tiêu không ch ph thu c vào thu nh p mà nó còn ph thu c vào các y u t khác, ch ng h n nh :

ni m tin vào n n kinh t , đ tu i, ngh nghi p, đ a lý… Vì v y mô hình h i quy đ n khó gi i thích đ c hành vi c a bi n ph thu c Y Do đó vi c m r ng mô hình h i quy tuy n tính b i s giúp chúng ta gi i thích đ c rõ h n v bi n ph thu c Y

BÀI TOÁN

Mô hình h i quy tuy n tính b i là mô hình nghiên c u m i quan h gi a m t bi n ph thu c Y và (k – 1) bi n đ c l p X , X , , X có d ng: 2 3 k

Y     X   X    X  u Trong đó E(u ) i  0, E(u | X , X , , X ) i 2i 3i ki  0

 i j

Cov u , u    0 i j

Cov(X ,u )  0;Cov(X , u )  0; , Cov X , u  0

2 i

Var(u )    , i

4.1 Mô hình h i quy v i hai bi n gi i thích

nh ngh a: Mô hình h i quy t ng th (PRF) v i hai bi n gi i thích có d ng nh sau:

i 1 2 2i 3 3i i

Y     X   X  u (4.1)

v i Y là bi n ph thu c; X , X là các bi n 2 3 đ c l p, Y , X , X là các quan sát th i i 2i 3i

c a Y, X , X ; u là nhi u ng u nhiên, 2 3 u là nhi u t i quan sát th i; i  là h s ch n 1 (h s t do), b ng giá tr trung bình c a Y khi X2 X3  ; 0   là các h s h i 2, 3 quy riêng hay còn g i là h s c a các bi n đ c l p,  ch s thay 2 đ i c a Y khi X 3

c đ nh và X t ng ho c gi m 1 2 đ n v , còn  ch s thay 3 đ i c a Y khi X t ng 3

ho c gi m 1 đ n v và X c 2 đ nh

Trong mô hình h i quy hai bi n (4.1) ta có các gi thi t sau:

 E(u )i 0, E(u | X , X )i 2i 3i  0

 Các u không ti ng quan, t c là

i j

Cov(u , u )   0, i j

 u không ti ng quan v i X , X , t c là 2i 3i

Cov(X , u )0; Cov(X , u ) 0

 u có phi ng sai không thay đ i, t c là: 2

i

Var(u )   , i

Bài 4: Mô hình h i quy b i

4.2 c l ng tham s c a mô hình h i quy

T ng t trong bài 3, bài toán đ t ra là t các d li u quan sát chúng ta c n c l ng

các h s h i quy   c a mô hình (4.1) Ph ng pháp ta s s d ng sau 1, 2, 3 đó chính

là ph ng pháp bình ph ng t i thi u OLS Hàm h i quy m u (SRF) đ c xây d ng

t n quan sát (Y , X , X ) có d ng: i 2 3

i ˆ1 ˆ2 2i ˆ3 3i

ˆ

Y     X   X (4.2)

Và Yi    ˆ1 ˆ2X2i  ˆ3X3i uˆi Yˆiuˆi

trong đó   ˆ ˆ1, 2,ˆ3 là c l ng c a    , 1, 2, 3 ˆu là i c l ng c a u , ph n d c a i

quan sát th i

T (4.2) ta có:

2

i i 1 2 2i 3 3i

i 1 i 1

Ta c n xác đ nh   ˆ ˆ1, 2,ˆ3 sao cho

n 2 i

i 1

ˆu



 trong (4.3) đ t giá tr nh nh t

Theo lý thuy t gi i tích nhi u bi n, ta th y đ n 2

i

i 1

ˆu



 đ t giá tr nh nh t thì   ˆ ˆ1, 2,ˆ3

ph i là nghi m c a h ph ng trình

1 2 2 3 3

2

1 2i 2 2i 3 2i 3i i 2i

2

1 3i 2 2i 3i 3 3i i 3i















(4.4)

n i

i 1

1

n 

H ph ng trình (4.4) đ c g i là h ph ng trình chu n và ph ng pháp xác đ nh

1 2 3

ˆ ˆ, ,ˆ

   nh trên đ c g i là ph ng pháp bình ph ng t i thi u (OLS)

Nghi m c a ph ng trình (4.4) là:

1 2 2 3 3

ˆ Y ˆ X ˆ X

     

2

i 2i 3i i 3i 2i 3i

i 1 i 1 i 1 i 1

i 1 i 1 i 1

y x x y x x x ˆ

x x x x



 

  

2

i 3i 3i i 3i 2i 3i

i 1 i 1 i 1 i 1

2i 3i 2i 3i

i 1 i 1 i 1

ˆ



 



Bài 4: Mô hình h i quy b i

2 23

2 3

i 1 i 1

r

ˆ ˆ Cov ;



  

  

  

v i yi YiY, x2i X2iX , x2 3i X3iX 3

Ta th y r ng  là ph ng sai c a 2 u và i  là ch a bi t Vì v y ta thay 2  b ng c 2

l ng không chênh l ch c a nó là

n 2 i

2 i 1

ˆu RSS ˆ





CHÚ Ý

  

2 3

2 n

2

2i 3i

2

X X

i 1 i 1

x x

r

S S





4.3 Ph ng sai và đ l ch chu n c a các c l ng bình ph ng t i thi u

Ta đã thu đ c các c l ng cho các h s h i quy b ng ph ng pháp OLS tìm các c l ng kho ng và ti n hành ki m đ nh các h s h i quy, ta c n xác đ nh

ph ng sai và đ l ch chu n c a các c l ng thu đ c trên đây

Ph ng sai và đ l ch chu n c a các c l ng h s h i quy theo ph ng pháp bình

ph ng t i thi u đ c cho b i các công th c

 

2

2 n

2i 23

i 1

ˆ Var





 



 

2

3 n

3i 23

i 1

ˆ Var





 



v i r là h s t23 ng quan gi a X và 2 X 3

4.4 Mô hình h i quy b i

4.4.1 Khái ni m:

Mô hình h i quy b i là mô hình có hàm h i quy t ng

th (PRF) g m m t bi n ph thu c Y và k – 1 bi n đ c

l p X , X , , X có d ng nh sau: 2 3 k

i 1 2 2i 3 3i k ki i

Y     X   X    X  (4.5) u

trong đó  là h s ch n, h s t do, nó cho ta bi t 1

trung bình c a Y khi X , X , , X b ng 0 2 3 k

Bài 4: Mô hình h i quy b i

j ( j 1, 2, , k)

  là các h s h i quy riêng, nó cho ta bi t s thay đ i c a Y khi X j

thay đ i m t đ n v còn các Xhh j b ng 0,

i

u là các nhi u ng u nhiên

Ph ng trình (4.5) có th đ c vi t chi ti t d i d ng h ph ng trình sau:

1 1 2 21 3 31 k k1 1

2 1 2 22 3 32 k k 2 2

n 1 2 2n 3 3n k kn n

         



          







          



t

21 31 k1 1

22 32 k 2 2

2n 3n kn n

1 X X X Y

1 X X X Y

Y ; X

Y

 

 

 

 

 

 

u u

u ;

u



   

   

   

   

  

   

   

   

   

khi đó h ph ng trình (4.6) có th vi t d i d ng ph ng trình ma tr n

Y   (4.7) X u

4.4.2 Các gi thi t c b n

Ta đ a ra các gi thi t c b n cho mô hình h i quy n i

b i nh sau:

Gi thi t 1:

Ma tr n ng u nhiên u có k v ng b ng 0, t c là:

 

 

 

 

1 2

n

 

Gi thi t 2:

Các thành ph n trong ma tr n u là không t ng quan, t c là:E u u i j  i j0 

  2

i i

E u u  

ho c ta có th vi t d i d ng:  T 2

E uu   , v i I là ma tr n đ n v c p n I

Bài 4: Mô hình h i quy b i

Gi thi t 3: Các u có phân b chu n i  2

N 0, i 1, n 

Gi thi t 4: Các X , X , , X không có quan h tuy n tính 2 3 k

4.4.3 c l ng các tham s b ng OLS

V i gi thi t trên, ta c n d a vào d li u

Y , X , X , , Xi 2i 3i ki, i 1, n   quan sát đ c đ tìm c

1, 2, , k

b i (4.7)

1 2 k

ˆ ˆ ˆ, , ,ˆ

     là c l ng c a  , khi đó ta có

ph ng trình h i quy m u (SRF)

i ˆ1 ˆ2 2i ˆ3 3i ˆk ki ˆi

Y     X   X    X u i 1, n  

Ta c n tìm các h s  ˆ ˆ1, 2, , sao cho t ng các ph n d ˆk n 2

i

i 1

ˆu



nh nh t

K t qu c a ph ng pháp gi i tích cho th y véc t c l ng trên đây th a mãn

ph ng trình ma tr n

trong đó X ,Y  t ng ng là các ma tr n chuy n v c a X và Y T gi thi t 4 d n

đ n s t n t i ma tr n ngh ch đ o c a X X và do đó

  1

ˆ X X  X Y.

 

Bi u th c này đ c g i là ph ng trình c b n c a ph ng pháp OLS

4.5 Các tính ch t c a c l ng bình ph ng nh nh t

Xét mô hình h i quy b i

i 1 2 2i 3 3i k ki i

Y     X   X    X  u

Gi ng nh mô hình h i quy đ n, mô hình h i quy b i này có

các tính ch t sau:

 ng h i quy b i đi qua đi m Y, X , X , , X2 3 k

 ˆY Y

i 1





 u không ti ng quan v iX , pi p2, 3, , k,

n

i pi

i 1





Bài 4: Mô hình h i quy b i

 Các u không ti ng quan v i Yˆi:

n

i i

i 1

ˆ





 ˆi là các c l ng tuy n tính không ch ch và có ph ng sai nh nh t cho các

i

 i 1, k 

4.6 H s xác đ nh b i R2 và h s xác đ nh hi u ch nh

Trong mô hình h i quy tuy n tính đ n ta đã đ a ra h

s xác đ nh

2 ESS RSS

T công th c trên ta th y khi r càng l n thì t ng bình 2

ph ng sai s d báo càng nh , do đó mô hình h i quy

càng phù h p Vì v y h s r còn 2 đ c dùng đ đo đ

phù h p c a mô hình T ng t cho mô hình h i quy b i ta c ng xây d ng h s xác

đ nh ký hi u là 2

D dàng ch ng minh đ c r ng

2 2

2

ˆ X Y nY R

Y Y nY

 



  (4.9)

T các công th c trên có th th y h s xác đ nh 2

R có tính ch t sau:

0R  1

 N u 2

R  khi 1 đó đ ng h i quy gi i thích 100% s thay đ i c a Y b i vì khi đó:

n 2 i

i 1

ˆu 0





 N u 2

R  khi đó mô hình không gi i thích đ c s thay đ i c a Y 0

 N u s bi n đ c l p càng t ng thì h s 2

R càng l n, hay nói cách khácR là m t 2 hàm t ng theo các bi n gi i thích

Nh v y, tính phù h p c a mô hình h i quy t ng lên

khi có nhi u bi n gi i thích trong mô hình h n Tuy

nhiên, ng i ta luôn mu n dùng m t s l ng bi n

gi i thích v a đ sao cho v n có đ c mô hình phù

h p mà không quá t n kém khi ph i thu th p thông

tin c a quá nhi u bi n gi i thích H n n a, nhi u

khi đ a thêm m t s bi n đ c l p vào mô hình thì

tác đ ng riêng ph n c a các bi n đ c l p đó t i bi n ph thu c l i không th c s có ý ngh a th ng kê V y c n có tiêu chu n đánh giá s phù h p c a mô hình, trong đó có cân nh c đ n s l ng bi n gi i thích c a mô hình M t trong s các tiêu chu n nh v y

là h s xác đ nh hi u ch nh 2

R c a R , cho b ng bi u th c 2

Bài 4: Mô hình h i quy b i n

2 i

2 i 1

n 2 i

i 1

ˆu /(n k)

y /(n 1)







 





trong đó n là s quan sát, k – 1 là s bi n đ c l p trong mô hình

D dàng th y có m i quan h gi a 2

R và 2

R , c th là:

(n k)



  



T đó 2

R có các tính ch t sau:

 N u k > 1 thì 2 2

R R  ; 1

 Khi s bi n đ c l p k –1 t ng lên thì 2

R c ng t ng lên nh ng t ng ch m h n so v i R ; 2

R  , nh ng 0 2

R có th âm Khi R nh n giá tr âm thì 2 đ cho ti n, th ng thì

ng i ta gán l i cho nó giá tr b ng 0

Trong th c hành, khi mu n đánh giá s phù h p c a mô hình thì 2

R hay đ c dùng

h n so v i R , vì n u dùng 2 R ta d 2 đ a ra m t hình nh l c quan quá m c v s phù

h p c a mô hình, nh t là đ i v i các bài toán mà s l ng bi n gi i thích không nh

h n nhi u l m so v i s l ng quan sát Tuy nhiên, quan đi m này còn đ c đi u

ch nh tùy theo bài toán c th H n n a, ngoài hai th ng kê R và 2 R , ng2 i ta còn

dùng m t s tiêu chu n khác đ đánh giá tính phù h p c a mô hình, ch ng h n nh :

quy t c thông tin Akaike hay quy t c d báo Amemiya

4.7 Quan h gi a h s xác đ nh và tiêu chu n ki m đ nh F

Xét mô hình h i quy b i (4.5):

i 1 2 2i 3 3i k ki i

Y     X   X    X  , i 1, nu 

Mô hình đ c g i là không có hi u l c gi i thích, hay nói cách khác không gi i thích

đ c s thay đ i c a bi n Y, n u toàn b các h s h i quy riêng đ u b ng 0 Vì v y đ

ki m đ nh s c m nh hay m c ý ngh a c a mô hình ta c n ki m đ nh bài toán sau:

1 i

H : 0

H : 0

      



  

gi i quy t bài toán ki m đ nh trên, ta dùng tiêu chu n th ng kê sau:

2

ˆ ( X Y nY ) / k

ˆ

 

Khi gi thi t th ng kê F có phân ph i Fisher v i k – 1 và n – k b c t do V y v i

m c ý ngh a  ta có quy t c ki m đ nh:

 N u Fqs F k 1, n  k thì bác b H 0

 N u Fqs F k 1, n  k thì ch a bác b H 0

Quan h gi a h s xác đ nh 2

R và th ng kê F đ c di n gi i nh sau: T (4.5) và (4.9), ta th y bài toán ki m đ nh (4.10) t ng đ ng v i bài toán ki m đ nh

2 0 2 1







Bài 4: Mô hình h i quy b i

M t khác:

2 2

2

ˆ X Y nY R

Y Y nY

 



2

R / k 1

(1 R ) /(n k)





V y th ng kê F c ng là tiêu chu n th ng kê cho bài toán ki m đ nh (4.11)

Ví d 1

M t công ty mu n m r ng th tr ng kinh doanh t i

m t thành ph Tr c khi quy t đ nh m chi nhánh t i

thành ph đó, công ty đã ti n hành nghiên c u th

tr ng b ng cách ti n hành qu ng cáo và chào bán s n

ph m c a mình t đó xem xét kh n ng tiêu th s n

ph m Thu th p s li u trong 10 tu n v s s n ph m

bán đ c trong m t tu n, giá s n ph m X và chi phí 2

cho qu ng cáo X ta có b ng s li u sau: 3

4.92 4.79 425 5.5 3.61 467 5.54 5.49 296 5.11 2.78 626 5.62 5.74 165 5.24 1.34 515 4.15 5.81 270 4.02 3.39 689 5.77 3.74 413 4.57 3.59 561

Phân tích s li u b ng Evievs ta thu đ c báo cáo:

Bài 4: Mô hình h i quy b i

D a vào k t qu báo cáo trong Evievs ta xây d ng đ c mô hình h i quy tuy n tính 3

bi n ch s ph thu c c a s n ph m bán đ c Y v i chi phí qu ng cáo X và giá thành s n 3

ph m X qua bi u th c 2

1 2 2 3 3

ˆ ˆ ˆ ˆ

Y    X   X

v i  ˆ1 1360.84,   ˆ2 110.2952,   ˆ3 89.82406 Ngoài ra còn có h s xác đ nh

b i R2 0.772974, h s xác đ nh hi u ch nh (Adjusted R-Squared) 2

R 0.708110, giá tr tiêu chu n th ng kê F (F-Static) Fqs2 11.91675 V y mô hình h i quy c th là:

ˆ

Y1360.84 110.2952X 89.82406X

i v i mô hình này, ta c n đ t ra câu h i: V i m c ý ngh a  0.05 thì giá bán và chi phí qu ng cáo có nh h ng đ n s l ng s n ph m bán ra hay không?

tr l i cho câu h i này, ta c n ki m đ nh bài toán:

0 2 3

1 2 3

H : , 0

   



   



ho c ki m đ nh bài toán t ng đ ng là:

2 0 2 1









C hai bài toán trên đ u có th gi i quy t b ng cách s d ng th ng kê F Ta có

qs

F 11.91675 V i n = 10, k = 2, tra b ng phân ph i Fisher ho c dùng l nh Excel ta tìm đ c phân v F0.05 2; 7 4.77 Rõ ràng Fqs F0.05 2; 7 , v y ta bác b H , k t 0

lu n giá bán c a s n ph m và chi phí cho qu ng cáo có nh h ng đ n s l ng s n

ph m bán ra

Hai bài toán ki m đ nh trên còn có th gi i quy t b ng cách so sánh xác su t ý ngh a

t ng ng v i m c ý ngh a đã đ nh K t qu c a Eviews cho th y xác su t ý ngh a c a

th ng kê F (Prob(F-statistic)) có giá tr b ng 0.005575, nh h n 0.05, v y có th bác

b gi thuy t H 0

4.8 c l ng kho ng cho h s h i quy

Gi s trong mô hình h i quy (4.7), véc t nhi u ng u nhiên u có phân ph i chu n

2

N(0; Khi ) đó ta có véc t h s h i quy ˆ có phân ph i chu n  2  1

N  , X X  , các thành ph n c a véc t đó c ng có phân ph i chu n  2

i

ˆ ~ N ;

   , (i 1, k) , v i

2

 ch a bi t và nó có c l ng không ch ch là:

 

n

i

i 1

