Chuong 2: HỒI QUY ĐA BIẾN

Nội dung 1 MÔ HÌNH HỒI QUY TUYẾN TÍNH k BIẾN 2 ƯỚC LƯỢNG CÁC THAM SỐ 3 MA TRẬN PHƯƠNG SAI CỦA βˆ 4 HỆ SỐ XÁC ĐỊNH BỘI R2 VÀ HIỆU CHỈNH R2 5 UL KĐGT CÁC HỆ SỐ HỒI QUY RIÊNG 6 KIỂM ĐỊNH SỰ PHÙ HỢP 7 KIỂM ĐỊNH ĐỒNG THỜI (F TEST, WALD) 8 DỰ BÁO 9 VẤN ĐỀ LỰA CHỌN MÔ HÌNH

Trang 1

TRƯỜNG ĐẠI HỌC KINH TẾ - LUẬT

Khoa TOÁN KINH TẾ

Chương 2.

HỒI QUY ĐA BIẾN

GVC TS Lê Thanh Hoa

Trang 2

Nội dung

1 MÔ HÌNH HỒI QUY TUYẾN TÍNH k BIẾN

2 ƯỚC LƯỢNG CÁC THAM SỐ

3 MA TRẬN PHƯƠNG SAI CỦA ˆ β

Trang 3

Sự cần thiết của MHHQ đa biến (hồi quy bội)

Biến phụ thuộc Y thường chịu tác động của nhiều yếu tố ,

nếu chỉ sử dụng mô hình hồi quy đơn biến dễ xảy ra trường

Trang 4

1 MHHQ TUYẾN TÍNH k BIẾN: PP MA TRẬN

Hàm hồi quy tổng thể có dạng

Y i = β 1 + β 2 X i 2 + · · · + β k X ik + ϵ i , trong đó

β 1 là hệ số tự do (hệ số chặn)

β j ; j = 1, · · · , k là các hệ số hồi quy riêng.

Trang 6

Bài tập cuối chương

Trang 7

Trang 9

Khi đó hàm hồi quy tổng thể với n quan sát được biểu diễn dưới

dạng ma trận

Y = X β + ϵ.

Yêu cầu: giữa các biến không có quan hệ tuyến tính với nhau, tức

là các cột của ma trận X là độc lập tuyến tính hay

rank(X ) = k.

Trang 10

Trang 11

Trang 12

Trang 13

Hàm hồi quy mẫu (ước lượng) có dạng

ˆ

Y i = ˆ β 1 + ˆ β 2 X i 2 + · · · + ˆ β k X ik , hay mối quan hệ giữa giá trị thực tế và giá trị ước lượng

Y i = ˆ Y i + e i ,

Viết dưới dạng ma trận

Y = X ˆ β + e.

Trang 15

Trang 16

Trang 17

Phương pháp ước lượng bình phương cực tiểu

Trang 18

Bài tập 3.4.

Trang 19

Trang 20

Trang 21

Bài tập 3.3 Tổng doanh số TR (1000$) phụ thuộc vào giá bán P

($) và quảng cáo A (1000$) theo bảng dữ liệu.

a Hãy giải thích: nếu giá cả P tăng thêm 1$ thì tổng doanh thu

giảm đi bao nhiêu?

b Nếu chi phí quảng cáo A tăng thêm 1000$ thì tổng doanh thu

TR sẽ tăng bao nhiêu?

c Dự đoán doanh thu TR nếu mức giá P là 2$ và chi phí quảng

cáo A là 10000$?

Trang 22

Trang 23

Mô hình hồi quy

Trang 24

Công thức về ma trận hiệp phương sai của ˆ β:

Cov ( ˆ β) = σ 2 (X ′ X ) −1 , trong đó







Trang 25

Ước lượng phương sai của nhiễu (hay của yếu tố ngẫu nhiên) σ 2

là

ˆ

σ 2 = RSS

n − k . Lưu ý: công thức trên giống hồi quy đơn biến, chỉ khác là mẫu số

thay bởi (n − 2) thành (n − k).

Trang 26

Bài tập 3.3 Tổng doanh số TR (1000$) phụ thuộc vào giá bán P

($) và quảng cáo A (1000$) theo bảng dữ liệu.

Ma trận hệ số tương quan.

Trang 27

Trang 28

4 HỆ SỐ XÁC ĐỊNH BỘI R 2 VÀ HIỆU CHỈNH R 2

Hệ số xác định bội R 2 bằng phần trăm sự thay đổi của

biến phụ thuộc được giải thích bởi các biến độc lập

Nếu R 2 = 1 có nghĩa là các biến độc lập của mô hình hồi quy giải thích 100% sự thay đổi của Y

Nếu R 2 = 0 có nghĩa là các biến độc lập của mô hình hồi quy không

có sự giải thích nào của Y

Trang 29

Trang 30

Tính chất: R 2 là hàm không giảm khi số biến giải thích

trong mô hình tăng lên.

Vấn đề đặt ra là khi nào thì đưa thêm biến giải thích mới

Trang 31

Tính chất

Nếu k > 1, R 2 ≤ R 2 ≤ 1, có nghĩa là nếu số biến giải thích

tăng lên thì R 2 tăng chậm hơn so với R 2

Khi R 2 còn tăng thì ta còn đưa thêm biến mới vào

R 2 có thể âm.

Lưu ý: trong trường hợp lựa chọn mô hình, sẽ chọn mô hình nào

tốt hơn trong các trường hợp R 2 tăng, AIC và BIC (Schwarz)

giảm.

Trang 32

Trang 33

Trang 34

Trang 35

5 UL & KĐGT CÁC HỆ SỐ HỒI QUY RIÊNG

Với giả thuyết ϵ ∼ N(0; σ 2 I ), ta có ˆ β ∼ N(β; σ 2 (X ′ X ) −1 ).

Chuẩn hóa dữ liệu

t =

ˆ

β i − β i Se( ˆ β i ) ∼ t(n − k)

biến độc lập thay đổi:

ˆ β j ± t n−k;α/2 × Se( ˆ β j )

Trang 36

Bài tập 3.3.

d Kiểm định giả thuyết về hệ số hồi quy gắn với P nhỏ hơn -10.

e Tìm khoảng tin cậy hệ số hồi quy đi kèm với P?

Trang 37

Trang 38

d Kết luận đối với bài toán kiểm định

Trang 39

Suy ra giá trị kiểm định

t − stat = −0.159929.

Tương ứng với giá trị

p − value = 0.8734

2 > α

Trang 40

e Tìm khoảng tin cậy hệ số hồi quy

Trang 41

Khoảng tin cậy (1 − α) cho biểu thức của hai hệ số hồi

quy : đánh giá tác động khi hai biến độc lập cùng thay đổi:

(a ˆ β i + b ˆ β j ) ± t n−k;α/2 × Se(a ˆ β i + b ˆ β j ), trong đó

Trang 42

Ví dụ minh họa

Sử dụng data WAGE1.RAW Ước lượng khoảng tin cậy 90% cho

2β EDUC − 3β EXPER biết ma trận hiệp phương sai của các hệ số ước lượng:

Trang 43

Kiểm định giả thiết về một hệ số hồi quy:

Bài toán kiểm định tính có ý nghĩa thống kê của các hệ số

Trang 44

Kết luận:

Nếu t ∈ Miền bác bỏ H 0 , bác bỏ giả thiết H 0 : β j = 0, tức

là ˆ β j có ý nghĩa thống kê

Nếu t / ∈ Miền bác bỏ H 0 , chấp nhận giả thiết H 0 : β j = 0,

tức là ˆ β j không có ý nghĩa thống kê

Trang 45

Ví dụ minh họa

Sử dụng data ADMNREV.RAW

Kiểm định tính có ý nghĩa thống kê ở mức 10% của các hệ số hồi

quy riêng?

Trang 46

Trang 47

Kiểm định giả thiết về một hệ số hồi quy bằng một giá trị cho

Bài toán kiểm định

H 0 β j = β 0

H 1 β j ̸= β 0 Giá trị kiểm định t = β ˆ j −β 0

Se( ˆ β j )

Miền bác bỏ H 0 :

−∞; −t n−k,α/2 ∪ t n−k,α/2 ; +∞

Trang 48

Kết luận:

Nếu t ∈ Miền bác bỏ H 0 , bác bỏ giả thiết H 0 : β j = β 0 , tức

là ˆ β j không bằng hệ số β 0 cho trước

Nếu t / ∈ Miền bác bỏ H 0 , chấp nhận giả thiết H 0 : β j = β 0 ,

tức là ˆ β j bằng hệ số β 0 cho trước

Trang 49

Ví dụ minh họa

sử dụng data APPLE.RAW

Có thông tin cho rằng, khi EDUC tăng 1 năm thì REGPRC giảm

1% đơn vị Hãy kiểm định lại thông tin trên với mức ý nghĩa 1%.

Trang 51

Kiểm định giả thiết về một ràng buộc giữa các hệ số hồi quy –

−∞; −t ∪ t ; +∞

Trang 52

Lưu ý: có thể sử dụng giá trị p − value để kết luận trong bài toán

kiểm định giả thiết, nếu p − value < α thì bác bỏ H 0 ở mức ý nghĩa

α.

Trang 53

Bài tập 3.4 Giá cả P (rubles), chi phí quảng cáo A (100 rubles),

số lượng bán được Q với bảng số liệu tương ứng.

Mô hình hồi quy có dạng

Q n = β 1 + β 2 P n + β 3 A n + β 4 A 2 n + ϵ.

a Kỳ vọng dấu của các hệ số β 2 , β 3 , β 4

b Xem xét mô hình hồi quy có phù hợp với dự báo

Trang 54

c Lợi nhuận của công ty được tính như sau

π = PQ − Q − 100A Hãy viết phương trình lợi nhuận chỉ phụ thuộc vào giá P và quảng

cáo A.

d Xác định giá làm cho lợi nhuận cực đại khi quảng cáo đạt mức

280 (rubles)

Trang 55

e Xác định quảng cáo để lợi nhuận cực đại, khi giá bán ở mức 5

(rubles)

f Tìm giá tối ưu khi A=2.13 Tìm quảng cáo tối ưu khi P=5.32.

Theo bạn, các nhà kinh tế sẽ chọn phương án nào trong hai

phương án trên.

Trang 56

a b Mô hình hồi quy

Trang 57

c Hàm lợi nhuận được xác đinh dựa vào mô hình hồi quy

Q = 1035.384 − 127.9250 ∗ P + 162.3604 ∗ A − 32.68586 ∗ A 2

π = PQ − Q − 100A Thế vào biểu thức, tính ra được hàm lợi nhuận.

d e f là các hàm số 1 ẩn , nên tính giá trị cực đại dựa vào cực

đại của hàm một ẩn.

Trang 58

Bài tập 3.7 c Kết quả ước lượng mô hình U và ma trận hiệp

phương sai của các hệ số ước lượng.

C 382.3085 - 0.036446 -0.149065

W - 0.036446 0.001063 -0.001552

P -0.149065 -0.001552 0.002384

Trang 59

Thực hiện lần lượt các bài toán kiểm định.

a H 0 : β 2 = β 3 ⇒ β 2 − β 3 = 0

b H 0 : β 2 + β 3 = 1

c H 0 : β 2 + β 3 = 0

Trang 60

Giá trị kiểm định

a.

t = 0.693262 − 0.735916 − 0 p0.001063 + 0.002384 − 2 × (−0.001552) b.

t = 0.693262 + 0.735916 − 1 p0.001063 + 0.002384 + 2 × (−0.001552) c.

t = 0.693262 + 0.735916 − 0 p0.001063 + 0.002384 + 2 × (−0.001552)

So sánh với giá trị tra bảng và rút ra kết luận tương ứng.

Trang 61

Bài tập 3.8 Mô hình hồi quy

Log (WAGE ) = 6.789133 + 0.060016EDU + 0.019279EXPER

+0.229722GENDER, trong đó R 2 = 0.459472, GENDER (=1 nam, 0 nữ)

Trang 62

a Nam cao hơn nữ là 0.229722%

b Bài toán kiểm định H 0 : β 3 = 0

Giá trị kiểm định t = √ 0.019279−0

3.37×10 −5 =

So sánh với giá trị tra bảng và kết luận.

c Khoảng tin cậy 95% cho β 3 là

β 3 ∈ (0.019279 ± 1.96 × p 3.37 × 10 −5 )

d Bài toán kiểm định H 0 : β 2 = β 3

Trang 63

Ví dụ minh họa

Sử dụng data HTV.RAW, mô hình hồi quy có dạng:

Kiểm định giả thuyết về EDUC có mối quan hệ tuyến tính đối

với ABIL, và đối thiết là EDUC có mối quan hệ dạng tam thức

bậc 2 với ABIL

Trang 66

Ví dụ minh họa

Sử dụng mô hình dạng tam thức bậc 2 của ABIL, hãy kiểm định sự

bằng nhau về trình độ giáo dục của bố và mẹ, biết:

Trang 67

Trang 69

6 KIỂM ĐỊNH SỰ PHÙ HỢP

Ví dụ minh họa

Dựa vào bảng kết xuất Eviews Thực hiện các câu hỏi sau:

Độ phù hợp của hàm hồi quy là bao nhiêu? Ý nghĩa?

TSS, RSS, ESS

Phương sai của yếu tố ngẫu nhiên nhận giá trị bằng bao nhiêu?

Kiểm định sự phù hợp của hàm hồi quy mẫu với mức ý nghia

1%, 5% và 10%

Trang 70

Trang 71

Trang 72

Trang 73

7 KIỂM ĐỊNH ĐỒNG THỜI (F - TEST, WALD)

Giả sử chúng ta có hàm hồi quy không ràng buộc (U)

(U) : Y i = β 1 + β 2 X 2i + · · · + β k X ki + ϵ i

Ta thực hiện bài toán kiểm định giả thuyết đồng thời :

H 0 : β k−m+1 = β k−m+2 = · · · = β k = 0 Với điều kiện trên: Hàm hồi quy trở thành hàm hồi quy thu hẹp hay

hàm hồi quy có điều kiện ràng buộc (R).

(R) : Y i = β 1 + β 2 X 2i + · · · + β k−m X (k−m)i

Trang 74

Ký hiệu

e R là véc tơ phần dư từ hàm hồi quy có điều kiện ràng buộc (R)

e U là véc tơ phần dư từ hàm hồi quy ban đầu (U) (không điều kiện

ràng buộc)

m là số biến bị loại khỏi mô hình ban đầu (số điều kiện ràng buộc)

n là số quan sát

Trang 75

Giá trị kiểm định

F =

RSS R −RSS U

m RSS U

n−k

=

R 2

U −R 2 R

m 1−R 2 U

n−k

,

trong đó

m là số ràng buộc trong giả thiết H 0 ,

k là số hệ số hồi quy trong mô hình không có ràng buộc.

Giả thuyết H 0 bị bác bỏ khi F > F m;n−k;α ; trong trường hợp

ngược lại, chưa có đủ cơ sở để bác bỏ giả thiết H 0

Trang 76

Ví dụ minh họa

Sử dụng data APPLE.RAW

Bắt đầu từ mô hình đầy đủ các biến (U)

Thực hiện kiểm định bỏ đi đồng thời các biến không có ý nghĩa

thống kê ở mức 10% Kết luận về kết quả thực hiện?

Trang 78

Trang 79

So sánh với kết quả thực hiện bằng phần mềm Eviews

Trang 80

Bài tập 4.7 Số lượng nhà xây mới hàng năm HOUSING (nghìn),

GNP (tỷ dollar), lãi suất cho vay mua nhà INTRATE (%), dân số

POP (triệu người), tỷ lệ thất nghiệp UNEMP (%).

c Bỏ đồng thời 2 biến POP và UNEMP bằng kiểm định F Kết

luận.

Trang 81

Trang 82

d Chỉ thêm 1 biến POP hoặc UNEMP

Trang 83

Trang 84

bằng ước lượng không chệch ˆ σ 2

E (Y |X 0 ) ∈

ˆ

Y 0 ± t n−k;α/2

q

σ 2 X 0 ′ (X ′ X ) −1 X 0

,

Trang 85

8 DỰ BÁO

Dự báo giá trị cá biệt

Y 0 ∈

ˆ

Y 0 ± t n−k;α/2

q

σ 2 [1 + X 0 ′ (X ′ X ) −1 X 0 ]

,

Trang 86

8 DỰ BÁO

Ví dụ minh họa

Sử dụng data HPRICE1.RAW, hãy tính

Viết mô hình ước lượng

Giá nhà sẽ tăng như thế nào nếu tăng thêm 1 phòng ngủ và

diện tích không đổi.

Giá nhà được giải thích bao nhiêu % dựa vào số phòng ngủ và

diện tích

Dự báo giá nhà nếu SQRFT = 2438 và BDRMS = 4

Trang 87

8 DỰ BÁO

Trang 88

9 VẤN ĐỀ LỰA CHỌN MÔ HÌNH

9.1 CÁC THUỘC TÍNH CỦA MỘT MÔ HÌNH TỐT

Tính tiết kiệm: hãy giữ cho mô hình càng đơn giản càng tốt

Tính đồng nhất: với một tập dữ liệu đã cho, các tham số ước

lượng phải có giá trị thống nhất

Tính thích hợp: nếu có R 2 hoặc R 2 cao

Trang 89

9.2 CÁC LOẠI SAI LẦM CHỈ ĐỊNH

Tính vững về mặt lý thuyết: trong việc xây dựng mô hình,

phải có cơ sở lý thuyết nào đó, tránh trường hợp R 2 cao (0,95)

nhưng mô hình vẫn không được đánh giá là mô hình tốt nếu

một hay một số hệ số có dấu sai.

Khả năng dự báo: tiêu chuẩn thực tế thể hiện ở sức dự đoán

của mô hình phù hợp với thực tế.

Trang 90

Bỏ sót một biến thích hợp (thiếu biến)

Làm cho các hệ số ước lượng bị chệch, nghĩa là E ( ˆ β i ) ̸= β i Phương sai của hệ số ước lượng lớn lên, làm cho khoảng tin cậy rộng

ra, do đó có thể có khuynh hướng chấp nhận giả thiết H 0 hơn so với tình huống thực tế.

Trang 91

Làm cho các hệ số ước lượng được vẫn là ước lượng không

chệch, nhưng phương sai của chúng vẫn lớn hơn so với trường

hợp đúng

Dạng hàm sai : dạng hàm đúng là dạng tuyến tính, tuy nhiên

lại sử dụng mô hình dạng logarithm; dạng hàm đúng là dạng

tuyến tính, tuy nhiên lại sử dụng dạng tam thức bậc 2.

Trang 92

Ví dụ minh họa

Sử dụng data HPRICE1.RAW, so sánh 2 mô hình, mô hình nào phù

hợp hơn với dữ liệu?

Trang 93

Trang 94

Trang 95

9.3 PHÁT HIỆN SAI LẦM CHỈ ĐỊNH

Phát hiện sự có mặt của biến không cần thiết

Kiểm tra một biến có cần thiết trong mô hình hay không

Trang 96

Phát hiện sự có mặt của biến không cần thiết

Kiểm tra sự có mặt của đồng thời nhiều biến không cần thiết

=

R U 2 −R 2 R

m 1−R 2 U

n−k

.

Giả thuyết H 0 bị bác bỏ khi F > F m;n−k;α

Trang 98

Kiểm định các biến bị bỏ sót

Trong trường hợp chưa biết biến X j thì thực hiện cách sau:

Kiểm định Ramsey: Sử dụng ˆ Y t 2 , ˆ Y t 3 và ˆ Y t 4 thay thế cho

biến Z t là biến nghi ngờ thiếu trong mô hình.

Sử dụng kiểm định có điều kiện ràng buộc (sự thu hẹp của

hàm hồi quy) để kết luận.

Trang 100

Trang 101

Trang 102

Trang 103

Báo cáo đề tài lần 1

Yêu cầu các nội dung đề tài:

Tên đề tài, lý do chọn đề tài

Biến phụ thuộc và các biến độc lập (ít nhất 4 biến độc lập), cơ

sở lý thuyết để chọn các biến độc lập.

Nguồn dữ liệu: sơ cấp (link khảo sát, bảng kết quả), thứ cấp

(link lấy dữ liệu, khoảng thời gian lấy)

Sử dụng phần mềm Stata để ước lượng hàm hồi quy mẫu Viết

hàm hồi quy mẫu và diễn giải ý nghĩa các hệ số.

Kiểm định tính có ý nghĩa thống kê của các hệ số hồi quy.

Kiểm định hệ số hồi quy với một giá trị cho trước, với mức ý

Trang 104

Báo cáo đề tài lần 1

Tìm khoảng ước lượng của các hệ số hồi quy với độ tin cậy

Kiểm định có thể bỏ đi đồng thời các biến không có ý nghĩa

thống kê với mức ý nghĩa 1%, 5% và 10%.

Mở rộng: biến đổi các biến phụ thuộc và độc lập nhằm so sánh

sự phù hợp của các mô hình.

Tiêu đề	Hồi Quy Đa Biến
Người hướng dẫn	GVC. TS. Lờ Thanh Hoa
Trường học	Trường Đại Học Kinh Tế - Luật
Chuyên ngành	Toán Kinh Tế
Thể loại	Bài Giảng

Định dạng
Số trang	104
Dung lượng	4,88 MB