Bài giảng Kinh tế lượng - Chương 2 trình bày về mô hình hồi quy bội. Chương này trình bày những nội dung chính sau: Sự cần thiết của mô hình hồi quy bội, mô hình hồi quy bội, phương pháp ước lượng OLS, một số dạng của mô hình hồi quy.
Trang 1CHƯƠNG 2
MÔ HÌNH HỒI QUY BỘI
Vũ Duy Thànhthanhvu.mfe.neu@gmail.com
Khoa Toán Kinh tế - Trường Đại học Kinh tế Quốc dân
Hà Nội, 2015
Trang 2Nội dung
1 SỰ CẦN THIẾT CỦA MÔ HÌNH HỒI QUY BỘI
2 MÔ HÌNH HỒI QUY BỘI
3 PHƯƠNG PHÁP ƯỚC LƯỢNG OLS
4 MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY
Trang 3Nội dung
1 SỰ CẦN THIẾT CỦA MÔ HÌNH HỒI QUY BỘI
2 MÔ HÌNH HỒI QUY BỘI
3 PHƯƠNG PHÁP ƯỚC LƯỢNG OLS
4 MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY
Trang 4Sự cần thiết của mô hình hồi quy bội
Câu hỏi
Một chủ doanh nghiệp đang băn khoăn đầu tư cho quảng cáo cóđem lại mức sinh lời cao hơn đầu tư mở thêm đại lý bán hàng haykhông
Hãy thử mô hình hóa tình huống nói trên của chủ doanh
nghiệp
Tìm dạng hàm toán học để minh họa mối quan hệ giữa lợi
nhuận và các khoản đầu tư?
Trang 5Mô hình hồi quy hai biến – vấn đề về kỳ vọng sai số khác 0
Giả thiết 2: E (u|X ) = 0 =⇒ Cov (X , u) = 0
Khi Cov (X , u) 6= 0 =⇒ E (u|X ) 6= 0
=⇒ Các ước lượng OLS là ước lượng chệch
Trang 6Mô hình hồi quy hai biến – vấn đề về kỳ vọng sai số khác 0
Ví dụ
Tác động của thu nhập (TN) lên chi tiêu (CT) của hộ gia đình,
được thể hiện bởi mô hình hồi quy hai biến sau:
Sai số ngẫu nhiên u thể hiện tác động của các yếu tố khác
ngoài thu nhập, như tài sản hộ gia đình (TS), lên chi tiêu
Thông thường một gia đình có thu nhập cao thì cũng thường
sở hữu nhiều tài sản, nói cách khác,TN và TS thường có
tương quan cao, gây ra sự tương quan giữa u và biến TN:
Cov (TN, u) 6= 0 =⇒ E (u|TN) 6= 0
Trang 7Mô hình hồi quy hai biến – vấn đề về kỳ vọng sai số khác 0
Ví dụ
Khắc phục bằng cách đưa biến TS vào mô hình:
CT = β1+ β2TN + β3TS + u
Định nghĩa
Biến độc lập nội sinh: là biến độc lập có tương quan với sai
số ngẫu nhiên trong mô hình
Mô hình có vấn đề về biến nội sinh: Khi mô hình hồi quy
có chứa biến độc lập nội sinh, khi đó giả thiết 2 sẽ vi phạm và
do đó các ước lượng OLS sẽ bị chệch
Trang 8Một số ưu việt khác của mô hình hồi quy bội
Mô hình hồi quy bội thường có chất lượng dự báo tốthơn: Việc đưa thêm các biến phù hợp làm tăng khả năng giảithích của mô hình về sự thay đổi của biến phụ thuộc và do đólàm gia tăng chất lượng dự báo của mô hình
Mô hình hồi quy bội cung cấp các dự báo hữu ích hơn:
Trang 9Nội dung
1 SỰ CẦN THIẾT CỦA MÔ HÌNH HỒI QUY BỘI
2 MÔ HÌNH HỒI QUY BỘI
3 PHƯƠNG PHÁP ƯỚC LƯỢNG OLS
4 MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY
Trang 10Mô hình hồi quy bội
u: sai số ngẫu nhiên, đại diện cho các yếu tố ngoài các biến
Xj, j = 2, , k, có tác động đến Y nhưng không đưa vào môhình
Trang 11Các giả thiết của mô hình
Trang 12Các giả thiết của mô hình
Giả thiết
Giả thiết 3: Phương sai của sai số ngẫu nhiên tại các giá trị(X2i, , Xki) đều bằng nhau:
Var (u|X2i, , Xki) = σ2, ∀i
Giả thiết 4: Giữa các biến độc lập Xj, j = 2, , k không cómối quan hệ tuyến tính, nghĩa là không tồn tại các hằng số(λ2, , λk) không đồng thời bằng 0 sao cho:
λ2X2+ · · · + λkXk = 0
Trang 13
Hàm hồi quy tổng thể - Ý nghĩa của các hệ số hồi quy
Định nghĩa
Hàm hồi quy tổng thể:
E (Y |X2i, X3i, , Xki) = β1+ β2X2i+ · · · + βkXki, i = 1, , n
Trang 14Hàm hồi quy tổng thể - Ý nghĩa của các hệ số hồi quy
Ý nghĩa
β1: là giá trị trung bình của biến Y khi các biến độc lập trong
mô hình nhận giá trị bằng 0
βj, j ≥ 2 - hệ số hồi quy riêng (partial coefficient): cho biết
khi Xj tăng 1 đơn vị thì trung bình của Y tăng lên βj, với điềukiện các biến Xs, (s 6= j ) không đổi
βj = ∂E (Y |X2i, , Xki)
∂Xj
Trang 15Ý nghĩa của các hệ số hồi quy
Câu hỏi (Giải thích ý nghĩa các hệ số)
Mô hình:
LP = 0.02 + 0.3m − 0.15gdp + u
Trong đó LP, m và gdp là tỷ lệ lạm phát, mức tăng trưởngcung tiền, và mức tăng trưởng GDP (đơn vị %)
Trang 16Nội dung
1 SỰ CẦN THIẾT CỦA MÔ HÌNH HỒI QUY BỘI
2 MÔ HÌNH HỒI QUY BỘI
3 PHƯƠNG PHÁP ƯỚC LƯỢNG OLS
4 MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY
Trang 17Hàm hồi quy mẫu
Định nghĩa
Từ mẫu ngẫu nhiên: (Yi, X2i, , Xki), (i = 1, n)
Ước lương theo mô hình tổng thể :
Y = β1+ β2X2+ · · · + βkXk+ u
Thu được hàm hồi quy mẫu:
ˆ
Yi = ˆβ1+ ˆβ2X2i + · · · + ˆβkXki
Trang 18Phương pháp ước lượng OLS
Trang 19Phương pháp ước lượng OLS
phương trình trên sẽ có nghiệm duy nhất
Trang 20Độ phù hợp của hàm hồi quy
Với các ký hiệu như với mô hình hai biến:
Trang 21Độ phù hợp của hàm hồi quy
Ý nghĩa
Ý nghĩa của R2:
thích bởi các biến độc lập trong mô hình
thuộc với các biến độc lập
R2 = r2(Y , ˆY ) = r2(Y , ˆβ2X2+ · · · + ˆβkXk)
Trang 22Độ phù hợp của hàm hồi quy
là một thước đo tốt khi so sánh các mô hình với số biến khácnhau
Hệ số xác định bội hiệu chỉnh ¯R2: (Adjusted R-Squared)
Trang 23Tính tốt nhất của ước lượng OLS
Định lý (Định lý Gauss – Markov)
Khi các giả thiết 1- 4 thỏa mãn thì các ước lượng thu được từ
phương pháp OLS là các ước lượng tuyến tính, không chệch và cóphương sai nhỏ nhất trong lớp các ước lượng tuyến tính không
chệch (BLUE - Best Linear Unbiased Estimator)
cho hệ số hồi quy β nếu nó được biểu diễn dưới dạng là tổ
hợp tuyến tính của các giá trị của biến phụ thuộc:
ˆ
β = w1Y1+ · · · + wnYn
trong đó wi là các hằng số nào đó, và Yi là các giá trị trongmẫu của biến phụ thuộc
Trang 24Tính tốt nhất của ước lượng OLS
Ước lượng không chệch: E ( ˆβj) = βj
Phương sai nhỏ nhất: Khi các giả thiết 1- 4 thỏa mãn thìước lượng thu được từ phương pháp OLS là có phương sai bénhất trong số các ước lượng tuyến tính không chệch:
Var ( ˆβj|OLS) ≤ Var ( ˜βj)
với ˜βj là ước lượng không chệch bất kỳ
Trang 25Độ chính xác của các ước lượng
Khi các giả thiết 1 – 4 thỏa mãn thì phương sai của các hệ sốước lượng được tính theo công thức:
2
(1 − R2
j )P x2 ji
trong đó Rj2 là hệ số xác định của mô hình hồi quy Xj theocác biến độc lập còn lại trong mô hình và xji = Xji − ¯Xj
Ước lượng của σ2:
Trang 26Độ chính xác của các ước lượng
Sai số chuẩn của ˆβj, j = 2, k:
ji
Trang 27Độ chính xác của các ước lượng
Các yếu tố xác định độ chính xác của ước lượng:
σ2: phương sai này càng bé thì độ chính xác của các ước
lượng càng lớn Giảm phương sai bằng cách đưa thêm các
biến số thích hợp vào mô hình
P x2
ji: giá trị của biến Xj trong mẫu càng khác biệt nhau thì
độ chính xác của ước lượng càng lớn
Trang 28Độ chính xác của các ước lượng
Các yếu tố xác định độ chính xác của ước lượng:
Rj2 càng lớn (quan hệ tuyến tính giữa biến Xj và các biến độc
Trang 29Mô hình hồi quy hai biến và mô hình hồi quy bội*
Xét hai mô hình sau:
Hệ số ước lượng của Z trong (2) là bằng 0, hoặc
Hệ số tương quan mẫu giữa X 2 và Z bằng 0.
Trang 30Mô hình hồi quy hai biến và mô hình hồi quy bội*
Trong thực tế, nếu hệ số tương quan mẫu giữa các biến độclập là khá nhỏ thì việc đưa thêm hay bớt biến mới vào cũngkhông làm thay đổi đáng kể kết quả ước lượng
Ý nghĩa
Nếu biến Z là không quan sát được nhưng nếu có lý do để
cho rằng nó không tương quan với biến X trong mô hình thìviệc thiếu biến Z sẽ không gây ảnh hưởng đáng kể đến kết
quả ước lượng
Tổng quát: nếu các biến Z1, Z2, , Zm cùng không tương
quan với biến X thì việc đưa thêm các biến này vào là khônglàm thay đổi hệ số ước lượng của biến X
Trang 31Nội dung
1 SỰ CẦN THIẾT CỦA MÔ HÌNH HỒI QUY BỘI
2 MÔ HÌNH HỒI QUY BỘI
3 PHƯƠNG PHÁP ƯỚC LƯỢNG OLS
4 MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY
Trang 32Ý nghĩa của các hệ số βj: nếu Xj gia tăng 1% (và các yếu
tố khác trong mô hình không đổi) thì trung bình Y gia tăng
βj%
βj: Hệ số co giãn của Y theo Xj
Trang 33Mô hình dạng semi-log với log biến phụ thuộc
Trang 34Mô hình dạng semi-log với log biến độc lập
Trang 36Mô hình có tương tác biến độc lập
Định nghĩa
Mô hình có tương tác biến độc lập là mô hình có một biến độc lập
và tích của hai hay nhiều các biến độc lập còn lại:
Trang 37Mô hình hồi quy bội
Câu hỏi
Ước lượng mối quan hệ giữa thu nhập và chi tiêu của hộ gia đình
sử dụng mẫu gồm 33 quan sát thu được:
d
CT = 18.86 + 0.793TN + 0.015TS
Viết mô hình hồi quy tổng thể, hàm hồi quy tổng thể?
Giải thích ý nghĩa của hệ số chặn và các hệ số góc?
Ước lượng mức chi tiêu của người có thu nhập 100 triệu/năm
và tài sản 2 tỷ?
Ngoài thu nhập và tài sản, còn nhân tố nào có thể tác độngđến chi tiêu?
Trang 38Mô hình hồi quy bội
Giải thích ý nghĩa của các hệ số?
Giải thích ý nghĩa của hệ số xác định?
Trang 39Các thông tin cơ bản trong bảng kết quả EVIEWS
Coefficient: Hệ số ước lượng từ mẫu
Std Error: Sai số chuẩn của các hệ số ước lượng
t-Statistics: Thống kê t của các hê số, bằng hệ số chia chosai số chuẩn
Prob: Mức xác suất tương ứng của thống kê t
Adjusted R-squared: Hệ số xác định có điều chỉnh: ¯R2
Trang 40Các thông tin cơ bản trong bảng kết quả EVIEWS
S.E of regression: Ước lượng độ lệch chuẩn của sai số ngẫunhiên
Sum squared resid: RSS của hàm hồi quy trong mẫu
Mean dependent var: Trung bình của biến phụ thuộc trongmẫu
S.D dependent var: Phương sai của biến phụ thuộc trongmẫu
F-Statistics: Thống kê F tương ứng với hàm hồi quy mẫu
Prob(F-Statistics): Mức xác suất của thống kê F