Mô hình hồi quy đơn ppsx

Mô hình hồi quy  Mô hình hồi quy đơn chỉ nghiên cứu sự phụ thuộc của một biến phụ thuộc vào một biến độc lập  Ví dụ: – Năng suất lúa vào lượng phân bón – Tiêu dùng phụ thuộc vào thu nh

Mô hình hồi quy đơn

Mô hình hồi quy

 Mô hình hồi quy đơn chỉ nghiên cứu sự phụ thuộc của một biến phụ thuộc vào một biến độc lập

 Ví dụ:

– Năng suất lúa vào lượng phân bón

– Tiêu dùng phụ thuộc vào thu nhập

– Lượng cầu phụ thuộc vào giá

– Sản lượng phụ thuộc vào lao động

– Cầu tiền phụ thuộc vào lãi suất

– Doanh số bán hàng phụ thuộc vào tuổi nghề

Ví dụ

 Có số liệu thống kê về tuổi nghề (thâm niên bán hàng) của 10 nhân viên với doanh số

bán hàng của họ

Tuổi

Doanh

số bán 5 10 8 11 8 15 15 15 12 16

Đường hồi quy thực tế

Đường hồi quy lý thuyết

Mô hình hồi quy tổng thể

Xét quan hệ hồi quy

( / )

X  X  Y X bnn Y trong điều kiện X  X ii(  1, ) n

( / i)

F Y X

  tồn tại phân phối xác suất có điều kiện

( / i)

E Y X

  tồn tại duy nhất giá trị kỳ vọng có điều kiện

( / )

X  E Y X quan hệ hàm số

( / i) ( )i

E Y X  f X hàm hồi quy tổng thể (PRF)

Nếu : hàm hồi quy có dạng tuyến tính

1 2

E Y X     X

và

  được gọi là các hệ số hồi quy

- Tính chất của SSNN :

+ Nhận những giá trị dương và âm + Kì vọng bằng 0 : ( ) E ui   0 i

Sai số ngẫu nhiên

Mô hình hồi quy mẫu

 Không biết toàn bộ tổng thể nên dạng của PRF có thể biết nhưng các tham số thì không biết

 Mẫu: một bộ phận mang tin của tổng

thể

SRF có dạng Yi  1   2X i



i

Y - giá trị ước lượng tương ứng với X i (fitted value )

Y i - là giá trị thật (actual value)

Phần dư

- thông thường Y i Yi đặt e Y i  i  Yi và gọi là phần dư (residual)

- các ước lượng điểm tương ứng của E Y( / X i), , , 1 2 u i là Y i, , , 1  2 e i

SRM : Y i  1  2X i e i

Phương pháp bình phương nhỏ nhất

Tìm    1,  2 sao cho  2 2

     

  2

  



;   1  Y    2X

Đặt : xi  Xi  X ; yi  Yi  Y   2 1

2 1

n

i i i

n

i i

xy x

 









Các giả thiết cơ bản của OLS

Giả thiết 1 Mô hình hồi quy có dạng tuyến tính đối với tham số

Giả thiết 3 Trung bình của các sai số ngẫu nhiên bằng 0

Giả thiết 4 Phương sai sai số ngẫu nhiên là bằng nhau (phương sai đồng

đều)

Giả thiết 5 Các sai số ngẫu nhiên là không tương quan

Giả thiết 9 Mô hình được chỉ định đúng (correct model specification)

Giả thiết 10 Không có đa cộng tuyến giữa các biến giải thích của mô hình

hồi quy bội

Giả thiết 11 Các sai số ngẫu nhiên có phân phối chuẩn

Các giá trị đặc trưng của ước lượng OLS

Kì vọng: E ( ) j j

Phương sai: 

2 2 1

1

2 1

( )

n i i n i i

X Var

n x

  









2 1

1 ( ) n

i i

Var

x







Độ lệch chuẩn: Se( ) j  Var( ) ( j j 1,2)



2 2

1

2

n i i

e n

  





Sự phù hợp của hàm hồi quy –

2 ESS 1 RSS

R

TSS TSS

Ý nghĩa: Hệ số xác định R2 là tỉ lệ (hoặc tỉ lệ %) sự biến động của biến phụ thuộc được giải thích bởi biến giải thích (theo mô hình trong mẫu)

Tính chất của R 2

2

0R 1 vì ESS không thể lớn hơn TSS

Trong thực nghiệm, đối với mô hình hồi quy đơn thì R2 được tính như sau:

 2 2 2

2

i i

x R

y



 hoặc

2

2 2

i i

xy R

x y

 

Suy diễn thống kê

 Ước lượng các tham số

 Kiểm định giả thiết thống kê

Ước lượng các tham số

Với độ tin cậy 1   cho trước, khoảng tin cậy của các hệ

số hồi quy:

j Se j t n j j Se j t n

          

 j Se ( ) (  j t n 2) j

      (ktc tối thiểu)

 ( ) (  2)

j j Se j t n

      (ktc tối đa)

Kiểm định giả thiết thống kê

Có 3 dạng giả thiết kiểm định như sau về hệ số hồi quy:

 kiểm định hai phía :

* 0

* 1

:

1,2 :

j j

j j

H

j H











 kiểm định phía phải :

* 0

* 1

:

1,2 :

j j

j j

H

j H











 kiểm định phía trái :

* 0

*

:

1,2 :

j j

H

j H











Kiểm định về sự phù hợp của mô hình hồi quy

Cặp giả thuyết :

H0 : (hàm hồi quy không phù hợp) H0 : R 2 0

H1 : (hàm hồi quy là phù hợp) H1 : R  2 0 Kiểm định F :

2 2

/ 1 (1 ) / ( 2)

qs

R F



 

- Nếu F qs  F(1;n  2) thì bác bỏ H0 : biến giải thích giải thích được

cho sự biến động của biến phụ thuộc, hàm hồi quy là phù hợp

Dự báo

Dự báo giá trị trung bình

( ) ( 2) ( / ) ( ) ( 2)

Y  SeY t n  E Y X Y SeY t n 

Với Y0 1  2X0 và  

2 0

( ) 1

( )

i

X X SeY

 



Dự báo giá trị cá biệt

( ) ( 2) ( ) ( 2)

Y  SeY t n  Y Y SeY t n 

2 0

1

SeY

n x

