Bài giảng thống kê ứng dụng trong quản lý và kỹ thuật chương 6 PGS nguyễn thống

Nguyễn Thống THỐNG KÊ ỨNG DỤNG TRONG QUẢN LÝ & KỸ THUẬT Chương 6: Hồi quy tuyến tính  Để có thể biểu diễn hồi quy CÓ NGHĨA  Các biến phải có tính NHÂN QUẢ có ý nghĩa liên quan kinh

Trang 1

4/11/2014 1

TRƯỜNG ĐẠI HỌC BÁCH KHOA TP HCM

Khoa KTXD - Bộ môn KTTNN

Giảng viên: PGS TS. NGUYỄN THỐNG

E-mail: nguyenthong@hcmut.edu.vn or nthong56@yahoo.fr

Web: http://hwww4.hcmut.edu.vn/~nguyenthong/

NỘI DUNG MÔN HỌC Chương 1 Thống kê mô tả

Chương 1bis Xác suất & phân phối thống kê

Chương 2 Khoảng tin cậy

Chương 3 Lý thuyết kiểm định thống kê

Chương 4 Kiểm định Cronbach’s Alpha

Chương 5 Phân tích phương sai (ANOVA)

Chương 6 Hồi quy tuyến tính & giả tuyến tính

Chương 7 Xử lý số liệu thực nghiệm

Chương 8 Giới thiệu phần mềm SPSS.

THỐNG KÊ ỨNG DỤNG TRONG QUẢN LÝ & KỸ THUẬT

PGS Dr Nguyễn Thống

GIỚI THIỆU HỒI QUY

Đây là phương pháp nghiên

cứu (định lượng) nhằm giải

thích một biến ĐỊNH LƯỢNG

nhờ vào 1 hoặc nhiều biến

ĐỊNH LƯỢNG dưới dạng một

phương trình toán học

Chương 6: Hồi quy tuyến tính

 Để có thể biểu diễn hồi quy CÓ NGHĨA  Các biến phải có tính NHÂN QUẢ (có ý nghĩa liên quan kinh tế, xã hội, vật lý,…)

 Lưu ý, phân tích phương sai dùng xem xét quan hệ biến giữa biến giải thích dạng ĐỊNH TÍNH & biến cần được giải thích dạng ĐỊNH LƯỢNG

TỔNG QUÁT

X

1

X2

Y

HỒI QUY ĐƠN TUYẾN TÍNH (đường thẳng) HỒI QUY ĐƠN PHI TUYẾN

HỒI QUY BỘI (mặt phẳng or siêu mặt phẳng)

Trang 2

2

Hễ̀I QUY TUYấ́N TÍNH

 Hồi quy tuyến tính bội

THỐNG Kấ ỨNG DỤNG TRONG QUẢN Lí & KỸ THUẬT

Hễ̀I QUY TUYấ́N TÍNH ĐƠN

X

Y

Y i

di

ẹửụứng thaỳng hoài quy ủụn

Hễ̀I QUY TUYấ́N TÍNH ĐƠN

TóM TắT Lý THUYếT

Mô hình đợc mô tả bởi phơng trình tuyến tính có dạng sau:

t=1 N (số lợng quan trắc)

yt giá biến cần nghiên cứu tại thời điểm t, xi,t giá trị biến giải thích thứ i tại thời điểm t

N số lợng quan trắc các biến

b0, a1 : tham số mô hình sẽ đợc xác định từ số liệu quan sát

t: sai soỏ cuỷa moõ hỡnh

t t , 1 1 0

PHƯƠNG TRÌNH Hễ̀I QUY

TUYấ́N TÍNH ĐƠN

Y

Y0

Xu theỏ tuyeỏn tớnh

Y=b0+a1X

ΔY3

?

ΔY4

Gọi  yi là khoảng cỏch thẳng đứng từ giá trị quan sỏt (xi,yi) đến đường thẳng cần xỏc định Ta định nghĩa haứm muùc tieõu:

 Y ( b a X )  min Y

D

2 N

1 i

i 1 0 i N

1 i

2





Quan sỏt

Hụ̀i quy THỐNG Kấ ỨNG DỤNG TRONG QUẢN Lí & KỸ THUẬT

Trang 3

4/11/2014 13

Đây là một hàm 2 biến b0 và a1, để cho

D cực trị (với ý nghĩa vật lý của bài

tốn ta biết đĩ là cực tiểu) ta phải cĩ:



















) 2 ( 0 a

D

) 1 ( 0 b

D

1 0

Từ đó:

Giải hệ phương trình trên ta cĩ:

 y b a x  0 [ 1 ] 2

i

i 1 0



 y b a x  x 0 [ 2 ]

i

i 1 0







i

2 i 2 i i

i i i i

1

x N x

y x N y x

HÀM TÍNH a, b TRONG EXCEL

 Intercept(Y,X)  tính tung độ

gốc b của quan hệ tuyến tính

 Linest(Y,X)  tính hệ số a (độ

dốc của quan hệ tuyến tính giữa

Y i & X i )

PHƯƠNG TRÌNH PHƯƠNG SAI







 N

i

i y y SST

1

2

 Phương sai mô hình

(chất lượng mô hình)

 Phương sai tổng

(bản chất số liệu)







 N

i

i y y SSE

1

2 ˆ

Sum of Square Total

Sum of Square Explicative

SST = SSE + SSR [1]

[1] phương trình phương sai

 Phương sai thặng dư

(sai số mô hình)

yi: giá trị quan sát, : giá trị tính từ mô hình

y : giá trị trung bình biến nghiên cứu







i

y

SSR

1

2

ˆ

yˆ

Sum of Square Residual

KIỂM ĐỊNH & ĐÁNH GIÁ

CHẤT LƯỢNG MƠ HÌNH

HỜI QUY

Trang 4

4

CHẤT LƯỢNG

R 2  1  mô hình càng TỐT

y y

y y SST

SSR 1

SST

SSE

R

i

2 i i

2 i











Hệ số xác định R 2 hiệu chỉnh:

Khi số liệu quan sát n nhỏ, giá trị R 2

được hiệu chỉnh như sau (k=1: hồi quy đơn):

Chú ý: Khi n lớn 

) R 1 ( 1 k n

1 n 1





2 2

R

2 2

R

KIỂM ĐỊNH HỆ SỐ a , b

MÔ HÌNH

a i , b là các giá trị trung bình

thống kê

 Kiểm định a i là khác 0 hay

bằng 0 theo quan điểm thống

kê

Các hệ số trong mô hình hồi quy chỉ

có nghĩa khi nó KHÁC zero

ai , b là các giá trị trung bình thống kê 

 Kiểm định ai, b là khác 0 hay bằng 0 theo quan điểm thống kê

 Dùng kiểm định Student (T test)

b aX

Y i mo hinh  i 

22

Khác zero ???

KIỂM ĐỊNH HỆ SỐ ai MÔ HÌNH

biến độc lập liên kết Xi

có nghĩa trong phương

biến Xi KHÔNG CÓ

trong phương trình hồi

 Kiểm định Student



 0

a i



 0

a i

Giá trị độ lệch chuẩn của các hệ

số a i & b xác định như sau:

Trang 5

 Để kiểm định a, b KHÁC zero hay

khơng ta cần cĩ giá trị a, b và các

giá trị độ lệch chuẩn của nĩ

phần mềm thường cĩ tên

Standard Error

 Biến kiểm định : t Stat =[a] /

[Standard Error]

 Dùng kiểm định Student 25

 Gọi  giá trị độ lệch chuẩn của

hệ số a:

Gọi: A1 SSR /  n  k  1 

26

a



2 i

Số quan sát

2

1 a

A





Số biến độc lập (hời quy đơn k=1)

Giá trị TB của Xi

Gọi:

 giá trị độ lệch chuẩn của hệ

số b:

27

b



2

1 i

2 i b

A

* n

X







GIẢI THÍCH KIỂM ĐỊNH STUDENT (kiểm định các hệ số ai của mô hình và 0) BẰNG ĐỒ THỊ

Phân Student

-t t

S

t5%

-t5%

- Nếu S > 5%  t=0 theo quan điểm thống kê

- Nếu S < 5%  tkhác 0 theo quan điểm thống kê

0

VÍ DỤ

TÍNH TỰ TƯƠNG QUAN

  cĩ tính TỰ TƯƠNG QUAN BẬC 2

0 , with )

t ( )

t

i 4 6 7 3

i-1 4 6 7

Chuỗi trể bậc 1 của 

Trang 6

6

Xét hồi quy tuyến tính bội bậc k:

i i , k k i

, 2 2 i

,

1

31

Biến cần

Sai số mô hình

KIỂM ĐỊNH CÁC THẶNG DƯ CÓ

BỊ TÍNH TỰ TƯƠNG QUAN 

Kiểm định D urbin- W atson, DW Thặng dư 

i i

Giá trị quan sát

Giá trị từ mô hình

CHÚ Ý

 Mô hình hồi quy tuyến tính đơn sẽ

TỐT khi t là một “NHIỄU TRẮNG” 

Nó KHÔNG CÓ tính tự tương quan

t t

1 1 0

TỰ TƯƠNG QUAN

Tính tự tương quan bậc 1 

TƯƠNG QUAN BẬC 1  MÔ HÌNH CHƯA TỐT  THÊM BIẾN

???



e

Kiểm định Durbin-Watson

Trong thực hành có thể dùng

kiểm định Durbin-Watson để

đánh giá (Tham số DW):

DW  2  Ok

 DW KHÁC giá trị 2 càng nhiều

 càng có nguy cơ tính TỰ

TƯƠNG QUAN CỦA e i

Tham số DW

DW =2  Chuỗi KHÔNG có

tính tự tương quan





 









1 i

2 i

2 1 i i

DW

Trang 7

4/11/2014 37

Xem SPSS

TKUD \ Durbin Watson Exampe 1.sav

Ví dụ : Một thí nghiệm xác định góc nội ma sát và lực dính của tầng địa chất nghiên cứu Kết quả của 12 thí nghiệm cho các ứng suất tiếp  và ứng suất pháp 

được trình bày trong bảng sau Xác định  và c trong quan hệ

c

tg 

  



kg/cm 2 ) 3.2 3.7 3.7 4.2 5.2 5.3

(kg/cm 2 ) 3.6 4.2 4.3 4.9 6.2 6.5

kg/cm 2 ) 5.5 5.8 6.1 6.6 8.3 9.0

(kg/cm 2 ) 6.6 7.0 7.5 8.1 10.4 11.4

Hệ số m/hình hqtt

SỬ DỤNG EXCEL HOẶC

SPSS ĐỂ ỨNG DỤNG TÍNH

HỜI QUY TUYẾN TÍNH

EXCEL

Trang 8

8

SPSS

 Analyze  Regression

 Linear PGS Dr Nguyễn Thống

THỐNG KÊ ỨNG DỤNG TRONG QUẢN LY & KỸ THUẬT

Chương 4: Hồi quy tuyến tính

HỜI QUY TUYẾN TÍNH BỘI

Trang 9

4/11/2014 49

Trong trường hợp số biến giải

thích >1  hồi quy tuyến tính

bội

Ví dụ: Hồi quy tuyến tính bội bậc

k





 a 0 a 1 X 1 a 2 X 2 a k X k

Y

Biến cần được giải thích

Biến giải thích

GIẢ THIẾT

Giả thiết về ngẫu nhiên

• H1 : các giá trị của xi,t được quan trắc đúng (không có sai số)

• H2 : E( t )=0; trung bình số học của các sai số là bằng 0

• H3 :

Phương sai của sai số là hằng

số với mọi t (biên độ dao động

của  quanh giá trị TB của nó

là không bị phân kỳ)

hs )

(

E  t 2   2 

H3



t

hs

 



hs

 

• H4 : các sai số thì độc lập với nhau

• H5 : Cov(xi,t , t )=0 : các sai số độc

lập với biến giải thích.

0 p if 0 ) (

E  t  t  p  

Giả thiết về cấu trúc

• H6 : các biến giải thích là độc lập

tuyến tính với nhau, điều này cho phép ma trận [X’X] nghịch đảo được

(Tính đa cộng tuyến trong hồi quy bội - Cần loại bỏ)

Trang 10

10

Giả thiết về cấu trúc

• H7 : X’X/n tiến về giới hạn hữu hạn

 n

• H8 : n>(k+1) : số lượng quan trắc phải

lớn hơn số lượng biến giải thích

XÁC ĐỊNH HỆ SỐ MÔ HÌNH a I Dùng phương pháp BPTT (xem tài liệu Kinh tế lượng- Tg Dr

Nguyễn Thống)

Gọi

  Y n , 1    X n , k  1 x   a k  1 , 1     t n , 1

Sai số mô hình

Với:

n  số quan trắc, k  số biến độc lập

) 1 k , n ( kn n

2 12

1 11

x x 1

.

x x 1

x x 1 X





















)

1

,

n

(

n

2

1

y

.

y

Y



















) 1, k ( k

1 0

a a





















Hệ số của mô hình hồi

quy cần xác định

THIẾT LẬP PHƯƠNG TRÌNH

ĐỂ XÁC ĐỊNH a i

 Min

  Y n , 1    X n , k  1 x   a k  1 , 1     t n , 1

) S (

M in

Xa Y Xa Y

M in

) (

M in

i

' t

2 t











Dùng p/p bình phương tối thiểu:

X   Ma trận chuyển vị của X

ÔN Ví dụ: Tính module của vectơ U

 

13 3

* 3 2

* 2 U U U

3 , 2 U 3

2 U

2





























Trang 11

4/11/2014 61

MA TRẬN SUY BiẾN

Ví dụ: Xét ma trận vuông sau:

Giải thích: Xét theo hàng (hoặc cột),

các vectơ là “phụ thuộc tuyến

tính”  ma trận U suy biến 

det[U] =0

0 U det 15

3

5 1













Vì S =f(a)  S cực trị (cực tiểu)  :

Chú ý:

 Y Y Y Xa a X Y a X Xa  0 a

a

S

























a Xa Y









Do đó:

[X] ’  ma trận chuyển vị [X]

      a X X X Y

a    1 

a



CHÚ Ý

Để ma trận :

nghịch đảo được 

Khi  Hiện tượng

ĐA CỘNG TUYẾN trong hồi quy tuyến tính bội

X

  X X 0 det  

ÔN Xét ma trận:

Nhận xét 2 vectơ cột là PHỤ THUỘC

TUYẾN TÍNH:

  A 1 6 2 3 0 det

6 3

2 1

]

A













! 3

1 2 6

2



























CHÚ Ý

 Khi các vectơ Xk (vectơ biến độc lập) có mang tính PHỤ THUỘC TUYẾN TÍNH với nhau

PTTT  Vectơ bất kỳ Xk là tổ hợp tuyến tính của các vectơ còn lại

  X X 0 det  

Định dạng
Số trang	20
Dung lượng	1,44 MB