Chuong IV- Mo hinh hoi qui boi - tiep theo potx

Các giả thiết của mô hình hồi qui k biến Giả thiết 1: Các biến độc lập X1, X2,…Xk đã cho và không ngẫu nhiên.. Nguyễn Đình Thơng Theo phương pháp bình phương nhỏ nhất, các tham số của

Nguyễn Đình ThôngHỒI QUY TUYẾN TÍNH BỘI

(TIẾP THEO)

Nguyễn Đình Thơng

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

Khái quát hóa hàm hồi qui tổng thể (PFR) hai biến, chúng ta có thể viết PRF k biến như sau:

Hay: Y i = β1 + β2 X 2i + β3 X 3i + + βk X ki + U i

E(Y/ X 2 ,X 3 , ,X k )= β1 + β2 X 2 + β3 X 3 + + βk X k

Trong đó: Y là biến phụ thuộc, X 2 , X 3 , ,X k là các biến giải thích (hay biến hồi qui độc lập), U là số hạng nhiễu ngẫu nhiên, và i là quan sát thứ i.

1 Hàm hồi qui tổng thể (PRF)

Nguyễn Đình Thơng

1 Hàm hồi qui tổng thể (PRF)

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

Ký hiệu:

1 2 (nx1)

;

Y

n

Y Y Y

k

β β

; β

n

U U U

k k

L

Nguyễn Đình Thơng

Y = X β +U

1 Hàm hồi qui tổng thể (PRF)

Khi đó hệ (I) được viết dưới dạng ma trận như sau:

Nguyễn Đình Thơng

2 Các giả thiết của mô hình hồi qui k biến

Giả thiết 1: Các biến độc lập X1, X2,…Xk đã cho và không ngẫu nhiên

Gỉa thiết 2: Các sai số ngẫu nhiên Ui có giá trị trung bình bằng 0 và có phương sai không thay đổi

Giả thiết 3: Không có sự tương quan giữa các sai số Ui

Giả thiết 4: không có hiện tượng đa cộng tuyến giữa

các biến độc lập X2, X3,…Xk

Giả thiết 5: không có sự tương quan giữa các biến độc

lập X2, X3,…Xk với các sai số ngẫu nhiên Ui

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

β β β

1 2 (nx1) ;

n

e e e

Nguyễn Đình Thơng

 Theo phương pháp bình phương nhỏ nhất, các tham

số của mơ hình được chọn sao cho tổng bình phương của các phần dư (RSS) nhỏ nhất, biểu diễn bằng ký hiệu tốn học:

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

3 Ước lượng các tham số mô hình - Phương pháp OLS

Nguyễn Đình Thông

ˆ , , ,

ˆ , , ,

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

3 Ước lượng các tham số mô hình - Phương pháp OLS

k k

Nguyễn Đình Thơng

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

3 Ước lượng các tham số mô hình - Phương pháp OLS

Cách xác định ma trận XTX và XTY như sau:

L

1 2

n

Y Y Y

1

n i i n

i i i

n

ki i i

Nguyễn Đình Thơng

Bây giờ ta xác định ma trận (XTX)-1như sau:

Giả sử ta có ma trận sau:

Nguyễn Đình Thông

 Các bước tìm ma trận nghịch đảo

 Bước 1: Tính định thức của ma trận A

 Bước 2: Lập ma trận chuyển vị A T của A

 Bước 3: Lập ma trận liên hợp của A được định

nghĩa như sau

 với A T = (A T ij) là phần bù đại số của phần tử ở

hàng i, cột j trong ma trận A T

 Bước 4: Tính ma trận

Nguyễn Đình Thơng

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

3 Ước lượng các tham số mô hình - Phương pháp OLS

Bây giờ ta xác định ma trận (XTX)-1như sau:

Nguyễn Đình Thông

Ví dụ minh họa

Bảng dưới đây cho các số liệu về lượng hàng bàn được của một loại hàng hóa (Y), thu nhập của người tiêu dùng (X 2 ) và giá bán của loại hàng hóa này (X 3 ) Tìm hàm hồi quy tuyến tính

Nguyễn Đình Thông

1

39.908 3816 3256 165 1

Nguyễn Đình Thơng

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

4.Hệ số xác định mô hình (R 2 ) và hệ số xác định mô hình đã hiệu chỉnh (R 2 )

Hệ số xác định mơ hình R 2 có thể được tính bằng một trong hai công thức sau:

ESS R

2

0 ≤ R ≤ 1

hình đã hiệu chỉnh (R 2 )

Nguyễn Đình Thơng

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

4.Hệ số xác định mô hình (R 2 ) và hệ số xác định mô hình đã hiệu chỉnh (R 2 )

 Hệ số xác định bội hiệu chỉnh R 2 được tính theo công thức sau:

 R 2 có các tính chất sau:

 Nếu k>1 thì R 2  R 2  1, điều này có nghĩa là nếu số biến giải thích tăng lên thì R 2 tăng chậm hơn

R 2

 Nếu k>1 thì R 2  R 2  1, điều này có nghĩa là nếu số biến giải thích tăng lên thì R 2 tăng chậm hơn

R 2

+ Chừng nào R 2 còn tăng.

+ Hệ số hồi qui của biến mới đưa vào mô hình

phải khác không có ý nghĩa về mặt thống kê.

Nguyễn Đình Thơng

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

Khi nào thì biết được hệ số hồi qui của biến mới đưa vào khác không có ý nghĩa thống kê? Khi mà giả thiết:

H0 : k = 0

H1 : k  0

bị bác bỏ, trong đó k là hệ số của biến Xk mà chúng ta định đưa vào mô hình

Nó được xác định theo công thức sau:

Ma trận hiệp phương sai của β có dạng sau:

Nguyễn Đình Thơng

5.Ma trận hiệp phương sai của βÂ

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

Ma tr n (Xậ TX)-1 là ma trận nghịch đảo của ma trận XTX, σ2 là phương sai của sai số ngẫu nhiên Ui, trong thực tế thường chúng ta không biết, vì vậy ta phải dùng ước lượng không chệch của nó là:

2 2

Nguyễn Đình Thơng

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

6 Khoảng tin cậy cho các hệ số hồi qui βj (j=1,k)

Trong thực tế ta thường sử dụng phân phối

t sau để tìm khoảng tin cậy cho các .β j

ˆ ˆ

- Bước 2: Tính trị thống kê kiểm định

7.1 Kiểm định ý nghĩa các hệ số hồi quy βj : Kiểm định t

Phương pháp kiểm định như sau:

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

7 Kiểm định giả thiết

Nguyễn Đình Thơng

+ Wα = −∞ − ; tα ∪ tα ; +∞

- Bước 3: Lập miền bác bỏ, tra bảng t-Student với bậc tự do

(n-k), tìm tα/2 (đối với kiểm định 2 phía) và tα (đối với kiểm

Nguyễn Đình Thơng

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

Qui tắc quyết định như sau:

- Nếu : Kết luận: Bác bỏ gt Ht ∈ Wα 0

- Nếu : Kết luận: Chưa có cơ sở

bác bỏ gt Ht ∉0W α

7.1 Kiểm định ý nghĩa các hệ số hồi quy βj : Kiểm định t

Nguyễn Đình Thông

2 0

2 1

: R 0 : R 0

H H

Nguyễn Đình Thơng

Nguyên tắc ra quyết định: Bác bỏ giả thiết khơng khi

Hoặc giá trị p-value của thống kê F nhỏ hơn mức ý

nghĩa cho trước (thường nhỏ hơn 10%)

F ( 1, )

c

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

Tra bảng tìm F(k-1, n-k) với mức ý nghĩa α

7.2 Kiểm định về R 2 (ki m nh gi thi t ể đị ả ế đồ ng

th i ờ )

7 Kiểm định giả thiết

Nguyễn Đình Thơng

8.1 Dự báo giá trị trung bình

0 2 0

Nguyễn Đình Thơng

8.1 Dự báo giá trị trung bình

8 Ưùng dụng phân tích hồi qui – vấn đề dự báo

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

Nguyễn Đình Thơng

8.1 Dự báo giá trị trung bình

8 Ưùng dụng phân tích hồi qui – vấn đề dự báo

Với độ tin cậy là 1- thì khoảng tin cậy cho giá trị dự báo trung bình sẽ là:

Nguyễn Đình Thơng

8.2 Dự báo giá trị cá bi t ệ

8 Ưùng dụng phân tích hồi qui – vấn đề dự báo

III MÔ HÌNH HỒI QUI TUYẾN TÍNH K BIẾN

0 2 0

Nguyễn Đình Thơng

8.2 Dự báo giá trị cá bi t ệ

8 Ưùng dụng phân tích hồi qui – vấn đề dự báo