2.1.1 Phân tích hồi quyChương 2 § 2.1 Các khái niệm cơ bản Nghiên cứu mối liên hệ phụ thuộc giữa giá trị của một biến Y - gọi là biến phụ thuộc hay biến được giải thích với giá trị của m
Trang 1Chương 2
DỰ BÁO BẰNG
PHÂN TÍCH HỒI QUY
Trang 22.1 Các khái niệm cơ bản
2.2 Mô hình hồi quy nhiều biến
2.3 Ước lượng và kiểm định giả thiết
2.4 Phân tích hồi quy và dự báo
2.5 Dự báo bằng MHHQ với biến giả
Chương 2
DỰ BÁO BẰNG PHÂN TÍCH HỒI QUY
Trang 32.1.1 Phân tích hồi quy
Chương 2
§ 2.1 Các khái niệm cơ bản
Nghiên cứu mối liên hệ phụ thuộc giữa giá trị
của một biến Y - gọi là biến phụ thuộc hay biến
được giải thích với giá trị của một hoặc nhiều
biến khác X j (j=1, ,m) – các biến này gọi là cácbiến độc lập hay biến giải thích
Trang 4Ta thường giả thiết
Chương 2
§ 2.1 Các khái niệm cơ bản
Biến phụ thuộc Y là biến ngẫu nhiên, có quy
luật phân phối xác suất xác định
Các biến độc lập X j không phải là biến ngẫu nhiên, giá trị của chúng là xác định
Trang 5Phân tích hồi quy giúp ta:
Chương 2
§ 2.1 Các khái niệm cơ bản
-Ước lượng giá trị của biến phụ thuộc Y khi đã biết giá trị của (các) biến độc lập Xj
- Kiểm định giả thiết về sự phụ thuộc
- Dự báo giá trị trung bình hoặc cá biệt của biến phụ thuộc khi đã biết giá trị của (các) biến độc lập
Trang 62.1.2 Mô hình hồi quy tổng thể và mô hình hồi quy mẫu
) /
( Y X ji f X ji
Trang 7Nếu (2.1) biểu diễn mối quan hệ giữa biến phụ
thuộc Y và một biến giải thích X thì (2.1) được
gọi là mô hình hồi quy đơn hay mô hình hồi quy
2 biến
Chương 2
§ 2.1 Các khái niệm cơ bản
Nếu số biến giải thích nhiều hơn 1 thì (2.1)
được gọi là mô hình hồi quy bội (hồi quy nhiều biến)
Trang 8Chương 2
§ 2.1 Các khái niệm cơ bản
( 2.2 )
là ước lượng của E(Y / X ji )
là ước lượng của f
Mô hình hồi quy mẫu (hàm hồi quy mẫu - SRF)
có thể được biểu diễn như sau
) (
Trang 92.1.3 Sai số ngẫu nhiên
Trang 102.1.3 Sai số ngẫu nhiên
Trang 112.2.1 Mô hình hồi quy nhiều biến
Chương 2
§ 2.2 Mô hình hồi quy nhiều biến và
phương pháp bình phương nhỏ nhất
i ki
k i
Trang 12Mô hình hồi quy mẫu xây dựng dựa trên mẫu ngẫu nhiên kích thước n
i i
Yˆ ˆ ˆ ˆ ˆ
3 3 2
( j k
Trang 13k k
X X
X
X X
X
X X
X X
1
2 32
22
1 31
21
U
X Y
Trang 14Tương tự, nếu ta ký hiệu
Y
Y Y
ˆ
Trang 15Các giả thiết cơ bản của MHHQ nhiều biến
Trang 16)
()
.(
2
j i
j
i U
U
E i j
)(
0)
/(
)
Trang 17X độc lập tuyến tính
Giả thiết 5. ~ ( 0 , 2) ( )
i N
Trang 18k i
i
Y 1 2 2 3 3
ki k
i i
Yˆ ˆ ˆ ˆ ˆ
3 3 2
Trang 19ˆ ˆ
1 2
1 2
1
n n
Y Y
Y
Y Y
e e e
Trang 20Theo phương pháp bình phương nhỏ nhất, khi xây dựng hàm hồi quy mẫu, các hệ số hồi quy mẫu phải được xác định sao cho tổng bình phương các phần dư đạt giá trị nhỏ nhất, tức là:
Trang 21e i T
2
0 ˆ
)
( min
X T T
Trang 22Công thức (2.3) là công thức xác định hệ số hồi quy mẫu theo phương pháp bình phương nhỏ nhất và các ước lượng được xác định theo công thức (2.3) được gọi là các ước lượng bình phương nhỏ nhất
Trang 23Ma trận XTX được xác định như sau:
k k
kn k
k
n
X X
X X
X X
X X
X
X X
1 1
X X
2
2 22
1 21
2 1
2 22
21 T
2
2 3
2
2 2 2
3 2
ki i
ki ki
ki i i
i i
i
ki i
i
X X
X X
X X
X X X
X X
X
X X
X n
Trang 24i i i
n kn
k k
n
X Y
X Y Y
Y
Y Y
X X
X
X X
1 1
Y
1
2 1
2 22
21 T
Trang 25Nghiên cứu mối quan hệ phụ thuộc giữa doanh
số bán ra với chi phí dành cho quảng cáo và
giá bán, người ta thu thập được các số liệu sau đây tại 10 cửa hàng cùng kinh doanh một loại mặt hàng:
VÍ DỤ 2.1
Yi 84 90 92 96 100 108 120 126 130 136
Trang 27Đáp số:
1082 12746 7766
Trang 282106 81 162 12746 6 08333 1944
Trang 29: Khi giá bán không đổi, chi phí dành cho quảng cáo tăng lên 1 triệu đồng, thì doanh số bán ra trung bình của cửa hàng tăng lên 6.08333 triệu đồng.
: Khi chi phí dành cho quảng cáo không đổi, giá bán tăng lên 1ngàn đồng/ 1 đv sản phẩm, thì doanh số bán ra trung bình của
Ý nghĩa của các hệ số hồi quy
Trang 30Các tính chất của ước lượng BPNN
1 Đường hồi quy mẫu đi qua điểm trung bình mẫu , tức là:
, (Y X 2 X k
Trang 312 Giá trị trung bình của các giá trị được xác định theo hàm hồi quy mẫu bằng giá trị trung bình của biến phụ thuộc, tức là:
3 Tổng các phần dư của hàm hồi quy mẫu bằng 0:
Trang 324 Các phần dư ei không tương quan với :
5 Các phần dư ei không tương quan với :
X
Trang 336 (Định lý Gauss – Markov): Với các giả thiết
của mô hình hồi quy tuyến tính cổ điển thì các
ước lượng bình phương nhỏ nhất là các ước lượng tuyến tính, không chệch và có phương sai nhỏ nhất trong lớp các ước lượng tuyến tính,
j
Trang 34Xét hàm hồi quy tổng thể và hàm hồi quy mẫu
Chương 2
§ 2.3 Khoảng tin cậy và kiểm định giả
thiết về các hệ số hồi quy
i ki
k i
i
Y 1 2 2 3 3
ki k
i i
Yˆ ˆ ˆ ˆ ˆ
3 3 2
2
Trang 35X X
Var
2
)
ˆ (
*
) (X T X
Trang 36Chương 2
§ 2.3 Khoảng tin cậy và kiểm định giả
thiết về các hệ số hồi quy
Trong thực hành khi sử dụng công thức này, do phương sai chưa biết, nên người ta thường
thay bằng ước lượng không chệch của nó là:
k n
e i
2 2
ˆ
2
Trang 37Y e
1
2 2
i
e
Trang 382.3.1 Khoảng tin cậy của các hệ số hồi quy
Chương 3
§ 2.3 Khoảng tin cậy và kiểm định giả
thiết về các hệ số hồi quy
Do ta chưa biết mà phải thay bằng ước lượng không chệch của nó là , nên
) , 1 (
) (
~ )
ˆ (
ˆ
k j
k n
T se
Trang 39Chương 3
§ 2.3 Khoảng tin cậy và kiểm định giả
thiết về các hệ số hồi quy
) , 1 (
) (
~ )
ˆ (
ˆ
k j
k n
T se
( )
ˆ (
ˆ
2
k n
t se
P
j
j j
j j
j j
j j
j
j t n k se t n k se
Trang 402.3.2 Kiểm định giả thiết về các hệ số hồi quy
Chương 3
§ 2.3 Khoảng tin cậy và kiểm định giả
thiết về các hệ số hồi quy
( :
:
*
*
* 1
* 0
j j
j j
j j
j j
Trang 412.3.2 Kiểm định giả thiết về các hệ số hồi quy
Chương 3
§ 2.3 Khoảng tin cậy và kiểm định giả
thiết về các hệ số hồi quy
Ta xây dựng tiêu chuẩn kiểm định
)
ˆ (
j
j j
Trang 42Chương 3
§ 2.3 Khoảng tin cậy và kiểm định giả
thiết về các hệ số hồi quy
Trang 43k i
i
Y 1 2 2 3 3
ki k
i i
Yˆ ˆ ˆ ˆ ˆ
3 3 2
2
Trang 44Tương tự trường hợp hồi quy 2 biến ta có hệ thức sau:
ˆ
ˆ (
.
TSS ESS RSS
Trang 462 T
T 2
Y n Y
Y
Y n Y
X
ˆ R
2 2
2 1
Y n Y
Y n X
Y X
Y
Y R
i
ki i k
i i
Trang 471 0 R2 1
- Nếu R2 = 1, hàm hồi quy có thể coi là hoàn hảo
- Nếu R2 = 0, hàm hồi quy đưa ra là không phù hợp
Vì thế R2 được dùng làm thước đo mức độ phù hợp của hàm hồi quy
2 R2 là hàm không giảm, phụ thuộc vào số biến
giải thích có trong mô hình
Chương 3
§ 2.4 Phân tích phương sai và kiểm định
giả thiết đồng thời
Trang 482.4.2 Kiểm định giả thiết đồng thời
:
:
k j
sè hÖ mét
nhÊt Ýt
0
1
3 2
0 :
2 1
2 0
R H
R H
Trang 49Ta xây dựng tiêu chuẩn kiểm định:
R
R F
Trang 50Xét hàm hồi quy tổng thể và hàm hồi quy mẫu
hoặc ở dạng ma trận
Chương 2
§ 2.5 Phân tích hồi quy và dự báo
i ki
k i
i
Y 1 2 2 3 3
ki k
i i
Yˆ ˆ ˆ ˆ ˆ
3 3 2
Yˆ
Trang 51Bài toán đặt ra: với các giá trị cho trước của biến
giải thích X 2 =X 20 , X 3 =X 30 , , X k =X k0 hoặc có thể
ký hiệu
cần dự báo giá trị trung bình E(Y/X 0 ) hoặc giá trị
cá biệt Y=Y 0 khi X=X 0
Trang 52
2.5.1 Dự báo giá trị trung bình
Chương 2
§ 2.5 Phân tích hồi quy và dự báo
0 30
3 20
2 1
0
ˆ
k k
T
X X
X X
Với độ tin cậy = 1 – cần dự báo E(Y/X 0 )
Ước lượng điểm của E(Y/X 0 ) là:
Trang 53Do chưa biết nên thống kê
~)
ˆ(
)/
(ˆ
0
0 0
k n
T Y
se
X Y
Trang 54( )
ˆ (
) /
(
ˆ
2 / 0
0 0
k n
t Y
se
X Y
E
Y P
ˆ ( ). ( ˆ ) ( / ) ˆ ( ). ( ˆ )1
0 2
/ 0
0 0
2 /
/ 0
0 2
Trang 55Chương 2
§ 2.5 Phân tích hồi quy và dự báo
0
1 0
2 0
0
ˆ(Y Var Y X X X X
Trong đó
Trang 562.5.2 Dự báo giá trị cá biệt
Chương 2
§ 2.5 Phân tích hồi quy và dự báo
0 30
3 20
2 1
0
ˆ
k k
T
X X
X X
Với độ tin cậy cần dự báo giá trị Y=Y 0 khi X=X 0 Ước lượng điểm của Y 0 vẫn là:
Trang 57Hoàn toàn tương tự ta xây dựng thống kê
Chương 2
§ 2.5 Phân tích hồi quy và dự báo
)(
~)
ˆ(
ˆ
0 0
0
Y Y
2 / 0
0 0
2 /
Bằng phép biến đổi tương đương ta cũng suy
Trang 58Chương 2
§ 2.5 Phân tích hồi quy và dự báo
2 0
)
ˆ(Y0 Y0 Var Y0 Y0
Trong đó
Trang 59Chương 2
§ 2.5 Phân tích hồi quy và dự báo
Ví dụ: Xét tiếp ví dụ 2 Với độ tin cậy = 0,98 hãy dự báo doanh số bán ra trung bình trong một tháng của các cửa hàng có chi phí dành cho quảng cáo là 10 triệu đồng/ tháng và giá bán là 8 ngàn đồng/ đ.vị
Trang 60Chương 3
§ 2.5 Phân tích hồi quy và dự báo
Xét tiếp ví dụ 2 Với độ tin cậy = 0,98 hãy dự báo doanh số bán ra trong một tháng của cửa hàng có chi phí dành cho quảng cáo là 10 triệu đồng/ tháng và giá bán là 8 ngàn đồng/ đ.vị