Bài giảng môn CPPDB, các mô hình hồi quy (dự báo)

1.1 Khái niệm và phân loại dự báo 1.2 Các nguyên tắc dự báo 1.3 Tổng quan và tiêu chuẩn lựa chọn phương pháp dự báo 1.4 Các phương pháp đánh giá dự báo Chương 2 DỰ BÁO BẰNG PHÂN TÍCH HỒI QUY 2.1 Các khái niệm cơ bản 2.2 Mô hình hồi quy nhiều biến 2.3 Ước lượng và kiểm định giả thiết 2.4 Phân tích hồi quy và dự báo 2.5 Dự báo bằng MHHQ với biến giả

Chương 1 MỞ ĐẦU

1.1 Khái niệm và phân loại dự báo

1.2 Các nguyên tắc dự báo

1.3 Tổng quan và tiêu chuẩn lựa chọn

phương pháp dự báo1.4 Các phương pháp đánh giá dự báo

Chương 1

MỞ ĐẦU

1.1.1 Khái niệm dự báo

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

Tiếng Hy Lạp “progrosic” nghĩa là biết trước

Từ cổ xưa dự báo đã được áp dụng trong cuộcsống hàng ngày nhưng mang nặng màu sắcthần bí tôn giáo

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

Các hiện tượng tự nhiên

Các hiện tượng xã hội

Các hiện tượng về đời sống xã hội

Thời Hy lạp cổ chia đã chia thành các lĩnh vực:

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

Đến thế kỷ XVI, XVII khi các khoa học tự nhiên

đã phát triển đặc biệt là sự xuất hiện các họcthuyết của Marx thì dự báo đã từ thần bí kinhnghiệm phát triền thành bộ môn khoa học độclập

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

Ngày nay vai trò của dự báo ngày càng đượckhẳng định và tăng lên đáng kể trong mọi lĩnhvực của đời sống xã hội

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

Dự báo là sự tiên đoán có căn cứ khoa học,mang tính chất xác suất về mức độ, nội dung,các mối quan hệ, trạng thái, xu hướng pháttriển của đối tượng nghiên cứu hoặc về cáchthức và thời hạn đạt được các mục tiêu nhấtđịnh đã đề ra trong tương lai

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

Dự báo bao giờ cũng có thời gian xác định haytầm xa của dự báo Tầm xa dự báo là khoảngcách tối đa từ hiện tại đến thời điểm phát biểu

dự báo

1.1.2 Phân loại dự báo

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

- Dự báo kinh tế

- Dự báo tiến bộ khoa học công nghệ

- Dự báo dân số và nguồn nhân lực

- Dự báo xã hội

- Dáo môi trường sinh thái

a Theo đối tượng

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

- Dự báo ngắn hạn: có tầm xa dự báo từ 1 – 3năm, làm căn cứ cho việc xây dựng và điềuchỉnh các kế hoạch ngắn hạn Sai số cho phépnên < 5%

b Theo tầm xa

- Dự báo tác nghiệp: có tầm xa ngắn, có thể làgiờ, ngày, tuần, tháng đến dưới năm Sai sốthường < 3%

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

- Dự báo trung hạn: có tầm xa từ 5 - 7 năm, làmcăn cứ cho việc lập các kế hoạch trung hạn, kếhoạch 5 năm Là dự báo có vai trò rất quantrọng trong nền kinh tế quốc dân

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

- Dự báo dài hạn: có tầm xa dự báo từ 10 – 20năm, nhằm cung cấp thông tin và dữ liệu choviệc hoạch định các chiến lược phát triển kinh

tế xã hội dài hạn hay hình thành một tầm nhìn

có tính định hướng trong sự phát triển lâu dàicủa đất nước

- Ngoài ra còn có các dự báo siêu dài hạn

Chương 1

§ 1.1 Khái niệm và phân loại dự báo

- Dự báo vi mô: là các dự báo ở cấp đơn vị nhỏhay các doanh nghiệp

c Theo quy mô, cấp độ của đối tượng

- Dự báo vĩ mô: là các dự báo về các chỉ tiêulớn mang tính tổng hợp bao hàm toàn bộ nềnkinh tế, các vùng kinh tế, các ngành

1.2.1 Nguyên tắc liên hệ biện chứng

Chương 1

§ 1.2 Các nguyên tắc dự báo

Yêu cầu xem xét mọi vấn đề trong một điềukiện và hoàn cảnh cụ thể, tính đến sự phụthuộc lẫn nhau giữa các mặt của vấn đề nghiêncứu Đồng thời phải tính đến cả mối quan hệvới các lĩnh vực khác

1.2.4 Nguyên tắc mô tả tối ưu đối tượng

1.2.5 Nguyên tắc về tính tương tự của

đối tượng dự báo

Chương 1

§ 1.2 Các nguyên tắc dự báo

Đòi hỏi khi phân tích phải thường xuyên sosánh những tính chất của đối tượng dự báo vớinhững đối tượng tương tự đã biết và với các

mô hình của các đối tượng đó nhằm tìm ra đốitượng tương tự hoặc một số yếu tố của môhình để ứng dụng vào dự báo cho các đốitượng mới nhằm tiết kiệm chi phí và thời gian

1.3.1 Tổng quan về phương pháp dự báo

Chương 1

§ 1.3 Tổng quan và tiêu chuẩn

lựa chọn phương pháp dự báo

Là các phương pháp dựa trên mối liên hệ đểxây dựng mô hình dự báo

Việc xây dựng mô hình chủ yếu dựa trên 2phương pháp cơ bản là phân tích hồi quy vàchuỗi thời gian

a Nhóm các phương pháp mô hình hóa

Chương 1

§ 1.3 Tổng quan và tiêu chuẩn

lựa chọn phương pháp dự báo

Được sử dụng trong trường hợp các số liệuthực nghiệm không đáp ứng được yêu cầunghiên cứu hoặc đối tượng dự báo không thểđịnh lượng hoặc có thể định lượng nhưng rấttốn kém

b Nhóm các phương pháp chuyên gia

Chương 1

§ 1.3 Tổng quan và tiêu chuẩn

lựa chọn phương pháp dự báo

Được thực hiện trên cơ sở thu thập xử lý các ýkiến đánh giá dự báo của các chuyên gia rồiđưa ra kết quả dự báo Trong đó có sử dụngcác công cụ toán học và logic để đảm bảo sựthống nhất khách quan

Chương 1

§ 1.3 Tổng quan và tiêu chuẩn

lựa chọn phương pháp dự báo

Được tiến hành theo 1 quy trình lặp nhằm thựchiện việc xích lại gần nhau giữa các phương ánnhận được từ việc mô phỏng theo mô hình trênmáy tính với các ý kiến của các chuyên gia chotới khi đạt được sự thống nhất chấp nhận được

c Nhóm các phương pháp kết hơp

1.3.2 Tiêu chuẩn lựa chọn pp dự báo

Chương 1

§ 1.3 Tổng quan và tiêu chuẩn

lựa chọn phương pháp dự báo

Độ chính xác của dự báo

Chi phí của dự báo

Tính tổng hợp và khả năng ứng dụng của ppThời gian dự báo

Cơ sở dữ liệu để dự báo

1.4.1 Đánh giá trước dự báo

1.4.1 Đánh giá trước dự báo

Chương 1

§ 1.4 Các phương pháp đánh giá dự báo

Kiểm tra các biến tham số đại diện cho các mốiquan hệ của chúng tới đối tượng dự báo

Kiểm tra dạng hàm hoặc mô hình dự báo sửdụng

1.4.2 Đánh giá sau dự báo

Chương 1

§ 1.4 Các phương pháp đánh giá dự báo

: là giá trị thực tế ở thời điểm t

Ký hiệu

: là giá trị dự báo ở thời điểm t

: là sai số dự báo ở thời điểm t

e ME

n

t

t t

b Sai số tuyệt đối trung bình

Chương 1

§ 1.4 Các phương pháp đánh giá dự báo

n

Y Y

n

e MAE

n t

t t

n t

c Sai số bình phương trung bình

n

e MSE

n

t

t t

d Sai số phần trăm tuyệt đối trung bình

Chương 1

§ 1.4 Các phương pháp đánh giá dự báo

n Y

Y Y

n Y

e MAPE

n

t n

e Căn bậc hai của sai số bình phương trung bình

n

e MSE

RMSE

n

t

t t

Chương 1

§1 4 Các phương pháp đánh giá dự báo

f Hệ số không ngang bằng Theil’s U

2

ˆ

t t

t t

NAIVE

NEW

Y Y

Y Y

RMSE

RMSE U

: RMSE của mô hình dự báo : RMSE của mô hình dự báo thô

NAIVE

NEW

RMSE

RMSE

ˆ

t t

t t

NAIVE

NEW

Y Y

Y Y

RMSE

RMSE U

: Tốt hơn MH dự báo thô : Ngang với MH dự báo thô: Kém MH dự báo thô

n Yt Yt^ et |et| et^2 |et/Yt|

Chương 1

§ 1.5 Các bước tiến hành dự báo

Bước 1: Xác định mục tiêu dự báo (đối tượng

dự báo, khu vực dự báo và khoảng thời giancần dự báo)

Bước 2: Phân tích các yếu tố ảnh hưởng đến

đại lượng cần dự báo

Chương 1

§ 1.5 Các bước tiến hành dự báo

Bước 3: Thu thập và phân loại dữ liệu

Bước 4: Phân tích xu hướng tiến triển của đại

lượng cần dự báo

Bước 5: Xác định kĩ thuật (phương pháp) dự

báo sẽ sử dụng và tính toán các giá trị dự báo

Chương 1

§ 1.5 Các bước tiến hành dự báo

Bước 6: Kiểm tra tính phù hợp của mô hình Bước 7: Xác đinh các giá trị dự báo

Chương 2

DỰ BÁO BẰNG

PHÂN TÍCH HỒI QUY

2.1 Các khái niệm cơ bản

2.2 Mô hình hồi quy nhiều biến

2.3 Ước lượng và kiểm định giả thiết

2.4 Phân tích hồi quy và dự báo

2.5 Dự báo bằng MHHQ với biến giả

Chương 2

DỰ BÁO BẰNG PHÂN TÍCH HỒI QUY

2.1.1 Phân tích hồi quy

Chương 2

§ 2.1 Các khái niệm cơ bản

Nghiên cứu mối liên hệ phụ thuộc giữa giá trị

của một biến Y - gọi là biến phụ thuộc hay biến

được giải thích với giá trị của một hoặc nhiều

biến khác X j (j=1, ,m) – các biến này gọi là cácbiến độc lập hay biến giải thích

Ta thường giả thiết

Chương 2

§ 2.1 Các khái niệm cơ bản

Biến phụ thuộc Y là biến ngẫu nhiên, có quy

luật phân phối xác suất xác định

Các biến độc lập X j không phải là biến ngẫu nhiên, giá trị của chúng là xác định

Phân tích hồi quy giúp ta:

Chương 2

§ 2.1 Các khái niệm cơ bản

-Ước lượng giá trị của biến phụ thuộc Y khi đã biết giá trị của (các) biến độc lập Xj

- Kiểm định giả thiết về sự phụ thuộc

- Dự báo giá trị trung bình hoặc cá biệt của biến phụ thuộc khi đã biết giá trị của (các) biến độc lập

2.1.2 Mô hình hồi quy tổng thể và mô hình hồi quy mẫu

) /

Nếu (2.1) biểu diễn mối quan hệ giữa biến phụ

thuộc Y và một biến giải thích X thì (2.1) được

gọi là mô hình hồi quy đơn hay mô hình hồi quy

2 biến

Chương 2

§ 2.1 Các khái niệm cơ bản

Nếu số biến giải thích nhiều hơn 1 thì (2.1)

được gọi là mô hình hồi quy bội (hồi quy nhiều biến)

Chương 2

§ 2.1 Các khái niệm cơ bản

( 2.2 )

là ước lượng của E(Y / X ji )

là ước lượng của f

Mô hình hồi quy mẫu (hàm hồi quy mẫu - SRF)

có thể được biểu diễn như sau

) (

2.1.3 Sai số ngẫu nhiên

2.1.3 Sai số ngẫu nhiên

Y  ( ) 

2.2.1 Mô hình hồi quy nhiều biến

Chương 2

§ 2.2 Mô hình hồi quy nhiều biến và

phương pháp bình phương nhỏ nhất

i ki

k i

Mô hình hồi quy mẫu xây dựng dựa trên mẫu ngẫu nhiên kích thước n

i i

( j k



k k

X X

X

X X

X

X X

X X

1

2 32

22

1 31

Tương tự, nếu ta ký hiệu

Y

Y Y

ˆ

Các giả thiết cơ bản của MHHQ nhiều biến

)

()

.(

2

j i

j

i U

U

E i j

)(

0)

/(

)

k i

i

Y  1  2 2  3 3    

ki k

i i

ˆ ˆ

1 2

1 2

1

n n

Y Y

Y

Y Y

e e e

Theo phương pháp bình phương nhỏ nhất, khi xây dựng hàm hồi quy mẫu, các hệ số hồi quy mẫu phải được xác định sao cho tổng bình phương các phần dư đạt giá trị nhỏ nhất, tức là:

e i  T

0 ˆ

)

( min

T i

ˆ X T X 1 X T Y





Công thức (2.3) là công thức xác định hệ số hồi quy mẫu theo phương pháp bình phương nhỏ nhất và các ước lượng được xác định theo công thức (2.3) được gọi là các ước lượng bình phương nhỏ nhất

Ma trận XTX được xác định như sau:

k k

kn k

k

n

X X

X X

X X

X X

X

X X

1 1

X X

2

2 22

1 21

2 1

2 22

21 T

2

2 3

2

2 2 2

3 2

ki i

ki ki

ki i i

i i

i

ki i

i

X X

X X

X X

X X X

X X

X

X X

X n

i i i

n kn

k k

n

X Y

X Y Y

Y

Y Y

X X

X

X X

1 1

Y

1

2 1

2 22

21 T

Nghiên cứu mối quan hệ phụ thuộc giữa doanh

số bán ra với chi phí dành cho quảng cáo và

giá bán, người ta thu thập được các số liệu sau đây tại 10 cửa hàng cùng kinh doanh một loại mặt hàng:

VÍ DỤ 2.1

Đáp số:

1082 12746 7766

  1

67740 2106 5964

2106 81 162 1944

: Khi giá bán không đổi, chi phí dành cho quảng cáo tăng lên 1 triệu đồng, thì doanh số bán ra trung bình của cửa hàng tăng lên 6.08333 triệu đồng.

: Khi chi phí dành cho quảng cáo không đổi, giá bán tăng lên 1ngàn đồng/ 1 đv sản phẩm, thì doanh số bán ra trung bình của

Ý nghĩa của các hệ số hồi quy

Các tính chất của ước lượng BPNN

1 Đường hồi quy mẫu đi qua điểm trung bình mẫu , tức là:

, (Y X 2 X k

2 Giá trị trung bình của các giá trị được xác định theo hàm hồi quy mẫu bằng giá trị trung bình của biến phụ thuộc, tức là:

3 Tổng các phần dư của hàm hồi quy mẫu bằng 0:

4 Các phần dư ei không tương quan với :

5 Các phần dư ei không tương quan với :

X



6 (Định lý Gauss – Markov): Với các giả thiết

của mô hình hồi quy tuyến tính cổ điển thì các

ước lượng bình phương nhỏ nhất là các ước lượng tuyến tính, không chệch và có phương sai nhỏ nhất trong lớp các ước lượng tuyến tính,



Xét hàm hồi quy tổng thể và hàm hồi quy mẫu

Chương 2

§ 2.3 Khoảng tin cậy và kiểm định giả

thiết về các hệ số hồi quy

i ki

k i

i

Y  1  2 2  3 3    

ki k

i i

Yˆ  ˆ1  ˆ2 2  ˆ3 3   ˆ

X X

Chương 2

§ 2.3 Khoảng tin cậy và kiểm định giả

thiết về các hệ số hồi quy

Trong thực hành khi sử dụng công thức này, do phương sai chưa biết, nên người ta thường

thay bằng ước lượng không chệch của nó là:

k n

Y e

2.3.1 Khoảng tin cậy của các hệ số hồi quy

Chương 2

§ 2.3 Khoảng tin cậy và kiểm định giả

thiết về các hệ số hồi quy

Do ta chưa biết mà phải thay bằng ước lượng không chệch của nó là , nên

) , 1 (

) (

~ ) ˆ (

ˆ

k j

k n

T se

T

j

j j

Chương 2

§ 2.3 Khoảng tin cậy và kiểm định giả

thiết về các hệ số hồi quy

) , 1 (

) (

~ ) ˆ (

ˆ

k j

k n

T se

T

j

j j

( )

ˆ (

ˆ

2

k n

t se

P

j

j j

2 2

j j

j j

2 2

j j

j

2.3.2 Kiểm định giả thiết về các hệ số hồi quy

Chương 2

§ 2.3 Khoảng tin cậy và kiểm định giả

thiết về các hệ số hồi quy

Giả sử với mức ý nghĩa  cho trước ta cần kiểm định giả thiết:

( :

:

*

*

* 1

* 0

j j

j j

j j

j j

2.3.2 Kiểm định giả thiết về các hệ số hồi quy

Chương 2

§ 2.3 Khoảng tin cậy và kiểm định giả

thiết về các hệ số hồi quy

Ta xây dựng tiêu chuẩn kiểm định

) ˆ (

j

j j

Chương 2

§ 2.3 Khoảng tin cậy và kiểm định giả

thiết về các hệ số hồi quy

k i

i

ki k

i i

Yˆ  ˆ1  ˆ2 2  ˆ3 3   ˆ

Tương tự trường hợp hồi quy 2 biến ta có hệ thức sau:

2 T

T 2

Y n Y

Y

Y n Y

X

ˆ R

2 2

2 1

Y n Y

Y n X

Y X

Y

Y R

i

ki i

k i

i i

1 0  R2  1

- Nếu R2 = 1, hàm hồi quy có thể coi là hoàn hảo

- Nếu R2 = 0, hàm hồi quy đưa ra là không phù hợp

Vì thế R2 được dùng làm thước đo mức độ phù hợp của hàm hồi quy

2 R2 là hàm không giảm, phụ thuộc vào số biến

giải thích có trong mô hình

Chương 3

§ 2.4 Phân tích phương sai và kiểm định

giả thiết đồng thời

2.4.2 Kiểm định giả thiết đồng thời

:

:

k j

sè hÖ mét nhÊt

Ýt H

H

j

k

20

01

3 2

0 :

2 1

2 0

R H

R H

Ta xây dựng tiêu chuẩn kiểm định:

R

R F

Xét hàm hồi quy tổng thể và hàm hồi quy mẫu

hoặc ở dạng ma trận

Chương 2

§ 2.5 Phân tích hồi quy và dự báo

i ki

k i

i

ki k

i i

Bài toán đặt ra: với các giá trị cho trước của biến

giải thích X 2 =X 20 , X 3 =X 30 , , X k =X k0 hoặc có thể

ký hiệu

cần dự báo giá trị trung bình E(Y/X 0 ) hoặc giá trị

cá biệt Y=Y 0 khi X=X 0

2.5.1 Dự báo giá trị trung bình

Chương 2

§ 2.5 Phân tích hồi quy và dự báo

0 30

3 20

2 1

0

ˆ

k k

T

X X

X X

Y           

Với độ tin cậy  = 1 –  cần dự báo E(Y/X 0 )

Ước lượng điểm của E(Y/X 0 ) là:

Do chưa biết nên thống kê

~)

ˆ(

)/

(ˆ

0

0 0

k n

T Y

se

X Y

t 

ta tìm giá trị phân vị sao cho:

T  t /2(n  k) 1  

P

( )

ˆ (

) /

(

ˆ

2 / 0

0

Y se

X Y

E

Y P

Chương 2

§ 2.5 Phân tích hồi quy và dự báo

0

1 0

2 0

0

ˆ(Y Var Y X X X X

Trong đó

2.5.2 Dự báo giá trị cá biệt

Chương 2

§ 2.5 Phân tích hồi quy và dự báo

0 30

3 20

2 1

0

ˆ

k k

T

X X

X X

Y           

Với độ tin cậy  cần dự báo giá trị Y=Y 0 khi X=X 0 Ước lượng điểm của Y 0 vẫn là:

Hoàn toàn tương tự ta xây dựng thống kê

Chương 2

§ 2.5 Phân tích hồi quy và dự báo

)(

~)

ˆ(

ˆ

0 0

0

Y Y

Bằng phép biến đổi tương đương ta cũng suy

ra được khoảng tin cậy của Y 0 là

Chương 2

§ 2.5 Phân tích hồi quy và dự báo

2 0

)

ˆ(Y0 Y0 Var Y0 Y0

Trong đó

Chương 2

§ 2.5 Phân tích hồi quy và dự báo

Ví dụ: Xét tiếp ví dụ 2 Với độ tin cậy  = 0,98 hãy dự báo doanh số bán ra trung bình trong một tháng của các cửa hàng có chi phí dành cho quảng cáo là 10 triệu đồng/ tháng và giá bán là 8 ngàn đồng/ đ.vị

Chương 2

§ 2.5 Phân tích hồi quy và dự báo

Xét tiếp ví dụ 2 Với độ tin cậy  = 0,98 hãy dự báo doanh số bán ra trong một tháng của cửa hàng có chi phí dành cho quảng cáo là 10 triệu đồng/ tháng và giá bán là 8 ngàn đồng/ đ.vị

2.6.1 Khái niệm về biến giả

Chương 2

§ 2.6 Mô hình hồi quy với biến giả

Biến chất lượng: Biểu thị những thuộc tính

nào đó (ví dụ: giới tính, nghề nghiệp…)

Biến số lượng: Giá trị của các biến đó được

biểu thị bằng số (ví dụ: thu nhập, doanh số…)

Chương 2

§ 2.6 Mô hình hồi quy với biến giả

Để biểu thị mức độ ảnh hưởng của các biếnchất lượng tới biến phụ thuộc, ta cần lượng hóacác tiêu thức, thuộc tính này bằng cách sửdụng biến giả

Chương 2

§ 2.6 Mô hình hồi quy với biến giả

VD: Để biểu thị giới tính, ta sử dụng biến giả Z

2.6.2 MHHQ với biến chất lượng có 2 phạm trù

Chương 2

§ 2.6 Mô hình hồi quy với biến giả

Giả sử một xí nghiệp sản xuất có thể áp dụng 2công nghệ sản xuất A và B, năng suất của mỗicông nghệ là ĐLNN phân phối theo quy luậtchuẩn có phương sai bằng nhau, nhưng kỳvọng toán có thể khác nhau

Chương 2

§ 2.6 Mô hình hồi quy với biến giả

)1.4

Yi: năng suất của xí nghiệp

Ui: sai số ngẫu nhiên

Zi: biến giả biểu thị công nghệ sản xuất được

áp dụng và có thể quy ước:

- Zi = 0 công nghệ sản xuất A

- Zi = 1 công nghệ sản xuất B