Bài giảng Thống kê trong kinh tế và kinh doanh: Chương 6 Phân tích hồi quy và tương quan cung cấp cho người học những kiến thức như: Những vấn đề chung về phân tích hồi quy và tương quan; Phân tích hồi quy tuyến tính đơn; Phân tích hồi quy tuyến tính bội. Mời các bạn cùng tham khảo!
Trang 1NHỮNG VẤN ĐỀ
CHUNG VỀ
PHÂN TÍCH
HỒI QUY VÀ
TƯƠNG QUAN
II
PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN
III
PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI
CHƯƠNG VI: PHÂN TÍCH HỒI QUY VÀ
TƯƠNG QUAN
I Những vấn đề chung về phân tích hồi
Mối liên hệ của các hiện tượng kinh tế xã hội
1
Nhiệm vụ của phân tích hồi quy và tương quan
2
Trang 21 Mối liên hệ của các hiện tượng kinh tế xã hội
Liên hệ hàm số
Liên hệ tương quan
chặt chẽ
cá biệt
Trang 3Liên hệ tương quan
• Khái niệm: liên hệ tương quan là mối liên hệ không
hoàn toàn chặt chẽ.
đơn vị cá biệt mà phải quan sát số lớn
2 Nhiệm vụ của phân tích hồi quy và tương quan
Xây dựng phương trình hồi quy.
Đánh giá trình độ chặt chẽ của mối liên hệ
Trang 4II Hồi quy – tương quan đơn
Xây dựng phương trình hồi quy
1
Đánh giá phương trình hồi quy
2
1 Phương trình hồi quy
Đường hồi quy lý thuyết: là đường điều chỉnh bù trừ các chênh
lệch ngẫu nhiên nêu ra mối liên hệ cơ bản của hiện tượng
Phương trình hồi quy: là phương trình xác định vị trí của đường
hồi quy lý thuyết
Đường hồi quy lý thuyết
x
y
Trang 5Phương trình hồi quy tổng thể
i i
Y 0 1
Tham số tự do (hệ số chặn)
Biến độc lập Nguyên nhân Biến giải thích Công cụ dự báo Ngoại sinh Tác nhân kích thích
Hệ số hồi quy (hệ số góc)
Biến phụ thuộc Kết quả Biến được giải thích
Dự báo Nội sinh Câu trả lời
Ý nghĩa các tham số
• β0: phản ánh ảnh hưởng của các nguyên nhân khác (ngoài nguyên nhân x) tới kết quả y
• β1: phản ánh ảnh hưởng trực tiếp của nguyên nhân x tới kết quả y Cụ thể, khi x tăng thêm 1 đơn vị thì y thay đổi bình quân là β1 đơn vị
β1 > 0: x và y có mối liên hệ thuận (cùng chiều)
β1 < 0: x và y có mối liên hệ nghịch (ngược chiều)
Trang 6Phương trình hồi quy mẫu
Ước lượng của tham số β0 Ước lượng của tham số β1
Với một mẫu ngẫu nhiên kích thước n, chúng ta có phương
trình hồi quy mẫu như sau:
i
y ˆ 0 1
Giả thiết OLS
+ Giả thiết 1: Mô hình được ước lượng trên cơ sở mẫu ngẫu nhiên
+ Giả thiết 2: Kỳ vọng toán của sai số bằng không
+ Giả thiết 3: Sai số tuân theo quy luật phân bố chuẩn
+ Giả thiết 4: Phương sai của sai số bằng nhau (không đổi)
+ Giả thiết 5: Không có tương quan giữa các phần dư (không có tự tương quan)
+ Giả thiết 6: Giữa các biến độc lập không có tương quan tuyến tính hoàn hảo (đa cộng tuyến) - Đối với hồi quy bội.
Trang 7Nội dung phương pháp OLS
Tìm các tham số sao cho tổng bình phương các chênh lệch giữa giá trị thực tế và giá trị lý thuyết của tiêu thức kết quả là nhỏ nhất.
0 ) )(
(
2
0 ) 1 )(
(
2
1 0 1
1 0 0
i i i
i i
x x b b y
b
S
x b b y
b
S
2 1 0
1 0
.
.
i i
i i
i i
x b x b x y
x b b n y
min )
ˆ
S
min )
( 0 1 2
yi b b xi
S
Kiểm định hệ số hồi quy
• Giả thuyết:
) ( j
j b se
b
T
0 :
0 j
H
i i
n
i
i
x x n
x
b
se
1
2
2 1
2
n
i
x
b se
1
2
2
1)
2
ˆ 2
1
2
2
n
y y n
SSE
n
i
i i
• Tiêu chuẩn kiểm định:
• Nếu H0đúng thống kê T sẽ tuân theo quy luật phân phối student với (n-2) bậc tự do
Trang 8Kiểm định hệ số hồi quy
Miền bác bỏ giả thuyết H0(W)
- Hai phía: Tqs > t/2 ,(n-2)
- Vế phải: Tqs> t (n-2)
- Vế trái: Tqs< -t(n-2)
Ước lượng hệ số hồi quy
• Hai phía:
• Phái trái:
) ( )
2
n j j j n
b
n 2 ( j)
j
• Phái phải:
j j
n
Trang 9Hệ số xác định
x y
0
n
i
y SST
1 2
n
i
i
i y y SSE
1
2
ˆ
n
y SSR
1
2 ˆ
Hệ số xác định
n i
i y y SSR
1
2 ˆ
n i
i
i y y SSE
1
2
ˆ
Biến thiên được giải thích bởi hồi quy
Biến thiên do phần dư
Toàn bộ biến thiên của biến phụ thuộc
SST = SSR + SSE
Hệ số xác định
SST
SSE SST
SSR
R2 1
Phản ánh phần trăm thay đổi của biến phụ thuộc được giải thích bởi biến độc lập
n
i
i y y SST
1
2
Trang 10Kiểm định ý nghĩa mô hình
Tiêu chuẩn kiểm định
Nếu H0đúng, thống kê F sẽ tuân theo quy luật phân phối Fisher với bậc tự do (1, n-2) Với mức ý nghĩa α, Miền bác bỏ giả thuyết H0khi, F > fα(1.n-2)
Cặp giả thuyết
nghia ý có hình Mô :
nghia ý có không hình Mô : 1
H
Ho
2
2 1 2
2
R
n R
n SSE
SSR F
0 :
0 : 2 1
2
R H
R
Ho
Hệ số tương quan tuyến tính
2 2
2 2
1 1
.
n
y n
y
n
x n
x b
b y x y
x
r
i i
i i
y
x y
Trang 11Hệ số tương quan tuyến tính
Tác dụng
- Xác định chiều hướng của mối liên hệ
- Đánh giá mức độ chặt chẽ của liên hệ tương quan tuyến tính
Tính chất của hệ số tương quan
Liên hệ hàm số Không có mối liên hệ
Liên hệ hàm số
Trang 12R2 = 1, Y
Y i = b0+ b1X i
X
^ r = -1
R2 < 1,
Y
Y i = b0+ b1X i
X
^
r <1
R2 = 1,
Y
Y i = b0+ b1X i
X
^
r = +1
R2 = 0, Y
Y i = b0+ b1X i
X
^
r = 0
Tính chất của hệ số tương quan
Kiểm định hệ số tương quan
Tiêu chuẩn kiểm định
Nếu H0đúng, thống kê T sẽ tuân theo quy luật phân phối student với bậc tự
do (n-2)
Với mức ý nghĩa α, Miền bác bỏ giả thuyết H0khi
Cặp giả thuyết
0 :
0 :
1
H
2
n r
r T
2 2
n
t
T
Trang 13III Hồi quy – tương quan bội
Xây dựng phương trình hồi quy
1
Đánh giá phương trình
2
Phương trình hồi quy tổng thể
i ki k i
i
β0 - Thamsố tự do (hệ số chặn)
βj (j=1-k) Hệ số hồi quy riêng
Trang 14Ý nghĩa hệ số hồi quy
• βj: phản ánh ảnh hưởng thuần của nguyên nhân xj tới kết quả y (khi các yếu tố khác không đổi) Cụ thể, khi xj tăng thêm 1 đơn vị thì y thay đổi trung bình là βj đơn vị
Phương trình hồi quy mẫu
ki k i
i
y ˆ 0 1 1 2 2
bj: Ước lượng của tham số βj
Với một mẫu ngẫu nhiên kích thước n, chúng ta có phương
trìnhhồi quy mẫu như sau:
Trang 15Kiểm định hệ số hồi quy
• Giả thuyết:
)
j
b se
b
T
0 :
0 j
H
• Tiêu chuẩn kiểm định:
• Nếu H0đúng thống kê T sẽ tuân theo quy luật phân phối student với (n-k-1) bậc tự do
Kiểm định hệ số hồi quy
Miền bác bỏ giả thuyết H0(W)
- Hai phía: Tqs > t/2 ,(n-k-1)
- Vế phải: Tqs> t (n-k-1)
- Vế trái: Tqs< -t(n-k-1)
Trang 16Ước lượng hệ số hồi quy
• Hai phía:
• Phái trái:
) ( )
1
k n j j j
k n
) ( 1
j k
n j
j b t se b
• Phái phải: bj tnk1 se ( bj) j
Hệ số hồi quy chuẩn hoá
• Công thức:
y
xj j
j b Bêta
• Biểu hiện vai trò của từng biến độc lập tới biến thuộc
Trang 17Hệ số xác định
n i
i y y SSR
1
2 ˆ
n
i
i
i y y SSE
1
2
ˆ
SST = SSR + SSE
Hệ số xác định
SST
SSE SST
SSR
R2 1
Phản ánh phần trăm thay đổi của biến phụ thuộc được giải thích bởi các biến độc lập
n
i
i y y SST
1
2
Biến thiên được giải thích bởi hồi quy
Biến thiên do phần dư
Toàn bộ biến thiên của biến phụ thuộc
Hệ số xác định điều chỉnh
Hệ số xác định điều chỉnh
1
) 1 )(
1 ( 1 1
1 1
2 2
k n
n R
n SST
k n
SSE
Radj
Khi k >1 thì R2
adj≤ R2≤1
K càng lớn R2
adj càng nhỏ so với R2
R2
adj có thể âm, sẽ quy ước R2
adj = 0 Dùng để so sánh, đánh giá độ phù hợp của mô hình khi số lượng biến trong
mô hình hồi quy khác nhau
Trang 18Kiểm định ý nghĩa mô hình
Tiêu chuẩn kiểm định
Nếu H0đúng, thống kê F sẽ tuân theo quy luật phân phối Fisher với bậc tự do (k, n-k-1)
Với mức ý nghĩa α, Miền bác bỏ giả thuyết H0khi, F > fα(k, n-k-1)
Cặp giả thuyết
0 :
0 : 2 1
2
R H
R
Ho
2
2 1
1 1
R k
k n R
k n SSE k
SSR F
Hệ số tương quan chung
SST
SSR SST
SSE
Trang 19Ứng dụng SPSS trong phân tích HQ
37
Analyze > Regression > Linear…
Đưa biến phụ thuộc sang
Dependent
Đưa các biến độc lập sang
Independent(s)