Chuong 6 hoi quy tuyen tinh gian don

KỸ NĂNG KIỂM TRA 1 Chương 6 HỒI QUY TUYẾN TÍNH GIẢN ĐƠN 2 Nhân viên Doanh số bán hàng (triệu đồng) Tiền lương nhân viên (triệu đồng) 1 300 4,0 2 350 6,0 3 420 6,5 4 480 7,0 5 530 7,2 6 580 7,6 7 620 8[.]

Chương 6

HỒI QUY TUYẾN TÍNH

GIẢN ĐƠN

(triệu đồng)

Tiền lương nhân viên

(triệu đồng)

Bảng 6.1: Dữ liệu về doanh số bán hàng và tiền lương của mẫu 10 nhân viên bán hàng:

o Ví dụ:

Xây dựng phương trình hồi quy ước lượng?

Đồ thị 6.1: Mối liên hệ giữa doanh số bán hàng và tiền lương của mẫu 10 nhân viên bán hàng

0

1

2

3

4

5

6

7

8

9

10

DOANH SỐ BÁN HÀNG (TRIỆU ĐỒNG)

1 PHƯƠNG TRÌNH HỒI QUY

TUYẾN TÍNH GIẢN ĐƠN

Mô hình hồi quy tuyến tính giản đơn

o Mô hình hồi quy tuyến tính giản đơn của tổng thể:

▪ Mô hình hồi quy của tổng thể được sử dụng trong phân tích hồi quy tuyến tính giản đơn:

𝑦 = 𝛽 0 + 𝛽 1 𝑥 +∈

Trong đó:

• 𝑦: biến phụ thuộc

• 𝑥: biến độc lập

• 𝛽 0 : tung độ gốc (tham số tự do)

• 𝛽 1 : độ dốc của đường hồi quy (hệ số hồi quy)

• ∈ : sai số

Phương trình hồi quy tuyến tính giản đơn

▪ Phương trình hồi quy của tổng thể được sử dụng trong phân tích hồi quy tuyến tính giản đơn:

𝐸(𝑦) = 𝛽0 + 𝛽1𝑥

Trong đó:

• 𝐸(𝑦): trung bình hoặc kỳ vọng của y ứng với x cụ thể

• 𝛽0: tung độ gốc (tham số tự do)

• 𝛽1: độ dốc của đường hồi quy (hệ số hồi quy)

▪ Phương trình hồi quy tuyến tính giản đơn của mẫu:

ො

𝑦 = 𝑏 0 + 𝑏 1 𝑥

Trong đó:

• 𝑦 : ước lượng điểm của 𝐸(𝑦)ො

• 𝑏0 : tung độ gốc (tham số tự do)

• 𝑏1: độ dốc của đường hồi quy (hệ số hồi quy)

▪ Đồ thị của phương trình hồi quy tuyến tính giản đơn ước lượng được gọi là đường hồi quy ước lượng.

Xác định các tham số của phương trình hồi quy ước lượng

o Xác định độ dốc và tung độ gốc của phương trình hồi quy ước lượng:

▪ Sử dụng phương pháp bình phương bé nhất để xác định 𝑏 0 và 𝑏 1

𝑏 1 = σ 𝑥 𝑖 − ҧ 𝑥 𝑦 𝑖 − ത 𝑦

σ 𝑥 𝑖 − ҧ 𝑥 2

𝑏 0 = ത 𝑦 − 𝑏 1 𝑥 ҧ

2 HỆ SỐ XÁC ĐỊNH

Hệ số xác định

o Hệ số xác định:

▪ Đo lường về độ phù hợp của phương trình hồi quy

▪ Phương pháp tính: 𝑟 2 = 𝑆𝑆𝑅

𝑆𝑆𝑇 = 1 − 𝑆𝑆𝐸

𝑆𝑆𝑇

Trong đó:

• 𝑟2 : hệ số xác định

• 𝑆𝑆𝑅 : tổng bình phương do hồi quy

• 𝑆𝑆𝑇: tổng bình phương toàn bộ

Hệ số tương quan

o Hệ số tương quan mẫu được xác định dựa trên hệ số xác định:

• Hệ số tương quan mẫu: 𝑟 𝑥𝑦 = (𝑑ấ𝑢 𝑐ủ𝑎 𝑏 1 ) 𝑟 2

▪ Tính chất:

• Hệ số tương quan có giá trị từ -1 đến +1, tiến về -1 là tương quan nghịch, tiến về +1 là tương quan thuận

• Hệ số tương quan càng gần ±1 liên hệ tương quan tuyến tính càng mạnh

• Hệ số tương quan bằng 0: không có mối liên hệ

• Hệ số tương quan bằng ± 1: liên hệ tuyến tính hoàn hảo

o Hệ số tương quan Pearson:

▪ Là đại lượng đo lường cường độ mối liên hệ tuyến tính giữa hai biến x và y.

▪ Phương pháp tính:

• Hệ số tương quan Pearson cho mẫu: 𝑟 𝑥𝑦 = 𝑆𝑥𝑦

𝑆𝑥𝑆𝑦

Trong đó:

✓ 𝑆𝑥𝑦: hiệp phương sai mẫu

✓ 𝑆𝑥, 𝑆𝑦: độ lệch chuẩn của mẫu x và mẫu y

3 KIỂM ĐỊNH Ý NGHĨA

CỦA MÔ HÌNH

Kiểm định t

o Kiểm định t: được sử dụng để xem 1 biến độc lập nào đó là có ý nghĩa hay không

o Phương pháp: 𝑦 = 𝛽0 + 𝛽1𝑥 +∈

• Cặp giả thuyết cho kiểm định t:

𝐻0: 𝛽1 = 0

𝐻𝑎: 𝛽1 ≠ 0

• Tính trị số kiểm định t:

𝑡 = 𝑏 1

𝑆 𝑏 1

Trong đó:

✓ 𝑆𝑏1: ước lượng độ lệch chuẩn của 𝑏1 (hay sai số chuẩn của 𝑏1 )

𝑆 𝑏1 = 𝑆

σ(𝑥𝑖− ҧ 𝑥)2 = 𝑀𝑆𝐸

σ(𝑥𝑖− ҧ 𝑥)2 =

𝑆𝑆𝐸 𝑛−𝑝−1

σ(𝑥𝑖− ҧ 𝑥)2

• Kết luận:

✓ Dựa vào giá trị p : Bác bỏ 𝐻0 nếu p ≤ 

✓ Dựa vào giá trị tới hạn: Bác bỏ 𝐻0 nếu t ≤ −𝑡𝛼/2 hoặc t ≥ 𝑡𝛼/2 (với n-p-1 bậc tự do).

Kiểm định F

o Kiểm định F: Kiểm định toàn bộ ý nghĩa của mô hình: xác định xem có hay không có sự tồn tại một mối liên hệ có

ý nghĩa giữa biến phụ thuộc và biến độc lập.

• Cặp giả thuyết cho kiểm định F:

𝐻0: 𝛽1 = 0

𝐻𝛼: 𝛽1 ≠ 0

• Tính trị số kiểm định F:

𝐹 = 𝑀𝑆𝑅

𝑀𝑆𝐸 Trong đó:

✓ 𝑀𝑆𝑅 = 𝑆𝑆𝑅

𝑝 : trung bình của bình phương do hồi quy

𝑛−𝑝−1 : trung bình của bình phương do sai số

• Kết luận:

✓ Dựa vào giá trị hoặc p : Bác bỏ 𝐻0 nếu hoặc p ≤ 

4 SỬ DỤNG PHƯƠNG TRÌNH HỒI QUY

ĐỂ ƯỚC LƯỢNG VÀ DỰ ĐOÁN

Ước lượng điểm

o Phương trình hồi quy ước lượng dùng để ước lượng và dự đoán:

ෝ

𝒚 = 𝒃 𝟎 + 𝒃 𝟏 𝒙

o Ước lượng điểm:

ෞ

𝒚 𝒑 = 𝒃 𝟎 + 𝒃 𝟏 𝒙 𝒑 Trong đó:

• 𝑥 𝑝 : giá trị cho trước của biến độc lập x

• ෞ 𝑦 𝑝 : ước lượng điểm cho 𝐸(𝑦) khi x = 𝑥 𝑝

Ước lượng khoảng

o Phương trình hồi quy ước lượng dùng để ước lượng và dự đoán:

ෝ

𝒚 = 𝒃 𝟎 + 𝒃 𝟏 𝒙

o Khoảng tin cậy cho 𝐸(𝑦 𝑝 ) :

ෞ

𝒚 𝒑 ± 𝒕 𝜶/𝟐 𝑺 𝒚 ෞ 𝒑

Trong đó:

• ෞ 𝑦 𝑝 : ước lượng điểm cho 𝐸(𝑦 𝑝 ) khi x = 𝑥 𝑝

• 𝑡 𝛼/2 dựa trên phân phối t với n-p-1 bậc tự do

• 𝑆 𝑦 ෞ𝑝: ước lượng cho độ lệch chuẩn của ෞ 𝑦 𝑝

𝑆 𝑦 ෞ 𝑝 = 𝑆 1

𝑛 + (𝑥 𝑝 − ҧ 𝑥) 2

σ(𝑥 − ҧ 𝑥) 2

Ước lượng khoảng (tt)

o Khoảng dự đoán cho 𝑦 𝑝 :

ෞ

Trong đó:

• ෞ 𝑦 𝑝 : ước lượng điểm cho 𝐸(𝑦 𝑝 ) khi x = 𝑥 𝑝

• 𝑡 𝛼/2 dựa trên phân phối t với n-p-1 bậc tự do

• 𝑆 𝑖𝑛𝑑 : ước lượng cho độ lệch chuẩn của một giá trị 𝑦 𝑝 cụ thể

𝑆 𝑖𝑛𝑑 = 𝑆 1 + 1

𝑛 +

(𝑥 𝑝 − ഥ 𝑥) 2

σ(𝑥 𝑖 − ഥ 𝑥) 2

5 PHÂN TÍCH PHẦN DƯ:

KIỂM TRA CÁC GIẢ THIẾT CỦA MÔ HÌNH

Phân tích phần dư

o Các giả thiết về đại lượng sai số ∈ của mô hình:

▪ E(∈) = 0

▪ Phương sai của ∈ là không thay đổi cho tất cả các giá trị x

▪ Các trị số của ∈ là độc lập với nhau

▪ Sai số ∈ có phân phối chuẩn

o Phân tích phần dư:

▪ Là công cụ để xác định liệu mô hình hòi quy giả thiết có phù hợp hay không.

▪ Phần lớn phân tích phần dư dựa trên việc xem xét các biểu đồ:

• Biểu đồ phần dư ứng với biến độc lập x

• Biểu đồ phần dư ứng với giá trị ước lượng của biến phụ thuộc ෝ 𝒚

• Biểu đồ phần dư chuẩn hóa

• Đường phân phối xác suất chuẩn