Bài giảng Lý thuyết xác suất và thống kê toán: Chương 7 - Mai Cẩm Tú Chương 7 Ước lượng các tham số của biến ngẫu nhiên, trong chương này người học sẽ đi vào tìm hiểu kiến thức về phương pháp ước lượng điểm và phương pháp ước lượng bằng khoảng tin cậy.
Trang 1ƯỚC LƯỢNG CAC THAM SO CUA BIEN NGAU NHIEN
Trang 2Nội dung chương ?7
@ Phương pháp ước lượng điểm
Trang 3Nội dung chương ?7
@ Phương pháp ước lượng điểm
@ Phương pháp ước lượng bằng khoảng tin cậy
Trang 4gốc X với quy luật phân phối xác suất đã biết xong chưa biết tham số 0 nào đó của nó Phải ước lượng (xác định một cách gần đúng) giá trị 0
Trang 5gốc X với quy luật phân phối xác suất đã biết xong chưa biết tham số 0 nào đó của nó Phải ước lượng (xác định một cách gần đúng) giá trị 0
Để giải quyết bài toán này cần lập một mẫu ngẫu
nhiên kích thước n rồi từ đó xây dựng một thống kê
0 để ước lượng 0
Trang 6gốc X với quy luật phân phối xác suất đã biết xong chưa biết tham số 0 nào đó của nó Phải ước lượng (xác định một cách gần đúng) giá trị 0
Để giải quyết bài toán này cần lập một mẫu ngẫu
nhiên kích thước n rồi từ đó xây dựng một thống kê
0 để ước lượng 0
Có hai phương pháp ước lượng là phương pháp ước lượng điểm và phương pháp ước lượng bằng khoảng
tin cậy
Trang 72.1 Phương pháp hàm ước lượng
Lập một mẫu cụ thể và tính được giá trị cụ thể của 6
la 6 = (x1, Xo, .,Xn) chính thì ước lượng điểm của 0
Vì thống kê ổ là hàm của các biến ngẫu nhiên nên
gọi phương pháp này là phương pháp hàm ước
lượng
Trang 8b Các tiêu chuẩn lựa chọn hàm ước lượng
e Ước lượng không chệch
Định nghĩa: Thống kê ổ của mẫu được gọi là ước
lượng không chệch của tham số 9 của biến ngẫu
nhiên gốc X nếu:
E(ô) = 0
Nếu E(0) z 0 thì Ô gọi là ước lượng chệch của 0
Trang 9b Các tiêu chuẩn lựa chọn hàm ước lượng
e Ước lượng không chệch
Định nghĩa: Thống kê ổ của mẫu được gọi là ước
lượng không chệch của tham số 9 của biến ngẫu
Trang 10b Các tiêu chuẩn lựa chọn hàm ước lượng
e Uớc lượng không chệch
Định nghĩa: Thống kê ở của mẫu được gọi là ước
lượng không chệch của tham số 9 của biến ngẫu
Trang 11e Ước lượng hiệu quả
+ Định nghĩa: Thống kê của mẫu được gọi là ước lượng hiệu quả nhất của tham số 0 của biến ngẫu
nhiên gốc X nếu nó là ước lượng không chệch và có phương sai nhỏ nhất so với mọi ước lượng không chệch khác được xây dựng trên cùng mẫu đó
Trang 12e Ước lượng hiệu quả
+ Định nghĩa: Thống kê của mẫu được gọi là ước lượng hiệu quả nhất của tham số 0 của biến ngẫu
nhiên gốc X nếu nó là ước lượng không chệch và có phương sai nhỏ nhất so với mọi ước lượng không chệch khác được xây dựng trên cùng mẫu đó
+ Néu 6, va 62 déu là các ước lượng không chệch
của 0 thì ước lượng nào có phương sai nhỏ hơn là ước lượng hiệu quả hơn
Trang 13e Ước lượng hiệu quả
+ Định nghĩa: Thống kê của mẫu được gọi là ước
lượng hiệu quả nhất của tham số 0 của biến ngẫu nhiên gốc X nếu nó là ước lượng không chệch và có phương sai nhỏ nhất so với mọi ước lượng không chệch khác được xây dựng trên cùng mẫu đó
+ Néu 6, va 62 déu là các ước lượng không chệch
của 0 thì ước lượng nào có phương sai nhỏ hơn là ước lượng hiệu quả hơn
+ Gia str V(O,) < V(62) thì độ hiệu quả của ổ: so với
V(0›)
ô; được xác định bằng biểu thức: EF =
V(04)
Trang 14
Thí dụ 7.2 Từ mẫu ngẫu nhiên kích thước n=3 ta xét hai ước lượng sau đây của trung bình tổng thể m
X= s1 + Xe + X3); G= sXI + 5X2 t+ GX
Ước lượng nào hiệu quả hơn
Trang 15Thí dụ 7.2 Từ mẫu ngẫu nhiên kích thước n=3 ta
xét hai ước lượng sau đây của trung bình tổng thể m
X= s1 + Xe + X3); G= sXI + 5X2 t+ GX
Ước lượng nào hiệu quả hơn
Thí dụ 7.3 Từ tổng thể với biến ngẫu nhiên gốc X (có trung bình là m, phương sai 1a o) lap 2 mẫu
ngẫu nhiên độc lập kích thước m, nạ với các trung
bình mẫu X:, Xa Xét họ ước lượng
G„=oX:+(1—a)X;;0< ø< 1
Chứng minh G,, là ước lượng không chệch của m
Với giá trị nào của a thì G,„ là UL hiệu quả nhất
Trang 16Bất đẳng thức Cramer - Rao: Nếu biến ngẫu nhiên
Trang 17Bất đẳng thức Cramer - Rao: Nếu biến ngẫu nhiên
Thí dụ 7.4 Trung bình mẫu X là ước lượng hiệu
quả nhất của kì vọng toán /; của biến ngẫu nhiên
gốc X ~ N(ụu, ø )
Trang 18e Udc lượng vững
Định nghĩa: Thống kê ổ của mẫu được gọi là ước
lượng vững của tham số 0 của biến ngẫu nhiên gốc
X nếu ổ hội tụ theo xác suất 0 khi n —› oo
Nghĩa là với mọi < > 0 bé tùy ý ta luôn có:
ñ-_>co
Trang 19e Udc lượng vững
Định nghĩa: Thống kê ổ của mẫu được gọi là ước
lượng vững của tham số 0 của biến ngẫu nhiên gốc
X nếu ổ hội tụ theo xác suất 0 khi n —› oo
Nghĩa là với mọi < > 0 bé tùy ý ta luôn có:
Jim P(|é —6|<e)=1
Thí dụ 7.5 Từ tổng thể với biến ngẫu nhiên gốc
X ~ N(u, 07) Chứng minh rằng trung bình mẫu là ước lượng vững của trung bình tổng thể
Trang 20e Udc lượng vững
Định nghĩa: Thống kê ổ của mẫu được gọi là ước
lượng vững của tham số 0 của biến ngẫu nhiên gốc
X nếu ổ hội tụ theo xác suất 0 khi n —› oo
Nghĩa là với mọi < > 0 bé tùy ý ta luôn có:
ñ-_>co
Thí dụ 7.5 Từ tổng thể với biến ngẫu nhiên gốc
X ~ N(u, 07) Chứng minh rằng trung bình mẫu là ước lượng vững của trung bình tổng thể
e Ước lượng đủ
Trang 21+ Tần suất mẫu f là ƯL không chệch, hiệu quả nhất
và vững của tần suất tổng thể p và đồng thoi la UL
tuyến tính không chệch tốt nhất, do đó nếu chưa
Trang 222.2 Phương pháp ước lượng hợp lý tối đa
Biết hàm mật độ xác suất f(x, 0) của BNN gốc X
Cần ước lượng tham số 0 nào đó của X
Lap mau ngau nhién : W = (X;, Xo, ., Xn)
Ta xây dựng hàm hợp lý L của tham s6 6 nhu sau:
L(O) = L{X Xa, , Xn, 9) —= f{x, 0)fxa, 9) f(Xn, 0)
trong đó (x4 xa xạ) là một giá trị cụ thể của mẫu
Giá trị của thống kê j tại điểm đó là
6 — g(X,Xa, .; Xn)
được gọi là ước lượng hợp lý tối đa của 0 nếu ứng với giá trị này của 0, hàm hợp lý đạt cực đại
Trang 23Các bước tìm giá trị của 9 để hàm hợp lý đạt cực đại
Vì hàm L và lnL đạt cực đại tại cùng một giá trị
của 0 nên ta sẽ tìm 9 để InL đạt cực đại như sau:
Trang 24
Các bước tìm giá trị của 9 để hàm hợp lý đạt cực đại
Vì hàm L và lnL đạt cực đại tại cùng một giá trị
của 0 nên ta sẽ tìm 9 để InL đạt cực đại như sau:
+ Tim L va InL, rut gon
Trang 25Các bước tìm giá trị của 9 để hàm hợp lý đạt cực đại
Vì hàm L và lnL đạt cực đại tại cùng một giá trị
của 0 nên ta sẽ tìm 9 để InL đạt cực đại như sau:
+ Tim L va InL, rut gon
+ Tìm đạo hàm bac nhat va bac hai cua InL theo 0
Trang 26Các bước tìm giá trị của 9 để hàm hợp lý đạt cực đại
Vì hàm L và lnL đạt cực đại tại cùng một giá trị
của 0 nên ta sẽ tìm 9 để InL đạt cực đại như sau:
+ Tim L va InL, rut gon
+ Tìm đạo hàm bac nhat va bac hai cua InL theo 0 + Giai phuong trinh a = 0
Giả sử nó có nghiệm 14 6 = 6 = g(x1, x2, ., Xn)
Trang 27Các bước tìm giá trị của 9 để hàm hợp lý đạt cực đại
Vì hàm L và lnL đạt cực đại tại cùng một giá trị
của 0 nên ta sẽ tìm 9 để InL đạt cực đại như sau:
+ Tim L va InL, rut gon
+ Tìm đạo hàm bac nhat va bac hai cua InL theo 0
dinL
+ Giải phương trình "ap = 0
Giả sử nó có nghiệm 14 6 = 6 = g(x1, x2, ., Xn)
+ Néu om lạ_¿ < 0 thì tại @ ham InL đạt cực đại
Khi d6 6 = g(x1, X2, , Xn) la ude luong hợp lý tối đa
cần tìm của 0
Trang 28Chú ý: đối số của hàm hợp lý là 0 chứ không phải là
(X¡ Xa , Xa) nên nếu thay giá trị của mẫu bằng bản thân mẫu ngẫu nhiên (X:,X¿, , Xa) thì kết quả vẫn
đúng và nó chính là hàm ước lượng hợp lý tối đa
Trang 29Chú ý: đối số của hàm hợp lý là 0 chứ không phải là
(X¡ Xa , Xa) nên nếu thay giá trị của mẫu bằng bản thân mẫu ngẫu nhiên (X:,X¿, , Xa) thì kết quả vẫn
đúng và nó chính là hàm ước lượng hợp lý tối đa Thí dụ 7.6 Tìm ước lượng hợp lý tối đa của tham
số À trong quy luật phân phối Poisson P(A)
Trang 30Chú ý: đối số của hàm hợp lý là 0 chứ không phải là
(X¡ Xa , Xa) nên nếu thay giá trị của mẫu bằng bản thân mẫu ngẫu nhiên (X:,X¿, , Xa) thì kết quả vẫn
đúng và nó chính là hàm ước lượng hợp lý tối đa Thí dụ 7.6 Tìm ước lượng hợp lý tối đa của tham
số À trong quy luật phân phối Poisson P(A)
Thí dụ 7.7 Tìm ước lượng hợp lý tối đa của tham
số của biến ngẫu nhiên X ~- N(u,ø2)
Trang 31
KHOẢNG TIN CẬY
3.1 Khái niệm
Định nghĩa: Khoảng ngẫu nhiên (G, Ga) được gọi
là khoảng tin cậy của tham số 0 nếu với xác suất
(1 — a) cho truéc thì khoảng (G+ Gạ) thỏa mãn điều
kiện
Trang 32
KHOẢNG TIN CẬY
Định nghĩa: Khoảng ngẫu nhiên (G, Ga) được gọi
là khoảng tin cậy của tham số 0 nếu với xác suất
(1 — a) cho truéc thì khoảng (G+ Gạ) thỏa mãn điều
kiện
Xác suất (1 — a) duoc goi 1a độ tin cậy của ước
lượng
I = Gp — G, 1a do dai khoang tin cay
Cơ sở của phân phối ước lượng bằng khoảng tin cậy chính là nguyên lý xác suất lớn
Trang 33Các bước tìm khoảng tin cậy (G¡, G¿):
z Lập mẫu ngẫu nhiên : W = (X+.,X¿ , Xn)
và xây dựng thống kê G = X\,Xa, Xa, 0) sao cho quy luật phân phối xác suất của G không phụ thuộc vào các đối số của nó và hoàn toàn xác định
Trang 34Các bước tìm khoảng tin cậy (G¡, G¿):
z Lập mẫu ngẫu nhiên : W = (X+.,X¿ , Xn)
và xây dựng thống kê G = X\,Xa, Xa, 0) sao cho quy luật phân phối xác suất của G không phụ thuộc vào các đối số của nó và hoàn toàn xác định
b Với độ tin cậy (1 — a) cho trước, tìm được cặp giá trị không âm a; va a2 sao cho a; + a2 = a Tu
đó tìm được cặp gia tri t6i han g;_,, va g,, thoa
Trang 35c Bằng các phép biến đổi tương đương bao giờ
cũng có thể đưa biểu thức trên về dạng
P(G:;<0<G;)=1-—-œ
Trang 36c Bằng các phép biến đổi tương đương bao giờ
cũng có thể đưa biểu thức trên về dạng
W = (X4.Xa , Xa) ta tìm được các giá trị cụ thể của
G1, Go tuong ung là 91, Qo
Kết luận: với độ tin cậy (1 — œ) tham số 9 của biến
ngẫu nhiên gốc X sẽ nằm trong khoảng (gi g›)
Trang 373.2 Ước lượng kì vọng toán của biến ngẫu nhiên phân phối theo quy luật chuân
Giả sử biến ngẫu nhiên gốc X ~- N(¡¡,ø^) với chưa biết Để ước lượng /; ta lập mẫu ngẫu nhiên
W = (X4, Xo, - , Xn)
Để chọn thống kê G ta xét các trường hợp sau:
Trang 383.2 Ước lượng kì vọng toán của biến ngẫu nhiên
phân phối theo quy luật chuẩn
Giả sử biến ngẫu nhiên gốc X ~ N(¿¡.øZ) với chưa biết Để ước lượng /; ta lập mẫu ngẫu nhiên
W = (X4, Xo, - , Xn)
Để chọn thống kê G ta xét các trường hợp sau:
a Nếu đã biết phương sai oˆ
Ta chọn thống kê
G=U=LẾ=!)X” _ N(0,1)
Trang 39Với độ tin cậy (1 — a) ta tìm được cặp giá tri a va œ¿ Sao cho œ+ + a¿ = œơ từ đó tìm được hai giá trị tới
hạn chuẩn tương ứng là ư_„„ và u„„ thỏa mãn
P{(uU+_.„.< U< u„„)=1—œ
vn Ung < [b< X+ Va O
Trang 40Với độ tin cậy (1 — a) ta tìm được cặp giá tri a va œ¿ Sao cho œ+ + a¿ = œơ từ đó tìm được hai giá trị tới
hạn chuẩn tương ứng là ư_„„ và u„„ thỏa mãn
P{(uU+_.„.< U< u„„)=1—œ
Trang 41Với độ tin cậy (1 — a) ta tìm được cặp giá tri a va œ¿ Sao cho œ+ + a¿ = œơ từ đó tìm được hai giá trị tới
hạn chuẩn tương ứng là ư_„„ và u„„ thỏa mãn
P{(uU+_.„.< U< u„„)=1—œ
Ø
PUK = “EM << K+ eas) = 10
Ta có KTC ngẫu nhiên cua p la
> O VG O
X — —=U,,,X + Kua, 1
Với mẫu cu thé w = (x), Xo, .,X,) ta sé tim duoc
khoang tin cay cu thé
Trang 42b Chưa biết phương sai oˆ
Với độ tin cậy (1 — a) cho trước ta tìm được khoảng
tin cậy ngẫu nhiên cua p 1a
Ss vn
X- 0Š Xi ĐỘ)
Trang 43b Chưa biết phương sai oˆ
Với độ tin cậy (1 — a) cho trước ta tìm được khoảng
tin cậy ngẫu nhiên cua p 1a
Với mẫu cu thé w = (x), Xo, .,X,) ta sé tim duoc
trung bình mẫu X và phương sai mẫu s từ đó ta có khoảng tin cậy của ¿ là
S44 S49)
Chú ý: Nếu n > 30 thì #" ” ~ u„
Trang 45trong đó e = Sgn ") goi 1a sai s6 cua UL g vn °/2 g
+ ơi =0,a¿ = œ — khoảng tin cậy tối thiểu:
X- (Vs +00)
Trang 46+ a2 = 0,a; =a — khoang tin cậy tối đa:
S
(—00;X + tf Ti )
Trang 47+ a2 = 0,a; =a — khoang tin cậy tối đa:
S
vn
+ Độ đài khoảng tin cậy I là ngắn nhất khi khoảng
tin cậy là đối xứng Khi đó
(-œ;X+ m1) )
S ứn-1)
|— 2c — “VN e/2
Trang 48+ Muốn giữ nguyên độ tin cậy (1 — œ) mà độ dài khoảng tin cậy không vượt quá giá trị /p (hay sai số của ước lượng không vượt quá eo) cho trước thì kích thước mẫu mới n' phải thỏa mãn
S? (n—1) S? —
h = eR tí /2 ) ( hay h = 2 tí /2 ) )
Trang 49+ Muốn giữ nguyên độ tin cậy (1 — œ) mà độ dài khoảng tin cậy không vượt quá giá trị /p (hay sai số của ước lượng không vượt quá eo) cho trước thì kích thước mẫu mới n' phải thỏa mãn
S? (n—1) S? —
h = eR tí /2 ) ( hay h = 2 tí /2 ) )
Thí dụ 7.8 Điều tra thu nhập của 41 nhân viên
công ty A thì thấy trung bình (mẫu) là 5,4 triệu
đồng/tháng và độ lệch chuẩn (mẫu) là 0,78 triệu
đồng/ tháng Với độ tin cậy 0,95, hãy cho biết thu
nhập trung bình tối thiểu của nhân viên công ty
này Giả thiết thu nhập phân phối chuẩn
Trang 50Thí dụ 7.9 Để định mức thời gian (phút) gia công
một chi tiết máy người ta theo dõi ngẫu nhiên quá trình gia công 25 chi tiết và thu được kết quả sau
Giả sử rằng thời gian gia công chỉ tiết là biến ngẫu
nhiên phân phối chuẩn
a Với hệ số tin cậy 0,95 hãy ước lượng thời gian trung bình gia công chi tiết đó bằng khoảng tin cậy đối xứng
b Nếu muốn giữ độ tin cậy 95% và độ chính xác của ước lượng tăng gấp đôi thì phải theo dõi thêm bao nhiêu chi tiết
Trang 51
3.3 Ước lượng phương sai của biến ngẫu nhiên
phân phối chuẩn
Giả sử biến ngẫu nhiên gốc X ~- N(¿¡,ø2) với øˆ
chưa biết Để ước lượng ø? ta lập mẫu ngẫu nhiên
W = (X.Xạ Xa)
a Nếu đã biết kì vọng toán 1:
Với độ tin cậy 1 — œ, khoảng tin cậy ngẫu nhiên của
ơ? là S2 ng?
ns**< ns*
( 2(n)' am) (3)
Naz 1-ay