Đánh giá ước lượng*Ước lượng tốt nhất T được gọi là ước lượng tốt nhất của θ nếu T là ước đúng, và ít phân tán nhất.. Người ta lý luận rằng, các quan sát có được từ mẫu thử là các giá tr
Trang 1Đánh giá ước lượng
*Ước lượng ít phân tán
Cho T1, T2 là các ước lượng của θ Ước lượng T1
gọi là ít phân tán hơn T2 (hay tốt hơn T2) nếu
Var(T1) 6 Var(T2) Ước lượng càng ít phân tán thì sai số càng nhỏ
Trang 2Đánh giá ước lượng
*Ước lượng tốt nhất
T được gọi là ước lượng tốt nhất của θ nếu T là ước đúng, và ít phân tán nhất
Example
Giả sử chiều cao X ∼ N (µ, σ2) Lấy mẫu
X1, , Xn để ước lượng µ Xét các thống kê sau:
T1 = X1 T2 = X1 + X2
2 T3 =
X1 + 2X2 3
T4 = X1 + + Xn
n Hỏi ước lượng nào là tốt nhất?
Trang 3Ước lượng hợp lý cực đại
Cho mẫu X1, , Xn trong đó các Xi là độc lập
nhau và có cùng phân phối Fθ Ta muốn ước
lượng tham số chưa biết θ
Người ta lý luận rằng, các quan sát có được từ mẫu thử là các giá trị có xác suất xuất hiện lớn nhất mỗi khi lấy mẫu
Từ lý luận này, ước lượng hợp lý cực đại, hay còn gọi là ước lượng cơ hội cực đại (maximum
likelihood estimator) của tham số θ được định nghĩa như sau:
Trang 4Ước lượng hợp lý cực đại
Cho mẫu X1, , Xn trong đó các Xi là độc lập
nhau và có cùng phân phối Fθ Ta muốn ước
lượng tham số chưa biết θ
Người ta lý luận rằng, các quan sát có được từ
mẫu thử là các giá trị có xác suất xuất hiện lớn
nhất mỗi khi lấy mẫu
Từ lý luận này, ước lượng hợp lý cực đại, hay còn gọi là ước lượng cơ hội cực đại (maximum
likelihood estimator) của tham số θ được định nghĩa như sau:
Trang 5Ước lượng hợp lý cực đại
Cho mẫu X1, , Xn trong đó các Xi là độc lập nhau và có cùng phân phối Fθ Ta muốn ước lượng tham số chưa biết θ
Người ta lý luận rằng, các quan sát có được từ mẫu thử là các giá trị có xác suất xuất hiện lớn nhất mỗi khi lấy mẫu
Từ lý luận này, ước lượng hợp lý cực đại, hay còn gọi là ước lượng cơ hội cực đại (maximum
likelihood estimator) của tham số θ được định nghĩa như sau:
Trang 6Ước lượng hợp lý cực đại
Gọi fθ(x1, x2, , xn) là hàm mật độ xác suất đồng
thời của các biến X1, X2, , Xn
Ước lượng hợp lý cực đại của θ là giá trị θ sao cho
fθ(x1, x2, , xn) đạt giá trị lớn nhất
Hàm số fθ(x1, x2, , xn) được gọi là hàm cơ hội
của tham số θ
Như vậy tìm ước lượng hợp lý cực đại chính là tìm cực trị của hàm fθ(x1, x2, , xn) Thông thường, để dễ tính toán, người ta tìm cực trị của hàm ln[fθ(x1, x2, , xn)] vì cực trị của hàm
ln[f(x)] cũng chính là cực trị của hàm f(x)
Trang 7Ước lượng hợp lý cực đại
Gọi fθ(x1, x2, , xn) là hàm mật độ xác suất đồng
thời của các biến X1, X2, , Xn
Ước lượng hợp lý cực đại của θ là giá trị θ sao cho
fθ(x1, x2, , xn) đạt giá trị lớn nhất
Hàm số fθ(x1, x2, , xn) được gọi là hàm cơ hội
của tham số θ
Như vậy tìm ước lượng hợp lý cực đại chính là tìm cực trị của hàm fθ(x1, x2, , xn) Thông thường, để dễ tính toán, người ta tìm cực trị của hàm ln[fθ(x1, x2, , xn)] vì cực trị của hàm
ln[f(x)] cũng chính là cực trị của hàm f(x)
Trang 8Ước lượng hợp lý cực đại
Gọi fθ(x1, x2, , xn) là hàm mật độ xác suất đồng thời của các biến X1, X2, , Xn
Ước lượng hợp lý cực đại của θ là giá trị θ sao cho
fθ(x1, x2, , xn) đạt giá trị lớn nhất
Hàm số fθ(x1, x2, , xn) được gọi là hàm cơ hội
của tham số θ
Như vậy tìm ước lượng hợp lý cực đại chính là tìm cực trị của hàm fθ(x1, x2, , xn) Thông
thường, để dễ tính toán, người ta tìm cực trị của hàm ln[fθ(x1, x2, , xn)] vì cực trị của hàm
ln[f(x)] cũng chính là cực trị của hàm f(x)
Trang 9Ước lượng hợp lý cực đại
Các bước tìm ước lượng HLCĐ:
1 Xác định hàm mật độ xác suất f(x) của biến X
2 Viết hàm mật độ xác suất đồng thời
fθ(x1, , xn)
3 Lấy ln của hàm mật độ xác suất đồng thời: ln[fθ(x1, , xn)]
4 Tính đạo hàm dθdln[fθ(x1, , xn)]
5 Ước lượng HLCĐ của θ là nghiệm của phương trình
d
dθln[fθ(x1, , xn)] = 0
Trang 10Ước lượng hợp lý cực đại
Các bước tìm ước lượng HLCĐ:
1 Xác định hàm mật độ xác suất f(x) của biến
X
2 Viết hàm mật độ xác suất đồng thời
fθ(x1, , xn)
3 Lấy ln của hàm mật độ xác suất đồng thời: ln[fθ(x1, , xn)]
4 Tính đạo hàm dθdln[fθ(x1, , xn)]
5 Ước lượng HLCĐ của θ là nghiệm của phương trình
d
dθln[fθ(x1, , xn)] = 0