Nếu một phân phối có k thông số chưa biết, thủ tục nhằm tính toán hệ số các momen mẫu k bậc nhất của phân phối và sử dụng chúng như là các ước lượng của các momen tổng thể tương ứng..
Trang 1Trong phần này chúng ta trình bày hai thủ tục có thể thay thế nhau để ước lượng các thông số chưa biết của phân phối xác suất mà các quan sát x1, x2, , xn được rút ra từ đó trong Phụ lục, Phần 2.A.3, ta mô tả thêm một phương pháp nâng cao trong phần thảo luận tiếp theo, chúng ta sẽ giả sử rằng nhà khảo sát biết được bản chất của phân phối xác suất nhưng chưa biết các giá trị của các thông số
Phương pháp Momen
Phương pháp lâu đời nhất để ước lượng các thông số là phương pháp momen Nếu một
phân phối có k thông số chưa biết, thủ tục nhằm tính toán hệ số các momen mẫu k bậc
nhất của phân phối và sử dụng chúng như là các ước lượng của các momen tổng thể tương ứng Trong Phần 2.2, chúng tôi đã có lưu ý rằng trung bình tổng thể của phân
phối (µ) cũng được đề cập đến như là momen bậc nhất của phân phối xung quanh giá trị
gốc Đó là giá trị trung bình có trọng số của tất cả các x có thể có, các trọng số là các xác suất tương ứng Trung bình mẫu (x_) là trị trung bình số học của các quan sát mẫu x1, x2, , xn Bằng phương pháp các momen, x_ được tính như là một ước lượng của µ Phương sai của một biến ngẫu nhiên là σ2 = E [(X – µ)2] và được biết như là momen bậc hai xung quanh giá trị trung bình Phương sai mẫu (s2), được định nghĩa trong Phương trình (2.9),
được sử dụng như là một ước lượng của phương sai tổng thể của phân phối Trong nhiều
trường hợp (ví dụ như, phân phối chuẩn), trung bình và phương sai đặc trưng hoàn toàn cho một phân phối, và do đó không có nhu cầu phải sử dụng các momen bậc cao hơn như là giá trị kỳ vọng của (X – µ)3 Chúng ta sẽ thấy trong Phần 2.6 rằng trung bình mẫu có một số tính chất mong muốn
Cùng với nguyên lý này có thể được áp dụng để ước lượng hệ số của sự tương quan giữa hai biến ngẫu nhiên X và Y (xem Định nghĩa 2.5) Gọi x1, x2, , xn và y1, y2, ,
yn là các mẫu quan sát ngẫu nhiên độc lập (với cỡ mẫu n) tương ứng với X và Y Phương sai tổng thể giữa chúng được cho trong Định nghĩa 2.4 là E [(X – µx) (Y – µy)], trong đó
µx và µy là các trung bình tổng thể tương ứng của X và Y Một trị ước lượng của thông số
này được cho bởi phương sai mẫu
Sxy = Cov(X, Y) = 1
n – 1∑ (xi – x_) (yi – y_) (2.10)
Nếu các cặp giá trị của xi và yi được vẽ ra đồ thị, chúng ta có được một đồ thị như Hình 2.7, trong đó X và Y có tương quan thuận với nhau (nghĩa là, X và Y nói chung là cùng dịch chuyển theo cùng một hướng) Chúng ta đã có đề cập rằng một đồ thị điểm
như vậy được gọi là biểu đồ phân tán Hình 2.6 cũng tương tự như vậy ngoại trừ việc trung bình vẽ những điểm đề cập đến tổng thể, trong khi ở đây nó lại đề cập đến mẫu
Trang 2Bằng cách chuyển đổi các trục thành các đường nét đứt xuất phát từ điểm (x_,y_), chúng ta có thể thấy rằng (xi – x_) và (yi – y_) là những khoảng cách từ điểm trung bình (x_,y_) } Hình 2.7 Một Biểu đồ Phân tán đối với Tương quan Thuận
} Hình 2.8 Một Biểu đồ Phân tán đối với Mối quan hệ xấp xỉ bậc hai
0
y_
x_
Y
X
3
4
y_
Y
X
3
4
Trang 3Nếu mối quan hệ là dương, chúng ta sẽ kỳ vọng hầu hết các điểm đều nằm trong các phần tư thứ nhất và thứ ba mà trong đó tích số (xi – x_) (yi – y_) sẽ dương Do các tích số âm của các điểm trong phần tư thứ hai và thứ tư hầu như bị lấn át bởi các tích số dương, chúng ta sẽ kỳ vọng đồng phương sai là dương Bằng lý luận tương tự, chúng ta có thể thấy rằng nếu mối quan hệ là âm, hầu hết các điểm sẽ nằm trong phần tư thứ hai và thứ tư, tạo ra một đồng phương sai âm Điều này cho thấy rằng nếu X và Y có tương quan thuận, thì đồng phương sai và do đó tương quan giữa chúng cũng sẽ thuận Một mối
quan hệ âm sẽ cho một hệ số tương quan âm Hệ số tương quan mẫu được cho bởi
rxy = sxy
sxsy =
∑ (xi – x_) (yi – y_) [∑ (xi – x_)2]1/2 [∑ (yi – y_)2]1/2 (2.11)
trong đó sx và sy là các độ lệch chuẩn mẫu (căn bậc hai của các phương sai) tương ứng của X và Y
Trong Phần 2.3 chúng ta đã có đề cập đến vấn đề hệ số tương quan là một đại lượng đo lường mối quan hệ tuyến tính giữa X và Y Hình 2.8 là một biểu đồ phân tán cho ta thấy trường hợp khi Y là một hàm xấp xỉ bậc hai của X chúng tôi lưu ý rằng các điểm được phân tán trong cả bốn phần tư của biểu đồ, và do đó tổng ∑ (xi – x_) (yi – y_) hầu như rất nhỏ, cho một giá trị rxy nhỏ Vì vậy, một rxy nhỏ không có nghĩa là X và Y
không có quan hệ chặt chẽ với nhau, mà có nghĩa là chúng không có quan hệ tuyến tính
chặt chẽ
Bài tập 2.24 minh họa khái niệm sự tương quan được áp dụng cho đường cong
Phillips
Đối với những người sử dụng GRETL, Phần Thực hành trên Máy tính 2.3 (xem Phụ lục D, Bảng D.1) chứng tỏ rằng việc tính toán các đồng phương sai và tương quan giữa điểm trung bình ở đại học và điểm trung bình ở trung học theo dữ liệu trong DATA 2-2, được mô tả trong Phụ lục D Hãy sử dụng chương trình riêng của bạn với DATA 2-2 để xác minh lại các kết quả được trình bày ở đây
} Bảng 2.8 Số liệu Kết quả từ Máy tính được giải thích từng phần minh họa cho các trị thống
kê tóm tắt khác nhau
Các chú giải được qui định ở dạng riêng khác với dạng được sử dụng cho các kết quả máy tính
x = colgpa = Grade point average in College
y = hsgpa = Grade point average in High School
Correlation between x and y = 0.406662
Summary Statistics, using the observations 1 – 427
Trang 4Variable MEAN MEDIAN MIN MAX
Min và Max là những giá trị nhỏ nhất và lớn nhất trong mẫu Median là giá trị của
x hoặc y tính theo mỗi bên của giá trị này sẽ có 50% các quan sát C.V là hệ số biến
thiên (MEAN/S.D.) đã được thảo luận trong Phần 2.2 SKEW là một đại lượng đo lường
sự phân phối của biến sai lệch bao xa so với điểm đối xứng (trong bài này gọi là độ lệch
skewness) Một giá trị bằng không cho biết điểm đối xứng xung quanh giá trị không
Một giá trị dương cho biết độ lệch về bên phải với một nhánh dài theo hướng này Một
giá trị âm cho biết độ lệch đối xứng skewness sang bên trái với một nhánh dài theo
hướng này EXCKURT là độ lệch kurtosis, nghĩa là, độ kurtosis –3 Kurtosis là một đại
lượng đo lường độ rộng hình chóp của một phân phối Phân phối chuẩn có kurtosis là 3
Một phân phối dàn trải rộng sẽ có một giá trị kurtosis âm, và một phân phối hẹp sẽ có
một giá trị kurtosis dương Độ lệch skewness và kurtosis không được thảo luận trong bài
vì chúng không được sử dụng nhiều trong kinh tế lượng Nếu muốn biết thêm chi tiết về
các đại lượng này, hãy xem sách của Ramanathan (1993, Phần 3.5)
Một phiên bản giải thích kết quả được trình bày ở Bảng 2.8 Bảng cũng cung cấp thêm các đại lượng thống kê tóm tắt chưa được thảo luận ở phần trên
Phương Pháp Bình Phương Tối Thiểu (hay Bình Phương Tối Thiểu Thông Thường)
Trong kinh tế lượng, phương pháp được sử dụng phổ biến nhất để ước lượng các thông số
là phương pháp bình phương tối thiểu (cũng còn được biết đến dưới tên bình phương tối
thiểu thông thường hay OLS) Mặc dù nó được sử dụng chủ yếu để ước lượng các thông
số của một mô hình hồi qui dạng PRICE = α + βSQFT + u đã gặp phải trong Chương 1,
phương pháp này còn rất hữu ích trong trường hợp ước lượng giá trị trung bình của một
biến đơn ngẫu nhiên X
Từng quan sát x i có thể được xem như một giá trị ước lượng của mẫu trung bình µ vì
E (x i) = µ Sai số trong giá trị ước lượng này là e i = x i – µ (tức là, xi = µ + e i) Xem xét
tổng bình phương của sai số này trong tổng thể mẫu Tức là, đặt ESS (µ) = ∑ 2
i
e = ∑ (x i –
µ)2 Phương pháp bình phương tối thiểu chọn giá trị ước lượng µ mà tổng bình phương sai
số mẫu là nhỏ nhất Việc bình phương các sai số giải quyết được hai vấn đề Đầu tiên, nó
loại bỏ dấu của sai số Vì vậy, những sai số có giá trị dương và âm được xem xét như
nhau Thứ hai, việc bình phương sẽ loại bỏ những sai số lớn bởi vì những sai số như thế
bị phóng đại lên nhiều khi lấy bình phương
Trang 5Để có được µˆ, ước lượng µ bằng cách tối thiểu ESS, viết ESS như sau:
ESS (µˆ ) = ∑ (x i – µˆ)2 = ∑ (x i – x + x – µˆ )2
= ∑ (xi – x )2 + ∑ ( x – µˆ)2 + 2∑ ( x – µˆ )(x i – x )
= ∑ (xi – x )2 + ∑ ( x – µˆ)2
Bởi vì x – µˆ trong số hạng thứ ba là một hằng số, nên nó có thể được loại ra (xem Phụ Lục 2.A.1) và, theo Tính Chất 2.A.4, số hạng thứ ba bằng không Do trong số hạng đầu không có µˆ, nên chúng ta thấy rằng ESS được tối thiểu đối với việc lựa chọn µˆ nếu và chỉ nếu chúng ta cho µˆ = x , điều này nó có thể làm cho số hạng thứ hai bằng không Do
đó, giá trị ước lượng bình phương tối thiểu của µ là giá trị trung bình mẫu x
Trong phần phụ lục của chương, chúng ta sẽ thảo luận một thủ tục khác, hiện đại hơn: giá trị ước lượng thích hợp cực đại (MLE) Những người đọc có quan tâm nên đọc phần này
(Để thấy được việc sử dụng những phương pháp diễn tả trong phần này trong ước lượng các hồi qui như thế nào, xem tiếp Phần 3.1 và 3.2.)
} 2.6 Các Tính Chất Của Ước Lượng
Trong phần trước chúng ta đã thảo luận hai thủ tục ước lượng mà nó chọn trung bình mẫu là ước lượng của µ Trong ví dụ chiều cao của người trong Phần 2.5, một ước lượng thay thế đó là lấy các chiều cao của những người cao nhất và những người thấp nhất và lấy trung bình Ước lượng nào tốt hơn? Để có thể trả lời được những câu hỏi loại như thế này, chúng ta cần một vài tiêu chí trong việc chọn lựa giữa những ước lượng khác nhau Một vài tiêu chuẩn đã được thiết lập để đánh giá “sự thích hợp” của một ước lượng, nhưng trong những phần sau chúng ta chỉ thảo luận các khái niệm được sử dụng thường xuyên nhất trong kinh tế lượng Một vài khái niệm trong đó áp dụng được cho những cỡ mẫu nhỏ và những khái niệm khác chỉ thích hợp đối với những cỡ mẫu lớn
Những Tính Chất Của Ước Lượng Cỡ Mẫu Nhỏ
Ký hiệu chuẩn cho thông số chưa biết là θ và ký hiệu một giá trị ước lượng là θˆ Nên nhấn mạnh rằng θˆ là một hàm số của những quan sát x1, x2, … , x n và nó không phụ thuộc vào bất kỳ thông số chưa biết nào Do đó một giá trị ước lượng như vậy là một trị thống
kê mẫu Tuy nhiên, bởi vì x là những biến ngẫu nhiên, nên θˆ cũng ngẫu nhiên
KHÔNG THIÊN LỆCH Bởi vì θˆ là một biến ngẫu nhiên, nên nó có một phân phối xác
suất với giá trị trung bình nào đó, gọi là E(θˆ) Nếu giá trị trung bình này tương đương
Trang 6với thông số chưa biết θ, chúng ta nói rằng giá trị ước lượng là không thiên lệch Do
vậy, chúng ta có định nghĩa sau
Một ước lượng θˆ được gọi là giá trị ước lượng không thiên lệch của θ nếu E(θˆ) = θ
Nếu sự cân bằng này không được duy trì, thì ước lượng được gọi là bị thiên lệch và độ
thiên lệch là E(θˆ) - θ
Mặc dù với một cuộc thử nghiệm cho trước θˆ có thể không bằng θ, nếu chúng ta lặp lại một lượng lớn số lần thử và tính toán θˆ từng lần một, thì trị trung bình của những giá trị này sẽ là θ nếu giá trị ước lượng là không thiên lệch Như đã mô tả trong Phần
2.4, nếu chúng ta giữ cố định cỡ mẫu ở n, thực hiện nhiều lần thí nghiệm này, tính toán
θˆ cho từng lần, và hình thành một phân phối tần suất, thì chúng ta thu được phân phối mẫu của θˆ Tính không thiên lệch đòi hỏi trị trung bình của phân phối này là giá trị θ
thực
HIỆU QUẢ Trong khi tính thiên lệch rõ ràng là một đặc tính mong muốn của bất kỳ ước lượng nào, chúng ta cũng cần thêm tiêu chuẩn bởi vì có thể xây dựng một số luợng không giới hạn những ước lượng không thiên lệch Trong ví dụ đo lường chiều cao,
chúng ta biết rằng giá trị trung bình mẫu x không thiên lệch bởi vì E( x ) = µ Nhưng giá trị ước lượng khác, vừa được đưa ra trước đây, tính độ cao trung bình của những người
cao nhất (gọi là xmax) và của những người thấp nhất (gọi là xmin) cũng không thiên lệch
Đặt θˆ = 21(xmax + xmin) Tiếp theo E(θˆ) = 21[E(xmax) + E(xmin)] = µ, và do vậy θˆ cũng không thiên lệch Thật dễ dàng chứng minh rằng bất kỳ giá trị trung bình trọng số nào
của x là một ước lượng không thiên lệch của µ, miễn là các trọng số không ngẫu nhiên và có tổng bằng 1 Do đó chúng ta cần thêm tiêu chí để phân biệt giữa hai ước lượng không thiên lệch
Chúng ta đã biết rằng phương sai của một biến ngẫu nhiên là một đại lượng đo lường sự phân tán của nó xung quanh giá trị trung bình Về mặt trung bình, một phương sai nhỏ hơn có nghĩa là các giá trị của biến ngẫu nhiên sẽ gần với giá trị trung bình hơn những giá trị của biến ngẫu nhiên khác với cùng giá trị trung bình nhưng có phương sai cao hơn Điều này gợi ý rằng chúng ta có thể sử dụng phương sai của hai ước lượng không thiên lệch như là giá trị trung bình của việc chọn lựa giữa hai giá trị Xét về trung bình, giá trị ước lượng với phương sai nhỏ hơn rõ ràng được mong muốn hơn vì nó gần với giá trị trung bình thực θ Đó chính là khái niệm hiệu quả
ĐỊNH NGHĨA 2.8 (Hiệu Quả)
a Đặt θˆ1 và θˆ2là hai ước lượng không thiên lệch của thông số θ Nếu Var (θˆ1) < Var (θˆ2), thì chúng ta nói rằng θˆ1 hiệu quả hơn θˆ2
Trang 7b Tỉ số [Var (θˆ1)]/[Var (θˆ2)] được gọi là hiệu quả tương đối
c Giữa tất cả những giá trị ước lượng không thiên lệch của θ, giá trị với phương sai nhỏ
nhất được gọi là ước lượng không thiên lệch có phương sai tối thiểu
Chúng ta hãy ứng dụng định nghĩa này vào ví dụ chiều cao Đặt θˆ1 là trung bình mẫu và θˆ2 là trung bình độ cao của những người cao nhất và những người thấp nhất Từ Tính chất 2.10a, Var (θˆ1) = σ2/n và Var (θˆ2) = σ2/2 Nếu cỡ mẫu lớn hơn hai, θˆ1 có phương sai nhỏ nhất và dó đó rõ ràng sẽ được ưa thích hơn Do vậy, θˆ1 hiệu quả hơn θˆ2
SAI SỐ BÌNH PHƯƠNG TRUNG BÌNH Xem xét hai ước lượng: Một không thiên lệch và giá trị kia mặc dù thiên lệch nhưng lại có phương sai nhỏ hơn nhiều, hàm ý nói rằng, về mặt trung bình, nó có thể gần với giá trị trung bình thực hơn là giá trị ước lượng không thiên lệch Trong trường hợp này, chúng ta có thể sẵn sàng cho phép một vài sai lệch để có thể có được lợi về phương diện phương sai Một phương pháp cho phép việc đánh đổi
này giữa sự không thiên lệch và phương sai là sai số bình phương trung bình
a Sai số bình phương trung bình của một ước lượng θˆ được định nghĩa là MSE (θ) =
E[(θˆ - θ)2], đó là giá trị kỳ vọng của bình phương độ lệch của θˆ từ θ
b Nếu θˆ1 và θˆ2 là hai ước lượng thay thế của θ và MSE (θˆ1) < MSE (θˆ2), thì θˆ1 được
gọi là hiệu quả bình phương trung bình so với θˆ2 Nếu cả hai giá trị đều không thiên lệch, thì θˆ1 sẽ hiệu quả hơn, như trong Định Nghĩa 2.8a
c Giữa tất cả các ước lượng có thể có của θ, giá trị với sai số bình phương trung bình
nhỏ nhất được gọi là giá trị ước lượng sai số bình phương trung bình tối thiểu
Dễ dàng chỉ ra được sai số bình phương trung bình tương đương với tổng phương sai
và bình phương của những độ thiên lệch Do vậy, nếu b(θ) = E(θˆ) - θ là độ thiên lệch trong ước lượng θˆ, thì MSE = Var(θˆ) + [b(θ)]2 Lưu ý rằng b(θ) độc lập với các giá trị x
và do đó nó cố định và không ngẫu nhiên
MSE = E[(θˆ- θ)2] = E[θˆ- E(θˆ) + E(θˆ) – θ]2 = E[θˆ- E(θˆ) + b(θ)]2 = E[θˆ- E(θˆ)]2 + [b(θ)]2 + 2b(θ) E[θˆ- E(θˆ)]
Số hạng đầu tiên là phương sai của θˆ và số hạng thứ ba bằng không bởi vì E(θˆ)
không ngẫu nhiên và do đó E[θˆ- E(θˆ)] = E(θˆ) - E(θˆ) = 0 Kết quả mong muốn xuất hiện ngay theo sau
Trang 8Khái niệm sai số bình phương trung bình được sử dụng thường xuyên hơn trong việc lựa chọn giữa những dự báo khác nhau của một biến ngẫu nhiên (xem Chương 11) Các dự báo thường bị thiên lệch – tức là, chúng ước lượng quá mức hoặc là ước lượng dưới mức một cách có hệ thống biến quan tâm – nhưng một vài giá trị dự báo có thể có phương sai nhỏ hơn Do đó sai số bình phương trung bình là một đại lượng hữu ích vì nó có xét đến cả sự thiên lệch và phương sai của giá trị dự báo đó
Những Tính Chất Của Ước Lượng Cỡ Mẫu Lớn
Tất cả những tính chất thảo luận trong phần trước thích hợp đối với những cỡ mẫu hữu hạn Đôi khi một ước lượng có thể không mang một hay nhiều hơn những tính chất mong muốn trong một cỡ mẫu nhỏ, nhưng khi cỡ mẫu trở nên lớn, nhiều tính chất mong muốn có thể được duy trì Do đó, nên quan tâm nghiên cứu đến những tính chất của các cỡ mẫu
lớn này, hoặc tiệm cận Trong những thảo luận sau đây, chúng ta cho cỡ mẫu n tăng lên không giới hạn Bởi vì một ước lượng sẽ phụ thuộc vào n, nên chúng ta ký hiệu nó là θˆn
quán.Theo thuật ngữ trực giác, nhất quán có nghĩa là khi n tăng lên, giá trị ước lượng θˆn sẽ tiến đến giá trị θ thực Hay nói cách khác, chúng ta biểu diễn một mẫu ngẫu nhiên của bất kỳ cỡ mẫu nào từ tổng thể lớn và tính θˆ Tiếp theo chúng ta vẽ thêm một quan sát và tính toán lại θˆ với quan sát thêm này Chúng ta lặp lại quá trình này nhiều lần, và nhận được một chuỗi các ước lượng cho θ Nếu chuỗi này hội tụ về θ khi n tăng lên vô
tận, thì θˆ là một giá trị ước lượng nhất quán của θ Định nghĩa chính thức của sự nhất quán được cho trong Định Nghĩa 2.10
Một ước lượng θˆn được gọi là một giá trị ước lượng nhất quán của θ nếu
∞
→
nlim P(θ − ε ≤
n
θˆ ≤ θ + ε) = 1, cho tất cả các ε > 0 Tính chất này được biểu diễn như plim(θˆn) = θ
Chúng ta hãy nghiên cứu định nghĩa này kỹ lưỡng hơn Xem xét khoảng cố định (tức là, không ngẫu nhiên) (θ − ε , θ + ε), với ε là một số dương bất kỳ Bởi vì θˆn là một ước lượng phụ thuộc vào một mẫu các quan sát, nên nó là một biến ngẫu nhiên Do đó chúng ta có thể tính xác suất mà θˆn nằm trong khoảng xác định đó Nếu xác suất này
tăng lên 1 khi n tăng lên vô tận đối với bất kỳ giá trị ε > 0 nào, thì chúng ta nói rằng θˆn
là một ước lượng nhất quán của θ
Điểm này được minh họa trong Hình 2.9, nó biểu diễn phân phối mẫu của θˆn = x cho nhiều giá trị khác nhau của cỡ mẫu n Chúng ta lưu ý rằng phân phối này trở nên
Trang 9ngày càng “bị nén chặt” khi cỡ mẫu tăng lên Nói một cách khác, phương sai của θˆn tiến đến 0 khi cỡ mẫu tăng lên Trong giới hạn, phân phối của θˆnsẽ trở thành điểm đơn θ
n3 > n2 > n1
Nhưng Nhất Quán, n3 > n2 > n1
Cần nhấn mạnh rằng, các khái niệm không thiên lệch và nhất quán tương đối khác nhau về quan điểm Không thiên lệch có thể được duy trì cho bất kỳ cỡ mẫu nào, nhưng sự nhất quán thì hoàn toàn chỉ áp dụng được đối với khái niệm cỡ mẫu lớn Hình 2.10 minh họa giá trị ước lượng thiên lệch nhưng nhất quán
Sự thiên lệch có bao hàm luôn sự nhất quán hay không? Hoàn toàn không, như sẽ
chỉ ra trong ví dụ phản bác ngay sau đây Quan sát đầu tiên, x1, là một giá trị ước lượng
không thiên lệch của trị trung bình θ bởi vì E(x1) = θ Nhưng khi cho n →∞ thì sẽ không làm cho x1 tiến đến θ với bất kỳ giá trị trung bình nào
f(x)
x
θ
n3
n2
n1
f(θ ˆ)
θ ˆ
n3
n2
n1
Trang 10(Tiếp tục xem trong Phần 3.3 để thấy được những khái niệm này được ứng dụng trong kinh tế lượng như thế nào)
KHÔNG THIÊN LỆCH TIỆM CẬN* Sự thiên lệch trong một ước lượng sẽ khác nhau giữa giá trị kỳ vọng của nó và thông số thực θ Sự thiên lệch này có thể phụ thuộc vào cỡ mẫu, n Nếu sự thiên lệch đi đến không khi n tăng lên vô cực, chúng ta nói rằng giá trị ước lượng là không thiên lệch tiệm cận
ĐỊNH NGHĨA 2.11 (Không Thiên Lệch Tiệm Cận)*
Một ước lượng θˆn được gọi là không thiên lệch tiệm cận nếu như (ˆn)
∞
→ lim = θ, hay nói cách khác, nếu n(θ)
∞
→ lim = 0, với b n(θ) = E(θˆn) - θ
HIỆU QUẢ TIỆM CẬN* Không có một ước lượng đơn nào có thể hiệu quả nhất (tức là, có phương sai nhỏ nhất) cho tất cả các giá trị θ Một vài giá trị khá tốt cho một số giá trị
θ nào đó và những giá trị khác thì hiệu quả hơn trong những khoảng giá trị khác của θ
Ví dụ, đặtθˆ = 1,25, không cần biết giá trị của các quan sát là bao nhiêu Nếu giá trị
θ thực đúng bằng hay gần bằng 1,25, thì đây là ước lượng tương đối tốt; nhưng khi giá trị thực nằm ngoài 1,25, thì ước lượng này kém Tuy nhiên, khi gặp phải những giá trị ước lượng nhất quán, thì khoảng giá trị của θ mà có một giá trị ước lượng hiệu quả hơn một
giá trị ước lượng khác thu hẹp lại khi cỡ mẫu tăng lên Trong giới hạn khi n → ∞, phân
phối của tất cả các giá trị ước lượng nhất quán trở về giá trị thực θ (lưu ý là phương sai bằng không) Do đó ưu tiên thuộc về những giá trị ước lượng mà tiến đến giá trị thực
θ theo cách nhanh nhất có thể (tức là, những giá trị mà phương sai của chúng hội tụ về
không nhanh nhất) Đó chính là khái niệm hiệu quả tiệm cận được định nghĩa một cách
chính thức trong Định Nghĩa 2.12 Theo thuật ngữ trực giác, ước lượng nhất quán, áp dụng cho cỡ mẫu lớn, sẽ hiệu quả tiệm cận khi phương sai của nó nhỏ hơn phương sai của bất kỳ ước lượng nhất quán nào khác
Một ước lượng nhất quán θˆ1 được gọi là hiệu quả tiệm cận nếu đối với tất cả các ước lượng nhất quán khác θˆ2
∞
) ˆ (
2
Var(
Var
θ
θ
n < 1 cho tất cả các giá trị θ
} 2.7 Phân Phối Chi-Bình Phương, Phân Phối-t và Phân Phối-F