Định lý giới hạn trung tâm và tốc độ hội tụ

Biến ngẫu nhiên F x, FXx Hàm phân phối tích lũy, hàm phân phối tích lũy của X f x, fXx Hàm mật độ, hàm mật độ của X X ∈ F Biến ngẫu nhiên X có hàm phân phối tích lũy F CFX Tập các điểm l

ĐẠI HỌC KHOA HỌC TỰ NHIÊN

—————————————–

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM

VÀ TỐC ĐỘ HỘI TỤ

LUẬN VĂN THẠC SĨ KHOA HỌC

Hà Nội - Năm 2018

ĐẠI HỌC KHOA HỌC TỰ NHIÊN

—————————————–

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM

VÀ TỐC ĐỘ HỘI TỤ

Chuyên ngành: Lý thuyết xác suất và thống kê toán học

Mã số: 8460112.02

LUẬN VĂN THẠC SĨ KHOA HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC: TS Trần Mạnh Cường

Hà Nội - Năm 2018

Mục lục

1.1 Biến ngẫu nhiên và các dạng hội tụ 5

1.1.1 Biến ngẫu nhiên 5

1.1.2 Các dạng hội tụ 11

1.2 Hàm đặc trưng 13

1.2.1 Định nghĩa, các tính chất 13

1.2.2 Các kết quả liên quan đến hàm đặc trưng 17

1.3 Các bất đẳng thức 18

1.3.1 Các bất đẳng thức về xác suất 18

1.3.2 Các bất đẳng thức về hàm đặc trưng 19

2 Định lý giới hạn trung tâm 22 2.1 Trường hợp dãy biến ngẫu nhiên độc lập cùng phân bố xác suất 22

2.2 Trường hợp dãy biến ngẫu nhiên độc lập, không cùng phân bố xác suất 24

2.2.1 Điều kiện Lindeberg 24

2.2.2 Điều kiện Lyapounov 38

3 Tốc độ hội tụ 41 3.1 Ước lượng đều 41

3.2 Ước lượng không đều 51

TÀI LIỆU THAM KHẢO 57

Danh mục ký hiệu

w Phần tử của không gian mẫu (kết quả có thể)

A c Biến cố đối của A

∂A Biên của tập A

P (A) Xác suất của biến cố A

X, Y, Z Biến ngẫu nhiên

F (x), FX(x) Hàm phân phối tích lũy, hàm phân phối tích lũy của X

f (x), fX(x) Hàm mật độ, hàm mật độ của X

X ∈ F Biến ngẫu nhiên X có hàm phân phối tích lũy F

C(FX) Tập các điểm liên tục của hàm phân phối tích lũy của X

E, EX Kì vọng (giá trị trung bình), giá trị kì vọng của biến ngẫu nhiên X Var, VarX Phương sai, phương sai của biến ngẫu nhiên X

ϕ(t), ϕX(t) Hàm đặc trưng, hàm đặc trưng của biến ngẫu nhiên X

X ∼ Y Biến ngẫu nhiên X tương đương với biến ngẫu nhiên Y

X = Yd X và Y có cùng phân phối xác suất

→ X X n hội tụ theo trung bình bậc r về X

Xn− → Xd Xn hội tụ theo phân bố về X

Φ(x) Hàm phân phối tích lũy cuả phân phối chuẩn tắc φ(x) Hàm mật độ của phân phối chuẩn tắc

N (µ, σ2) Phân phối chuẩn

N (0, 1) Phân phối chuẩn tắc

exp(a) Hàm e mũ

 Kết thúc chứng minh

Lời nói đầu

Trong xác suất, định luật số lớn cho biết trung bình cộng của dãy cácbiến ngẫu nhiên, độc lập, cùng phân phối xác suất hội tụ đến giá trị trungbình, nghĩa là X := X1 +X 2 + +X n

n → µ Kì vọng của giá trị tung bình bằng

kì vọng của biến ngẫu nhiên X còn phương sai của giá trị trung bình giảm

n lần so với phương sai của X Luật số lớn chưa cho biết quy luật phânphối của giá trị trung bình Định lý giới hạn trung tâm là định lý pháttriển từ luật số lớn Định lý này cho biết thêm về quy luật phân phối củagiá trị trung bình

Luận văn này nghiên cứu định lý giới hạn trung tâm và tốc độ hội tụqua các chứng minh chi tiết

Một cách diễn giải định lý giới hạn trung tâm chính là nó cho biết kếtquả của tốc độ hội tụ Nói một cách cơ bản, cho dãy biến ngẫu nhiên

X, X1, X2, là dãy biến ngẫu nhiên độc lập, cùng phân phối với giá trịtrung bình µ Định luật số lớn yếu và mạnh khẳng định rằng n1 Pn

k=1Xk−µđể giới hạn của biểu thức này khác không khin → ∞ Định

lý đầu tiên nói về vấn đề này được phát biểu bởi nhà toán học Laplace.Nhưng phiên bản đầu tiên của định lý cùng với phần chứng minh do nhàtoán học Lyapounov phát biểu

Hóa ra, trong trường hợp đầu vào là dãy các biến ngẫu nhiên độc lập,cùng phân phối xác suất với phương sai hữu hạn, khi nlớn, phân phối củagiá trị trung bình tuân theo quy luật phân phối chuẩn nghĩa là Pnk=1Xk

∼ Nµ,σn2



Định lý Lindeberg-Levy-Feller cũng chỉ ra kết quả như trườnghợp trên nhưng đầu vào là dãy các biến ngẫu nhiên độc lập nhưng khôngcùng phân phối xác suất và phiên bản định lý giới hạn trung tâm với điềukiện Lyapounov

Sau đó, ta tiếp tục nghiên cứu định lý Berry - Esseen, định lý này đưa

ra tốc độ hội tụ là kết quả hội tụ của định lý giới hạn trung tâm Trong

đó định lý đưa ra cận trên của sự sai khác giữa hàm phân phối có giá trịtrung bình tiêu chuẩn và phân phối chuẩn khi ta có mô men cấp ba là hữuhạn

Luận văn gồm ba chương

Chương 1: Kiến thức chuẩn bị Chúng tôi trình bày lại những kiếnthức chuẩn bị về lý thuyết xác suất: biến ngẫu nhiên và các dạng hội tụ,hàm đặc trưng và các bất đẳng thức làm tiền đề nghiên cứu chương hai.Chương 2: Định lý giới hạn trung tâm Chúng tôi trình bày lại định

lý giới hạn trung tâm trong trường hợp dãy biến ngẫu nhiên độc lập cùngphân phối xác suất và trong trường hợp dãy biến ngẫu nhiên độc lập khôngcùng phân phối xác suất

Chương 3: Tốc độ hội tụ Chúng tôi trình bày lại định lý về tốc độhội tụ trong trường hợp dãy biến ngẫu nhiên độc lập cùng phân phối xácsuất và trong trường hợp biến ngẫu nhiên độc lập không cùng phân phốixác suất do hai nhà toán học Berry - Esseen chứng minh Ngoài ra phầnchứng minh về ước lượng không đều của tốc độ hội tụ của định lý giớihạn trung tâm cũng được trình bày dưới đây

Luận văn được hoàn thành tại trường Đại học Khoa học tự nhiên - Đạihọc quốc gia Hà Nội, dưới sự hướng dẫn của TS Trần Mạnh Cường

Em chân thành cảm ơn thầy Trần Mạnh Cường, các nghiên cứu sinh vàhọc trò của thầy Ngoài ra em muốn gửi lời cám ơn sâu sắc đến các thànhviên của nhóm seminar Xác suất thống kê, Đại học Khoa học tự nhiên đãgóp ý rất nhiều trong quá trình em hoàn thành luận văn

Em cũng xin bày tỏ lòng biết ơn các thầy cô và cán bộ của trường Đạihọc khoa học tự nhiên đã quan tâm giúp đỡ trong suốt quá trình học tập

và nghiên cứu tại trường

Hà Nội, ngày 1 tháng 12 năm 2018

Bùi Thị Thu Phương

Chương 1

Kiến thức chuẩn bị

Chương này trình bày lại một số khái niệm về lý thuyết xác suất: Biếnngẫu nhiên và các dạng hội tụ, hàm đặc trưng và các bất đẳng thức Nộidung chương được tham khảo trong tài liệu [1], [2] và [5]

1.1 Biến ngẫu nhiên và các dạng hội tụ

1.1.1 Biến ngẫu nhiên

Nghĩa là, ảnh của bất kì tập Borel nào là F − đo được

X−1(A) = {w : X(w) ∈ A} ∈ F với mọi A ∈ B

thỏa mãn hai điều kiện sau:

Trong trường hợp này, xác suất để biến ngẫu nhiên X thuộc vào khoảng

(a, b) được tính như sau:

P (a < X < b) =

Z b a

Trong định nghĩa trên, x là biến của hàm F, x nhận giá trị thực, x thuộc

(−∞, +∞) Tại một điểm x bất kỳ, hàm F (x) chính là xác suất để biếnngẫu nhiên nhận giá trị nhỏ hơn hoặc bằng x

Định nghĩa 1.1.3 (xem [5])

Hàm phân phối tích lũy F là liên tục khi và chỉ khi tồn tại một hàm f

không âm, khả tích Lebesgue sao cho

P (a < X < b) =

Z b a

Nhận xét: Nếu hàm mật độ liên tục tạix thì tại đó ta cóF0(x) = f (x),như vậy

P (a < X < b) = F (b) − F (a) =

Z b a

Ý nghĩa: Phương sai của biến ngẫu nhiên là một số không âm, dùng

để đo mức độ phân tán (mức độ tản mát) của các giá trị của biến ngẫunhiên X xung quanh tâm (EX) của nó VarX nhỏ thì mức độ phân tánnhỏ, độ tập trung lớn VarX càng lớn thì độ phân tán càng cao

X − EX: Khoảng cách từ giá trị của biến ngẫu nhiên X đến tâm

(X − EX)2: Bình phương của khoảng cách trên

E (X − EX)2: Trung bình của bình phương của khoảng cách trên

Định nghĩa 1.1.7 (xem [5] - tr.62)

Cho X là biến ngẫu nhiên

• Mô men cấp n kí hiệu EXn, n = 1, 2, ;

• Mô men trung tâm cấp n kí hiệu E (X − EX)n, n = 1, 2, ;

• Mô men tuyệt đối cấp n kí hiệu E|X|n, n = 1, 2, ;

• Mô men trung tâm tuyệt đối cấp n kí hiệu E|X − EX|n, n = 1, 2, Chú ý:

• Mô men cấp một là EX chính là giá trị trung bình của biến ngẫunhiên X

• Mô men trung tâm cấp hai là phương sai của biến ngẫu nhiên X kíhiệu VarX = E (X − EX)2 = EX2 − (EX)2

d Phân phối chuẩn N (µ, σ 2 )

Phân phối chuẩn là một phân phối xác suất cực kì quan trọng trongnhiều lĩnh vực Nó là họ phân phối có dạng tổng quát giống nhau, chỉ khác

nhau tham số vị trí (giá trị trung bình µ) và tỉ lệ (phương sai σ2) Phânphối chuẩn còn được gọi là phân phối Gauss hay hình chuông Gauss (xem[1], tr.58)

phương sai σ2 (hay độ lệch chuẩn σ) có dạng:

f (s; µ, σ) = 1

σ√2π exp

Hình 1.1: Hàm mật độ xác suất của phân phối chuẩn.

+ Đường cong mật độ này đối xứng qua đường x = µ, nhận trục 0xlàmtiệm cận ngang và có giá trị cực đại x = µ với tung độ cực đại là 1

σ √ 2π.+ Biến ngẫu nhiên X có phân phối chuẩn được kí hiệu:

là hàm đối xứng qua trục tung, đồ thị có hình chuông

• Hàm phân phối tích lũy là xác suất để một biến ngẫu nhiên X cógiá trị nhỏ hơn hay bằng x và được biểu diễn như sau:

F (x; µ, σ) = 1

σ√2π

Hình 1.2: Hàm phân phối tích lũy của phân phối chuẩn.

+ Khi X ∼ N (0, 1) ta có hàm phân phối tích lũy của phân phối chuẩntắc:

• Kì vọng và phương sai của phân phối chuẩn

Cho biến ngẫu nhiên X, X ∼ N (µ, σ2)

= µ2.1 + σ

2

√2π{−t.e−t2/2|∞−∞

Cho Xn, n = 1, 2, 3 là dãy biến ngẫu nhiên

Định nghĩa 1.1.8 (xem [5] - tr.202) Hội tụ hầu chắc chắn

Xn hội tụ hầu chắc chắn tới biến ngẫu nhiên X khi và chỉ khi

P ({w : Xn(w) → X(w) khi n → ∞}) = 1

Kí hiệu: Xn

hcc

−→ X khi n → ∞.Định nghĩa 1.1.9 (xem [5] - tr.202) Hội tụ theo xác suất

Xn hội tụ theo xác suất tới biến ngẫu nhiên X khi và chỉ khi

Định nghĩa 1.1.10 (xem [5] - tr.202) Hội tụ theo trung bình cấp r

Xn hội tụ theo trung bình cấp r tới biến ngẫu nhiên X khi và chỉ khi

E |Xn − X|r → 0 khi n → ∞

Kí hiệu: Xn −→ Xr khi n → ∞

Các trường hợp đặc biệt:

• Nếu r = 1, ta nói Xn hội tụ theo trung bình về X

• Nếu r = 2, ta nói Xn hội tụ theo trung bình bình phương (bậc 2) về

X

Định nghĩa 1.1.11 (xem [5] - tr.202) Hội tụ theo phân bố

Cho C(FX) = {x : FX(x) liên tục tại x} Xn hội tụ theo phân bố tớibiến ngẫu nhiên X khi và chỉ khi

FXn(x) → FX(x) khi n → ∞, với mọi x ∈ C(FX)

Kí hiệu: Xn −→ Xd khi n → ∞

Chú ý: ta có thể viết như sau: Xn −→ N (0, 1)d , thay vì viết Xn −→ Xd

khi n → ∞ trong đó X ∈ N (0, 1)

Định nghĩa 1.1.12 (xem [5] - tr.203) Hội tụ chắc chắn

Xn hội tụ chắc chắn tới biến ngẫu nhiên X khi và chỉ khi

Xn −→ Xd khi n → ∞ khi và chỉ khi

Eh(Xn) → Eh(X) khi n → ∞, với mọi h ∈ CB

b Quan hệ giữa các dạng hội tụ

Định lý 1.1.1 (xem [5] - tr.209) ChoX, X1, X2, là dãy biến ngẫu nhiên,khi n → ∞ ta có mối quan hệ sau đây:

Xn −→ Xc.c ⇒ Xn −→ Xhcc ⇒ Xn −→ Xp ⇒ Xn −→ Xd

⇑

Xn −→ Xr

Định lý 1.1.2 (xem [5] - tr.209) Cho X và Y là hai biến ngẫu nhiên

X = Yd ⇐⇒ E h(X) = E h(Y ), với mọi h ∈ CB

Định lý 1.1.3 (xem [5] - tr.209) Cho X1, X2, và Y1, Y2, là hai dãybiến ngẫu nhiên sao cho

Xn −→ Xd và Yn −→ ap khi n → ∞,

ϕX(t) = EeiiX = E(cos Xt +isin Xt) = E cos Xt +iE sin Xt.

là hàm đặc trưng của biến ngẫu nhiên X

Định nghĩa 1.2.2 (xem [5] - tr.158) Nếu FX(x) là hàm phân phối tíchlũy của biến ngẫu nhiên X thì

ϕX(t) = R−∞∞ eiixdFX(x)

Dưới đây là hai bảng hàm đặc trưng của một số phân phối xác suất

Hình 1.3: Hàm đặc trưng của một số phân phối xác suất rời rạc.

Hình 1.4: Hàm đặc trưng của một số phân phối xác suất liên tục.

Định lý 1.2.1 (xem [5] - tr.160) Cho X và Y là hai biến ngẫu nhiên.Nếu ϕX = ϕY, thì X = Yd và ngược lại

Định lý 1.2.2 (xem [5] - tr.238) Cho X, X1, X2, là dãy biến ngẫunhiên, với mọi t > 0 ta có

ϕXn(t) → ϕX(t) khi và chỉ khi Xn → Xd khi n → ∞

Định lý 1.2.3 (xem [5] - tr.160) Cho X là biến ngẫu nhiên có hàm phânphối tích lũy F và hàm đặc trưng ϕ Với a < b

Z T

−T

e−itb− e−ita

−it .ϕ(t)dt.

Định lý 1.2.4 (xem [5] - tr.161) (Công thức ngược)

Nếu R−∞∞ |ϕ(t)|dt < ∞, thì biến ngẫu nhiên X có hàm phân phối liên tục,

bị chặn với hàm mật độ liên tục f = F0 được cho bởi công thức

Định lý 1.2.5 (xem [5] - tr.164) Cho X1, X2, , Xn là dãy biến ngẫunhiên độc lập, đặt Sn = X1 + X2 + + Xn thì

Cho X là biến ngẫu nhiên, lấy a, b ∈ R ta có ϕaX+b(t) = eibt.ϕX(at)

Ví dụ 1.2.1 Cho X ∈ N (µ, σ2), sử dụng hàm đặc trưng của phân phốichuẩn tắc là exp{−t2/2} và định lý trên để chỉ ra rằng ϕX(t) = eitµ−12 σ2t2.Chứng minh

Hình 1.5: Hai hàm đăc trưng trùng nhau trên một khoảng.

Trước khi kết thúc ví dụ này, chúng ta hãy chứng minh rằng hàm mật

độ f như được nêu trong (1.2) Hàm mật độ này có thể tính được bằngcách tính toán trực tiếp, nhưng chú ý rằng hàm đặc trưngϕ có dạng tương

tự như hàm mật độ của phân phối tam giác Tri(−1, 1)

Hàm mật độ của phân phối tam giác là kết quả của tổng hai biến ngẫunhiênX1+X2, trong đóX1 vàX2 là các biến ngẫu nhiên độc lập cùng phânphối đều U −12,12
Vì hàm đặc trưng của phân phối đều bằng sin(t/2)t/2 , khi

đó hàm đặc trưng của phân phối tam giác bằng bình phương hàm đặctrưng của phân phối đều được định nghĩa như sau

1.2.2 Các kết quả liên quan đến hàm đặc trưng

Phần này nêu lên mối liên hệ giữa sự tồn tại của Mô men và tính khả vicủa hàm đặc trưng

Định lý 1.2.7 (xem [5] - tr.175) Cho X là biến ngẫu nhiên có F là hàmphân phối tích lũy, ϕ là hàm đặc trưng

(i) Nếu E |X|n < ∞ với n = 1, 2, thì

k

≤ E min

(

2|t|n|X|nn! ,

|t|n+1|X|n+1(n + 1)!

X

k=2

1k!

∞

X

k=0

|z|k(k + 1)! ≤ |z|

∞

X

k=0

|z|kk! = |z| e

≤ min

(

2|y|nn! ,

|y|n+1(n + 1)!

y 0

k + 1

Z y 0

eix(y − x)k+1dx, k ≥ 0 (A.6)

Cho k = 0 thay vào (A.6) ta được:

⇒

Z y 0

eixdx = y +i

Z y 0

eix(y − x)dx

Mà R0yeixdx = eixi

y 0

= eiyi−1 suy ra

Z y 0

eixdx =

(

y +iR0yeix(y − x)dx

e iy −1 i

⇒ eiy = 1 +iy +i2

Z y 0

... 2

Định lý giới hạn trung tâm< /h2>

Trong xác suất, định lý giới hạn trung tâm định lý tiếng có vaitrị quan trọng Nó kết hội tụ yếu dãy biến ngẫunhiên Với định lý này, ta có... có kết tổng biến ngẫu nhiên độclập, phân bố xác suất hội tụ biến ngẫu nhiên đó.Trong trường hợp đơn giản nhất, dùng phần chứngminh định lý trường hợp biến ngẫu nhiên độc lập, có kỳvọng phương sai... phối xác suất biến ngẫu nhiên giản lược

sẽ hội tụ phân phối chuẩn

Sự hội tụ đảm bảo trường hợp đơn giản Tuy nhiên cũngtồn hội tụ trường hợp biến ngẫu nhiên không phânphối, phải