Quá trình Poisson

Tài liệu này bắt đầu từ phân phối Poisson. Từ việc thành lập phân phối Poisson từ phân phối Nhị thức qua Định lý giới hạn Poisson. Sau đó là việc tính các đặc trưng cơ bản của phân phối Poisson. Kế tiếp, nghiên cứu quá trình Poisson là một quá trình ngẫu nhiên, mô tả số khách hàng ra vào một cửa hàng hay là việc sinh ra một phần tử trong một quần thể. Dùng phương trình vi phân Kolmogorov để tìm hàm mật độ cho quá trình Poisson, và khảo sát một vài tính chất cơ bản của quá trình.

Phân phối Poisson - Quá trình Poisson

C.Lam - L.T.Huu

1 Phân phối Poisson: (Poisson distribution)

1.1 Định nghĩa:

Giả sử có n thí nghiệm độc lập

Với mỗi thí nghiệm, xác suất thành công là p và thất bại là q = 1 − p

Đặt X là số kết quả thành công trong n phép thử

Không gian trạng thái của X là {0, 1, 2, , n}

Khi đó r.v’s X có phân phối nhị thức với tham số n và p và ký hiệu X ∼ B(n, p) Hàm pmf của X có dạng:

pX(x) = P r [X = x] = Cnxpx(1 − p)n−x, 0 ≤ x ≤ n (1.1) Khi n lớn thì việc tính toán rất khó vì Cnx rất lớn và px(1 − p)n−x rất nhỏ

Cho nên khi n → ∞ và p → 0 lúc đó np → λ, λ ∈ (0, ∞)

Ta có:

Cnxpx(1 − p)n−x = n!

x!(n − x)!p

x(1 − p)n−x

= n!

x!(n − x)!.

 λ n

x



1 − λ n

n−x

, vì np = λ ⇒ p = λ/n

=λ

x

x!.

 n!

(n − x)!

1

nx



| {z }

=e −λ ,n−→∞



1 −λ n

n−x

=λ

x

x!.

 n(n − 1)(n − 2) (n − x + 1)(n − x)!

(n − x)!nx





1 −λ n

n−x

x

x!.

 n(n − 1)(n − 2) (n − x + 1)

nx





1 − λ n

n−x

=λ

x

x!.

 n

n.

n − 1

n .

n − 2

n

n − x + 1 n





1 − λ n

n−x

=λ

x

x!.

 1



1 − 1 n





1 − 2 n





1 − x + 1 n





1 − λ n

n−x

=λ

x

x!.

 1



1 − 1 n





1 − 2 n





1 − x + 1 n





1 − λ n

n



1 − λ n

−x

Khi n → ∞, ta được:

lim

n→∞Cnxpx(1 − p)n−x

=λ

x

x! limn→∞

 1



1 − 1 n





1 − 2 n





1 − x + 1 n



lim

n→∞



1 − λ n

n

lim

n→∞



1 − λ n

−x

=λ

x

x! [1.1.1 1] e

−λ

.1

=λ

x

x!.e

−λ

trong đó, ta sử dụng:

lim

n→∞



1 − λ n

n

= e−λ

Vì vậy, khi lấy giới hạn của r.v’s có phân phối nhị thức với không gian trạng thái

S = {0, 1, } và ta đặt pmf là:

pX(x) = e−λλ

x

x!, x = 0, 1, 2, (1.2) Định nghĩa 1 (Phân phối Poisson)

R.v.’s X với hàm pmf (1.2) gọi là biến ngẫu nhiên phân phối Poisson với tham số λ

Ký hiệu: X ∼ P (λ)

Từ khai triển Maclaurin:

eλ = 1 + λ +λ

2

2! + =

∞

X

x=0

λx

x!

Nên:

∞

X

x=0

e−λλ

x

x! = e

−λ

∞

X

x=0

λx

x! = e

−λ

.eλ = 1, nên (1.2) định nghĩa đúng

1.2 Đặc trưng cơ bản:

1.2.1 Kỳ vọng:

Theo định nghĩa về kỳ vọng, ta có:

E(X) =

∞

X

x=0

xpX(x) =

∞

X

x=1

xe

−λ.λx

x! , khi x = 0 thì tổng chuổi sẽ bằng 0 nên x sẽ chạy từ 1

=

∞

X

x=1

e−λ.λx (x − 1)!, vì x! = x(x − 1)! =⇒

x x! =

1 (x − 1)!

=e−λ.λ

∞

X

x=1

λx−1

(x − 1)!

=e−λ.λ

∞

X

y=0

λy

y!, đặt y = x − 1, khi x = 1 =⇒ y = x − 1 = 1 − 1 = 0

e−λ.λ.eλ, theo khai triển Maclaurin

=λ

Vậy, E(X) = λ

1.2.2 Phương sai:

• Theo định nghĩa phương sai: V ar(X) = E [(X − E(X))2] = E(X2) − [E(X)]2

• Tính E(X2): việc tính trực tiếp E(X2) khó khăn nên ta tính gián tiếp như sau:

E [X(X − 1)] =

∞

X

x=0

x(x − 1)pX(x)

=

∞

X

x=2

x(x − 1)e

−λ.λx

x! , khi x = {0, 1} thì tổng chuổi sẽ bằng 0 nên x sẽ chạy từ 2

=e−λ.λ2

∞

X

x=2

λx−2 (x − 2)!, vì x! = x(x − 1)(x − 2)! =⇒

x(x − 1) x! =

1 (x − 2)!

=e−λ.λ2

∞

X

y=0

λy

y!, đặt y = x − 2, khi x = 2 =⇒ y = x − 2 = 2 − 2 = 0

e−λ.λ2.eλ, theo khai triển Maclaurin

=λ2

Ta thấy,

E [X(X − 1)] = EX2− X = E(X2) − E(X)

=⇒E(X2) = E [X(X − 1)] + E(X) = λ2+ λ

• Tính V ar(X):

V ar(X) = E(X2) − [E(X)]2 = λ2+ λ − λ2 = λ

• Vậy, V ar(X) = λ

1.3 Tính chất cơ bản của phân phối Poisson:

Định lý 2 (Tổng Poissons)

Giả sử {Xi, i = 1, 2, , n} là n r.v.’s độc lập, với Xi ∼ P (λi)

Đặt Zn = X1+ X2+ + Xn

Khi đó r.v.’s Zn có phân phối P (η), với

η =

n

X

i=1

λi

Chứng minh • Ta chứng minh với n = 2, nghĩa là Z = X1+ X2

• Theo luật tổng xác suất, ta có:

pZ(z) = P r [Z = z] =P r [X1+ X2 = z] =

z

X

k=0

P r [X1 = k, X2 = z − k]

=

z

X

k=0

P r [X1 = k] P r [X2 = z − k] , do X1, X2 độc lập

=

z

X

k=0

e−λ1λk1 k!e

−λ 2 λz−k2 (z − k)!

=e−(λ1 +λ 2 )1

z!

z

X

k=0

z!

k!(z − k)!λ

k

1λz−k2

=e−(λ1 +λ 2 )1

z!(λ1+ λ2)

k

=e−ηη

k

z!, η = λ1+ λ2, z = 0, 1,

ta sử dụng khai triển nhị thức:

z

X

k=0

z!

k!(z − k)!λ

k

1λz−k2 = (λ1+ λ2)k

Bây giờ, ta xét mô hình có dạng sau:

N = 1 + 1 + 1 + + 1

N người

Mô hình này diễn tả số người "vào" một cửa hàng, với 1 người vào tương ứng giá trị 1 Khi

đó, N ∼ P (λ > 0)

Nếu ta xét trường hợp một người khách "vào" mang giá trị "1" và sẽ có một người khách

"ra" mang giá trị "0", với giá trị "1" có xác suất là p và "0" có xác suất là 1 − p

Khi đó ta có mô hình M như sau:

M = 1 + 0 + 0 + 0 + 1 + + 0 + 1?

Câu hỏi đặt ra là M có phân phối gì? Ta có Định lý sau:

Định lý 3 • N có phân phối Poisson với tham số λ, N ∼ P (λ)

• Với điều kiện N thì M có phân phối Nhị thức với tham số N, p, M ∼ B(N, p)

• Khi không có điều kiện N thì M có phân phối Poisson với tham số λp, M ∼ P (λp) Chứng minh Theo luật tổng xác suất, ta có:

P r [M = m] =

∞

X

n=0

P r [M = m|N = n] P r [N = n]

=

∞

X

n=m

 n!

m!(n − m)!p

m

(1 − p)n−m





e−λλ

n

n!



=e

−λ(λp)m

m!

∞

X

n=m

[λ(1 − p)]n−m (n − m)!

=e

−λ(λp)m

m! e

λ(1−p)

=e

−λp(λp)m m! , m = 0, 1,

Vậy, M ∼ P (λp)

2 Quá trình Poisson: (Poisson processes)

2.1 Định nghĩa:

Định nghĩa 4 (Quá trình Poisson)

Quá trình ngẫu nhiên {X(t), t ≥ 0} là một quá trình Poisson với tỷ lệ λ > 0, nếu: i) X(0) = 0;

ii) X(t) độc lập với số gia dừng, nghĩa là:

Với mọi thời gian t0 = 0 ≤ t1 ≤ t2 ≤ ≤ tn thì số gia của quá trình X(t1) − X(t0), X(t2) − X(t1), , X(tn) − X(tn−1) là những biến ngẫu nhiên độc lập với nhau iii) Số gia của quá trình có phân phối Poisson và độc lập với s, nên quá trình có số gia dừng, cụ thể:

Với mọi thời gian s ≥ 0 và t > 0, biến ngẫu nhiên X(t + s) − X(s) có phân phối Poisson,

pX(t)(x) = P r [X(t + s) − X(s) = x] = e−λt(λt)

x

x!

Ví dụ 1 Một đường cáp ngầm dưới biển bị đứt có phân phối Poisson với tỷ lệ λ = 0.1 dặm

(a) Xác suất 2 dặm đầu tiên không bị đứt cáp là bao nhiêu?

Ta thấy X(2) là dây cáp tại dặm thứ 2 có phân phối Poisson với tham số λt = 0.1×2 = 0.2 Khi đó, xác suất bằng:

P r [X(2) − X(0) = 0] = e−0.20.2

0

0! = e

−0.2

= 0.8187

(b) Giả sử rằng ở 2 dặm đầu tiên không bị đứt cáp, hỏi từ dặm thứ 2 đến thứ 3 xác suất với điều kiện không bị đứt cáp là bao nhiêu?

Ta thấy X(3) − X(2) và X(2) − X(0) = X(2) là độc lập với nhau Khi đó, xác suất bằng:

P r [X(3) − X(2) = 0] = P r [X(1) = 0] = e−0.10.1

0

0! = e

−0.1

= 0.9048

Ví dụ 2 Khách hàng đến một cửa hàng có phân phối Poisson với tỷ lệ λ = 4 giờ Giả sử cửa hàng mở cửa lúc 9h Hỏi xác suất lúc 9h30 có 1 người và đến 11h30 có 5 người vào là bao nhiêu

Ta thấy X 4.1

8 − X(0) = X 1

2 và X 4.

5

8 − X 4.1

8 = X

 5

2 − X 1

2 là độc lập với nhau Khi đó, xác suất:

P r



X 1 2



= 1, X 5

2



= 5



=P r



X 1 2



= 1, X 5

2



− X 1

2



= 4



=



e−4×(1/2)4 × (1/2)

1!





e−4×2(4 × 2)

4

4!



=0.0154965

Tỷ lệ λ của quá trình Poisson X(t) là một hằng số tương ứng với xác suất của một sự kiện xảy ra trong khoảng thời gian rất ngắn, cụ thể ta có được một số kết quả sau:

•

P r [X(t + h) − X(t) = 1] =e−λh(λh)

1!

=(λh).(1 − λh + λ

2h2

2! − )

=λh + o(h)

•

P r [X(t + h) − X(t) = 0] =e−λh(λh)

0

0!

=1 − λh + λ

2h2

2! −

=1 − λh + o(h)

•

P r [X(t + h) − X(t) ≥ 2] =1 − P rX(t + h) − X(t) = 1 hoặc 0

=1 − [λh + 1 − λh + o(h)]

=o(h) trong đó o(h) là một hàm của h không phụ thuộc vào t

Các kết quả trên hoàn toàn đúng với định nghĩa vì từ các kết quả này ta có thể kiểm lại quá trình Poisson có phân phối Poisson với tham số λt Theo 2 cách sau:

1 Cách 1:

• Xét n lớn và ta viết:

X(t) =

n

X

j=1



X jt n



− X (j − 1)t

n



X(t) là tổng của n biến ngẫu nhiên độc lập cùng phân phối

• Nếu n lớn, xác suất bất kỳ một biến ngẫu nhiên lớn hơn hoặc bằng 2 là:

P r [X(t) ≥ 2] =P r



X jt n



− X (j − 1)t

n



≥ 2

 , ∀j ≤ n

≤

n

X

j=1

P r



X jt n



− X (j − 1)t

n



≥ 2



=nP r



X t n



≥ 2



• Khi cho n → ∞ :

P r [X(t + h) ≥ X(t) + 2|X(t) = x] = o(h), x = 0, 1, 2,

• Nhắc lại (Định lý giới hạn Poisson): Trong mô hình nhị thức nếu khi

n → ∞ và xác suất thành công p → 0 sao cho np → λ, 0 ≤ λ ≤ ∞ thì

lim Cnkpk(1 − p)n−k = e−λλ

k

k!, khi n → ∞, p → 0, np → λ.

• Bây giờ ta xấp xĩ tổng (2.1) bằng 1 với xác suất λ(t/n) và bằng 0 với xác suất

1 − λ(t/n) Ta được:

P r [X(t) = k] ≈ Cnk λt

n

k

1 −λt n

n−k

Một cách chính xác ta biểu diễn như sau:

P r [X(t) = k] = lim

n→0∞Cnk λt

n

k

1 −λt n

n−k

Để có giới hạn trên, ta lưu ý rằng:

lim

n→∞Cnk 1

nk = lim

n→∞

n(n − 1) (n − k + 1)

k!nk = 1

k!

lim

n→∞



1 −λt n

n−k

= lim

n→∞



1 − λt n

n

lim

n→∞



1 −λt n

−k

= e−λt Suy ra,

P r [X(t) = k] = e−λt(λt)

k

k!

Vậy, X(t) có phân phối Poisson với tham số λt

2 Cách 2:

• Đầu tiên, ta đặt:

Pk(t) = P r [X(t) = k]

• Đặt điều kiện biên P0(0) = 1 và Pk(0) = 0, k > 0

• Định nghĩa đạo hàm của Pk(t) như sau:

Pk0(t) = lim

h→0

P r [X(t + h) = k] − P r [X(t) = k]

h trong đó,

P r [X(t + h) = k] =P r [X(t) = k] P r [X(t + h) = k|X(t) = k]

+P r [X(t) = k − 1] P r [X(t + h) = k|X(t) = k − 1] +P r [X(t) ≤ k − 2] P r [X(t + h) = k|X(t) ≤ k − 2]

=Pk(t)(1 − λh) + Pk−1(t)(λh) + o(h)

Vì vậy,

Pk0(t) = lim

h→0

Pk(t)(1 − λh) + Pk−1(t)(λh) + o(h) − Pk(t)

h

= − λPk(t) + λPk−1(t)

• Khi k = 0, ta giải phương trình vi phân sau:

P00(t) = −λP0(t), P0(0) = 1 Giải:

P00(t) = −λP0(t)

⇔

Z 1

P0(t)dt = −

Z λdt

⇔ ln |P0(t)| + C = −λt + C

⇔P0(t) = e−λt > 0

• Khi k > 0, ta đặt:

Pk(t) = e−λtfk(t) Khi đó, f0(t) = 1 và phương trình vi phân trở thành:

fk0(t) = λfk−1(t), fk(0) = 0 Kết quả:

fk(t) = λ

ktk k!

• Suy ra,

Pk(t) = e−λt(λt)

k

k! ,

• Vậy, X(t) có phân phối Poisson với tham số λt

3 Phân phối của thời gian chờ: (Interarrival Time Dist.)

Định nghĩa 5 Xét quá trình ngẫu nhiên {X(t), t ≥ 0} Đặt X1 là thời gian xảy ra sự kiện lần đầu tiên Khi đó, Xn là khoảng thời gian xảy ra sự kiện giữa lần thứ (n − 1) và n Đặt {Xn, n = 1, 2, } là dãy thời gian chờ (interarrival times) xảy ra sự kiện tiếp theo Hơn nữa, đặt Sn là tổng thời gian chờ xảy ra sự kiện đến thời gian thứ n, nghĩa là:

Sn = X1+ X2+ + Xn, n = 1, 2, (3.1)

ở đây, S0 = 0

Định lý 6 Xét quá trình Poisson {X(t), t ≥ 0} với tham số λ > 0 Khi đó, thời gian chờ

Xn là độc lập, cùng phân phối với phân phối mũ với kỳ vọng 1/λ

Chứng minh Ta có:

P [X1 ≤ t] = 1 − P [X1 > t] = 1 − P [X(t) = 0] = 1 − e−λt nên X1 ∼ Exp(λ)

Tiếp theo, ta thấy:

P [X2 ≤ t|X1 = s] =1 − P [X2 > t|X1 = s]

=1 − P [X(t + h) − X(t) = 0|X1 = s]

=1 − P [X(t + h) − X(t) = 0] , do số gia độc lập

=1 − P [X(t) = 0] , do số gia dừng

=1 − e−λt

Phân phối có điều kiện P [X2 ≤ t|X1 = s] độc lập với X1 và X2 ∼ Exp(λ)

Ta dùng quy nạp với mỗi thời gian chờ Xn là độc lập cùng phân phối với phân phối mũ

Tài liệu tham khảo:

[1] Howard M Taylor, Samuel Karlin, An Introduction to Stochastic Modeling 3rd, 1998 [2] Shunki Osaki, Applied Stochastic System Modeling, 1992