Tìm hiểu chung về biến vector ngẫu nhiên, các đặc trưng thống kê, độc lập, tương quan và hiệp phương sai đối với các biến vector ngẫu nhiên

Nguyễn Trung Anh So sánh các đặc trưng thống kê của biến vector ngẫu nhiên với các đặc trưng thống kê của quá trình ngẫu nhiên.. Các đặc trưng thống kê của biến vector ngẫu nhiên...7 CHƯ

TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI VIỆN CÔNG NGHỆ THÔNG TIN & TRUYỀN THÔNG

Giảng viên hướng dẫn: PGS.TS Nguyễn Thị Hoàng Lan

Sinh viên thực hiện:

 Đinh Hữu Hội – 20106093

BẢNG PHÂN CÔNG CÔNG VIỆC

Đinh Hữu Hội Tìm hiểu chung về biến vector ngẫu nhiên.

Nguyễn Mạnh Cường Các đặc trưng thống kê của biến ngẫu nhiên.

Nguyễn Trung Anh

So sánh các đặc trưng thống kê của biến vector ngẫu nhiên với các đặc trưng thống kê của quá trình ngẫu nhiên.

Phạm Minh Hiếu Bài tập + Matlab

Đinh Công Tuyền Bài tập + Matlab

Bạn Nguyễn Trung Hiếu rời nhóm.

Mục lục

CHƯƠNG I TÌM HIỂU CHUNG VỀ BIẾN VECTOR NGẪU NHIÊN, CÁC ĐẶC

TRƯNG CỦA NÓ 4

1 Khái niệm biến vector ngẫu nhiên 4

2 Hàm phân phối và hàm mật độ xác suất của biến vector ngẫu nhiên 4

2.1 Hàm phân phối xác suất 4

2.2 Hàm mật độ xác suất 5

3 Tính độc lập của biến vector ngẫu nhiên 5

4 Các đặc trưng thống kê của biến vector ngẫu nhiên 7

CHƯƠNG II.SO SÁNH CÁC ĐẶC TRƯNG THỐNG KÊ CỦA BIẾN VECTOR NGẪU NHIÊN VỚI QUÁ TRÌNH NGẪU NHIÊN 10

1 Kỳ vọng 10

2 Hiệp phương sai 11

3 Sự tương quan 12

4 Tương quan và hiệp phương sai 14

5 Độc lập 15

CHƯƠNG III.BÀI TẬP 16

1 Bài 8.2 16

2 Bài 8.3 17

3 Bài 10.8 20

4 Bài 10.12 21

CHƯƠNG IV.MATLAB 23

1 Đôi nét về MatLab 23

2 Thử nghiệm bài tập 26

CHƯƠNG I TÌM HIỂU CHUNG VỀ BIẾN VECTOR NGẪU NHIÊN, CÁC ĐẶC TRƯNG CỦA NÓ.

1 Khái niệm biến vector ngẫu nhiên

- Một biến ngẫu nhiên được định nghĩa như một hàm có giá trị thực xác định trênkhông gian các sự kiện sơ cấp

- Trong thực tế nhiều khi phải xét đồng thời nhiều biến khác nhau có quan hệ tương

hỗ dẫn đến khái niệm vector ngẫu nhiên hay biến ngẫu nhiên nhiều chiều

Định nghĩa: Một biến vector ngẫu nhiên n chiều là một bộ có thứ tự (X1, …, Xn) với cácthành phần X1 ,…, Xn là các biến ngẫu nhiên Ta kí hiệu vector ngẫu nhiên hai chiều là(X,Y), trong đó X là biến ngẫu nhiên thành phần thứ nhất và Y là biến ngẫu nhiên thànhphần thứ hai

- Biến vector ngẫu nhiên n chiều (X1, …, Xn) là liên tục hay rời rạc nếu tất cả cácbiến ngẫu nhiên thành phần X1, …, Xn là liên tục hay rời rạc

2 Hàm phân phối và hàm mật độ xác suất của biến vector ngẫu nhiên

Định nghĩa: Hàm n biến ngẫu nhiên F(x1, …, xn) xác định bởi:

FX(x), FY(y) là các hàm phân phân phối của biến ngẫu nhiên X, Y hay cònđược gọi là các phân phối thành phần của vector ngẫu nhiên (X,Y) cũng làphân phối biên của phân phối đồng thời F(x,y).

Được gọi là hàm mật độ của biến vector ngẫu nhiên X=(X1,…,Xn)

Hàm mật độ của biến vector ngẫu nhiên liên tục

 Định nghĩa: Hàm mật độ của vector NNLT X=(X1, X2,…, Xn) là hàm n biến f(x1,x2, …, xn ) ≥ 0 thỏa mãn :

f(x1, x2, …,xn ) còn được gọi là hàm mật độ đồng thời của X1, X2, …, Xn

 Tính chất (xét trường hợp vector ngẫu nhiên 2 chiều (X,Y) có hàm mật độ f(x,y))

[1] f(x,y) ≥0 với mọi (x,y) và ∫

∂ x ∂ y F ( x , y ) nếu tồntại đạo hàm tại(x , y )

¿0 Nếu ngược lại

f ( x , y ) dx=f Y(y ) hàm mật độ của biến ngẫu nhiên Y

3 Tính độc lập của biến vector ngẫu nhiên

- Các biến ngẫu nhiên x1,…,xn được gọi là độc lập nếu các sự kiện {x1≤x1},…,{xn≤xn} là độc lập Từ đó ta có:

F(x1,…,xn) = F(x1)F(x2)…F(xn)f(x1,…,xn) = f(x1)f(x2)…f(xn)

- Xét trường hợp biến vector ngẫu nhiên hai chiều (X,Y), trong đó hai biến ngẫunhiên X và Y gọi là độc lập nếu mỗi biến ngẫu nhiên nhận giá trị này hay giá trị khác sẽkhông ảnh hưởng gì đến phân bố xác suất của biến ngẫu nhiên kia

- Giả sử F(x,y) là hàm phân phối của vector ngẫu nhiên (X,Y), khi đó X, Y độc lậpkhi và chỉ khi:

F(x,y) = FX(x)FY(y)Trong đó FX(x), FY(y) lần lượt là hàm phân phối của X và Y

- Phát biểu tương đương, nếu X và Y là độc lập thì ta cũng phải có:

f(x,y) = fX(x)fY(y)Trong đó fX(x), fY(y) lần lượt là hàm mật độ của X và Y

- Hai biến rời rạc X và Y được gọi là độc lập nếu với mọi cặp giá trị xi, yj ta luôn có:

P(X= xi,Y= yj) = P(X=xi)P(Y=yj) ∀ i, j

Với i = 1,…,n và j = 1,…,m ta có các phân phối biên của biến vector ngẫu nhiên 2chiều:

… … … … … …Pi1 Pi2 … Pij … Pin

… … … … … …Pm1 Pm2 … Pmj … Pmn

Ta có hàm phân bố xác suất đồng thời:

4 Các đặc trưng thống kê của biến vector ngẫu nhiên

Xét X(X1, X2,…,Xn) là một véc-tơ ngẫu nhiên n chiều, kỳ vọng của X là:

µ = E(X) = E(E(X1), E(X2), …,E(Xn))

- Trường hợp X liên tụcX(X1, X2,…,Xn) có hàm mật độ xác suất đồng thời f(X1,X2,…,Xn)

var(X) = E[(X-µ)(X-µ)t] = cov(X , Xt) =ƩTrong đó:

- cov(X,Xt) là hiệp phương sai của X và X chuyển vị với cov(Xi, Xj) được tínhtheo công thức: cov(Xi,Xj) = E [(Xi –E(Xi))(Xj – E(Xj))]

- Ʃ là ma trận hiệp phương saiGọi ϭ ij là hiệp phương sai của 2 biến ngẫu nhiên thành phần Xi, Xj (i,j = 1,2,…,n) thì:

Ʃ = ¿

Nếu véc-tơ Y có kỳ vọng là ω và ma trận hiệp phương sai Ʃ thì:

cov(X, Yt) =E[(X –E(X))(Y – E(Y))t]= E(XYt) - µωtTính chất của ma trận hiệp phương sai Ʃ

Với at =(a1, …., an) và A, B là ma trận số thực

var(a t X) =a t var (X)a = ∑

- Hiệp biến của các biến ngẫu nhiên xi, xj được chỉ rõ trong (7-6) Với các biếnngẫu nhiên phức

Cij = E{(xi –Ƞn) (xj –Ƞj)} = E(xi xj*) - E{xi}E{ xj*}

Theo định nghĩa Phương sai xi là

σi2 = Cij = E{| xj –Ƞ j |} = E{|xi|2} + |E{xi}|2Các biến ngẫu nhiên xi được gọi là không tương quan là nếu Cij = 0 với i≠ jTrong trương hợp đó, nếu x = x1 + … + xn thì σx2 = σ12 + … + σn2 (8-22)Nếu các biến ngẫu nhiên x1, …., xn là độc lập thì chúng cũng không tương quan.Điều này được chứng minh như (7-14) dối với các biến thực Đối với số phức thìcũng chứng minh tương tự: Nếu các biến ngẫu nhiên z1 = x1 + jy1 , …, zn = xn + jyn

là độc lập thì f(x1 x2 y1 y2) = f(x1y1)f(x2y2) Từ đó có :

Chú ý : nếu các biến ngẫu nhiên xi là độc lập thì

E{ g1(x1) + … + gn(xn)} = E{ g1(x1) } + … + E{ gn(xn) }Tương tự, nếu các nhóm x1 … xn và y1 … yn là độc lập thì E{ g(x1 … xn) h(y1 … yn)} = E{ g(x1 … xn) } + … + E{ h(y1 … yn)}

Rn = E{Xt X*}Với Xt là chuyển vị của XChúng ta sẽ thảo luận về các tính chất của ma trận Rn và định thức ∆n.Các tính chấtcủa Cn cũng tương tự

Ma trận Rn là xác định không âm Nghĩa là

Q = ARnA+≥ 0

Với A+ là liên hợp chuyển vị của vector A = [a1, …, an]

Các biến ngẫu nhiên xi được gọi là độc lập tuyến tính nếu

E {| a1x1 + … + anxn |2 } > 0 với mọi A ≠ 0Khi đó ma trận tương quan Rn được gọi là xác định đương

Các biến vector ngẫu nhiên xi được gọi là phụ thuộc tuyến tính nếu

a1x1 + … + anxn = 0 với mọi A ≠ 0khi đó Q = 0, và ma trận Rn là duy nhất

Từ các ý trên ta có, nếu các biến ngẫu nhiên xi là độc lập tuyến tính thì bất kì tập con nàolấy ra từ xi đều độc lập tuyến tính

CHƯƠNG II SO SÁNH CÁC ĐẶC TRƯNG THỐNG KÊ CỦA BIẾN VECTOR NGẪU NHIÊN VỚI QUÁ TRÌNH NGẪU NHIÊN.

Với bất kỳ vector ngẫu nhiên X thực hoặc phức.

- Sự khác nhau

Biến vector phụ thuộc vào không gian

vector

Quá trình ngẫu nhiên phụ thuộc vào chỉ

số thời gian t

5 Hiệp phương sai

- Hàm tự hiệp phương sai:

Hàm tự hiệp phương sai C (t1t2) của một quá trình x(t) là hiệp phương sai của cácbiến ngẫu nhiên x (t1) và x (t2)

Là hệ số tương quan của quá trình x(t)

Chú ý : Hàm tự hiệp phương sai C(t1,t2) của một quá trình x(t) là hàm tự tương

quan của quá trình nhiễu tập trung

2 quá trình x(t) và y(t) được gọi là trực giao tương hỗ nếu R xy(t1t2)=0 với mọi t1 vàt2

Chúng được gọi là không tương quan nếu C xy(t1t2)=0 với mọi t1 và t2

- Hiệp phương sai

Hiệp phương sai ( hay còn gọi là momen tương quan) của hai biến ngẫu nhiên x,y

ký hiệu là Cov(X,Y) là kỳ vọng toán của tích các sai lệch của các biến ngẫu nhiên

đó với kỳ vọng toán của chúng

[3] Cov(aX+c,bY+d)=abCov(Y,X) với mọi hằng số a,b,c,d

[4] Nếu X,Y độc lập thì Cov(X,Y)=0 nhưng ngược lại chưa chắc đúng

- Sự khác nhau

Hiệp phương sai ( hay còn gọi là momen

tương quan) của hai biến ngẫu nhiên x,y ký

hiệu là Cov(X,Y) là kỳ vọng toán của tích

các sai lệch của các biến ngẫu nhiên đó với

kỳ vọng toán của chúng

Hàm tự hiệp phương sai C(t1,t2) của một

quá trình x(t) là hàm tự tương quan của

quá trình nhiễu tập trung

ρ x , y=Cov( X ,Y )

δ x δ y

- Các tính chất:

[1] −1 ≤ ρx , y ≤1 với X,Y

[2] Nếu X,Y độc lập thì ρ x , y =0 nhưng ngược lại chưa chắc đúng

[3] Với mọi hằng số a,b,c,d

ρ aX + c, bY +d={ ρ x , y nếu ab>0

−ρ x , y nếu ab<0

[4] Y=a.X+b, a≠0 khi và chỉ khi

ρ X ,Y={−1 nếu a<01 nếu a>0

- Ý nghĩa: hệ số tương quan đo mức độ phụ thuộc tuyến tính giữa X và Y Khi |ρ x , y|càng gần 1 thì tính chất quan hệ tuyến tính càng chặt, khi |ρ x , y| càng gần 0 thì sựphụ thuộc tuyến tính càng ít, càng lỏng lẻo

Khi ρ x , y=0 ta nói X và Y không tương quan

- Hàm tự tương quan của một quá trình X(t) được xác định như sau :

- Ví dụ 1:

Sự tương quan phụ thuộc vào hệ số tương

quan

Sự tương quan phụ thuộc vào hàm tựtương quan

7 Tương quan và hiệp phương sai

- Tương quan và hiệp phương sai của quá trình ngẫu nhiên

Hàm tự tương quan của một quá trình x(t) thực hoặc phức được định nghĩa bằngtrung bình tích số X(t1)X*(t2), hàm này sẽ được bao hàm bởi R(t1,t2) hoặc Rx(t1,t2)

do đó:

R xx(t1t2)=E{X(t1)X¿

(t2) }

Trong đó số hạng liên hợp gắn liền với biến thứ 2 trong R xx(t1t2)

Từ đây suy ra

R(t1t2)=E{X(t2)X¿

(t1) }=R¿

(t1t2) (1)Hơn nữa nhận thấy là R(t,t)=E{|x(t)|2} ≥ 0 (2)

Hai phương trình cuối là các trường hợp đặc biệt dưới đây Hàm tự tương quanR(t1,t2) của 1 quá trình ngẫu nhiên x(t) là 1 hàm xác định rõ ràng Với mỗi ai và aj

- Tương quan và ma trận hiệp phương sai của biến vector ngẫu nhiên

Hiệp phương sai Cij của hai biến ngẫu nhiên thực xi và xj được định nghĩa như

Các biến ngẫu nhiên xi được gọi là không tương quan nếu Cij=0 với mỗi i≠j

Trong trường hợp nếu X=x1+…+xn thì δ x2

=δ12+…+δ n2

- Sự khác nhau

Hiệp phương sai Cij của hai biến ngẫu

nhiên thực xi và xj được định nghĩa

như :

C=E {(x−η x) (y−η y)

Phụ thuộc vào phương sai với các

biến ngẫu nhiên phức

Hàm tự tương quan của một quá trình x(t)thực hoặc phức được định nghĩa bằng trungbình tích số X(t1)X*(t2) do đó:

Hai quá trình x(t) và y(t) được gọi là độc lập nếu các biến ngẫu nhiên x(t1),…,x(tn)

và y(t1’),…, y(tn’) là độc lập tương hỗ

E{xy}=E{x}E{y} cho các biến ngẫu nhiên thực Việc chứng minh là tương tự đối

với các biến ngẫu nhiên phức Nếu các biến ngẫu nhiên z 1 =x 1 +jy 1 và z 2 =x 2 +jy 2 độc

Chú ý là nếu các BNN xi độc lập thì

E{g(x 1 ,…,g n ( x n )}=E{g(x 1 )}…E{g n ( x n )}

Tương tự nếu các nhóm x1,…,xn và y1,…,yn là độc lập thì

E{g(x1,… , x n)h(y1, … , y k) }=E{g(x1,… , x n) }E {h(y1, … , y k)}

- Sự khác nhau

Hai quá trình x(t) và y(t) được gọi là độc

lập nếu các biến ngẫu nhiên x(t1),…,x(tn)

và y(t1’),…, y(tn’) là độc lập tương hỗ

Các BNN xi độc lập thì

E{g(x 1 ,…,g n (x n )}=E{g(x 1 )}…E{g n ( x n )}

CHƯƠNG III BÀI TẬP

Hai biến rời rạc X và Y được gọi là độc lập nếu với mọi cặp giá trị xi, yj ta luôn có:

P(X=xi,Y=yj)=P(X=xi) P(Y=yj) ∀i,j

Ta có:

P(A)P(B)=0,5*0,5=0,25=P(AB) A và B độc lập (1)P(B)P(C)=0,5*0,5=0,25=P(BC)  B và C độc lập (2)P(A)P(C)=0,5*0,5=0,25=P(AC)A và C độc lập (3)Từ (1), (2) và (3) A,B,C độc lập đôi một

Do 2 biến ngẫu nhiên x, y tuân theo phân phối chuẩn nên ta có:

 (X – μ) T = [x−μ x y −μ y z−μ z]

Và

Ʃ = E[(X −μ) (X −μ) T] = E[ [x−μ x

y−μ y z−μ z].[x−μ x y −μ y z −μ z] ]

Thay lại vào (3) ta được:

 Điều phải chứng minh

Vậy, với các biến ngẫu nhiên x, y, z tuân theo phân phối chuẩn và đôi một độc lập thìchúng sẽ độc lập với nhau

 E{x(t)}=0

x(t) là nhiễu trắng WSS nếu x(t) là nhiễu trắng ổn định, thì q(t) = q

CHƯƠNG IV MATLAB

1 Đôi nét về MatLab

- MatLab (Matrix Laboratory) là một công cụ phần mềm của Math Work, ban đầu

nó được phát triển nhằm phục vụ chủ yếu cho việc mô tả các nghiên cứu kĩ thuật bằngtoán học với những phần tử cơ bản là ma trận

- Trong các lĩnh vực kĩ thuật chuyên ngành như điện và điện tử, vật lý hạt nhân điều

khiển tự động, robot công nghiệp, trong các ngành xử lý toán chuyên dụng như thống kê– kế toán và ngay cả trong lĩnh vực nghiên cứu về gien sinh học hay khí hậu và thờitiết… thường gặp những dữ liệu rời rạc (discret) ta có thể lưu trữ dưới dạng ma trận Cònđối với hệ dữ liệu liên tục (continuous) như âm thanh, hình ảnh hay đơn giản như các đạilượng vật lý tương tự (analog): điện áp, dòng điện, tần số, áp suất, lưu lượng… phải đượcbiến đổi thành các tín hiệu số (digital) rồi mới tập hợp lại trong các file dữ liệu, quá trình

đó có thể được xử lý bằng các hàm toán học trong MatLab

- Mức phát triển của MatLab ngày nay đã chứng tỏ nó là một phần mềm có giao

diện cực mạnh cùng nhiều lợi thế trong kĩ thuật lập trình để giải quết những vấn đề rất đadạng trong nghiên cứu khoa học kĩ thuật

- Trong đề tài “Vector ngẫu nhiên”này chúng ta sẽ thử nghiệm các công cụ của

Matlab trong việc tạo các Vector ngẫu nhiên; tính toán các hàm phân phối, mật độ; vẽ đồthị các hàm…

- Một số hàm vẽ cơ bản:

[1] Subplot (m,n,p):

chia màn hình đồ họa làm m hàng, n cột và p là phần cửa sổ hiện thời Cáccửa sổ con của màn hình đồ họa được đánh số theo hàm từ trái qua phải, từtrên xuống dưới

[2] Reshape:

hàm này cho phép định dạng lại ma trận với số hàng và số cột khác với matrận gốc Số phần tử của ma trận gốc và ma trận định dạng lại phải bằngnhau Hàm có 3 tham số: tham số đầu vào là ma trận gốc, 2 tham số còn lại là

số hàng và số cột của ma trận mới

[3] Surf ( X, Y, Z, C):

Tạo mặt 3 chiều lên màn hình đồ họa xác định bởi các tọa độ xij, yij, zij Nếu x

và y là các vector có độ dài m, n thì z là ma trận tương ứng m ×n và bề mặtđược định nghĩa bởi xi, yj, và zij Nếu X, Y không được định nghĩa thìMatLab sẽ sử dụng lưới grid hình chữ nhật được xác định bởi giá trị các phần

tử trong ma trận C Nếu C không được xác định thì giá trị mặc định của C =Z.

[4] [u, v] = meshgrid (x,y):

đưa ra ma trận định dạng lưới theo tọa độ x, y từ 2 vector tương ứng x, y.Vector có chiều dài n chưa tạo độ x và vector y có chiều dài m chứa tọa độ y

Ma trận u, v tạo thành có độ lớn tương ứng m×n Ma trận biểu diễn bao trùmmiền chữ nhật Cặp tọa độ tương ứng (uij và yij) với i=1,…,m và j=1,…,n Giátrị zij=f(uij,vij) tương đương với lệnh z=f(u,v)

[5] Linspace :

Tạo một vecto(tạo bộ số liệu cách đều nhau)

 Linspace(n 1 ,n 2 ): sẽ tạo ra một vecto gồm có 100 phần tử cách đều nhau

phần tử đầu là n1 ,phần tử cuối là n2

- Linspace(n 1 ,n 2 ,x): sẽ tạo ra một vecto gồm có x phần tử cách đều nhau,phần tử đầu

là n1,phần tử cuối là n2 Nếu x<2 thì matlab sẽ cho kết quả ans=n2

- Bảng các hàm trong matlab với biến ngẫu nhiên:

Phân phối Hàm phân phối

(P.D.F)

Hàm mật độ(p.d.f) Tạo số ngẫu nhiên

Chuẩn

Đều

Mũ

normpdf(X,µ, σ)unifpdf(X,a,b)exppdf(X, µ)

normcdf(X,µ, σ)unifcdf(X,a,b)expcdf(X, µ)

normrnd(X,µ, σ)unifrnd(X,a,b)exprnd(X, µ)

Nhị thức

Poison

binopdf(X,N,P)poisspdf(X, λ))

binocdf(X,N,P)poisscdf(X, λ))

binornd(N,P,m,n)poissrnd(λ),m,n)

- Bảng các hàm trong matlab với biến vector ngẫu nhiên:

Phân phối Hàm phân phối

(P.D.F)

Hàm mật độ(p.d.f) Tạo số ngẫu nhiên

Chuẩn

Student

mvnpdf(X,μ,σ)mvtpdf(X,C,df)

mvncdf(X,μ,σ)mvtcdf(X,C,df)

mvnrnd(μ,σ,n)mvtrnd(X,C,df)

p = normpdf(x, muy, sigma);

c = normcdf(x, muy, sigma);

%ve do thi ham phan phoi

subplot(1,2,1);

plot(x, p);

%Ve do thi ham mat do

surf(X1,X2,reshape(p,40,40));

%ve ham mat do

subplot(1,2,2);

surf(X1,X2,reshape(c,40,40));

Kết quả:

Example 3: Minh họa hàm mật độ của x(t) trong bài tập 10.8 với N(0,4) bằng cách dùng

hàm tự định nghĩa trên không gian hai chiều: