Khảo sát tính phụ thuộc giữa nhiều tập biến 4

Luận văn thạc sĩ chuyên ngành Xác xuát -thống kê -Chuyên đề :Khảo sát tính phụ thuộc giữa nhiều tập biến

Phương pháp đại số

2.1 Phân tích ma trận thực theo một cơ sở trực chuẩn

Định lý 1 (Phân tích ma trận thực theo một cơ sở trực chuẩn) ŒoX

là một ma trận tbực cấp n xp uề u\, ua, , Up la mot co sé trực chudin trong (R?,M) Khi do, ta co:

CHUONG 2 PHUONG PHAP DAI SO

(v) rank(XMuu’) = rank(XMU) = 1 trừ khi XMu = 0 hay uLw.A4(X')

2.2 Nhắc lại phân tích phổ của ma trận thực đối xứng

Ở phần này ta nhắc lại hai định lý sau:

Dinh ly (phan tich ph6) Cho A la mot ma tran thuc déi xing cap qx q Trong R! xét mé tric N Khi do ton tai mot ma tran trực giao P, PNP =1, sao cho A = PAP’, trong đó A là ma trận đường chéo

Dinh ly 2 Moi ma tran A thực đối xứng cấp q x q luôn luôn phân tícb

bông giam (R",N) thành tổng trực tiếp R1 = Bị@Ba¿@: - ‹@By ưới dịm Bị = rị,

rị + c:: +ry =q, Đà tíng uới Bị có duy nbất một số thuc i, i # À¡ 0uớii # j, i,j =1, k, sao cho ANa = )ja,WVa € E¡

2.3 Phân tích giá trị kỳ dị của ma trận thực bất kỳ

Phân tích giá trị kỳ dị là mở rộng của phân tích phổ cho một ma trận thực

A= PAQ' goi là phan tich gia tri ky di ddy đủ của A

Ngoai ra, con co phan tích gid tri ky di thu gon A = UAV’, trong đó A

là ma trận chéo cấp r x+ xác địnb dương, U là ma trận cấp p x r thỏa ƯMU =1 sà V là ma trận cấp q xr thỏa VINV =T (rong trường bợp này

CHUONG 2 PHUONG PHAP DAI SO y

kbéng can điều biện p > q) Phan tich gid trị kỳ di thu gọn của A' là VAUƯ

Chứng minh Trước hết ta chứng mỉnh cho trường hop M,N 1a cdc mé tric đơn vị Thật vậy,

Ta có phân tích phổ của AA' là: AA! = KA?K:

Suy ra vị, , v„ là các véc tơ trực chuẩn

uị, , uy lập thành một cơ sở trực chuẩn của R?, nghĩa là

Trên đây không cần giả sử p > ø Bây giờ, ta xét p > q

Khi đó, ta có thể viết A =P QÝ với P là ma trận cấp p x „ thỏa

0 0

P7P =T và Q là ma trận cấp q x ạ thỏa Q'Q =1

Bây giờ, trong trường hợp M,N là các mê tric bất kỳ

Ta có phân tích giá trị kỳ dị của M?AN với mê tric đơn vị là:

Từ đây về sau ta giả sử Ài > Às > : > À¿ >0

Trong phân tích giá trị kỳ dị đầy đủ A = PAQJ, các giá trị kỳ dị khác 0

cũng như trong phân tích của A' Nếu (a,b) là một bộ véc tơ kỳ dị trái, phải của A tương ứng với một giá trị ky di A 4 0 thì (b,a) cũng là một bộ véc tơ

kỳ dị trái, phải của A' ứng với giá trị kỳ dị A của A' a

Định lý 4 Cho A là mội ma trận thực cấp p x q (p > q) Tương RP xét

mé tric M, trong R4 xét mé tric N Khi dé A luén luôn pbâmn tícb bbông

gian (R?,M) thanb tong tritc tiép RP = E, © Ey © - © Ex @ Ey va phan

tich hbông gian (R1,N) thành tổng trực tiếp R1 = Fị @E¿ @ - @ E„ uới

CHUONG 2 PHUONG PHAP DAI SO 9

dim Ej = dimF; (i = 1, ,k), Se dim Ei = So dim Fy =q,dim Bọ = p— qg, 0à

tứng uới mọi cặp (Bị,E;),¡ = 1, ,k, có một số ; khéng dm duy nhdt,

À¡ # À¿ tới # j, sao cbo nếu À¡ # 0, uới mọi a € Bị tổn tại duy nbất một

Chứng minh Ta có phân tích giá trị ky di cla A la: A = PAQ’, trong đó P

là ma trận cấp p x ø thỏa P/MP = I va Q 1a ma tran cấp qx ạ thỏa QÑQ =1

A'MP =QA AMa, = Ajb;

với P = (ai a,).Q = (bị bạ)

ANb =)da Nếu giá trị kỳ dị \ > 0 có bội s thì ta sẽ có s bộ (a, b) thỏa

AMa =Àb Khi đó, s véc tơ a M-trực chuẩn này là cơ sở của không gian con E của IRP và s véc tơ b N-trực chuẩn này là cơ sở của không gian con E của R1, Như vậy, ứng với mỗi A ta có một cặp (E,E) với E là không gian con của R? va F la không gian con của R#, dim E = dimF = s

Và với À' # A ta có cặp (E,E') thỏa HLME và F'LNE

Suy ra R” = Ei@BEas@ -@E¿@ Eọ và R? = Fi@F¿@ -@E¿ với

i

dim E; = dimF; = s; (i=1, ,k), ` s; = qg,dim Bọ =p— q

1

8 Với mọi a € E, ta có a= Se aia

AMa =À¿b Khi \; = 0 tương ứng này không còn là một một

Các A; >0 là duy nhất vì chúng là các giá trị kỳ dị của A

CHUONG 2 PHUONG PHAP DAI số 11

Do tính duy nhất trong phân tích ctia b va do Ay > Ap > > Ap > Ota suy ra bj = 0, Vj #2

lsijsq

(v) Trong phân tích giá trị kỳ dị A = PAQ’, ma trận A là duy nhất nhưng

ma trận P (và Q) không duy nhất, vì ta có thể chọn một cơ sở trực chuẩn aj, ,as, Của Bị rỔi a;,¿i, ,a;,‡;„ của Ðạ, , và sẽ có

P = (aj, ,a¿, As,+1, ,Asj+s; ), VỚI s¡ = đim E¿ Sau khi đã chọn cố định P = (ai a„) sẽ có Q = (bị bạ)

Tổng quát ta có MANb;=0_ VaLa;,a/MANb=0_ VbLNb:

Tổng quát hơn nữa, trong định lý 4, với (a,b) kết hợp ứng với A;

(i=1, ,k) ta c6 a'MANb = 2, a” MANb=0 Va* La,

a'MANP' = 0 Vb*.LNb

2.4 M6t sO ménh dé

Bat dang thtic Cauchy-Schwarz Trong R” xét mé tric M Kbi đó, ta có:

(a'Mb)? < (a’Ma)(b/Mb) Va, b € (IR”,M)

Dấu '=” xảy ra kbi va chi kbi hai véc tơ a uà b cộng tuyến

Chứng minh Do M là ma trận xác định dương nên MI có thể viết dưới dạng:

CHUONG 2 PHUONG PHAP ĐẠI SỐ 13

Goi uy uy, la mot hé tric chudn trong (R?,M), vi, ,vp, la mot bé

trực chuẩn trong (R1,N)

Dai U = (uị,: ,u), V =(VỊ,:.:; Vh):

Khi đó, nẾu có Ài ,À, € R* sao cbo A'Mưi = À¿v; thì Ài, ,À„ là gid trị kỳ dị của UƯMA vdi (uj, vi) la b6 véc to ky di trai, phdi ting voi dj, i=1, ,h, cia UU'/MA

Chitng minh Goi A = diag(Ay, , An), ta C6:

Vay UU'MA = UAV’

Néu Ay A, > 0 thi theo định nghĩa, phân tích giá trị kỳ dị của UƯMA

Mệnh dé 2.4.2 ChoM là má trận xác định dương cấppxp, D = diag(di, d„)

là ma trận xác định dương, M,x, là bông gian tuyến tính các ma tran tbực cấp n xp

ŒÙ (Xi, X¿) = c(Xy, Xo)

đi)

(X1 + Xo, X3) = Tr(X,DX3M) + Tr(X$DX3M)

= (X1, X3) + (Xe, X3)

Œv) Từ (3.1) ta có Tr(X'DXM) = Ö ”(Var(XMu,)) > 0 với uị, ,uạ là một

cơ sở trực chuẩn của (R?,MI) ¬

Dấu *“=” xảy ra © Var(XMu;) =0 Vi =1, ,p XMu;=0

sao cho ham sé f(b) = b‘'NA'MANb cutc dai voi b'Nb = 1

Ý nghĩa bình bọc: ta có ƒ(b) = blÑA'MANb = ||ANbill3„, sới ANb e (R?,M) T?m trục b sao cbo chuẩn ||ANb||w cực đại

tời giải Với mọi b € (R1,N), bNb = 1, ta có:

b=ay,b, + agby + +: + aby

CHUONG 2 PHUONG PHAP DAI SO 15

Vay max f(b) = vi Dấu “=” xảy ra =} a; =O Wi > 2 WIA > A> >

Ay > 0) <> b 1a véc to ky dị bên phải của A ứng với À¡ => b € Fy voi b’Nb = 1

Chú ý: Bài toán 1 là trường hợp riêng của bài toán tìm cực đại của ø(b) = bNGNb, ma trận C đối xứng cấp q x ạ, với ràng buộc bNb = 1

Theo định lý phân tích phổ ta có C = PAP' với PNP =NPP'=I Gạt trường hợp C = 0

Vậy max ø(b) = Ài Dấu “=” xẩy ra © với mỗi ¡ > 2 hoặc œ¡ = 0 hoặc À¡ =

Ài => Ac = Àic ©> PAc = P(Aic) CNb = PAP/Nb = PAc = P(A¡c) =

Ai(Pe) = \1(PP'Nb) = 1b <=> b 1a véc to riéng cla C ting với giá trị riéng (max) Aj

Dat biét, vai C = A/MA, véc to riéng b sé 1a véc to ky di bén phai ctia A Dùng cách này, bỏ được yêu cầu p > q a Bây giờ ta tìm cực đại bước thứ hai như sau: ta vẫn tìm b sao cho

ƒ(b) = bNÑA'MANb cực đại như ở trên nhưng thêm ràng buộc b.LNF\

Vì bLNE¡ nên ai =0 = b= ð¿b¿ + aabs + - + by

Vậy trong trudng hop nay max f(b) = 3

Giá trị cực đại trong trường hợp này dat được ==> b 1a véc to ky di bén phải của A ứng với À¿ => be€ Fạ

Cứ tiếp tục như trên, ta tìm cực đại bước thứ (h +1) như sau: ta vẫn tìm b sao cho ƒ(b) = bNÑA'MANb cực đại nhưng thêm ràng buộc b.LN(Fi, ,E›) Khi đó max ƒ(b) = Àƒ,¡ và giá trị cực đại này đạt được <=> b 1a véc to ky

di bên phải của A ứng với À,¿¡ => b€ Eạ.¡

Bài toán 2 Cho A là một ma trận thực cấp px q Từm a c (R?,M) 0à b€ (R1N) so cho bàm số ƒ(a,b) = a'MANb cực đại uới aMa = 1 va bNb =1

lời giải Nếu p > q, theo bất đẳng thức Cauchy-Schwarz và bài toán 1, ta

CÓ:

f(a,b) =a'M(ANĐ) < V((a'Ma)((ANb/M(ANb)) = VWNA/MANb <Ài

CHUONG 2 PHUONG PHAP BAI SO 17

Suy ra max f(a, b) = A)

Néu A; > 0 thì giá tri cực đại đạt được

AN

= ANB © Àia= ANb

b_ là véc tơ kỳ dị bên phải của A ứng với Ai

<=> a,b 1a véc to ky di bén trái và bên phải kết hợp của A ứng với Ai

<=> ac Ei,be€ F¡ kết hợp với a

Nếu A¡ = 0thì A = 0, ta cũng thấy giá trị cực đại đạt được khi a € Ei,b € F¡

kết hợp với a (lúc này F = R9)

Nếu p < ø, viết ƒ(a,b) = bNA/Ma Gạt trường hợp A =0 Các giá trị kỳ

dị khác 0 của A” cũng như của A Do đó max(bNÑA'Ma) = À¡ và giá trị cực đại đạt được khi và chỉ khi (b,a) là một bộ véc tơ kỳ dị trái, phải của A' tương ứng với À¡

Bây giờ ta m cực đại bước thứ hai như sau: ta vẫn tìm (a,b) sao cho f(a,b) = aMANb cực đại như ở trên nhưng thêm ràng buộc bLwF¡ (nếu p>g) hoặc aLwiE¡ (nếu p < q)

Tương tự như trên, nếu ø > q (còn nếu p < ø thì viết ƒ(a,b) = bNA'Ma), theo bất đẳng thức Cauchy-Schwarz và bước thứ 2 của bài toán 1, ta có:

/(a,b) = a'M(ANĐ) < V/(a'Ma)((ANb)M(ANb)) = VWNA'MANb <A;

Vậy trong trường hợp này max ƒ(a, b) = Àa

Néu Ay > 0 thì giá trị cực đại đạt được trong trường hợp này => a, b là véc

tơ kỳ dị bên trái và bên phải kết hợp của A ứng với À¿ => a € Eạ,b€ F›

sao cho f(a,b) = a’MANb cuc đại nhung thém rang budc bLN(Fi, , Fr) (nếu p> ạ) hoặc aLw(Ei, , E;„) (nếu p< q)

Tương tự ta có max ƒ(a,b) = À;¿+¡ và nếu À,¿¡ > 0 thì giá trị cực đại này đạt được => a,b la véc to ky dị bên trái và bên phải kết hợp của A ứng với Mngt > a € Engi, b € Fry ket hop voi a Con néu p41 = 0 ta cling c6 gid tri cue dai dat duge khi b € F),4) va a tùy ý :

Quá trình trên sẽ dừng khi h + 1 = k

Chú ý: Bài toán 1 là trường hợp riêng của bài toán 2, nghiệm của bài toán

1 có thể suy ra từ nghiệm của bài toán 2 với ma trận A trong bài toán 2 là

ma trận đối xứng C trong chú ý bài toán 1, và thêm ràng buộc a = b cho bài toán 2 Lúc đó trong bài toán 2, ƒ(a,b) = aNCNb = b'NCNb a

Bai todn 3 Cho A), Ao, , A) la 1 ma tran thi voi A; c6 cap p; x 4, i= 1, ,1 Tìm eị € (RP',MI),e¿ € (R??,Ma), ,e; € (RP,M,) va b €

1

(RUN) sao cbo bàm số L(et,ea, ,e¡,b) =À )(eM;A,NĐ)? cực đại uới

xi e;M;e; = 1 Ví = 1, ,! øà bNb =1

Với L= 1 bài toán 3 dua vé bài toán 2

CHUONG 2 PHUONG PHAP DAI SO 19

Suy ra max L(ei,e», ,@¡,b) = Ns

Giả sử À¡ >0 Còn nếu À¡ = 0 thì ta dừng vì lúc này /(ei,ea, ,e;,b) = 0, việc tìm cực đại không còn ý nghĩa

Giá trị cực đại đạt được

là véc tơ kỳ dị bên trái kết hợp với b của A ting vdi Ay (néu ji, = 0 thì ta

thay a¿¡ bằng một véc tơ chuẩn hóa bất kỳ thuộc R?), W¿ = 1, ,l

Chú ý 1: Theo định lý á, ma trận A phân tích R# = Fị @F¿@ :@ E¿ và

tương ứng có Eị, , E¿, trong IR? Nghiệm cực đại hóa hàm (e1, e, ,e¡, b)

trái kết hợp với b của A

Chú ý 2: Nếu ta gọi h(a, b) = (aMANB)? thì ta có

max h(a, b) = max L(e1,e, ,e),b) = AF

và nghiệm của bài toán 3 có thể nhận được từ nghiệm của bài toán 2 với h(a,b) và ngược lại Vậy ta có thể xem bài toán 2 với h(a,b) và bài toán 3

Gọi (aii ai a/, bÖ)) là một bộ nghiệm cố định nào đó của bước một Dùng qui nạp, giá sử ta đã có h bộ nghiệm cố định (ayj,a2;, ,ayj,b),

WSES la „lý CUACAC DUCE 1 + eh:

Bây giờ ta tìm cực đại bước thứ (5+1) như sau: ta vẫn tìm (ei,es, ,e;,b)

sao cho E(ei,e;, ,e;b) = 3 `(eM;A,Nb)? cực đại như ở các bước trên

nhưng thêm ràng buộc e¡.LM, an,Bo, 1 ap) WH] kh

Với ràng buộc như vậy, ta suy ra được ngay (h + 1) < min{py, ,p} vì

CHUONG 2 PHUONG PHAP DAI số 21

h

voi AY) = a, >> MiAy, t= 1, ,l; Š `aj/aj,M;A; là hình chiếu

j=l

(theo cot) cla A; lên M (Bits v5 jim):

Chú ý: avr) = 0 ©= các cột của A; đều thuộc A⁄4(a¡, ,aj) Vậy

(m+1) —_

Aly = 0 => rank(A;) < h Ta dừng ở bước m khi A; 20 Vi 1,2» pl; khi đó m > max | (rank(A;)) Tit nay ta sé goim la buéc dirng

Ta dừng ở bước in = 0 néu Aj = 0 Vi Ding 6 bude m = 1 néu (31) A; 4 0 va

nếu (V¡) các cột của A; cộng tuyến với a¡I, lúc này z» = 1 = max (rank(A;))

= Al? — Sava MA”) Vg=1, ,h

=> rank(At°† Dy < sana” (ữ=1i2ss «), Với Al) = Aj

Thực hiện giống nhu tim cic dai & budéc tht nhat vdi A; thay bang

AU’) G21 ,1, va A thay bing Al), ta cé:

1

L(e1,e2 .e1,b) = (eiM;AI"FPNB)Ê < 22,5) voi Anan [a gid i ky di

i=1

lớn nhất của At+Ð,

Suy ra max LÍ(e,ạ, ,@¡, b) = An:

Nếu A/¡i) =0 (© A?Đ = 0) thì ta dừng ở bước mm = h + 1 này

Nếu A¿,¿¡) > 0, giá trị cực đại đạt được > b = b+) 1a véc to ky di bén

Ta co: AGT) ist OD = Neng ya)

<= (A) - Save jMiA,)NbO+)) = Ah 1)Hih+18i,n+1, Vi = 1, 54,

Nữ = Tượ oh “tử (1)

Ta chứng minh bằng qui nạp Với h = 1, ta đã có a;a.Lw,a¿¡ VÌ

A(aj/2an M;a¿ = aM,(AĐ —ajja};M;A;)Nb@) = 0 (al) = A,)

Giả sử đã có a¡;LM,a¡s (Vợ < 7,Vj =2, ,h) Ta chứng minh a¡+1.LM,3¿;

Wj<h+1)

Nhân hai vế của đẳng thức trén cho aj, Mi (l<g<h) ta duge:

(Quả vậy, nếu À„,¡) =0 => A+) = O, lic dé ta sé ding 6 bude m = h+1

CHUONG 2 PHUONG PHAP DAI SO 23

này Còn nếu /;¡ = 0 thì ta lấy a;„¿¡ là véc tơ chuẩn hóa bất kỳ thuộc R?: sao cho a¡w-LM,(3¿1, a;2, ,a¿p) bởi h +1 < pị.)

b(n NbOt)) = bỨÏN(A¿,pb#@‡)) = b NA) Ma(h+)

oe b+) | b0) WP Te os oh

Như vậy ta đã tìm được nghiệm ở bước cực đại thứ (h +1) này với ma trận

AM): BUD 1a véc tợ kỳ dị bên phải ứng với A¿„„) Và e¡ = a¿p+i,ý =1, ,Í

HAF LAL At

với at = : là véc tơ kỳ dị bên trái kết hợp với bí°+ứng với

HIn+131,n+1

Ah)

Ta có rank(At#)) < rank(A() nén qué trinh tim cực đại như trên sẽ dừng

ở bước thứ in khi rank(A("+)) = 0, m < min{pi,