luậLý thuyết lọc tối ưu đối với quá trình Gaussian điều kiện và áp dụng của nó vào các bài toán thống kê và các bài toán điều khiển tối ưu với thời gian rời rạc và các bài toán điều khiển tối ưu với thời gian liên tục

LỜI NÓI ĐẦULí thuyết lọc đã được các nhà toán học nghiên cứu đến hai thế kỷ nay.. Đề tài này chỉ đề cập đến vấn đề lý thuyết lọc tối ưu đối với quá trìnhGaussian điều kiện và áp dụng của

LỜI NÓI ĐẦU

Lí thuyết lọc đã được các nhà toán học nghiên cứu đến hai thế kỷ nay

Lý thuyết lọc hiện đại dựa trên toán học hiện đại, nó có nhiều ứng dụng trongvật lý kỹ thuật và các ngành khoa học khác

Đề tài này chỉ đề cập đến vấn đề lý thuyết lọc tối ưu đối với quá trìnhGaussian điều kiện và áp dụng của nó vào các bài toán thống kê và các bàitoán điều khiển tối ưu với thời gian rời rạc và các bài toán điều khiển tối ưuvới thời gian liên tục

Do hạn chế về mặt thời gian lên luận văn không thể tránh khỏi những sailầm thiếu sót Em rất mong các thầy và các bạn đọc đóng góp ý kiến để em tiếptục ngiờn cứu, bổ xung làm cho luận văn này hoàn thiện hơn

Em xin chân thành cảm ơn !

Chương I CÁC KIẾN THỨC CHUẨN BỊ

Các khái niệm cơ bản

Cho không gian xác suất đầy đủ ( , , )  F P , ( ,0F t  t T) là họ không giảm các

 -đại số con của  - đại số F, F t,0  t T là liên tục

Giả sử ( , )   là quá trình ngẫu nhiên hai chiều quan sát được bộ phận, trong đó

  là  - đại số sinh bởi quá trình   ( , ) t F t Đại lượng t( )h

khó được xác định Song dưới giả thiết quá trình ( , )h được cho bởi đẳng thức

Giả sử hàm g t g t( ),0   t T là quá trình ngẫu nhiên đo được nào đó thỏa

Hàm thực X X( )  xác định trên  lấy giá trị trên R gọi là hàm

F- đo được hoặc biến ngẫu nhiên nếu

I.2 Quá trình ngẫu nhiên

Định nghĩa 1:

Cho không gian xác suất (, F, P) và T 0,  Họ các biến ngẫu nhiên

Trong trường hợp T=N=0,1, 2,  , họ ( ,X t T t  ) được gọi là quá trình ngẫunhiên với thời gian rời rạc

X(t, ω) phụ thuộc hai biến t ) phụ thuộc hai biến t T, ω) phụ thuộc hai biến t Ω Với mỗi t cố định, X(t, ω) phụ thuộc hai biến t ) là hàm đođược theo ω) phụ thuộc hai biến t Với mỗi ω) phụ thuộc hai biến t cố định X(t, ω) phụ thuộc hai biến t ) được gọi là quỹ đạo hay hàm chọn củaquá trình ngẫu nhiên

Định nghĩa 2:

Hai quá trình ngẫu nhiên X t và  Y t , tT cùng xác định trên không gianxác suất (Ω, F, P) được gọi là tương đương ngẫu nhiên nếu chúng trùng nhauhầu khắp nơi với mỗi t T Nghĩa là P X t Y t  0 Quá trình Y t T t,   đượcgọi là quá trình cải tiến của quá trình ( ,X t T t  ).

Quỏ trình ngẫu nhiên ( ,X t T t  ) được gọi là đo được tiến nếu với mỗi tT

б -đại số các tập borel trên o t,  Rõ ràng, mọi quá trình ngẫu nhiên đo đượctiến đều là đo được và phù hợp với họ б- đại số Ft, tT

Định nghĩa 6:

Quá trình ngẫu nhiên ( ,X t T t  ) với X0 là Fo -đo được, là dự báo được nếu nó

đo được với б -đại số trên 0,  x  sinh bởi các tập tớch cú dạng s t,  x A,

0 s t  , A  Ft

Định nghĩa 7:

Quá trình ngẫu nhiên Xt, tT được gọi là liên tục ngẫu nhiên tại

to T, nếu đối với   0 có: 0

I.3 Kỳ vọng điều kiện:

Định nghĩa 1: Giả sử x là biến ngẫu nhiên xác định trên không gian xác suất

( , , )  F P và tồn tại kỳ vọng E(x), G là  -đại số con của  -đại số F kỳ vọngđiều kiện của biến ngẫu nhiên x đối với  -đại số G đã cho là đại lượng ngẫunhiên, kí hiệu là E x G( / ) đo được đối với  -đại số G và thỏa mãn

( / ) A( )

Định nghĩa 2: xác suất điều kiện xác suất điều kiện của biến cố A với điều

kiện  -đại số G đã cho là đại lượng ngẫu nhiên P A G( / ) đo được đối với 

B



I.4 Martingale Cho không gian xác suất ( , , )  F P và họ ( ),F t T t  là họkhông giảm các  -đại số con của F quá trình X  ( , ),x F t T t t  được gọi làmartingale ( Submartingale, Supermartingale) nếu:

Bổ đề 4.12 Giả sử w=(w , ),0 t F t  t T là quá trình winer và f t( , )  là hàm

không khả đoán với 2m

liên tục phải, 0 K s( ) 1  Khi đó

j n

II1 Phương trình lọc tối ưu

Giả sử ( , ) ( , ),0     t t  t T là quá trình ngẫu nhiên trong đó t,0  t T, làquá trình không quan sát được, ( ,0 t  t T) là quá trình quan sát được

Trong trường hợp đó xột ở trương trước quá trình ( , )   là Gaussian mà nóđược bổ xung thêm tính điều kiện

( ) 3 ( ) ( ) 2[ ( )]

          (II0)

Đối với kỳ vọng hậu nghiệm t( ) E( /t F t )

    và phương sai hậu nghiệm

Trong chương này ta sẽ đề cập tới lớp quá trình ngẫu nhiên

( , ) ( , ),0     t t  t T mà không là quá trình Gaussian nhưng nó có tính chấtquan trọng là phân phối điều kiện F x0t( ) P[ t x F/ t ]

    là Gaussian Đặc biệt có tính chất (II0)

Cho không gian xác suất ( , , )  F P với họ không giảm các   đại số F t,0  t T

con của   đại số F và cho w 1  (w ( ), ), w 1 t F t 2  (w ( ), ) 2 t F t là hai quá trình wienerđộc lập biến ngẫu nhiên   0 , 0 được giả thiết là độc lập với quá trình w1, w2.Cho ( , ) ( , ),0     t t  t T là quá trình khuyếch tán ngẫu nhiên liên tục với

Trong đó K(s) là hàm liên tục phải, 0 K s( ) 1 

Và phân phối điều kiện P(  0 a/ )  0 là Gaussian, N m ( , ) 0 0 thì m  t, t thỏa mãnphương trình

Với điều kiện 2

s 0

0 0

( , ) [d ( , ) ] ( , )

( , ) 1

0

0

( , ) 1

2 ' 1 ( , )

Trong trường hợp (2.23) và (2.24) nhận được từ công thức Bayes:

exp

-2 2

t

t t

( , ) [d ( ( , ) ( , ) ( ) ]

( , ) ( , ) ( ) ( , ) ( ) 2 ( , ) ( ) ( , )

Với điều kiện ban đầu x(0) m y0 , (0)   0 ,(m0   ;0   0   )

Có nghiệm duy nhất, liên tục, F t-đo được, t, 0  t T

Chứng minh: cho y1(t), y2(t), 0 t T  là hai nghiệm khụng õm, liờn tục củaphương trình (2.32), khi đó ta có:

2

0 2

( , ) ( , )

[y ( ) ( )] y ( ) ( )

( , )

t t

Tính duy nhất nghiệm của (2.32) được chứng minh.

Khi đó hệ phương trình cho bởi (2.1) và (2.2)

Có nghiệm mạnh liên tục nghiệm này duy nhất và

Định lý II.5 Cho các hàm a t x A t x b t x B t x i( , ), ( , ), ( , ),i  1 ( , ) hội tụ đều và bị chặn và

thỏa mãn các điều kiện (2.35) và (2.36) khi đó hệ phương trình

Phương trình (2.41) là phương trình Ricati, nú có nghiệm khụng õm duy nhất

liên tục với mỗi x C T

Do giả thiết t( )x bị chặn đều tại x

Ta chứng minh hàm t( )x thỏa mãn điều kiện lipschitz

( , ) [ ( , ) ( , ) ] ( , ) w

Theo giả thiết của định lý và tính chất của hàm t( )x , hệ phương trình cho bởi(2.47) có nghiệm mạnh duy nhất m0 , ,w 0

II.3 Phương trình lọc tối ưu nhiều chiều

Cho không gian xác suất ( , , )  F P với họ không giảm, liên tục phải các

  đại số ( ),0F t  t T w 1  (w ( ), ), w 1 t F t 2  (w ( ), ) 2 t F t là hai quá trình wienerđộc lập, trong đó w ( ) [w ( ), , w ( )], w ( ) [w ( ), , w ( )] 1 t  11 t 1k t 2 t  21 t 2l t

có nghĩa các phần tử của ma trận nghịch đảo bị chặn đều (2.52)

nếu kí hiệu g(t, x) là phần tử của ma trận B1(t, x) và B2(t, x), thì với

Định lý II.6: Cho các điều kiện từ (2.50) đến (2.56) được thỏa mãn với xác

suất 1 và phân phối F a0 ( ) 0 P(  0 a0 /  0 ) là Gaussian,

2

1 2

Là quá trình Gaussian điều kiện, với t,0 t0 t1  t n t,

Phân phối điều kiện 0t( , , ) 0 { 0 0 , , / }

n

Chứng minh định lý này tương tự như chứng minh định lý II.1

Định lý II.7: Cho các điều kiện từ (2.50) đến (2.56) được thỏa mãn và thỏa

mãn 3 điều kiện sau

i i

Định lý II.8: Cho   ( , , )  1 k là biến ngẫu nhiên k chiều với 4

1

k i i

s t

Chứng minh định lý này giống như chứng minh định lý II.2

II.4 Phép nội suy của quá trình Gaussian điều kiện

Kí hiệu

      khả tích Do đó

Định lý II.9: Cho các điều kiện từ (2.50) đến (2.59) được thỏa mãn và cho

phân phối điều kiện P(0 a/0) là Gaussian Khi đó m(t, s) và ( , ) t s

Được xác định bởi công thức

d

a t t s c t dt

Định lý II.10.Cho các điều kiện từ (2.50) đến (2.59) được thỏa mãn và cho

phân phối điều kiện P(0 a/0) là Gaussian, N m  và ( , )0 0

u s

Để chứng minh định lý II.10 ta cần dùng hai bổ đề sau

Bổ đề 2.4: Cho {inf detP t T t 0} 1

   và cho ma trận t( )

s

R  là nghiệm của hệphương trình vi phân:

w (w , ) t F t là quá trình wiener, và cho a ( , ),a F b t t ( , )b F t t là các quá trình

s s

( )( , )( ) ( , ) ( , )[ ( , )]

s s

Định lý II.11: Nếu các điều kiện từ (2.50) đến (2.59) được thỏa mãn và phân

phối điều kiện P(0 a /0) là Gaussian thì

II.5 Phương trình ngoại suy tối ưu

Giả thiết rằng ( , ) ( , ),0     t t  t T là quá trình (k+n) chiều với

Trong đó các hệ số thỏa mãn các điều kiện từ (2.50) đến (2.59) với các phần

tử của véc tơ a0(t) và ma trận a1(t) là hàm đặc trưng của thời gian và phân phốiđiều kiện P(  0 a/ )  0 là Gaussian

   Dưới giả thiết được cho sau đây

Định lý II.12: Cho các quá trình ( , )   là (governed) thỏa mãn hệ phương trìnhcho bởi (2.101)và (2.102) khi đó với s cố định 0  t T n t s, ( , ) 1 thỏa mãnphương trình

Lấy kỳ vọng điều kiện E(./F s ) hai vế của (2.107) ta thu được (2.105)

Để chứng minh (2.105) thì trong (2.107) cho s=0 do công thức I tô(2.107) có nghiệm duy nhất, liên tục với s=0 ta có biểu diễn sau

Lấy kỳ vọng điều kiện E(./F s ) hai vế của (2.108), ta nhận được biểu diễn(2.105).

s

u s

u u

( ) ( , 0)

[(b )( , ) ( , )](B ) ( , )

w ( ) ( , )

Chương III DÃY GAUSSIAN ĐIỀU KIỆN: LỌC VÀ CÁC VẤN ĐỀ LIÊN QUAN.

III.1 Định lý tương quan chuẩn.

Định nghĩa: Ma trận A+ (cỡ n x m) được gọi là giả nghịch đảo đối với matrận

A =A(nxm), nếu hai điều kiện sau được thoả mãn:

A A+ A=A ( 3.1)

A+ =U A*=A*V (3.2)

Trong đó U, V là các ma trận hàng, cột của ma trận A+ tương ứng

Bổ đề 3.1 : Ma trận A+ thoả mãn (3.1) và (3.2) tồn tại và duy nhất

Đặt D= A1+- A2+, U=U1-U2, V=V1-V2, suy ra A D A=0, D=UA* =A*V,

với D*= V*A; do đó (DA)*(DA)= A*D*DA=A*V*ADA=0

A A+ A=A(A*A)-1(A*A)=A, suy ra (3.1) thoả mãn

với A*A là ma trận không suy biến cỡ n  n A+=UA* được thoả mãn với U=(A*A)-1

A+=A*V được thoả mãn với V= A(A*A)-2A*.

Tương tự khi hạng của A(cỡ m x n, m n) là m thì ma trận A+=A*(A A*)-1 là

ma trận giả nghịch đảo với ma trận A

D cov( , ), D     cov( , )   , D  cov( , )  

Thì kỳ vọng điều kiện E( | )   và covariance điều kiện

2

m D 

Định lý III.2: Dưới giả thiết của định lý III.1, phân phối điều kiện (P  x/ )

là Gausian với tham số ( / )E   và cov( , )  được cho

(exp[iz ]/ )=exp[iz ( / )]E(exp[iz ]/ )

=exp[iz ( / )]E exp[iz ]

Bổ đề 3.2: Cho b b B B là các ma trận cỡ 1, , ,2 1 2 k k k ,   l,l k,l l,  theo thứ tự, và Cho:

r t E và tương quan R t s( , )E[(t  r t( ))(s  r s( )) ],t,s=0,1, *

Khi đó ta có thể tìm được dãy vec tơ Gausian độc lập

III.2 Phương trình lọc đệ quy của dãy Gaussian điều kiện

Cho không gian xác suất ( , , )  F P cho quá trình ngẫu nhiên quan sát riêng

Tất cả các phần tử của vec tơ và các ma trận được giả thiết là không khả đoán

và F t- đo được trong đó F t { , , }, t=0,1, 0 t

1 2 1 2

( , ) [ ( ), ( )],t=1,2,     t  t các hệ số của hệ phương trình cho bởi (3.4) và (3.5)

và điều kiện ban đầu ( , )   0 0 được giả thiết qua cả phần III.2

Cho các điều kiện từ (3.6) đến (3.9) được thỏa mãn Khi đú dóy (  ,  )

cho bởi (3.4) và (3.5) là Gaussian điều kiện và phân phối điều kiện





 a t a t F t

P( 0  0, ,  / là Gaussian với mọi t=0, 1, …

chứng minh.ta chứng minh theo phương pháp quy nạp, Giả sử phân phối điều

0



 Pt a F t

F t   là phân phối chuẩn N(m t, t)

do (3.4) và (3.5), phân phối điều kiện P( t1 a, t1 x/F t , t b) là Gaussianvới vec tơ kỳ vọng

b a a

b

A

A

1 0

1 0 1

B b b b B

0

* 0

0 0

)

2 2

* 1 1 0

* 2 2

* 1 1 0

* 2 2

* 1 1

1 ) ) , ( ) , ( ( exp[

) , / ]

1 0

* 1

1 ) , ( ( exp[

/ )]

) , ( (

1 1

* 1

* 1

1 ) ) , ( ) , ( ( exp[

) / ] (exp[

* 1 1

*

* 1

0

* 1

*

z t A t

A

z

z t B z m

t A t

A iz F

)]

/ (

))]) /

( (

) / (

[

exp(

} , / ) {exp(

))]) /

( (

) / (

[

exp(

} , / ] )) / ( (

) / ( [

{exp(

1

* 1

1 1

*

1

* 1

1 1

*

1 1

1 1

*

F iz E

F E

C F E

iz

F iz E

F E

C F E

iz

F F

E C

F E

iz

E

t t t

t t

t t

t t t

t t

t t

t t t

t t

t t

t a F t

vì vậy phân phối điều kiện P( t a/F t ) là Gaussian với mọi t=0, 1, …



Định lý III.4 Trong các điều kiện từ (3.6) đến (3.9) các tham số m t, t đượcxác định bởi phương trình đệ quy:

] [

] ][

[ ]

1 1 0

* 1 1 0 1

* 1 1 0

* 1 1 0 0

t

t t

t

m t A t

A F

E

m t a t

a F

E

) , ( ) , ( )

/

(

) , ( ) , ( )

/

(

1 0

1

1 0

, ( ) /

(

), 1 ( ) , ( ) 1 ( ) , ( ] )[

, ( ) /

(

2 2

1 1

1 1

1

2 2

1 1

1 1

B t

t B m t

A F E

t t

b t

t b m t

a F E

t t t

t

t

t t t

( ) , ( ) , ( ) / ,

1 1

1 1

11   F a t  a t  b b t 

).

, )(

( ) , ( ) , ( ) / , cov(

), , )(

( ) , ( ) , ( ) / , cov(

0

* 1 1

1 1 22

0

* 1 1

1 1

A t

A F

d

t B b t

A t

a F d

t t

t t

t t

t t

) / ( ) ,

Định lý III.5 Cho các điều kiện từ (3.6) đến (3.9) được thỏa mãn Khi đó tồn

tại vec tơ Gaussian  (t)  (  1 (t), , l(t))với các thành phần độc lập và

) (

) ( ) ( ) ( ,

, ( ) , ( ) , )(

[(

) , ( ) ,

1

* 1 1

0 1

)

,

(

) )(

, ( [ )]

, ( ) , ( ) , )(

1

1

1 2

1

* 1 1

B t

t

B

m t

A t

A t

A t

B B

1

(

cov(  t  t F t E l (3.27)

Từ đây ta suy ra các thông số của phân phối điều kiện của vec tơ  ( t 1 )

không phụ thuộc vào điều kiện và do đó phân phối của vec tơ  ( t 1 ) cũng làGaussian Ở đây

) (

)) 1 ( ), 1 ( cov(

 ( 0,  ) ,

t

t F

F  (3.28)Nếu ma trận ( )( , ) ( , ) * ( , )

1 1

0B t  A t   A t 

] ) , 1 ( [

)]

, 1 ( )

, 1 ( ) , 1 )(

1 1

0B t  A t   A t 

(với xác suất dương)

Ta xây dựng dãy vec tơ ngẫu nhiên Gaussian độc lập

) (

)]

1 (

)

,

(

) 1 ( ) , ( ) )(

, ( )[

, ( )

t

B

t t

B m t

A t D

[(

) , (t  B B t  A t   A t 

Dễ thấy dãy  ( 1 ), ,  (t) của vec tơ xác định và thỏa mãn các điều kiện trongđịnh lý Để chứng minh (3.23) ta chứng minh

) 1 ( ) , ( ) 1 ( ) , ( ) )(

, ( [ ) 1

, ( [ ) 1

, ( ) , ( )[

,

(

)]

1 ( ) , ( ) 1 ( ) , ( ) )(

, ( )][

, ( )

t

D

t t

B t

t B m t

A t

D t

Do đó

0 ) 1 ( )]

, ( ) , ( )[

,

)] 1 ( ) , ( ) 1 ( ) , ( ) )(

, ( )][

, ( ) , ( [

)(

[(

} ) )(

{(

} ) (

) {(

} ) / ) 1 ( ) 1 ( ( { )

1 (

DD

E

DD E DD DD DD

E

DD E DD DD

E

E

F t

t E E t

t

do  (t 1 )  0 và (3.31), (3.32) nên (3.30) được chứng minh

định lý được chứng minh

III.3 Phương trình nội suy thuận nghịch.

Cho dãy ngẫu nhiên (  ,  )  ( t, t),t  0 , 1 , ,xác định bởi (3.4) và (3.5),phương trình nội suy được hiểu là bài toán xây dựng một ước lượng tối ưu củavec tơ s từ thành phần quan sát được 0t ( 0, , t),t s.

t s

Định lý III.6 Nếu phân phối điều kiện a(s,s) P( s a/F s )

chuẩn, thì phân phối a(s,t) P( s a/F t )

 tại t  s cũng là phân phối chuẩn

Để chứng minh định lý này ta cần bổ đề sau:

Bổ đề 3.5 nếu phân phối điều kiện a(s,s) P( s a/F s ) là phân phối chuẩn

thì kỳ vọng điều kiện

, ), ,

/ (

, ( )

, ( ) , ( )

, )(

[(

)]

, ( )

, ( ) , ( )

, ( [

) , ( {

1

* 1

0

1

* 1

0 1

) (

u A u

A s u u

A u

B

B

u A s u u

a u

B b u

a

E

t

s u

t

s

k k s

( (

)]

, ( )

, ( ) , ( )

, )(

[(

] )) ,

( )

, ( ) , ( )

, )(

[(

) , ( {

0 1

* 1 1

0

1

* 1 1

0 0

1

u A u

A s u u

A u

B

B

u A s u u

a u

B b u

a

u

t

s u

t u t

0

* 1 1

0

* 1 1

0

0

* 1 1

)]

, 1 ( ) , 1 ( ) , 1 ( ) , 1

)(

[(

)]

, 1 ( ) , 1 ( ) , 1 ( ) , 1 )(

[(

)]

, 1 ( ) , 1 ( ) , 1 ( ) , 1

)(

[(

)]

, 1 )(

( ) , 1 ( ) , 1 ( ) , 1 (

a u

B

b

u A s u u

a u

B

B

u A s u u

a u

B

b

u b b u

a s u u

a

s

u

(3.36)

với điều kiện ban đầu  (s,s)  0

Chứng minh bổ đề Theo định lý III.3, ( , ),  ( , ) cov(  ,  /  ,   )

Khi a ( s t, ) xác định không phụ thuộc vào  ta viết  (t,s)  a(t,s)

(3.33) được suy ra từ (*)

Chứng minh định lý III.6 Trước hết ta chứng minh phân phối điều kiện

) / ,

/ ] [

2

* 1 1

* 2

( 2

1 ) ) , 1 ( ) , 1 ( ( { exp ) , , / ]

[

2 1

1 0

* 2 1

* 2 1

*

2

2 0

* 2 0

*

2

1 1 1

*

2

2 0

* 2 0

*

2

1 1 1

*

2

) , 1 ( ) , 1 ( ) , 1 ( 2

1 )]

, 1 ( ) ,

( 2

1 ) ,

[

{exp

} ) , 1 )(

( 2

1 )]

(

[exp

{

z t A s t t A z s t m t

A

z

i

z t B B z t

A

z

i

F t

A

z

i

F F

s t s t t t

, 1 (

) , 1 (

) , 1 (

) , 1 (

) , 1 ) (

((

2

1

) )

, 1 (

) , 1 (

( {

ex p )

, /

] [

(exp

1 1

* 2

*

1 0

*

1 1

0

* 1

*

t A iz

z t

A

s t

t A t

B B z

t A t

A iz

F z

i E

s t

s

t s s

t t

)]

) , 1 (

( [

{exp }

)) ,

1 (

) , 1 (

) , 1 (

) , 1 )(

((

2

1 )

) , 1 (

) , 1 (

( exp{

) /

] [

(exp

1 1

1

*

* 2

* 1

0

* 1

1 0

* 1

*

*

F t

A z

z i E

z t

A s t

t

A

t B B z

t A t

A iz

F z

z i E

t s

t s s

t s t

t s

Cho t=s+1 khi phân phối, a(s,s) P( s a/F s )

 là phân phối chuẩn