Tiểu luận môn Toán cho khoa học máy tính TÌM HIỂU LÝ THUYẾT LỌC KALMAN-BUCY

Yêu cầu đặt ra là trong quá trình xử lý làm sao để từ kếtquả thu nhận được ta ước lượng được một kết quả chính xác hơn?Xuất phát từ yêu cầu đó cùng với việc giải quyết vấn đề liên quan đ

TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN

Giảng viên: TS DƯƠNG TÔN ĐẢM

Học viên thực hiện: ĐẶNG BẢO ÂN - CH1301077

TP Hồ Chí Minh, tháng 12 năm 2014

LỜI CẢM ƠN

Nhóm học viên thực hiện xin gửi lời cảm ơn chân thành đến TS Dương TônĐảm, người Thầy tâm huyết đã truyền đạt những kiến thức quý báu không chỉ là lýthuyết mà Thầy còn hướng dẫn cách thức tìm hiểu, phân tích, vận dụng lý thuyết cụthể qua những ví dụ thực tế sinh động và xin gửi lời cảm ơn vì sự hướng dẫn của Thầytrong quá trình thực hiện tiểu luận

Nhóm học viên thực hiện xin chân thành cảm ơn Phòng Đào tạo sau Đại học đãtạo mọi điều kiện để nhóm hoàn thành tiểu luận

Xin chân thành cảm ơn sự giúp đỡ của các anh chị, bạn bè và những người đãthường xuyên trao đổi, thảo luận và đóng góp ý kiến cho nhóm về các vấn đề liênquan trong thời gian qua

Một lần nữa xin chân thành cảm ơn đến tất cả những người đã quan tâm đếntiểu luận của nhóm Tuy nhiên, trong quá trình làm việc không thể tránh khỏi nhữngsai sót, rất mong sự đóng góp ý kiến nhiệt tình của Thầy và các bạn

Nhóm học viên thực hiện

NHẬN XÉT ĐÁNH GIÁ CỦA GIÁO VIÊN

Điểm bằng số

Điểm băng chữ

TP Hồ Chí Minh, ngày tháng 12 năm 2014 NHẬN XÉT GIẢNG VIÊN

TS DƯƠNG TÔN ĐẢM PHẦN 1 MỤC LỤC PHẦN 2 KIẾN THỨC CƠ BẢN 7

2.1 Quá trình ngẫu nhiên 8

2.1.1 Khái niệm quá trình ngẫu nhiên 8

2.1.2 Phân loại quá trình ngẫu nhiên 9

2.1.3 Quá trình dừng (stationary) 9

2.1.4 Quá trình Markov 10

2.1.5 Quá trình Gauss 13

2.1.6 Quá trình Wiener 15

2.2 Tích phân ngẫu nhiên 17

2.2.1 Tích phân ngẫu nhiên Itô 17

2.2.2 Vi phân ngẫu nhiên Itô 19

2.3 Phương trình vi phân ngẫu nhiên 20

2.3.1 Khái niệm về phương trình vi phân ngẫu nhiên 20

2.3.2 Sự tồn tại và duy nhất của lời giải 21

2.3.3 Phương trình vi phân ngẫu nhiên tuyến tính 22

PHẦN 3 LỌC NGẪU NHIÊN KALMAN-BUCY 28

3.1 Bộ lọc 28

3.2 Nhiễu 28

3.3 Bộ lọc Kalman 29

3.4 Thiết kế bộ lọc 32

3.5 Mô hình Kalman-Bucy 37

PHẦN 4 MINH HỌA THUẬT TOÁN KALMAN-BUCY BẰNG CHƯƠNG TRÌNH MATLAB 41

4.1 Ví dụ 1: Ước lượng vị trí con tàu 41

4.2 Ví dụ 2: Hệ thống 2-input 1-output và 4-trạng thái 44

DANH MỤC HÌNH ẢNH

Hình 2-1 Đồ thị hàm mật độ của phân phối chuẩn 14

Hình 4-2 Kết quả ước lượng vị trí 42

Hình 4-3 Kết quả ước lượng vận tốc 43

Hình 4-4 Trạng thái 1 và trạng thái 2 45

Hình 4-5 Trạng thái 3 và trạng thái 4 45

LỜI NÓI ĐẦU

Một số quá trình thu và xử lí tín hiệu để xác định quỹ đạo chuyển động như máy bay, tên lửa, tàu vũ trụ, để biết vị trị các tàu trên biển, để định hướng đi của các robot

tự hành Vì một hay nhiều nguyên nhân khác nhau mà các dữ liệu hay tín hiệu có được trong quá trình thu nhận thông thường là bị “nhiễu”, nghĩa là kết quả thu nhận

được thường không chính xác Yêu cầu đặt ra là trong quá trình xử lý làm sao để từ kếtquả thu nhận được ta ước lượng được một kết quả chính xác hơn?

Xuất phát từ yêu cầu đó cùng với việc giải quyết vấn đề liên quan đến sựchuyển hướng của tàu vũ trụ trong chương trình Apollo - Hoa Kì (chương trình đưacon người từ trái đất lên mặt trăng và ngược lại), Kalman đã nghiên cứu và vào năm

1960 ông đã công bố bài báo nổi tiếng về một giải pháp đệ quy để giải quyết bài toánlọc tuyến tính thông tin rời rạc (lọc Kalman) Tên đầy đủ của bài báo là “A NewApproach to Linear Filtering and Prediction Problems” Năm 1961 Bucy cũng tham giavào lĩnh vực này và đã phát triển lý thuyết lọc - lọc tuyến tính thông tin liên tục (lọcKalman - Bucy)

Từ thực tế cho thấy hơn 50 năm trôi qua, lọc Kalman ngày càng trở nên phổbiến và có nhiều ứng dụng rộng rãi Do vấn đề lọc mà nó giải quyết là vấn đề cơ bảntrong rất nhiều lĩnh vực nên có thể nó sẽ còn có nhiều ứng dụng hơn nữa trong tươnglai Nhận thấy được tầm quan trọng nên nhóm xin thực hiện tiểu luận “Tìm hiểu lýthuyết lọc Kalman-Bucy và ứng dụng minh họa”

Cuối cùng, nhóm em xin chân thành cảm ơn Thầy Dương Tôn Đảm đã tận tìnhgiảng dạy và hướng dẫn để nhóm hoàn tất bài tiểu luận này Chúc Thầy được nhiều sứckhỏe

Nhóm học viên thực hiện

PHẦN 2 KIẾN THỨC CƠ BẢN

2.1 Quá trình ngẫu nhiên

Hầu hết các hiện tượng xảy ra trong tự nhiên và xã hội đều có tính chất ngẫunhiên, điều đó phản ánh các mối ràng buộc phức tạp mà ta không biết trước được Ta

đã biết các khái niệm biến ngẫu nhiên, vector ngẫu nhiên, đó là các biến nhận các giátrị nào đó phụ thuộc vào các yếu tố ngẫu nhiên Khi họ các biến ngẫu nhiên phụ thuộcvào thời gian ta có quá trình ngẫu nhiên

Các tín hiệu truyền dẫn và nhiễu của một hệ thống viễn thông, quá trình sắp hàng

ở một tổng đài là các quá trình ngẫu nhiên Quá trình ngẫu nhiên có nhiều ứng dụngtrong viễn thông là quá trình có tính Markov (memoryless) và quá trình dừng

Các tín hiệu của các hệ thống thông tin là các tín hiệu ngẫu nhiên vì ngoài thànhphần mang tin còn có sự tác động của giao thoa ngẫu nhiên và nhiễu của thiết bị Giả sử một tín hiệu nào đó mà tại mỗi thời điểm t chỉ xảy ra ứng với các biến cố

{ ,E i N i ∈ } của không gian mẫu Tín hiệu này nhận giá trị v t E( , )i tại thời điểm t và khibiến cố E i xảy ra Như vậy v t E( , )i là một mẫu của quá trình ngẫu nhiên v t( ) Quá trìnhngẫu nhiên v t( ) vừa phụ thuốc thời gian t, vừa phụ thuộc yếu tố ngẫu nhiên E i

Một cách tổng quát một quá trình ngẫu nhiên là một họ các biến ngẫu nhiên

{ ( , );X t ω ∈t I} Các quá trình này vừa phụ thuộc vào thời gian t và khi cố định tham số

t thì X t( , )ω là biến ngẫu nhiên theo ω Tập chỉ số I thường biểu diễn tham số thời

2.1.2 Phân loại quá trình ngẫu nhiên

Các yếu tố chính để phân biệt các quá trình ngẫu nhiên là không gian trạng thái,tập chỉ số I và quan hệ độc lập giữa các biến ngẫu nhiên X t( ) Vì vậy ta có thể phânloại quá trình ngẫu nhiên theo:

2.1.2.1 Tập trạng thái E

Ta ký hiệu E là tập các giá trị của X t( ) và gọi là không gian trạng thái của quátrình

♦ Nếu E là tập đếm được thì { ( );X t t I∈ } gọi là quá trình có trạng thái rời rạc

♦ Nếu E là 1 khoảng của tập số thực R thì { ( );X t t I∈ } là quá trình thực

♦ Nếu E tập con của tập số phức C thì { ( );X t t I∈ } là quá trình phức

♦ Nếu E =R k thì { ( );X t t I∈ } là quá trình k-vector.

2.1.2.2 Tập các chỉ số I

Nếu I∈Z thì quá trình { ( );X t t I∈ } được gọi là quá trình có thời gian rời rạc

♦ Trường hợp này ta ký hiệu x n( )thay cho x t( )

♦ Nếu I =[0,+∞) hoặc I =R thì { ( );X t t I∈ } được gọi là quá trình có thời gian liên

tục

Quá trình { ( );X t t I∈ }, I =R R Z N, +, , được gọi là:

♦ Dừng theo nghĩa chặt (strictly stationary):

Nếu ∀ > ∀h 0, t t1, , 2 t n∈I thì hàm phân bố đồng thời của ( (X t1+h X t), (2 +h), , (X t n +h)) và ( ( ), ( ), , ( ))X t X t1 2 X t n là như nhau.

♦ Dừng theo nghĩa rộng hay dừng hiệp phương sai (wide sense stationary orcovariance stationary) nếu:

- Ex t( )= =m const.

- Với mọi t,cov( ( ), (X t X t+π))=E X t[ ( )−m X t, ( +π)−m] chỉ phụ thuộc π.

Đặt K x( ) cov( ( ), (π = X t X t+π)) và gọi là hàm tự tương quan của quá trình{ ( );X t t I∈ }.

với thời gian rời rạc hoặc liên tục

♦ Chuỗi Markov với thời gian rời rạc thuần nhất:

Quá trình { ( ),X n n=0,1,2, } với thời gian rời rạc được gọi là chuỗi Markov thời

gian rời rạc thuần nhất nếu:

- Không gian trạng thái E của mọi X n( ) là tập đếm được

- Hàm xác suất chuyển là thuần nhất theo thời gian, nghĩa là thoả mãn:

( , , , ) ( , , , )

p s i t j = p s h i t h j+ +

Ta nói tắt chuỗi Markov thay cho chuỗi Markov thời gian rời rạc thuần nhất

2.1.4.2 Một số mô hình chuỗi Markov quan trọng

♦ Mô hình phục vụ đám đông:

Xét mô hình phục vụ đám đông (lý thuyết sắp hàng) Khách đến sắp hàng chờphục vụ theo nguyên tắc FIFO (first in first out) và trong mỗi chu kỳ cửa hàng chỉ phục

vụ một khách Số khách đến trong chu kỳ thứ n là biến ngẫu nhiên ξn Giả sử ξ1, ξ2,

là các biến ngẫu nhiên độc lập cùng phân bố với biến ngẫu nhiên ξ có phân bố xácsuất

i i

♦ Mô hình kiểm kê (Inventory Model):

Giả thiết phải dự trữ trong kho một loại hàng nào đó để đáp ứng nhu cầu liên tụccủa khách hàng Hàng được nhập kho tại cuối mỗi chu kỳ n=0,1,2, Giả sử tổng số

lượng hàng cần phải đáp ứng nhu cầu trong chu kỳ n là biến ngẫu nhiên ξn có phân bố

độc lập với chu kỳ thời gian Nghĩa là dãy { }ξn độc lập có cùng phân bố với ξ.

Mức hàng dự trữ được kiểm kê tại cuối mỗi chu kỳ Cách nhập hàng căn cứ vào 2chỉ số tiêu chuẩn s và S (s S< )như sau: Nếu ở cuối mỗi chu kỳ lượng hàng dự trữ ≤s

thì ngay tức khắc nhập hàng để có số hàng dự trữ bằng S; Nếu hàng hiện có >s thì

không cần nhập hàng

Ký hiệu X n( ) là lượng hàng hiện có tại cuối chu kỳ n và trước khi nhập hàng,như vậy

1 1

( )( 1) n

+ +

{ ( 1) | ( ) }

n ij

+ +

2.1.5 Quá trình Gauss

2.1.5.1 Phân phối Gauss

♦ Định nghĩa 1: cho ( ,, , )Ω F P là một không gian xác suất một biến ngẫu nhiên

:

X Ω →Rlà phân phối Gauss nếu phân phối của X có hàm mật độ được viết dướidạng:

2 2

( ) exp

22

Hình 2-1 Đồ thị hàm mật độ của phân phối chuẩn

Đồ thị của hàm mật độ của phân phối chuẩn có hình cái chuông Trung điểm củacái chuông này chính là điểm x=µ, và độ cao của chuông chính bằng 1

2

Hình vẽ trên cho thấy hầu hết xác suất của một phân phối chuẩn nằm trong đoạn

[µ−3 ,σ µ+3σ] Chỉ có không đến 0.3% nằm ngoài đoạn đó Nói cách khác, nếu X là

một biến ngẫu nhiên có phân phối chuẩn với các tham số µ σ, thì với xác suất 99.7%

có thể tin rằng giá trị của X nằm trong đoạn

♦ Định nghĩa 2: Hàm đặc trưng của một biến ngẫu nhiên X:Ω →R n là một hàm

♦ Định nghĩa Quá trình X ={ ,X t T t ∈ } được gọi là quá trình Gauss hay quá trình

chuẩn nếu các phân phối hữu hạn chiều của nó là Gauss, tức là phân phối của vectơngẫu nhiên ( 1, , )

n

X X là Gauss đối với mọi tập con hữu hạn I =( , , )t1 t n ⊂T .

Như vậy, quá trìnhX ={ ,X t T t ∈ } là Gauss khi và chỉ khi mỗi tổ hợp tuyến tính

(hữu hạn) của nó là biến ngẫu nhiên có phân phối chuẩn trên R

2.1.6.1 Định nghĩa quá trình Wiener

♦ Khái niệm về quá trình Wiener

Quá trình Wiener là quá trình ngẫu nhiên ξt(0≤ < ∞t ) thoả:

- Đại lượng ngẫu nhiên ξ ξt − s,0≤ ≤s t có phân phối chuẩn, với kỳ vọng bằng

- Nếu ta thay ξ0 =0 bởi ξ0 = x, ta sẽ có quá trình Wiener xuất phát từ x.

Ta ký hiệu quá trình Wiener bằng W t hay W t( )

Ta ký hiệu quá trình Wiener tiêu chuẩn hay chuyển động Brown tiêu chuẩn bằng

t

B

♦ Định nghĩa quá trình Wiener trong R m

Quá trình Wiener trong R m là một quá trình ngẫu nhiên thuần nhất với số gia độclập sao cho nó có phân phối Gauss với hàm mật độ:

trong đó: B=C C*, với C* là toán tử liên hợp với C.

- a được gọi là vector chuyển dịch

- B được gọi là toán tử khuyếch tán.

2.1.6.2 Tính chất của quá trình Wiener

2.2 Tích phân ngẫu nhiên

♦ Định nghĩa :

Giả sử trên không gian xác suất ( , , )Ω F P đã cho họ hàm không giảm các σ − đại

số F t ⊆F t, >0 và quá trình Wiener W t t, ≥0;W0 =0 với quỹ đạo liên tục tương thích với

họ F t sao cho số gia W s- W t sau thời điểm t độc lập với σ − đại số F t Cho T là một

số không âm, ta xét là lớp các hàm ngẫu nhiên f :[0, ]T × Ω →R thỏa các điều kiện:

- f t là tương thích đối với F t, nghĩa là f t là F t − đo được.

Để xây dựng khái niệm tích phân Ito của hàm ngẫu nhiên thuộc lớp NT, trướctiên ta xét các hàm sơ cấp, nghĩa là các hàm có dạng:

1 {0}

0

( , ) 1 n k( )1A k

k t

=

Trong đó 0= < < <t0 t1 t n−1< =t n T;µ là biến ngẫu nhiên F0 đo được; µ ωk( )là

biến ngẫu nhiên F t k đo được với k =0,1,2, ,n−1 và A k =( ,t t k k+1).

Với các hàm sơ cấp dạng ta xác định tích phân Itô bởi:

1

1 0 0

Điều đó có nghĩa là Iφnlà dãy Cauchy trong L2( , , )Ω F P

Từ đó ta có định nghĩa tích phân Itô cho hàm ngẫu nhiên theo hệ thức sau

nếu X t =X t0 +∫α ω( , )s ds+∫β ω( , )t dW t s, 0 < <t T hầu chắc chắn, trong đó α ω( , )t

và β ω( , )t là các quá trình ngẫu nhiên F t đo được sao cho:

1( , ) ( , ) ( , ) ( , )

2.3 Phương trình vi phân ngẫu nhiên

2.3.1.1 Phương trình vi phân ngẫu nhiên

Xét hệ thức vi phân ngẫu nhiên

2.3.1.2 Lời giải của phương trình vi phân ngẫu nhiên

Một quá trình ngẫu nhiên X =(X t( ),ω t∈[0, ]T ) được gọi là lời giải của phương

trình (1) với điều kiện ban đầu

0

Trong đó Z là một biến ngẫu nhiên cho trước, độc lập đối với W =(W ,t t≥0) sao

cho E Z( 2)< ∞ và X thỏa các điều kiện sau:

2.3.2 Sự tồn tại và duy nhất của lời giải

2.3.2.1 Sự tồn tại và duy nhất của lời giải

♦ Định nghĩa 1: Giả sử X =(X t t, ∈[0, ]T ) là một lời giải của phương trình (1) (2).

Ta nói lời giải đó là duy nhất nếu có điều kiện sau:

Nếu Y =(Y t t, ∈[0, ]T ) cũng là một lời giải của phương trình thì

Khi đó tồn tại một lời giải X =(X t t, ∈[0, ]Y ) của phương trình (1) với điều kiện

ban đầu (2) và đó là lời giải duy nhất theo nghĩa (3)

2.3.2.2 Tính Markov của lời giải

Định lý dưới dây cho thấy lời giải của một phương trình vi phân ngẫu nhiên baogiờ cũng là một quá trình Markov

♦ Định lý 2: Giả sử X =(X t) là một quá trình ngẫu nhiên thỏa mãn phương trình

Định lý dưới đây cho ta biết điều kiện để lời giải của một phương trình vi phânngẫu nhiên là một Martingan.

♦ Định lý 3: Giả sử ( )X t là một lời giải của phương trình vi phân ngẫu nhiên

Trong đóa t( ), b t( ), c t( ), d t( ) là các quá trình thích nghi và liên tục theo t

Chú ý: Ta dễ dàng kiểm chứng rằng đối với phương trình tuyến tính (6) thì cácđiều kiện tồn tại và duy nhất nghiệm luôn được thỏa

2.3.3.2 Quá trình mũ ngẫu nhiên

Cho X là một quá trình có vi phân ngẫu nhiên và U là quá trình thỏa

0 1

dU U dX U

(7) là một dạng phương trình vi phân ngẫu nhiên gọi là phương trình Doléans –Dade

Ta chứng minh được quá trình

0 1[ , ]2

X X X X t

Thỏa mãn phương trình (7) Ta gọi quá trình này là quá trình mũ ngẫu nhiên của X và

kí hiệu làε(X t) Vậy

0 1 [ , ] 2

( ) X t X X X t t

2.3.3.3 Phương trình vi phân mũ ngẫu nhiên

Trong phương trình tuyến tính (6), cho b t( ) 0≡ và d t( ) 0≡ ta được phương trình vi

phân mũ ngẫu nhiên:

1exp [Y,Y]

2

1exp ( ) ( ) W ( ) )

2.3.3.4 Phương trình vi phân ngẫu nhiên tuyến tính tổng quát

Xét phương trình vi phân tuyến tính tổng quát

2.3.3.5 Một số phương trình vi phân ngẫu nhiên đặc biệt

♦ Phương trình Langevin và quá trình Ornstein-Uhlenbeck

Xét phương trình dạng:

W

dX = −αX d +σd

Trong đóα, σ là hằng số Phương trình này gọi là phương trình Langevin Nó là

phương trình tuyến tính với

( )

a t = −α ; b t( ) 0 = ; c t( ) 0 = ; d t( ) =σ .

Lời giải là

0 0

PHẦN 3 LỌC NGẪU NHIÊN KALMAN-BUCY

Khi M đủ lớn, ta thấy rằng để loại bỏ N, ta có thể lấy tổng của X trên một “đoạn”

có kích thước M

Nhìn ở một khía cạnh nào đó ta đã loại bỏ được N

Tuy nhiên, cũng cần phải chú ý rằng bộ lọc có lọc thế nào cũng không thể loại hếttoàn bộ nhiễu Thế nên, các bộ lọc cũng chỉ lọc ra được tín hiệu sạch, theo nghĩa khôngcòn nhiễu, nhưng cũng chỉ là ước lượng của tín hiệu thực, chứ không phải chính xác làtín hiệu thực

3.2 Nhiễu

Nhiễu là loại tín hiệu ngẫu nhiên, nó làm ảnh hưởng và làm thay đổi đến tín hiệutrong quá trình truyền và quá trình xử lý tín hiệu tiếng nói

Nhiễu trong tín hiệu tiếng nói làm ảnh hưởng và thay đổi đến tiếng nói trong quátrình truyền và quá trình xử lý tín hiệu tiếng nói Bao gồm các loại nhiễu:

- Nhiễu trắng (white noise)

- Nhiễu màu (colored noise)

- Nhiễu xung (Impusive noise)

3.3 Bộ lọc Kalman

Vào năm 1960, R.E Kalman đã công bố bài báo nổi tiếng về một giải pháp truyhồi để giải quyết bài tóan lọc thông tin rời rạc tuyến tính (discrete data linear filtering).Tên đầy đủ của bài báo là "A New Approach to Linear Filtering and PredictionProblems" Từ đó đến nay cùng với sự phát triển của tính toán kỹ thuật số, bộ lọcKalman đã trở thành chủ đề nghiên cứu sôi nổi và được ứng dụng trong nhiều ngành kỹthuật công nghệ khác nhau: