tiểu luận lý thuyết và thuật toán ước lượng gauss, wiener, kalman

Quan điểm thời gian rời rạc được nhấn mạnh trong chương này vì:1 nhiều dữ liệu thực sự được thu thập trong một loại số hóa, do đó nó làtrong một dạng sẵn sàng để được xử lý bằng các thuậ

Chương 15: Lý thuyết và thuật toán ước lượng Gauss, Wiener, Kalman.

15.1 Giới thiệu

Sự ước lượng là một trong bốn vấn đề mô hình hóa Ba vấn đề kia

là sự trình bày (một cái gì đó nên tạo mô hình như thế nào), đo lường(những số lượng vật lý cần được đo và đo như thế nào), và giá trị (chứngminh niềm tin vào mô hình) Ước lượng, nó phù hợp giữa các vấn đề về

đo lường và giá trị, bàn về sự định rõ số lượng vật lý mà không thể đo từchúng mà có thể đo được Chúng tôi sẽ bao gồm một phạm vi rộng củanhững kỹ thuật ước lượng bao gồm ước lượng bình phương tối thiểu, ướclượng không chệch tuyến tính tốt nhất, ước lượng khả năng tối đa, ướclượng bình phương trung bình và ước lượng khả năng tối đa Những kỹthuật này cho các ước lượng tham số hoặc ước lượng trạng thái hoặc một

sự kết hợp cả hai, khi áp dụng cho các mô hình tuyến tính hoặc phi tuyến

Quan điểm thời gian rời rạc được nhấn mạnh trong chương này vì:(1) nhiều dữ liệu thực sự được thu thập trong một loại số hóa, do đó nó làtrong một dạng sẵn sàng để được xử lý bằng các thuật toán ước lượngthời gian rời rạc, và (2) toán học kết hợp với lý thuyết ước lượng thờigian rời rạc thì đơn giản hơn là lý thuyết xác định thời gian liên tục.Chúng tôi xem lý thuyết ước lượng (rời rạc theo thời gian) như là sự mởrộng của xử lý tín hiệu số cổ điển tới sự thiết kế bộ lọc (số) thời gian rờirạc cái mà xử lý dữ liệu không chắc chắn trong một cách tối ưu Lýthuyết ước lượng có thể được xem như là một bổ xung tự nhiên đến lýthuyết xử lý tín hiệu số Mendel [12] là tài liệu tham khảo chính cho tất cảcác tài liệu trong chương này

Thuật toán ước lượng xử lý dữ liệu và chỉ được thực hiện đầy đủtrên máy vi tính số Triết lý tính toán của chúng ta là bỏ nó cho đến thànhthạo Nhiều thuật toán của chương này có thể sử dụng trong Matlab vànhững toolbox thích hợp Xem chú thích 12 để kết nối giữ Matlab vàtoolbox file M và những thuật toán của chương này

Mô hình chính mà chúng tôi sẽ hướng vào là tuyến tính trongtham số chưa biết

Z(k) = H(k)θ + V(k) (15.1)

Trong kiểu mẫu này, chúng ta xem một “ kiểu tuyến tính chung”,Z(k) = col ( z(k), z(k-1),…., z(k-N+1)), với N x 1 được gọi là vecto số đo.Yếu tố của nó là z(j) = h’(j)θ + v(j); với θ là n x 1 được gọi là vecto tham

số, và bao gồm thuyết chưa biết và tham số ngẫu nhiên sẽ được đánh giá

sử dụng một hoặc nhiều hơn trong những kỹ thuật của chương này; H(k),với N x n được gọi là ma trận xác nhận; và V(k) với N x 1được gọi làvecto nhiễu số đo Theo quy ước, đối số “k” của Z(k), H(k) và V(k) biểuthị thực tế là số đo cuối được dùng đề đặt (15.1) là k

Những ví dụ về những vấn đề có thể tính vào trong dạng kiểutuyến tính chung là: nhận dạng hệ số đáp ứng xung trong kiểu mẫu tổngchập cho hệ thống tuyến tính bất biến thời gian từ những số đo ngõ ranhiễu; nhận dạng hệ số kiểu cân bằng giới hạn khác nhau tuyến tính thờigian bất biến cho một hệ thống động từ những số đo ngõ ra nhiễu; hàmxấp xỉ; sự đánh giá trạng thái; tham số đánh giá của kiểu mẫu khôngtuyến tính sử dụng một phiên bản tuyến tính của kiểu mẫu đó;deconvolution; và nhận dạng những hệ số trong sự trình bày chuỗiVolterra rời rạc của một hệ thống không tuyến tính.

Kí hiệu đánh giá sau đây được dùng xuyên suốt trong chương này:

^

θ(k) biểu thị một ước lượng của θ và ~

θ(k) biệu sai số trong ước lượng,

tức là θ~(k) = θ - θ^(k) Mô hình tuyến tính chung là điểm bắt đầu cho

phép lấy đạo hàm của những kỹ thuật ước lượng tham số cổ điển, và môhình ước lượng cho Z(k) là ^

Z(k) = H(k)θ^(k) Trong phần còn lại của

chương này chúng tôi phát triển các cấu trúc riêng cho θ^(k) Những cấu

trúc này được tham chiếu đến những ước lượng Những ước lượng đượcthu lại mỗi khi dữ liệu được xử lý bởi một ước lượng

15.2 Ước lượng bình phương cực tiểu

Phương pháp dữ liệu bình phương cực tiểu trở lại vào Karl Gaussvào khoảng 1795 và là nền tảng cho hầu hết lý thuyết ước lượng Ướclượng trọng lượng bình phương cực tiểu (WLSE), θ^WLS(k), được thu lại

bởi giảm đến giá trị nhỏ nhất hàm đối tượng J[θ^(k)] = Z~ ’(k)W(k)~

đó trọng lượng bình phương cực tiểu giảm tới bình phương thấp, trongtrường hợp này chúng ta thu được ^

Ma trận H’(k)W(k)H(k) không phải là duy nhất cho nó đảo để tồn tại.Điều này đúng nếu W(k) là xác định dương, giả định H(k) là vùng lớnnhất Chúng ta biết rằng ^

θWLS(k) thấp hơn J[θ^WLS(k)] bởi vì d2J[θ^(k)]/dθ^

2(k) = 2H’(k)W(k)H(k) > 0, khi H’(k)W(k)H(k) đảo Ước lượng ^

θWLS(k)

xử lý số đo Z(k) tuyến tính, do đo nó được tham chiếu như là ước lượngtuyến tính Trong thực tế chúng ta không tính toán θ^WLS(k) bằng công

thức 15.2, vì tính toán H’(k)W(k)H(k) đảo thì khó với nhiều con số khó

Đo đo chúng ta gọi biểu thức bình thường [H’(k)W(k)H(k)]θ^WLS(k) =

H’(k)W(k)H(k) để giải bằng thuật toán ổn định từ số học tuyến tính ( e.g,[3] trình bày giải quyết biểu thức bình thường là chuyển đổi vấn đề bìnhphương cực tiểu gốc vào trong đương lượng, dễ dàng để giải quyết vấn đềbằng phép biến đổi thuật toán như là phép biến đổi Householder hoặcGivens) Chú ý công thức 15.2 và 15.3 ứng dụng cho ước lượng của tham

số xác định hoặc ngẫu nhiên, bởi vì không có chỗ nào có đạo hàm ^

θ

WLS(k) chúng ta phải giả định θ là ngẫu nhiên hoặc không ngẫu nhiên.Cuối cùng, chú ý WLSEs không phải bất biến dưới thay đổi tỷ lệ Mộtcách để tháo gỡ khó khăn này là sử dụng dữ liệu bình thường hóa

Ước lượng bình phương cực tiểu cũng có thể được tính toán bằngphân tích giá trị đặc biệt (SVD) của ma trận H(k) Sự tính toán này có giátrị cho cả trường hợp ngoài N < n và dưới N > n và trong trường hợp H(k)đầy hoặc không đầy SDV cho ma trận A kích thước K x M là

Phương trình (15.8) và (15.9) đảo ma trận P kích thước n x n.Nếu n lớn thì tính toán hao tốn Ứng dụng bổ đề ma trận đảo (15.9), thuđược dạng hiệp biến luân chuyển WLSE đệ quy sau: biểu thức (15.7)

Biểu thức (15.7) – (15.9) hoặc (15.7), (15.10) và (15.11) là giá trịban đầu bởi θ^WLS(n) và P-1(n), P(n) = [H’(n)W(n)H(n)]-1 , k= n, n + 1, ,

N-1

Biểu thức (15.7) được diễn giải như sau

WLSE đệ quy là một bộ lọc số thời gian thay đổi, cái mà đượckích thích bằng ngõ vào ngẫu nhiên (i.e., số đo), ma trận plant

[I-KW(k+1)h’(k+1)của bộ lọc số thời gian thay đổi có thể chính nó là ngẫunhiên vì KW(k+1) và h’(k+1) có thể là ngẫu nhiên, tùy thuộc vào ứngdụng riêng ở trên Những bản chất ngẫu nhiên của những ma trận làm chophép phân tích của bộ lọc này cực kì khó khăn

Hai phép đệ quy được thực hiện trong WLSEs đệ quy Cái thứnhất là vec tơ đệ quy θ^WLS từ công thức (15.7) Rõ ràng, θ^WLS(k+1) không

thể tính được từ biểu thức này đến khi số đo z(k+1) có giá trị Cái thứ hai

là ma trận đệ quy P-1 hoặc P từ (15.11) Quan sát những giá trị từ những

ma trận có thể được tính toán trước khi những số đo được tạo Một việcthi hành tính toán số của (15.7) – (15.9) là

có thể được khởi tạo bằng cách đặt θ^WLS(0) = 0 và P(0) để một ma trận

chéo của những con số rất lớn Điều này thường làm phổ biến trong thực

tế Những thuật toán bình phương tối thiểu đệ quy bậc cố định nhanhđược dựa vào phép quay Givens và có thể được thực hiện sử dụng nhữngmảng tâm thu được mô tả trong [5] và tham khảo trong trường hợp đó

15.3 Đặc tính của ước lượng

Chúng ta biết được hay không những kết quả đạt được từ WLSE,hoặc những chủ đề về đánh giá tốt như thế nào? Để trả lời câu hỏi này,chúng ta phải vận dụng thực tế về tất cả đánh giá để thực hiện các phépbiến đổi dữ liệu ngẫu nhiên; do đó θ^(k) thì chính nó là ngẫu nhiên, để mà

những thuộc tính của nó phải được xem xét cẩn thận từ quan điểm thông

kê Thực tế, hệ quả của nó, đã được xem xét rõ ràng cho tới ngày nay, thìđúng với người thống kế xuất sắc R.A Fischer

Nó thì phổ biến để phân biệt giữa những mẫu nhỏ và lớn của đặctính ước lượng Số hạng “mẫu” tham chiếu số học của những số đo được

sử dụng để đạt được ^

θ …, thứ nguyên Z Nhóm “mẫu nhỏ” nghĩa là bất

kỳ những số đo ( như 1, 2, 100, 104, hoặc thậm chí một số vô hạn), ngượilại, nhóm “mẫu lớn” nghĩa là “một con số vô hạn của giá trị đo” Đặc tínhcủa mẫu lớn là được tham khảo từ đặc tính tiệm cận Nếu một ước lượng

có đặc tính mẫu nhỏ, thì nó cũng có đặc tính mẫu lớn liên quan; nhưngngược lại thì không phải lúc nào cũng đúng Mặc dù mẫu lớn nghĩa làmột số vô hạn của những giá trị đo, ước lượng bắt đầu có được nhữngthuộc tính của mẫu lớn hơn là một số vô hạn của những giá trị đo Phụthuộc như thế nào về miền θ, n, bộ nhớ của những ước lượng, và tổngquát dưới đây là hàm mật độ xác xuất

Một nghiên cứu cẩn thận về θ^ đã xác định hàm mật độ xác xuất p(

^

θ) Thường thì rất khó để đạt được p(θ^) cho hầu hết ước lượng (ngoại trừ

^

θ là multivariate Gaussian); do đó thông thường để nhấn mạnh những số

liệu thống kê bậc 1 và 2 của θ^ (hoặc những sai số liên quan θ~ = θ- θ^), trị

chung bình và tích chập

Những đặc tính mẫu nhỏ của ước lượng là không chệch và hiệuquả Một ước lượng là không chệch nếu giá trị trung bình của nó là tựđiều chỉnh những tham số chưa biết tại mọi giá trị theo thời gian, tức là trịtrung bình của sai số ước lượng là không tại mọi giá trị theo thời gian Sựphân tán về trị trung bình đã được đo bằng sự thay đổi sai số Hiệu quả làđược liên kết thay đổi sai số sẽ nhỏ như thế nào Liên quan với hiệu quả

là rất nổi tiếng Cramer-Rao không đều (ma trận thông tin Fisher, trongtrường hợp là một vec tơ của những tham số) cái mà đặt một biên thấphơn trên khác biệt sai số, một biên không phụ thuộc vào một ước lượng

cụ thể

Những thuộc tính mẫu lớn của ước lượng thì không chệch về tiệmcận, kiên định, trạng thái thường tiệm cận và hiệu quả tiệm cận Tầmquan trọng của một ước lượng trạng thái tiệm cận (Gaussian) là toàn bộ

mô tả xác xuất của nó thì được biết đến và nó có thể đặc điểm toàn bộ bởithống kê tiệm cận bậc một và hai Tính nhất quán là một dạng của vùnghội tụ của θ^(k) đến θ; nó thì đồng nghĩa với vùng hội tụ theo xác xuất.Một trong những lý do về tầm quan trọng của tính nhất quán về lý thuyếtước lượng là bất kỳ hàm liên tục của ước lượng nhất quán là chính nó mộtước lượng nhất quán, tức là “thực hiện kiên định.” Nó thì cũng có thểkiểm tra các loại khác của vùng hội tụ ngẫu nhiên để ước lượng, như làbình phương vùng hội tụ và hội tụ với xác xuất 1 Một đặc tính chung của

carry-over là không tồn tại dưới hai loại vùng hội tụ; nó phải được thiếtlập từng trường hợp.(ví dụ [11]).

Tổng quát lại, rất là khó để thiết lập đặc tính mẫu nhỏ hoặc lớncủa ước lượng bình phương nhỏ nhất, ngoại trừ trong những trường hợpđặc biệt khi H(k) và V(k) là không phụ thuộc vào thống kê Trong khiđiều kiện này thỏa mãn trong ứng dụng xác định một đáp ứng xung, nóthì vi phạm trong ứng dụng quan trọng của việc xác định vùng hội tụtrong biểu thức khác biệt hữu hạn cũng như trong nhiều ứng dụng kỹthuật quan trọng khác Nhiều đặc tính mẫu lớn của LSEs là xác định bằngcách thiết lập mà LSE là tương đương với một ước lượng khác mà nóđược biết là đặc tính mẫu lớn có giá trị đúng Chúng ta tiếp tục vấn đềdưới đây

Ước lượng bình phương bé nhất yêu cầu không giả định về tínhchất thông kê của mô hình chung Do đó, công thức WLSE thì dễ dànglấy được Cái giá để trả cho không làm giả định về đặc tính thống kê của

mô hình tuyến tính chung là rất khó trong việc thiết lập những đặc tínhmẫu lớn nhỏ cho kết quả ước lượng

15.4 Ước lượng không chệch tuyến tính tốt nhất

Ước lượng thứ hai là cả không chệch và hiệu quả bởi thiết kế, và

là một hàm tuyến tính của giá trị đo Z(k) Nó được gọi là một ước lượngkhông chệch tuyến tính tốt nhất (BLUE), ^

θ BLU(k) Như trong dẫn xuất của

WLSE, chúng ta bắt đầu với mô hình tuyến tính chung; nhưng bây giờchúng ta làm hai giả định về mô hình này, (1) H(k) phải là tất định, (2)V(k) phải là zero nghĩa là xác định dương được biết là ma trận hội tụR(k) Dẫn xuất của BLUE là phức tạp hơn dẫn xuất của WLSE vì cácràng buộc thiết kế; tuy nhiên, những phân tích công năng của nó thì dễhơn vì chúng ta xây dựng công năng tốt vào trong thiết kế của nó

Chúng ta bắt đầu bằng cách giả định cấu trúc tuyến tính sau cho ^

θ

BLU(k), ^

θBLU(k) = F(k)Z(k) Ma trận F(k) được thiết kế sao cho:

- ^

θBLU(k) là một ước lượng không chệch của θ

- phương sai sai số cho mỗi tham số n là nhỏ nhất

Bằng cách này, ^

θBLU(k) sẽ không chệch và hiệu qủa (trong lớp ước

lượng tuyến tính) bởi thiết kế Kết quả ước lượng BLUE là:

Một mối liên hệ rất đáng chú ý nào tồn tại giữa các BLUE vàWLSE, cụ thể là, BLUE của θ là trường hợp đặc biệt của WLSE của θ

khi

W(k)=R-1(k) Do đó, tất cả các kết quả đạt được trong đoạn trên về

^

θWLS(k) có thể ứng dụng cho θ^BLU(k) bằng cách đặt W(k) = R-1(k) Ma

trận R-1(k) ảnh hưởng sự đóng góp của các phép đo chính xác và và giảm

sự đóng góp của các phép đo không chính xác Kỹ thuật thiết kế ướclượng không chệch tuyến tính tốt nhất đã dẫn đến một ma trận trọnglượng mà khá hợp lý

θLS(k) thừa hưởng những đặc tính này.

Trong một WLSE đệ quy, ma trận P(k) không có ý nghĩa đặc biệt.Trong một BLUE đệ quy [cái mà đạt được bằng cách thay thế W(k) = R-

1(k) vào trong (15.7) – (15.9), hoặc (15.7), (15.10) và (15.11)], ma trậnP(k) là ma trận hội tụ cho sai số ở giữa θ và ^

θBLU(k), nghĩa là

P(k) = [H’(k)R-1(k)H(k)]-1 = cov[θ~BLU(k)] Do đó, mỗi khi P(k)

được tính toán trong BLUE đệ quy, chúng ta đạt được một lượng giá trị

đo ước lượng θ tốt như thế nào

Hãy nhớ rằng chúng ta nói rằng WLSEs có thể thay đổi trong giátrị số dưới sự thay đổi về tỷ lệ Những BLUE là bất biến dưới sự thay đổi

về tỷ lệ Điều này được thực hiện tự động bằng cách thiết lậpW(k)=R-1(k) trong WLSE

Thực tế H(k) phải được xác định giới hạn khắt khe tính ứng dụngcủa những BLUE trong ứng dụng kỹ thuật

15.5 Khả năng tối đa ước lượng

Xác suất là liên kết với một thử nghiệm tiếp, trong đó mô hình xácsuất, p(Z(k)|θ), là đặc biệt, bao gồm những giá trị tham số θ trong môhình đó (ví dụ trung bình và sự khác nhau trong hàm mật độ Gaussian),

và dữ liệu (nghĩa là sự thấy rõ) là được tạo ra bằng cách sử dụng mô hìnhnày Có thể đúng, l(θ|Z(k)), là tỷ lệ với xác xuất Trong khả năng, dữ liệuđược đưa ra cũng như tính chất của mô hình xác suất, nhưng các thông sốcủa mô hình xác suất không được chỉ định Nó phải được xác định từ

dữ liệu đã cho Khả năng là, do đó, kết hợp với một thử nghiệm nghịchđảo

Các phương pháp tối đa khả năng dựa trên ý tưởng tương đối đơngiản mà khác nhau (thống kê) tổng thể tạo ra các mẫu khác nhau và rằngbất kỳ mẫu nhất định (tức là, tập hợp các dữ liệu) thì có nhiều khả năngđến những tập hợp hơn là từ những cái khác

Để xác định ước lượng tối đa khả năng (MLE) của xác định θ, ^

θ

ML(k), chúng ta cần xác định một công thức cho hàm có thể xảy ra và sau

đó tối đa hàm đó Bởi vì khả năng tỷ lệ với xác suất, chúng ta cần phảibiết toàn bộ hàm mật độ xác suất chung của các phép đo để xác định một

công thức cho các hàm có khả năng xảy ra Điều này, tất nhiên, là nhiềuhơn nữa thông tin về Z(k) hơn là cần thiết trong các dẫn xuất của BLUE.Trong thực tế, nó là hầu hết những thông tin mà chúng ta đã bao giờ cóthể mong đợi để biết về các số đo Giá chúng ta trả để biết thông tin rấtnhiều về Z(k) là phức tạp trong khả năng tối đa hóa hàm Nói chung, lậptrình toán học phải được sử dụng để xác định ^

θML(k).

Khả năng tối đa ước lượng được sử dụng phổ biến và rộng rãi bởi

vì có những đặc tính mẫu lớn tốt Nó phù hợp, tiệm cận Gaussian vớitrung bình θ và ma trận hiệp biến J-1, J là ma trận thông tin Fisher, và làhiệu quả tiệm cận Những hàm của khả năng tối đa ước lượng là chínhkhả năng tối đa ước lượng, tức là nếu g(θ) là một hàm vecto ánh xạ θ vàomột không gian trong không gian Euclidean thứ nguyên r, sau đó g(θML)

là một MLE của g(θ) Đặc tính không thay đổi này thường không có đượcbởi WLSEs hoặc BLUEs

Trong một trường hợp đặc biệt nó thì dễ tính toán θ^ML tức là cho

mô hình tuyến tính chung trong H(k) là xác định và V(k) là Gaussian.Trong trường hợp này θ^ML = θ^BLU Những ước lượng này là: không chệch

bởi vì θ^BLU là không chệch; hiệu quả ( trong lớp ước lượng tuyến tính), vì

^

θBLU là hiệu quả; nhất quán, vì θ^ML là nhất quán; và Gaussian, vì nó phụ

thuộc tuyến tính vào Z(k), cái mà là Gaussian Nếu, ngoài ra R(k) = 2

v

σ I,

thì

^

θML(k) = θ^BLU(k), và những ước lượng là không chệch, hiệu quả

(trong lớp ước lượng tuyến tính), nhất quán và Gaussian

Phương pháp khả năng tối đa bị giới hạn những tham số tất định.Trong trường hợp những tham số ngẫu nhiên, chúng ta vẫn sử dụngWLSE hoặc BLUE, hoặc nếu có thêm thông tin có sẵn, chúng ta có thể sửdụng một bình phương trung bình hoặc ước lượng tối đa là hậu nghiệm,được mô tả dưới đây Vấn đề trước không dùng thông tin thống kê vềnhững tham số ngẫu nhiên, ngược lại sau này có dùng

15.6 Ước lượng bình phương trung bình của các tham số ngẫu nhiên

Cho những giá trị đo z(1), z(2), ,z(k), ước lượng bình phươngtrung bình của θ ngẫu nhiên, ^

θMS(k)= φ[z(i), i = 1,2,…,k], sai số bìnhphương trung bình tốt thiểu J[θ~MS(k)]=E{θ~’MS(k) θ~MS(k)} [ với θ~MS(k) =

θMS(k) = E{θ|Z(k)} (15.14)

Thật là hợp lý, (15.14) thì không thực sự có ích trong việc tínhtoán θ^MS(k) Tổng quát, chúng ta phải tính toán trước tiên p[θ|Z(k)] vàsau đó thực hiện con số yêu cầu của tích phân θ p[θ|Z(k)] để đạt được ^

Khi θ và Z(k) thì cùng chung Gaussian, ước lượng là mức tối

thiểu sai số bình phương trung bình là

mθ là trị trung bình của θ, mz(k) là trị trung bình của Z(k), Pz(k) là matrận hiệp biến của Z(k), và Pθz(k) là đối hiệp biến giữa θ và Z(k) Dĩ

nhiên, để tính toán ^

θMS(k) sử dụng (15.15), chúng ta phải bằng cách này

hay cách khác để biết tất cả số liệu thống kê, và chúng ta phải chắc rằng θ

và Z(k) thì cùng chung Gaussian Cho mô hình tuyến tính chung, Z(k) =

H(k)θ + V(k), H(k) là xác định, V(k) là nhiễu Gaussian với ma trận hiệp biến đảo đã biết R(k), θ là Gaussian với trị trung bình mθ và mà trận hiệpbiến Pθ ,và, θ và V(k) là độc lập về thống kê, thì θ và Z(k) thì cùng chung

Giả định là θ và Z(k) là không cùng chung với Gaussian và chúng ta biết

mθ, mz(k), Pz(k), và Pθz (k) Trong trường hợp này, ước lượng là bị ép buộc

để là phép biến đổi affine của Z(k) và mức tối thiểu lỗi bình phương trung

bình thì cũng được cho bởi (15.15)

Chúng ta bây giờ biết câu trả lời cho câu hỏi quan trọng sau: Khinào ước lượng bình phương trung bình tuyến tính (affine) giống với lạiước lượng bình phương trung bình? Câu trả lời là khi θ và Z(k) thì cùng

chung với Gaussian Nếu θ và Z(k) không cùng chung Gaussian, thì

^

θMS(k) = E{θ|Z(k)}, tổng quát nó là hàm không tuyến tính của trị

đo Z(k), nghĩa là nó là một ước lượng không tuyến tính.

Kết hợp với lý thuyết ước lượng bình phương trung bình là

nguyên tắc trực giao: giả định f[Z(k)] là hàm bất kỳ của dữ liệu Z(k); thì sai số trong ước lượng bình phương trung bình là trực giao f[Z(k)]trong

hướng là Một trường hợp đặc biệt bắt gặp thường

xuyên xảy ra khi f[Z(k)] = θ^MS(k),trong trường hợp này

Khi θ và Z(k) thì cùng chung với Gaussian, ^

θMS(k) trong (15.15)

có những đặc tính sau:

• Nó là không chệch

• Mỗi thành phần của nó có thay đổi sai số nhỏ nhất

• Nó là ước lượng tuyến tính

• Nó là đơn nhất

• Cả ^

θMS(k) và θ~MS(k) là đa dạng Gaussian, nghĩa là những số lượng

được mô tả hoàn toàn bằng thống kê bậc một hoặc bậc hai

Sự đơn giản hóa lớn xảy ra khi θ và Z(k) là cùng với Gaussian!Nhiều kết quả thực hiện trong phần này thì thích hợp với hàm đốitượng khác hơn hàm đối tượng bình phương trung bình Hiểu tài liệu bổxung ở cuối bài 13 trong [12] để thảo luận về con số rộng của hàm đốitượng mà đứng đầu là E{θ|Z(k)}như là ước lượng tối ưu của θ , cũng nhưthảo luận về ước lượng không tuyến tính toàn diện của θ

Có một kết nối giữa BLUE và MSE Kết nối yêu cầu một BLUEkhác một chút, nó thì kết hợp với thông tin thống kê trước về ngẫu nhiên

θ Để là điều này, chúng ta xử lý mθ như giá trị đo thêm vào mà được tăng

lên Z(k) Phương trình trị đo thêm vào thì đạt được bằng cách cộng và trừ

θ đồng nhất mθ = mθ tức là mθ = θ + ( mθ -θ) Khối lượng ( mθ -θ) thìđược xử lý như nhiễu số đo zero trung bình với hiệp biến Pθ Mô hình

tuyến tính được tăng là

Để ước lượng BLUE cho mô hình tăng này chỉ rõ Thì nóluôn luôn đúng Chú ý hàm đối tượng bình phương ít trọngthì kết hợp với

15.7 Cực đại ước lượng Posteriori của tham số ngẫu nhiên

Cực đại ước lượng Posteriori thì cũng được biết như ước lượngBayesian Sự lấy lại quy tắc của Bayes: , trong

đó hàm mật độ thì được biết như hàm mật độ điều kiện posteriori

và p(θ) là hàm mật độ ưu tiên cho θ Quan sát có liên hệ với hàmhợp lý , bởi vì Ngoài ra, vì p(Z(k)) không phụthuộc vào θ, Trong ước lượng MAP, giá trị của θ

được tìm thấy là cực đại Đạt được một ước lượng MAP cần

phải định rõ cả p(Z(k)|θ) và p(θ) và tìm giá trị của θ là cực đại p(Z(k)|θ).

Nó là kiến thức của mô hình xác suất ưu tiên cho θ, p(θ)mà phân biệt

công thức khó cho ước lượng MAP từ ước lượng MS

Nếu θ1, θ2,…, θn được phân bố đồng dạng, thì vàước lượng MAP của θ bằng với ước lượng ML của θ Tóm lại, ước lượng

MAP thì rất khác ước lượng ML Ví dụ, đặc tính bất biến của MLEsthường không chuyển sang ước lượng MAP Một lý do về điều này có thểthấy từ công thức Giả sử, ví dụ cho φ = g(θ) vàchúng ta muốn xác định bằng cách đầu tiên tính Vì p(θ) phụ

thuộc vào ma trận Jacobian của Thường

là tiệm cận giống một cái khác vì trong trường hợp mẫu lớn sự hiểu biếtcủa quan sát dẫn đến làm ngập sự hiểu biết của phân bố ưu tiên [10]

Nói chung, sự tối ưu phải được dùng tính toán Trongtrường hợp đặc biệt nhưng không quan trọng, khi Z(k) và θ là cùng chungGaussian, thì Kết quả này thì đúng bất chấp bản chất của

mô hình liên quan θ tới Z(k) Tất nhiên để sử dụng nó, đầu tiên chúng taphải thành lập Z(k) và θ là cùng chung Gaussian Ngoại trừ mô hìnhtuyến tính chung, điều này thì rất khó để làm

Khi H(k) là xác định, V(k) là nhiễu trắng Gaussian với ma trậnhiệp biến được biết R(k), và θ là đa lượng biến Gaussian với trị trungbình đã biết mθ và hiệp biến ; do đó mô hình tuyến tínhchung Gaussian, ước lượng MS, MAP và BLUE của θ là giống nhau hết,tức là

15.8 Mô hình biến trạng thái cơ bản

Trong phần còn lại của chương này chúng ta sẽ mô tả một đa dạngước lượng trạng thái bình phương trung bình cho một tuyến tính, thờigian thay đổi, rời rạc thời gian, hệ thống động, cái mà chúng ta nói đến

mô hình biến trạng thái cơ bản Hệ thống này được mô tả bởi n x 1 vecto

trạng thái x(k) và m x 1 vecto số đo z(k) và là:

k= 0,1, Trong mô hình này w(k) và v(k) là p x 1 và m x 1 không có

tương quan lẫn nhau cùng chung chuỗi nhiễu trắng Gaussian, tức là

Ma trận liên hiệp Q(i) là nửa xác định dương và R(i) là xác định dương

[ để mà R-1(i) tồn tại] Ngoài ra, u(k) là một vecto l x 1 của những ngõ vào

hệ thống đã biết và vecto trạng thái ban đầu x(0) là đa lượng biếnGaussian, với trung bình mx(0) và hiệp biến Px(0) và x(0) thì không cótương quan với w(k) và v(k) Miền của những ma trận và R là

n x n, n x p, n x l, m x n, p x p và m x m, theo thứ tự định sẵn Đối số

double trong những ma trận và ψ có thể luôn luôn không cần thiết,

trong trường hợp chúng ta thay thế (k + 1, k) bằng k.

Nhiễu w(k) thì thường sử dụng cho mô hình nhiễu cường độ hoạt

động trên hệ thống, hoặc sai số đúng tác động trong bộ biến đổi của ngõvào đã biết u(k), với tín hiệu vật lý Vecto v(k) thì thường sử dụng sai số

mô hình trong trị đo làm bằng dụng cụ giác quan hoặc tất yếu nhiễu màhành động lập tức trên những cảm biến

Không phải tất cả hệ thống được mô tả bằng mô hình cơ bản này.Nhìn chung, w(k) và v(k) có tương quan với nhau, những số đo được làmquá chính xác cho tất cả các mục đích thực tế, chúng thì chính xác (tức làkhông có nhiễu số đo được kết hợp với chúng) và w(k) hoặc v(k); hoặc cảhai có thể trung bình khác không hoặc quá trình nhiễu màu Điều khiểnnhững trạng thái như thế nào được mô tả trong bài 22 của [12]

Khi x(0) và {w(k), k = 0,1,…} thì cùng chung Gausian, thì {x(k),

k = 0,1,…} là một chuỗi Gauss-Markov Chú ý là nếu x(0) và w(k) làriêng lẻ Gaussian và độc lập thống kê, chúng sẽ cùng chung Gaussian.Cho nên, trung bình và hiệp biến của vecto trạng thái mô tả hoàn toàn nó

Để mx(k) chỉ rõ trung bình của x(k) Cho chúng ta bốn mô hình biến trạngthái cơ bản, mx(k) có thể được tính toán từ biểu thức đệ quy vecto

k = 0,1,… và mx(0) giá trị ban đầu (15.22) Để Px(k) chỉ rõ ma trậnhiệp biến x(k) Cho chúng ta bốn mô hình biến trạng thái cơ bản, Px(k) cóthể được tính toán từ biểu thức đệ quy ma trận

k = 0,1,… và Px(0) giá trị ban đầu (15.23) Những biểu thức(15.22) và (15.23) thì được lập trình dễ dàng một máy tính số

Cho chúng ta bốn mô hình biến trạng thái cơ bản, khi x(0), w(k)

ma trận hằng số R Ngoài ra, x(0) = 0 hoặc φ(k,0) ≈ 0 khi k>k0; trong cảhai trường hợp x(k) sẽ trong trạng thái không thay đổi, nên tính dừng là

có thể

Nếu mô hình biến trạng thái cơ bản là thời gian bất biến và tínhdừng và nếu φ thì được kết hợp với một hệ thống ổn định tiệm cận (tức làmột của những cực nằm trong vòng tròn đơn vị) thì [1] ma trận Px(k) tiến

tới trạng thái giới hạn (trạng thái ổn định) và là trạng thái củaphiên bản trạng thái ổn định sau Biểu thức này được gọi

là một biểu thức Lyapunov rời rạc thời gian

15.9 Ước lượng trạng thái cho mô hình biến trạng thái cơ bản.

Dự đoán, lọc và làm san bằng là ba loại ước lượng trạng thái bìnhphương trung bình mà được phát triển từ 1959 Một ước lượng dự đoán

của một vecto trạng thái x(k) sử dụng những số đo mà xảy ra sớm hơn t k

và một mô hình chuyển từ giai đoạn thời gian cuối gọi là t j, tại một số do

có hiệu lực t k Thành công của dự đoán phụ thuộc vào chất lượng môhình Trong ước lượng trạng thái chúng ta sử dụng mô hình biểu thứctrạng thái Nếu không có một mô hình, dự đoán là không đáng tin cậy

Bộ lọc trạng thái bình phương trung bình đệ quy được gọi là bộlọc Kalman, bởi vì nó được phát triển bởi Kalman vào khoảng 1959 [9].Mặc dù nó được phát triển nguyên thủy trong một tập thể nhà lý luận điềukhiển và được xem như là kết quả sử dụng rộng rãi mà được gọi là "lýthuyết điều khiển hiện đại," nó không còn được xem như là kết quả lýthuyết điều khiển Nó là một kết quả trong lý thuyết ước lượng; do đóchúng ta bây giờ thích xem nó như là một kết quả xử lý tín hiệu Một ướclượng bộ lọc của vecto trạng thái x(k) sử dụng tất cả những số đo lên đến

và bao gồm cả ước lượng trạng thái thực hiện tại thời điểm t k

Một ước lượng san bằng của vecto trạng thái x(k) không những sử

dụng những số đo mà xảy ra xớm hơn t k cộng một tại t k mà còn sử dụng

những số đo đến bên phải của t k Cho nên, sự san bằng có thể không baogiờ thực hiện trong thời gian thực, bởi vì chúng ta phải thu thập số đo

“tương lai” trước khi chúng ta có thể tính toán một ước lượng san bằng.Nếu chúng ta không tìm kiếm xa hơn tương lai, thì sự san bằng có thểđược thực hiện đối tượng đến một sự chậm trễ của LT thứ hai, mà T làthời gian lấy mẫu dữ liệu và L là một số nguyên dương cố định mà mô tả

làm thế nào nhiều điểm lấy mẫu bên phải của t k được sử dụng trong sự sanbằng

Phụ thuộc vào lúc nhiều số đo tương lai được dùng như thế nào vàchúng được sử dụng ta sao, nó có thể tạo ra ba loại san bằng:

(1) San bằng khoảng thời gian cố định, , với N là

tất cả những số đo lên đến và bao gồm ước lượng được làm tại t k-1, do đómột ước lượng dự đoán trạng thái đơn xem chính xác một điểm thời gianvào trong tương lai Ước lượng này thì được cần bởi bộ lọc Kalman Từđịnh lý cơ bản của lý thuyết ước lượng, chúng ta biết rằng

theo sau là

với k = 1,2,…Quan sát phụ thuộc vào ước lượng lọc

của vecto trạng thái có trước x(k-1) Cho nên công thức (15.26) không thể

sử dụng cho đến khi chúng ta cung cấp bộ lọc Kalman

Để P(k|k-1) biểu thị ma trận hiệp biến sai số mà được liên kết với

, tức là

với Ngoài ra, để P(k-1|k-1)biểu thị ma trận hiệp

biến sai số mà được liên kết với , tức là

bộ lọc bình phương trung bình và san bằng bình phương trung bình Sựtrình bày dưới đây của quy trình đổi mới là tương đương:

Sự đổi mới là một chuỗi nhiễu trắng Gaussian trung bình không với

Bài báo của Kailath đưa ra một triển vọng lịch sử tốt của lý thuyếtước lượng và bao gồm một bản miêu tả lịch sử rất tốt của quy trình đổimới

15.9.2 Bộ lọc (lọc Kalman)

Bộ lọc Kalman và mở rộng mới đây của nó đến những vấn đề khôngtuyến tính trình bày ứng dụng rộng rãi nhất bằng sản phẩm của lý thuyếtđiều khiển hiện đại Chúng ta bắt đầu bằng cách trình bày KF, cái mà ướclượng lọc bình phương trung bình của , trong dạng hiệuchỉnh dự báo

cho k = 0,1,…, với và là chuỗi đổi mới trong (15.28)( sử dụng đẳng thức thứ hai để thực hiện KF) Kalman đạt được ma trận

K(k+1) là n x m và được quy định bởi bộ mối quan hệ:

và

với k = 0, 1, …., với I là ma trận đồng nhất n x n, và P(0|0) =Px(0).

KF bao gồm phản hồi và chứa dựng với cấu trúc của nó một môhình của kế hoạch Tính phản hồi của KF biểu thị chính nó trong hai cáchkhác nhau: trong tính toán của và cũng trong tính toán của ma

trận đạt được, K(k+1) Quan sát từ (15.26) (15.32), biểu thức dự đoán tính

toán và , sử dụng thông tin chỉ từ biểu thức trạng thái,ngược lại những biểu thức hiệu chỉnh tính toán và

sử dụng thông tin chỉ từ biểu thức số đo Trước đây sự tăngthêm được tính toán thì (15.30) trình bày một bộ lọc số đệ quy bất biếnthời gian Điều này được hiểu rõ ràng hơn khi (15.26) và (15.28) đượcthay thế vào trong (15.30) Biểu thức kết quả có thể được viết lại

cho k = 0,1,….Đây là một biểu thức trạng thái cho vecto trạng thái của

ma trận kỹ thuật thay đổi thời gian là Biểu thức(15.34) là thời gian thay đổi bằng nhau nếu mô hình biến trạng thái cơ

bản là bất biến thời gian và tĩnh, bởi vì ma trận thu thập K(k+1) là vẫn

thời gian thay đổi trong trường hợp đó Nó có khả năng chấp nhận được,

tuy nhiên cho K(k+1) tiến tới một giá trị giới hạn ( tức là giá trị trạng thái

cố định ), trong trường hợp (15.34) giảm bớt một bộ lọc hệ số hằng số

đệ quy Biểu thức (15.34) ở trong dạng lọc đệ quy, trong đó nó liên quantới ước lượng lọc của , đến ước lượng lọc của

Sử dụng sự thay thế tương tự ước lượng lọc trong đạo hàm của (15.34),chúng ta có thể đạt được dạng dự đoán đệ quy sau của KF:

Quan sát (15.35) ước lượng dự đoán của thì liênquan tới ước lượng dự đoán của và ma trận thiết bị thời gianthay đổi trong (15.35) thì khác với (15.34)

Nhúng với KF đệ quy là một bộ khác của biểu thức đệ quy,(15.31) đến (15.33) Bởi vì P(0|0) giá trị ban đầu những tính toán, những

biểu thức phải tuần tự sau: P(k|k) → P(k +1|k) → K(k +1) → P(k +1|k+1) →

v.v Bằng cách kết hợp những biểu thức, nó có thể lấy một biểu thức ma

trận cho P(k +1|k) như là một hàm của P(k |k-1) hoặc biểu thức tương tự cho P(k +1|k+1) như là một hàm của P(k|k) Những biểu thức này thì

không tuyến tính và được biết là ma trận biểu thức Riccati

Một số đo của hiệu suất ước lượng đệ quy thì được cung cấp bởi

ma trận P(k+1|k) và một số đo của hiệu suất bộ lọc đệ quy được cung cấp bởi ma trận P(k+1|k+1) Những hiệp biến có thể được tính toán trước khi

bất kỳ xử lý dữ liệu thực sử dụng (15.31) đến (15.33) Những tính toánnày thường dựa vào một phân tích hiệu suất và Nóthực sự thú vị mà KF sử dụng một số đo của sai số bình phương trungbình của nó trong quá trình hoạt động thời gian thực của nó

Bởi vì sự tương đương giữa bình phương trung bình, BLUE và

ước lượng bộ lọc WLS của vecto trạng thái x(k) trong trường hợp

Gaussian, chúng ta phải hiểu rõ rằng các phương trình KF chỉ là một giảipháp đệ quy cho một hệ phương trình bình thường Triển khai khác của

KF để giải quyết các phương trình bình thường bằng cách sử dụng thuậttoán ổn định từ đại số tuyến tính (xem [2]) và liên quan đến biến đổi trựcgiao có đặc tính số học tốt hơn so với (15.30) đến (15.33) (xem [4])

Một BLUE đệ quy của một vecto tham số ngẫu nhiên θ có thể đạtđược từ những phương trình KF bằng cách đặt

và Trong điều kiện

này chúng ta thấy rằng w(k) = 0 cho tất cả k và x(k+1) = x(k), có nghĩa là x(k) là một vecto của hằng số θ Những phương trình KF biến đổi sang

và Lưu ý rằng nó không còn cần thiết đểphân biệt giữa số lượng lọc và dự báo, bởi vì và

, do đó kí hiệu có thể được đơn giản , ví dụ đó làphù hợp với trước đó Ký hiệu cho các ước lượng của một vector cáctham số không đổi

Một hiện tượng phân kỳ có thể xảy ra khi một trong hai nhiễu xử

lý hoặc nhiễu số đo hoặc cả hai là quá nhỏ Trong trường hợp này bộ lọcKalman có thể khóa những giá trị sai cho trạng thái, nhưng chấp nhậnchúng giá trị đúng, tức là nó “biết” trạng thái sai quá rõ Một số biện phápkhắc phục khác nhau đã được đề xuất cho việc kiểm soát hiệu ứng phân

kỳ, bao gồm: (1) thêm nhiễu xử lý giả, (2) bộ lọc bộ nhớ hạn chế và (3)giảm bộ lọc bộ nhớ Giảm lọc bộ nhớ có vẻ là cách thành công nhất vàphổ biến để kiểm soát hiệu ứng phân kỳ Xem [6] hoặc [12] để thảo luận

về những biện pháp này

Đối với hệ thống bất biến thời gian và ổn định, nếu lim k→∞ P(k+1|

k) = Pp tồn tại thì lim k→∞K(k)= và bộ lọc Kalman trở thành một bộ lọc

hệ hố hằng số Bởi vì P(k+1|k) và P(k|k) có mối liên hệ thân mật nên nếu

Pp tồn tại, lim k→∞ P(k|k)=Pf cũng tồn tại Nếu mô hình biến trạng thái cơ

bản là bất biến thời gian, ổn định và ổn định tiệm cận thì (a) cho bất kỳđiều kiện ban đầu đối xứng không âm P(0|-1), chúng ta có lim k→∞ P(k+1|

k) = Pp với Pp độc lập của P(0|-1) và thoả mãn phương trình ma trận đại sốtrạng thái ổn định Riccati.

(b) giá trị riêng của trạng thái ổ định KF, , tất cả nằm trong vòngtròn đơn vị, để mà bộ lọc là ổn định tiệm cận tức là Nếu

mô hình biến trạng thái cơ bản là bất biến thời gian ổn định nhưng khôngnhất thiết ổn định tiệm cận (ví dụ nó có thể có một cực trên vòng tròn đơnvị), điểm (a) và (b) vẫn giữ nếu mô hình biến trạng thái cơ bản là nhận ra

và ổn định hoàn toàn (ví dụ [8]) Để thiết kế một trạng thái ổn định KF:(1) cho tính Pp, giải pháp xác định dương của (15.36); (2)

Phương trình (15.37) là một phương trình trạng thái lọc trạng thái

ổn định Cái ưu điểm chính của lọc trạng thái ổn định là giảm mạnh mẽtrong các tính toán trên mạng

15.9.3 Mạch san bằng

Mặc dù có ba loại san bằng, một trong những hữu ích nhất để xử

lý tín hiệu số là san bằng khoảng cố định, do đó chúng ta chỉ thảo luận nó

ở đậy San bằng khoảng cố định là , k=0,1,….,N-1, với N là một số

nguyên dương cố định Trường hợp ở đây là như sau: với một thử nghiệmxong, chúng ta có giá trị số đo trên khoảng cố định 1 ≤ k ≤ N Ở mỗi

điểm thời gian với khoảng này chúng ta mong muốn đạt được ước lượngtối đa của vecto trạng thái x(k), cái mà nền tảng tất cả dữ liệu số đo có giátrị {z(j), j = 1,2,…,N} San bằng khoảng cố định là rất hữu ích trường hợp

xử lý tín hiệu, với việc xử lý được thực hiện sau tất cả các dữ liệu đượcthu thập Nó không thể thực hiện trên mạng trong suốt một thử nghiệmgiống như bộ lọc có thể Bởi vì tất cả các dữ liệu có sẵn thì được dùng,chúng ta không hy vọng làm nó tốt hơn ( bằng dạng khác của san bằng)bằng san bằng khoảng cố định

Ước lượng san bằng khoảng cố định bình phương trung bình củax(k), là

với k = N-1, N-2,…,1 và n x 1 vecto r thỏa mãn phương trình đệ quy

với j = N-1, N-2, ,1 và S(N + 1|N) = 0 Quan sát san bằng khoảng cố

định bao gồm một chiều tiến chuyển đi dữ liệu, sử dụng một KF và sau

đó một chiều ngược chuyển đi bộ đổi mới, sử dụng (15.39)

Ma trận hiệp biến sai số san bằng P(k|N) có thể được tính trước

nhưng nó không sử dụng trong qua trình tính của Điều này quákhác hơn hoạt động sử dụng ma trận hiệp biến sai số lọc trong KF

Một ứng dụng quan trọng cho san bằng khoảng cố định là giải chập Xemxét hệ thống ngõ vào ra đơn

với µ(j) là ngõ vào hệ thống, cái mà giả định là trắng và không cần Gaussian và h(j) là đáp ứng xung hệ thống Giải chập là thủ tục xử lý tín hiệu cho bỏ hiệu quả của h(j) và v(j) từ những số đo để mà chúng ta bỏ

một ước lượng của µ(j) Để có được một ước lượng san bằng khoảng cố

định của µ(j), đầu tiên chúng ta phải chuyển đổi (15.42) sang một mô

hình biến trạng thái tương dương Mô hình biến trạng thái kênh đơn

x(k+1) = φx(k) + γµ(k) và z(k) = h’x(k) + v(k) là tương đương (15.42) với

x(0) = 0, µ(0)= 0, h(0) = 0 và Một mạch san bằnghai khoảng cố định cho µ(k) là với k = N-1, N-2, ,1 Sự khác nhau sai số san bằng là

Trong những công thức này r(k|N) và S(k|N) được tính toán

-J Trạng thái ổn định cắt, KF có thể sau đó được thực hiện như một bộ lọc

số đáp ứng xung giới hạn Tuy nhiên có một cách trực tiếp hơn thiết kếmột bộ lọc sai số bình phương trung bình nhỏ nhất FIR, tức là một bộ lọc

n i

được giải quyết trong nhiều hướng khác, bao gồm thuật toán Levinson.

Sai số bình phương trung bình nhỏ nhất, I*(f), tổng quát gần đúng một giá

trị giới hạn khác không cái mà thường được nghiên cứu cho những giá trìbình thường của chiều dài bộ lọc η

Liên quan FIR WF này đến trạng thái ổn định được cắt KF, đầutiên chúng ta phải giả định một mô hình nhiễu cộng tín hiệu cho z(k), vìmột KF sử dụng một mô hình hệ thống, tức là

, với h(k) là IR của một hệ thống tuyến tính thời gian bất biến và trong một mô hình bất biến trạng thái cơ bản, w(k)

và v(k) là nhiễu trắng không liên quan lẫn nhau với biến q và r theo thứ tụ

định sẵn Chúng ta cũng phải chỉ rõ một dạng rõ ràng cho “tín hiệu mong

muốn” d(k) Chúng ta sẽ yêu cầu rằng , nghĩa làchúng ta muốn ngõ ra của WK số FIR để được như càng gần càng tốt cho

tín hiệu s(k) Những phương trình kết quả Wiener-Hopf là

với Trạng thái ổn định được cắt KF là một WF sốFIR So sánh cho tiết của lọc Kalman và lọc Wiener xem ([12] bài 19)

Để đạt được một bộ lọc giải chập Wiener số, chúng ta giả định

rằng F(z) là một bộ lọc đáp ứng xung vô hạn (IIR) với hệ số { f(j), j =0,

±1, ±2, ); d(k) = µ(k) với µ(k) là một chuỗi nhiễu trắng và µ(k) và v(k)

là ổn định và không có tương quan với nhau Trong trường họp này,

Hệ thống này của những phương trình không thể giải quyết như một hệthống tuyến tính của những phương trình, bởi vì có một vô hạn hai mặtcủa chúng Thay vì chúng ta lấy biến đổi Fourier rời rạc thời gian của

đó

Biến đổi Fourier ngược của (15.46) hoặc tìm thừa số phổ, cho {f(j), j = 0,

±1, ±2, }

15.11 Dự đoán tuyến tính trong DSP và bộ lọc Kalman

Một vấn đề được nghiên cứu trong xử lý tín hiệu kỹ thuật số làvấn đề dự đoán tuyến tính, trong trong đó cơ cấu của dự báo này là cốđịnh trước thời gian là một biến đổi tuyến tính của dữ liệu Vấn đề dựđoán tuyến tính “phía trước” là dự đoán một giá trị tương lai của chuỗi

ngẫu nhiên ổn định rời rạc thời gian { y(k), k = 1,2, } sử dụng một bộ

của những mẫu quá khứ của chuỗi Để biểu hiện giá trị dự đoán của

y(k) mà sử dụng M số đo quá khứ, tức là

Hệ số bộ lọc sai số dự đoán phía trước (PEF), aM,1, ,aM,M, đượcchọn để mà bình phương trung bình hoặc sai số dự đoán phía trước bình

phương thấp nhất fM(k) là nhỏ nhất, với Chú ý là bộ lọcnày thiết kế vấn đề chiều dài của bộ lọc M thì được xử lý như một biến

thiết kế, cái mà tại sao hệ số PEF là đối số bởi M Cũng chú ý là hệ số PEF không phụ thuộc vào tk, tức là PEF là một hằng số dự đoán hệ số,

ngược lại dự đoán trạng thái bình phương trung bình và bộ lọc là bộ lọc

số thay đổi thời gian

Dự đoán sử dụng một cửa sổ giới hạn của số đo quá khứ: y(k 1), y(k-2), ,y(k-M) Cửa sổ này của chính số đo là khác nhau cho những giá trị khác nhau của tk Sử dụng này của những số đo là rất khác hơn sử

-dụng của chúng ta của những số đo trong dự đoán trạng thái , bộ lọc vàsan bằng Gần đây là nền tảng một bộ nhớ mở rộng, ngược lại trước kia lànên tảng một bộ nhớ cố định

Chuyên gia xử lý tín hiệu số đã phát minh một loại liên quan của

dự đoán tuyến tính được đặt tên là dự đoán tuyến tính phía sau trong đốitượng là dự đoán một giá trị quá khứ của chuỗi ngẫu nhiên ổn định rời rạcthời gian sử dụng một bộ những giá trị tương lai của chuỗi Dĩ nhiên, ướclượng tuyến tính phía sau thì không dự đoán tất cả ; nó là san bằng.Nhưng giới hạn dự đoán tuyến tính phía sau là điểm vững chắc trong tàiliệu DSP Cả hai phía trước và phía sau PEFs có một cấu trúc lọc liên kếtvới chúng mà được biết như là một tuyến trì hoãn ren trong Đáng chú ý,khi những vấn đề thiết kế hai bộ lọc được xem xét cùng một lúc Nhữngvấn đề của nó có thể được chỉ để kết hợp và cấu trúc kết quả thì được gọi

là một mạng tinh thể Bộ lọc mạng tinh thể là đệ quy gấp đôi ở cả thời

gian k bậc bộ lọc M Tuyến trì hoãn điểm nối là chỉ đệ quy trong thời

gian Sự thay đổi chiều dài bộ lọc dẫn tới một bộ mới hoàn toàn của hệ số

bộ lọc Ngoài ra một trạng thái khác bộ lọc mạng không có ảnh hưởng tới

hệ số bộ lọc trước đó

Vì vậy, bộ lọc mạng là một cấu trúc khỏe mạnh Không có kiếntrúc mạng như vậy được biết cho ước lượng trạng thái bình phương trungbình

Trong một phương pháp thứ hai với thiết kế của hệ số FPE, cácràng buộc rằng các hệ số FPE là hằng số thì bị chuyển đổi vào trong

Phương trình (15.47) sau đó đóng vai trò của các phương trìnhquan sát trong mô hình biến trạng thái cơ bản và là một trong ma trậnquan sát là thời gian thay đổi Kết quả thiết kế sai số bình phương trungbình là sau đó được tham khảo như giải pháp lọc Kalman cho hệ số PEF

Dĩ nhiên chúng ta thấy ở phía trên giải pháp này là một trường hợp rấtđặc biệt của KF, BLUE Trong phương pháp thừ ba, hệ số PEF được môhình hóa như: