Bài 10 phân tích dữ liệu thông minh

KỸ THUẬT XỬ LÝ TÍN HIỆU ĐO LƯỜNG * HỌC VIỆN KỸ THUẬT QUÂN SỰTài liệu tham khảo 1. Xử lý tín hiệu đo lường (Tập bài giảng), Mai Quốc Khánh, Nguyễn Hùng An, Bộ môn LTM-ĐL / Khoa VTĐT, 2019. 2. Kỹ thuật xử lý tín hiệu đo lường, Nguyễn Hùng An, Mai Quốc Khánh, Dương Đức Hà, Nhà xuất bản Khoa học kỹ thuật, năm 2019. 2Bài 10: Phân tích dữ liệu thông minh 3 1. Bộ lọc thích nghi 2. Mạng nơ ron nhân tạo 3. Logic mờ• Các thiết bị đo thường làm việc trong điều kiện thay đổi (các tham số của thiết bị đo thay đổi theo sai lệch không mong muốn của hoàn cảnh)  cần sử dụng các phương pháp đo thích nghi. Trí thông minh nhân tạo trong đo lường 4  Các phương pháp đo thích nghi được sử dụng khi hiện tượng phân tích được mô tả không rõ ràng, không đủ thông tin về đối tượng được khảo sát, khi các điều kiện thay đổi không như mong đợi (VD nhiễu và tạp âm), khi không biết chính xác thuật toán nào hoạt động tốt nhất  đòi hỏi xử lý thông minh (hay thông minh nhân tạo AI).  Các thiết bị đo hiện đại được hỗ trợ bởi tin học có thể không chỉ phân tích dữ liệu tới mà còn dự đoán kết quả của một hành động hoặc thích nghi với những tình huống không mong đợi.1. Bộ lọc thích nghi • Bộ lọc có thể học và có thể thay đổi các tham số của nó dưới tác động của các điều kiện thay đổi. • Các bộ lọc thích nghi thông dụng: • Bộ lọc Wiener • Bộ lọc KalmanBộ lọc thích nghi 6  Trong quá trình học, tín hiệu ra y(n) bị trừ khỏi tín hiệu tham chiếu u(n) và sai số e(n) được sử dụng để thiết lập các trọng số h của bộ lọc một cách thích hợp.  Tính ước lượng E của sai số LMS là tổng bình phương của các sai số e(n), sau đó tìm cực tiểu của tổng này bằng cách cho đạo hàm bằng không. 2       2 0 0 k k i i E e n E u n y n                       2   0 E e n h         Thuật toán điều chỉnh các hệ số lọc cho đến khi sai số đạt cực tiểu. (10-1) Ví dụ về ứng dụng của lọc thích nghi trong loại trừ tạp âm.  Tín hiệu có tạp âm bị trừ khỏi tín hiệu đầu ra và sai khác này có thể được dùng để điều chỉnh các tham số của bộ lọc. Bộ lọc thích nghi (tt) 7 Tín hiệu Tạp âm Tín hiệu + Tạp âm Lọc thích nghi Tín hiệu + Tạp âm Tín hiệu khôi phục Bộ lọc thích nghi được sử dụng để loại trừ tạp âm Một trong số các bộ lọc thích nghi thông dụng nhất. Bộ lọc Wiener 8 Ví dụ về bộ lọc Wiener Tạp âm S Thuật toán cập nhật Bộ lọc Wiener Tín hiệu ra của hệ thống y(n) được gửi tới đầu vào của bộ lọc bậc M và ở đầu ra của bộ lọc là: Bộ lọc Wiener (tt) 9     1 0 ˆ M k k x n h y n k       Tín hiệu sai lệch là e n x n x n x n         ˆ    hy x(n) - tín hiệu không bị nhiễu, h-ma trận hệ số lọc và y - ma trận tín hiệu đầu vào bộ lọc y=[y(n), y(n-1),…,y(n-M-1)].  Từ (10-1)  ĐK tối ưu cho bộ lọc Wiener yy yx R h r  R yy - ma trận tự tương quan của tín hiệu y(n), còn rxy là ma trận tương quan giữa tín hiệu đầu vào x(n) và tín hiệu đầu ra y(n). (10-4) Để tối ưu hóa bộ lọc, (10.4) có thể viết lại trên miền tần số: Bộ lọc Wiener (tt) 10  Sau khi biến đổi Fourier, các hệ số lọc là P xy là phổ công suất ngang (cross power) của Y(f) và X(f), còn Pyy(f) là phổ công suất của Y(f)  Ta có thể làm cho (10.6) là cực tiểu của bình phương công thức F(f)=X(f)-H(f)Y(f)     1 0 M j n j n k yy yx n k n h r n k e r n e                 xx yy P f W f P f  (10-6)  Nếu tín hiệu x(n) được cộng tín hiệu tạp âm s(n) thì biểu thức (10.4) là R ss là ma trận tự tương quan của tín hiệu có tạp âm h R R r    xx ss xy 1Bộ lọc Wiener (tt) 11  Chia cả tử và mẫu số cho phổ công suất Pss(f) và thay SNR(f)=Pxx(f)/Pss(f), biểu thức (10.8) thường được biểu diễn:  Tương ứng, trên miền tần số (cho Y(f)=X(f)+S(f)), biểu thức (10.6) là:         xx xx ss P f W f P f P f   P xx và Pss là phổ công suất của tín hiệu X(f) và S(f) (10-8)       1 SNR f W f SNR f    Để xác định các hệ số lọc, cần biết phổ công suất của cả hai tín hiệu (hoặc tỷ số SNR). Thông thường, ta giả sử đã biết đặc tính của tạp âm (VD, tạp âm trắng).  Phổ công suất của tạp âm cũng có thể được xác định bằng thực nghiệm Thuật toán xử lý dữ liệu đệ quy tối ưu, sử dụng hiểu biết tiên nghiệm về hệ thống được khảo sát để đưa ra ước lượng biến sao cho sai số được cực tiểu hóa.  Bộ lọc Kalman là một hệ thống học thực do hoạt động theo biểu thức thích nghi, đệ quy: Bộ lọc Kalman 12 Mô hình tín hiệu bộ lọc Kalman Ước lượng tham số kế tiếp = ước lượng tham số trước đó + cập nhật Ví dụ, phương trình trạng thái của tín hiệu có tạp âm có thể được viết dưới dạng: Bộ lọc Kalman (tt) 13 x m m m x m e m       Φ , 1 1      y m m x m n m     H       x(m) là tín hiệu hoặc tham số trạng thái P chiều y(m) là tạp âm và véc tơ quan sát bị méo M chiều n(m) là quá trình tạp âm M chiều (m) là ma trận chuyển dịch trạng thái kích thước P P, liên quan đến các trạng thái của quá trình ở các thời điểm m-1 và m e(m) là véc tơ kích thích đầu vào không tương quan P chiều của phương trình trạng thái H(m) là ma trận méo kênh MP  Thuật toán Kalman đòi hỏi mô tả thống kê về tạp âm và hiểu biết về độ bất định của phép đo (phức tạp).2. Mạng nơ-ron nhân tạo Mạng này bắt chước não người - truyền dẫn dữ liệu song song qua một số lượng chuyển tiếp rất lớn, học bằng cách huấn luyện, học thông qua việc phơi bày cho các kích thích bên ngoài, lưu giữ kiến thức bằng cách thay đổi trọng số kết nối giữa các nơ ron, và khả năng chống nhiễu.  Mạng nơ ron là một công cụ xử lý tín hiệu rất hiệu quả, trong đó có một số lượng nơ ron khổng lồ hợp tác với nhau (não người có khoảng 1015 synapse - so sánh với máy tính hiện thời sử dụng chỉ khoảng 108 transistor). Khái niệm mạng nơ-ron nhân tạo 15Khái niệm mạng nơ-ron nhân tạo (tt) 16 Nơ ron sinh học và mô hình toán học của nó  Các nơ ron sinh học được tổ chức theo mạng.  Sợi nơ ron tới (sợi nhánh) nhận tín hiệu điện từ các nơ ron khác qua khớp thần kinh synapse (qua quá trình sinh hóa).  Nếu tín hiệu tới đạt ngưỡng thì thế động tác (action potential) được phát tới nơ ron khác qua sợi ra (sợi trục thần kinh, axon). Nơ ron sinh họcKhái niệm mạng nơ-ron nhân tạo (tt) 17 Nơ ron sinh học và mô hình toán học của nó  Các mạch vào x1, x2, …xn hoạt động như sợi nhánh (dendrites). Mạch ra y1, y2, …yn làm việc giống như axon. Ngưỡng được mô phỏng bằng đầu vào w0.  Các hạt nhân (nucleus) điều hành hai phần tử:  Bộ cộng để cộng các tín hiệu đầu vào, mỗi phép cộng có trọng số thích hợp wij  Hàm kích hoạt f(ui) Mô hình toán học Tín hiệu ra của mô hình nơ ron: Khái niệm mạng nơ-ron nhân tạo (tt) 18     0 1 N i i ij j i j y f u f w x t w             Trong mô hình McCulloch -Pitts, hàm kích hoạt là nhị phân:   1 0 0 0 khi u f u khi u       Mô hình toán học của nơ- ron sinh học  Thực tế, các nơ ron sinh học không phải nhị phân (tín hiệu ra phụ thuộc vào giá trị của tín hiệu kích thích)  hàm kích hoạt là dạng hàm sigmoid f(u)=tanh((u)).  Nếu hệ số  = 1  hàm kích hoạt gần như tuyến tính. Nếu  >10  hàm kích hoạt gần như nhị phân. -4 4 Các dạng hàm kích hoạt f(u) (10-12)Mô hình perception 19 Thuật toán học  Mô hình cơ bản của một mạng nơ rơn có khả năng học  Phương pháp học (huấn luyện) tương tự như bộ lọc thích nghi.  Các tín hiệu đầu ra yi được so sánh với tín hiệu mẫu di. Sai số  điều chỉnh trọng số wi nhờ hồi tiếp. Mô hình của một perception  Quá trình huấn luyện thực hiện liên tục cho đến khi hàm sai số E đạt cực tiểu.     2 1 1 2 p k k i i k E y d     (10-14)Mạng perception đa lớp không đệ quy 20 Mô hình của một perception đa lớp không đệ quy, sử dụng cho phân loại và nhận dạng ký tự quang học. Giá trị vào Lớp ẩn Lớp raMạng perception đa lớp đệ quy 21 Mô hình của một perception đa lớp không đệ quy (Hopfield net) sử dụng để tối ưu hóa và dự đoánMô hình perception 22  Với mạng đa lớp, vấn đề học khá phức tạp: Khó ước lượng sai số trong lớp bị ẩn, do ta không biết giá trị tham chiếu cho các lớp trung gian mà chỉ biết sai số ở lớp ra (nhờ so sánh với các giá trị huấn luyện)  Khắc phục bằng thuật toán lan truyền ngược. Lan truyền về phía trước giá trị đầu vào và lan truyền ngược sai số để cập nhật giá trị trọng số  Tín hiệu từ lớp ra tỷ lệ với sai số được gửi quay lại  có thể xác định sai số của lớp này dựa vào hàm kích hoạt.  Lan truyền ngược sai số về phía đầu vào  xác định được sai số của tất cả các lớp và cập nhật trọng số  mạng nơ ron có thể học.Mô hình perception 23  Với mạng đa lớp, vấn đề học khá phức tạp: Khó ước lượng sai số trong lớp bị ẩn, do ta không biết giá trị tham chiếu cho các lớp trung gian mà chỉ biết sai số ở lớp ra (nhờ so sánh với các giá trị huấn luyện)  Khắc phục bằng thuật toán lan truyền ngược. Lan truyền về phía trước giá trị đầu vào và lan truyền ngược sai số để cập nhật giá trị trọng số  Tín hiệu từ lớp ra tỷ lệ với sai số được gửi quay lại  có thể xác định sai số của lớp này dựa vào hàm kích hoạt.  Lan truyền ngược sai số về phía đầu vào  xác định được sai số của tất cả các lớp và cập nhật trọng số  mạng nơ ron có thể học.Thuật toán lan truyền ngược  Xét thuật toán giảm độ dốc tối ưu (optimiztion gradient descent), khi sự thay đổi trọng số được tính sử dụng quy tắc Delta. Theo quy tắc này, sự thay đổi trọng số là: 24 ik ik E w w       (10-15)  là tham số tốc độ học  Từ các phương trình (10.12) và (10.14) ta có thể viết         1 1 1 2                          p n i i ik k k k i i ik ik ik i i i k i k y d f w x E y d w w w y d f u x x (10-16)Thuật toán lan truyền ngược (tt)  Ở đây, sai số delta là: 25 i i i i    y d f u     Và gia số của trọng số lớp ra là    w x ik i k  (10-17) (10-18)  Đối với lớp ẩn (trước lớp cuối cùng) sai số delta là:   1 1 1 1 m m m m m i i l lj l   f u w        (10-19)  Vì vậy ta có thể tính gia số trọng số trong lớp m khi biết sai số của lớp kế tiếp m+1. Để tính toán gia số của trọng số trong lớp ẩn theo lan truyền ngược, cần phải tính toán đạo hàm của hàm kích hoạt.Thuật toán lan truyền ngược (tt)  Các bước thực hiện thuật toán lan truyền ngược: 1) Khởi tạo giá trị trọng số wik là giá trị ngẫu nhiên. 2) Áp dụng các giá trị huấn luyện xq cho lớp vào. 3) Lan truyền giá trị xq tới lớp ra (phương trình 10.12) 4) Tính toán sai số E của lớp ra (phương trình 10.14) 5) Tính toán delta của lớp ra (phương trình 10.15-10.17) 6) Lan truyền ngược delta tới lớp trước và tính toán delta của lớp hiện thời (phương trình 10.19) 7) Tính toán gia số của trọng số 8) Điều chỉnh trọng số 9) Lặp lại cùng quá trình trên cho các giá trị huấn luyện khác 26Ứng dụng mạng nơ-ron 27  Ứng dụng mạng nơ ron để nhận dạng ký tự quang học:  Các chữ có thể được trình bày bởi một tập các điểm ảnh (bức ảnh).  Đầu tiên, mạng nơ ron trước tiên được huấn luyện để liên kết các tập điểm ảnh khác nhau với các chữ nhất định, sau đó hệ thống có thể nhận dạng các chữ bị mờ hoặc khó đọc (ví dụ viết văn bản bằng tay).  Phương pháp này có thể phân tích được các yếu tố khác: nhận dạng tiếng nói, nhận dạng khuyết tật, sai hỏng của vật liệu ... Ứng dụng mạng nơ ron để nhận dạng ký tự quang học Mạng nơ ron Quét văn bản Chuyển đổi thành mã nhị phân biểu diễn các pixel đen trắng Chuyển đổi chuỗi pixel thành các chữ cái In raMạng nơ-ron tự tổ chức  Mạng nơ ron không tự tổ chức: cần sự hỗ trợ của người huấn luyện (cho các mẫu vào và lấy tín hiệu ra).  Mạng nơ ron tự tổ chức (hay mạng không bị giám sát): có thể tự học không cần người huấn luyện.  Dựa trên lý thuyết Hebb: các nơ ron bị kích thích thường xuyên hơn hoặc nhanh hơn sẽ được ưu tiên.  Các phương pháp học không giám sát:  Học cạnh tranh: VD, chiến lược cạnh tranh winner-take-all (chiến thắng có tất cả), nơ ron phù hợp với mẫu nhất sẽ thay đổi trọng số của nó.  Học Hebbian: nơ ron bị kích thích thường xuyên nhất sẽ cho câu trả lời tương ứng tốt nhất. 28Ví dụ về mạng nơ-ron tự tổ chức 29  Mạng Kohonen: Mạng tự tổ chức thông dụng nhất (bản đồ đặc trưng tự tổ chức SOFM (Self Organizing Feature Maps). Ví dụ về mạng Kohonen Đầu vào Nơ ron  Các nơ ron được tổ chức dạng lưới mắt cáo (ví dụ lưới 2D): mọi đầu vào được kết nối tới tất cả các nơ ron với trọng số thích hợp.  Các bước thực hiện  Ban đầu, mọi trọng số có giá trị ngẫu nhiên và các mẫu học được gửi tới đầu vào • Điều chỉnh trọng số của nơ ron chiến thắng (hoặc các lân cận của nó), quá trình này được lặp lại cho các mẫu vào mới.  tìm ra nơ ron chiến thắng (giống mẫu vào nhất)Ứng dụng của mạng nơ-ron tự tổ chức 30 Ví dụ về mạng nơ ron được sử dụng để phân tách tín hiệu (a), các tín hiệu điện tim (EKG) của mẹ và thai nhi được trộn với nhau (b) và các tín hiệu EKG sau phân tách (c)  Ứng dụng của mạng nơ-ron tự tổ chức để phân tách các tín hiệu mù: Phân tách các tín hiệu trộn (độc lập thống kê) mặc dù mạng không học các tín hiệu trộn hoặc quy tắc trộn.3. Logic mờ Ý tưởng logic mờ của Lofti Zadeh (1965): Người ta thường mô tả các hiện tượng khác nhau bằng khái niệm (giá trị mờ) hơn là bằng các con số (giá trị chính xác). Khái niệm logic mờ 32  Cơ sở của logic mờ: Không nhất thiết biết chính xác giá trị được phân tích hoặc rất khó đánh giá chính xác giá trị này.  Điều đó không có nghĩa là giá trị mô tả sử dụng logic mờ là kém so với giá trị số. Ngược lại, logic mờ cho phép ta xác định giá trị phân tích theo một cách khác tinh tế hơn. Logic Boolean Logic mờ Cùng một giá trị được mô tả trong logic Boolean và logic mờ Tập mờ A được mô tả bằng hàm tư cách thành viên A. Khái niệm logic mờ (tt) 33  Các dạng hàm tư cách thành viên: tam giác, hình thang, Gaussian ... A x x  ,A    Ví dụ, hàm tư cách thành viên mô tả nhiệt độ hình thang  A=1 nghĩa là giá trị này là một thành viên hoàn chỉnh của tập logic mờ. 00 là 100 % lạnh, nhưng 160 là 50% mát và 50 % ôn hòa (0.5 tư cách thành viên). Nhiệt độ x x x x      Ví dụ về mô tả nhiệt độ sử dụng logic mờ Các phép toán logic trên các số mờ  Phép hợp: Khái niệm logic mờ (tt) Các phép toán logic trên số mờ 34      A B A B A B  x x x x x         max ,       Phép giao:      A B A B A B  x x x x x         min ,       Phép co: ( ( ))  x 2  Phép giãn: ( ( ))  x 1/2 Biểu diễn if trong logic Boolean if x=A THEN y=B.  Biểu diễn if trong logic mờ: Khái niệm logic mờ (tt) 35  If … AND … THEN  hoặc: R: IF x1 IS A1 AND … AND xn IS An THEN y IS B  R 1: IF Tuổi trẻ AND Công suất xe lớn THEN Rủi ro cao  R 2: IF Tuổi trung niên AND Công suất xe trung bình THEN Rủi ro thấp  …  R N: IF Tuổi cao AND Công suất xe lớn THEN Rủi ro cao  Ví dụ có tập quy tắc mờ sau: Tập quy tắc mờ có thể sử dụng để suy luận logic mờ.  Ví dụ: Xây dựng tập quy tắc điều khiển tốc độ xe hơi (điều khiển chân ga) theo tốc độ và khoảng cách từ xe phía trước. Ví dụ ứng dụng logic mờ 36  R 1: IF khoảng cách gần AND tốc độ xe trung bình THEN không được thay đổi ga  R 2: IF khoảng cách trung bình AND tốc độ xe trung bình THEN được nhấn ga  R 3: IF khoảng cách trung bình AND tốc độ xe cao THEN cần giảm ga37 Ví dụ ứng dụng logic mờ (tt)  Ví dụ: Thiết kế hàm tư cách thành viên tổng hợp của bộ điều khiển ga xe hơi, giả sử:  Khoảng cách A là nhỏ với hệ số và trung bình với hệ số  Tốc độ là cao với hệ số hoặc trung bình với hệ số .  Xây dựng hàm tư cách thành viên tổng hợp theo quy tắc AND bằng cách chọn các hệ số nhỏ nhất có thể  miền (màu xám) là tổng của ba khả năng: chậm, không thay đổi hoặc tăng tốc  Quyết định giải mờ tổng hợp là trung tâm hấp dẫn C của miền màu xám.  Có thể thêm một số biến khác, ví dụ: khả năng nhìn thấy, độ sương mù, tuổi của lái xe ... '''' A  ''''''''A '''' B  '''''''' B38 Khoảng cách Nhỏ Trung bình Lớn Tốc độ Bộ gia tốc Nhỏ Trung bình Cao Chậm Không đổi Tăng tốc Suy luận về thay đổi tốc độ khi tính đến khoảng cách A và tốc độ B Ví dụ ứng dụng logic mờ (tt)Ví dụ ứng dụng logic mờ (tt) 39 Ứng dụng a logic mờ để phân loại ngắn mạch trong bảo vệ biến áp với nhiều tiêu chí Các phép đo Bão hòa xung của gông Tăng mật độ từ thông Ngắn mạch ngoài với bão hòa của biến dòng Ngắn mạch ngoài khi biến dòng không bão hòa Quyết định  Ứng dụng logic mờ để bảo vệ biến áp nguồn:  Sau khi ngắn mạch (tăng Id) thiết bị bảo vệ sẽ ngắt kết nối với biến áp.  Một số sự cố khác có thể gây ra các ảnh hưởng tương tự như ngắn mạch.  Các loại ngắn mạch khác nhau có mức độ nguy hiểm khác nhau.  Logic mờ cho khả năng thực hiện hệ thống bảo vệ linh hoạt hơn và xử lý tinh tế hơn. Giá trị dòng vi phân Id(k) là tiêu chí chính.1. Bộ lọc thích nghi 2. Mạng nơ ron nhân tạo 3. Logic mờ • Các thiết bị đo thường làm việc trong điều kiện thay đổi (các tham số của thiết bị đo thay đổi theo sai lệch không mong muốn của hoàn cảnh)  cần sử dụng các phương pháp đo thích nghi. Trí thông minh nhân tạo trong đo lường 4  Các phương pháp đo thích nghi được sử dụng khi hiện tượng phân tích được mô tả không rõ ràng, không đủ thông tin về đối tượng được khảo sát, khi các điều kiện thay đổi không như mong đợi (VD nhiễu và tạp âm), khi không biết chính xác thuật toán nào hoạt động tốt nhất  đòi hỏi xử lý thông minh (hay thông minh nhân tạo AI).  Các thiết bị đo hiện đại được hỗ trợ bởi tin học có thể không chỉ phân tích dữ liệu tới mà còn dự đoán kết quả của một hành động hoặc thích nghi với những tình huống không mong đợi.

Mai Quốc Khánh Nguyễn Hùng An

Học viện KTQS 06/2019

Tài liệu tham khảo

1 Xử lý tín hiệu đo lường (Tập bài giảng), Mai Quốc Khánh,

Nguyễn Hùng An, Bộ môn LTM-ĐL / Khoa VTĐT, 2019

2 Kỹ thuật xử lý tín hiệu đo lường, Nguyễn Hùng An, Mai

Quốc Khánh, Dương Đức Hà, Nhà xuất bản Khoa học kỹ

thuật, năm 2019

2

Bài 10: Phân tích dữ liệu thông minh

3

1. Bộ lọc thích nghi

2. Mạng nơ ron nhân tạo

3. Logic mờ

• Các thiết bị đo thường làm việc trong điều kiện thay đổi (các

tham số của thiết bị đo thay đổi theo sai lệch không mong muốn của hoàn cảnh)  cần sử dụng các phương pháp đo thích nghi.

Trí thông minh nhân tạo trong đo lường

4

phân tích được mô tả không rõ ràng, không đủ thông tin về đối tượng được khảo sát, khi các điều kiện thay đổi không như mong đợi (VD nhiễu và tạp âm), khi không biết chính xác thuật toán

nào hoạt động tốt nhất  đòi hỏi xử lý thông minh (hay thông minh nhân tạo AI).

phân tích dữ liệu tới mà còn dự đoán kết quả của một hành động hoặc thích nghi với những tình huống không mong đợi.

1 Bộ lọc thích nghi

• Bộ lọc có thể học và có thể thay đổi các tham số của nó

dưới tác động của các điều kiện thay đổi

• Các bộ lọc thích nghi thông dụng:

• Bộ lọc Wiener

• Bộ lọc Kalman

Bộ lọc thích nghi

6

 Trong quá trình học, tín hiệu ra y(n) bị trừ khỏi tín hiệu tham chiếu u(n) và sai số e(n) được sử dụng để thiết lập các trọng số h của bộ lọc một cách thích hợp.

 Tính ước lượng E của sai số LMS là tổng bình phương của các sai số e(n), sau đó tìm cực tiểu của tổng này bằng cách

cho đạo hàm bằng không

      2 2

 Ví dụ về ứng dụng của lọc thích nghi trong loại trừ tạp âm.

thể được dùng để điều chỉnh các tham số của bộ lọc

Tín hiệu + Tạp âm

Tín hiệu khôi phục

Bộ lọc thích nghi được sử dụng để loại trừ tạp âm

 Một trong số các bộ lọc thích nghi thông dụng nhất.

Bộ lọc Wiener

 Tín hiệu ra của hệ thống y(n) được gửi tới đầu vào của bộ lọc bậc M và ở đầu ra của bộ lọc là:

x(n) - tín hiệu không bị nhiễu, h-ma trận hệ số lọc và y - ma trận tín

hiệu đầu vào bộ lọc y=[y(n), y(n-1),…,y(n-M-1)].

 Từ (10-1)  ĐK tối ưu cho bộ lọc Wiener

R h  r

R yy - ma trận tự tương quan của tín hiệu y(n), còn rxy là ma trận tương

quan giữa tín hiệu đầu vào x(n) và tín hiệu đầu ra y(n).

(10-4)

 Để tối ưu hóa bộ lọc, (10.4) có thể viết lại trên miền tần số:

Bộ lọc Wiener (tt)

10

 Sau khi biến đổi Fourier, các hệ số lọc là

P xy là phổ công suất ngang (cross power) của Y(f) và X(f), còn P yy (f) là

phổ công suất của Y(f)

 Ta có thể làm cho (10.6) là cực tiểu của bình phương công

Bộ lọc Wiener (tt)

11

 Chia cả tử và mẫu số cho phổ công suất P ss (f)và thay

SNR(f)=P xx (f)/P ss (f), biểu thức (10.8) thường được biểu diễn:

 Tương ứng, trên miền tần số (cho Y(f)=X(f)+S(f)), biểu thức

(hoặc tỷ số SNR) Thông thường, ta giả sử đã biết đặc tính của tạp

âm (VD, tạp âm trắng)

nghiệm

 Thuật toán xử lý dữ liệu đệ quy tối ưu, sử dụng hiểu biết

tiên nghiệm về hệ thống được khảo sát để đưa ra ước lượng biến sao cho sai số được cực tiểu hóa

 Bộ lọc Kalman là một hệ thống học thực do hoạt động theo biểu thức thích nghi, đệ quy:

Bộ lọc Kalman

12

Mô hình tín hiệu bộ lọc Kalman

Ước lượng tham số kế tiếp = ước lượng tham số trước đó + cập nhật

 Ví dụ, phương trình trạng thái của tín hiệu có tạp âm có thể được viết dưới dạng:

Bộ lọc Kalman (tt)

13

   , 1  1  

x m  Φ m m  x m   e m y m   H      m x m  n m

x(m) là tín hiệu hoặc tham số trạng thái P chiều

y(m) là tạp âm và véc tơ quan sát bị méo M chiều

n(m) là quá trình tạp âm M chiều

(m) là ma trận chuyển dịch trạng thái kích thước P P, liên

quan đến các trạng thái của quá trình ở các thời điểm m-1 và m

e(m) là véc tơ kích thích đầu vào không tương quan P chiều của

phương trình trạng thái

H(m) là ma trận méo kênh MP

 Thuật toán Kalman đòi hỏi mô tả thống kê về tạp âm và hiểu biết về độ bất định của phép đo (phức tạp)

2 Mạng nơ-ron nhân tạo

 Mạng này bắt chước não người - truyền dẫn dữ liệu song song qua một số lượng chuyển tiếp rất lớn, học bằng cách huấn luyện, học thông qua việc phơi bày cho các kích thích bên ngoài, lưu giữ kiến thức bằng cách thay đổi trọng số kết nối giữa các nơ ron, và khả năng chống nhiễu.

 Mạng nơ ron là một công cụ xử lý tín hiệu rất hiệu quả,trong đó có một số lượng nơ ron khổng lồ hợp tác với nhau(não người có khoảng 1015 synapse - so sánh với máy tínhhiện thời sử dụng chỉ khoảng 108 transistor).

Khái niệm mạng nơ-ron nhân tạo

15

Khái niệm mạng nơ-ron nhân tạo (tt)

 Sợi nơ ron tới (sợi nhánh)

nhận tín hiệu điện từ các nơ

potential) được phát tới nơ

ron khác qua sợi ra (sợi trục

thần kinh, axon)

Nơ ron sinh học

Khái niệm mạng nơ-ron nhân tạo (tt)

giống như axon Ngưỡng được

mô phỏng bằng đầu vào w 0

 Các hạt nhân (nucleus) điều

 Tín hiệu ra của mô hình nơ ron:

Khái niệm mạng nơ-ron nhân tạo (tt)

phải nhị phân (tín hiệu ra phụ thuộc

vào giá trị của tín hiệu kích thích) 

hàm kích hoạt là dạng hàm sigmoid

f(u)=tanh((u))

 Nếu hệ số  = 1  hàm kích hoạt gần như

tuyến tính Nếu  >10  hàm kích hoạt gần

như nhị phân.

-4 4

Các dạng hàm kích

hoạt f(u)

(10-12)

Mô hình perception

19 Thuật toán học

 Mô hình cơ bản của một mạng nơ rơn có khả năng học

 Phương pháp học (huấn luyện) tương tự như bộ lọc thích

nghi

 Các tín hiệu đầu ra y i được so sánh với tín hiệu mẫu d i Sai

số  điều chỉnh trọng số w i nhờ hồi tiếp

Mô hình của một perception

 Quá trình huấn luyện thực

hiện liên tục cho đến khi

p

i i k



Mạng perception đa lớp không đệ quy

20

Mô hình của một perception đa lớp không đệ quy, sử dụng cho phân loại và nhận dạng ký tự quang học.

Giá trị vào Lớp ẩn Lớp ra

Mạng perception đa lớp đệ quy

21

Mô hình của một perception đa lớp không đệ quy (Hopfield net) sử dụng để tối ưu hóa và dự đoán

Mô hình perception

22

 Với mạng đa lớp, vấn đề học khá phức tạp: Khó ước lượng sai số trong lớp bị ẩn, do ta không biết giá trị tham chiếu cho các lớp trung gian mà chỉ biết sai số ở lớp ra (nhờ so sánh

với các giá trị huấn luyện)  Khắc phục bằng thuật toán lan

truyền ngược.

Lan truyền về phía trước giá trị đầu vào và lan truyền ngược sai số để cập nhật giá trị trọng số

 Tín hiệu từ lớp ra tỷ lệ với sai số được gửi quay lại  có thể xác định sai số của lớp này dựa vào hàm kích hoạt

 Lan truyền ngược sai số về phía đầu vào  xác định được sai số của

tất cả các lớp và cập nhật trọng số  mạng nơ ron có thể học.

Mô hình perception

23

 Với mạng đa lớp, vấn đề học khá phức tạp: Khó ước lượng sai số trong lớp bị ẩn, do ta không biết giá trị tham chiếu cho các lớp trung gian mà chỉ biết sai số ở lớp ra (nhờ so sánh

với các giá trị huấn luyện)  Khắc phục bằng thuật toán lan

truyền ngược.

Lan truyền về phía trước giá trị đầu vào và lan truyền ngược sai số để cập nhật giá trị trọng số

 Tín hiệu từ lớp ra tỷ lệ với sai số được gửi quay lại  có thể xác định sai số của lớp này dựa vào hàm kích hoạt

 Lan truyền ngược sai số về phía đầu vào  xác định được sai số của

tất cả các lớp và cập nhật trọng số  mạng nơ ron có thể học.

Thuật toán lan truyền ngược

 Xét thuật toán giảm độ dốc tối ưu (optimiztion gradient

descent), khi sự thay đổi trọng số được tính sử dụng quy tắc Delta Theo quy tắc này, sự thay đổi trọng số là:

24

ik

ik

E w

1 2

y d

Thuật toán lan truyền ngược (tt)

 Ở đây, sai số delta là:

 Đối với lớp ẩn (trước lớp cuối cùng) sai số delta là:

 Vì vậy ta có thể tính gia số trọng số trong lớp m khi biết sai

số của lớp kế tiếp m+1 Để tính toán gia số của trọng số

trong lớp ẩn theo lan truyền ngược, cần phải tính toán đạo hàm của hàm kích hoạt

Thuật toán lan truyền ngược (tt)

 Các bước thực hiện thuật toán lan truyền ngược:

26

Ứng dụng mạng nơ-ron

27

 Các chữ có thể được trình bày bởi một tập các điểm ảnh (bức ảnh)

 Đầu tiên, mạng nơ ron trước tiên được huấn luyện để liên kết các tập điểm ảnh

khác nhau với các chữ nhất định, sau đó hệ thống có thể nhận dạng các chữ bị mờ hoặc khó đọc (ví dụ viết văn bản bằng tay)

dạng tiếng nói, nhận dạng khuyết tật, sai hỏng của vật liệu

Chuyển đổi chuỗi pixel thành các chữ cái

In ra

Mạng nơ-ron tự tổ chức

 Mạng nơ ron không tự tổ chức: cần sự hỗ trợ của người

huấn luyện (cho các mẫu vào và lấy tín hiệu ra)

 Mạng nơ ron tự tổ chức (hay mạng không bị giám sát): có

thể tự học không cần người huấn luyện

hơn hoặc nhanh hơn sẽ được ưu tiên.

 Các phương pháp học không giám sát:

(chiến thắng có tất cả), nơ ron phù hợp với mẫu nhất sẽ thay đổi trọng số của nó

câu trả lời tương ứng tốt nhất.

28

 Các nơ ron được tổ chức dạng

lưới mắt cáo (ví dụ lưới 2D): mọi

đầu vào được kết nối tới tất cả

các nơ ron với trọng số thích hợp

 Các bước thực hiện

ngẫu nhiên và các mẫu học được

gửi tới đầu vào

của nó), quá trình này được lặp lại cho các mẫu vào mới.

Ứng dụng của mạng nơ-ron tự tổ chức

30

Ví dụ về mạng nơ ron được sử dụng để phân tách tín hiệu (a), các tín hiệu điện tim (EKG) của mẹ và thai nhi được trộn với nhau (b) và các tín hiệu EKG sau phân tách (c)

 Ứng dụng của mạng nơ-ron tự tổ chức để phân tách các tín hiệu mù: Phân tách các tín hiệu trộn (độc lập thống kê) mặc

dù mạng không học các tín hiệu trộn hoặc quy tắc trộn

3 Logic mờ

 Ý tưởng logic mờ của Lofti Zadeh (1965): Người ta thường

mô tả các hiện tượng khác nhau bằng khái niệm (giá trị mờ) hơn là bằng các con số (giá trị chính xác)

Khái niệm logic mờ

32

 Cơ sở của logic mờ: Không nhất thiết biết chính xác giá trị

được phân tích hoặc rất khó đánh giá chính xác giá trị này

kém so với giá trị số Ngược lại, logic mờ cho phép ta xác định giá trị phân tích theo một cách khác tinh tế hơn.

Cùng một giá trị được mô tả trong logic Boolean và logic mờ

 Tập mờ A được mô tả bằng hàm tư cách thành viên A.

Khái niệm logic mờ (tt)

 Ví dụ, hàm tư cách thành viên mô tả nhiệt độ hình thang

 A =1 nghĩa là giá trị này là một thành viên hoàn chỉnh của tập logic

mờ 0 0 là 100 % lạnh, nhưng 16 0 là 50% mát và 50 % ôn hòa (0.5 tư

 Các phép toán logic trên các số mờ

 Biểu diễn if trong logic Boolean if x=A THEN y=B

 Biểu diễn if trong logic mờ:

Khái niệm logic mờ (tt)

35

 If … AND … THEN

 hoặc: R: IF x 1 IS A 1 AND … AND x n IS A n THEN y IS B

 R 1 : IF Tuổi trẻ AND Công suất xe lớn THEN Rủi ro cao

 R 2 : IF Tuổi trung niên AND Công suất xe trung bình THEN Rủi ro thấp

 R N : IF Tuổi cao AND Công suất xe lớn THEN Rủi ro cao

 Ví dụ có tập quy tắc mờ sau:

 Tập quy tắc mờ có thể sử dụng để suy luận logic mờ

 Ví dụ: Xây dựng tập quy tắc điều khiển tốc độ xe hơi (điều khiển chân ga) theo tốc độ và khoảng cách từ xe phía trước

Ví dụ ứng dụng logic mờ (tt)

 Ví dụ: Thiết kế hàm tư cách thành viên tổng hợp của bộ điều khiển ga xe hơi, giả sử:

 Xây dựng hàm tư cách thành viên tổng hợp theo quy

tắc AND bằng cách chọn các hệ số nhỏ nhất có thể 

miền ( màu xám ) là tổng của ba khả năng: chậm, không

thay đổi hoặc tăng tốc  Quyết định giải mờ tổng hợp

là trung tâm hấp dẫn C của miền màu xám

 Có thể thêm một số biến khác, ví dụ: khả năng nhìn

thấy, độ sương mù, tuổi của lái xe

B

B



Khoảng cách

Nhỏ Trung bình Lớn

Nhỏ Trung bình Cao Chậm Không đổi Tăng tốc

Suy luận về thay đổi tốc độ khi tính đến

khoảng cách A và tốc độ B

Ví dụ ứng dụng logic mờ (tt)

Ngắn mạch ngoài khi biến dòng không bão hòa

Quyết định

 Ứng dụng logic mờ để bảo

vệ biến áp nguồn:

 Sau khi ngắn mạch (tăng I d)

thiết bị bảo vệ sẽ ngắt kết nối

thực hiện hệ thống bảo vệ linh

hoạt hơn và xử lý tinh tế hơn.

Giá trị dòng vi phân I d (k) là

tiêu chí chính