Mạng nơron và ứng dụng trong điều khiển tự động phạm hữu đức dụ pdf

Ngoài ra, để tiếp cận cả hai khả năng học và tư duy của bộ não con người, người ta nghiên cứu khả nâng tích họp của mạng nơron và hệ mờ đó là: hệ mờ có sử dụng công cụ mạng потоп trong m

Phạiii Hй’اا Đ Í Í C Dục

M A I M G N Ơ R M

V À ỨNG DỤNG TRD N G ĐIỂU KHIỂN T ư DÔNG

اﻵ ٠ ةاأآﺈﻳ

ى د ١ مب ا

V Ệ r » ' r * ~ r í - : f w ệ , m

»

؛ﺄﺒﻤﻴﻟ ٧

Chiu track nhiệm xuâ't bản:

LỜI NÓI ĐẦU

Bộ não của con n.irời là mộl san phẩm lioàn lião của tạo hoá, có khả nâng học và tư duy sáng tạo Hiện nay, trong lĩnh vực điều khiển, con người đang cố gắn؟ tiếp cận bộ não của mình Để tiếp cận khả năng tư duy của bộ não, người ta sử dụng khả năng suy diỗn của hệ mờ (Fuzzy Systems) dựa trên các luật logic mờ Để tiếp cận khá năng học, người ta đưa ra mô hình mạng nơron (Neural Networks) gồm các noron liên kếl vdi nhau thành mạng phỏng theo cấu trúc mạng thần kinh con người Mỗi một nơron riêng lẻ có tốc độ xử K' thông tin thấp, nhưng kill các nơron được ghép thành mạng thì tốc độ xử lý thông tin của nó rất cao Cấn trúc của mạng nơron là điều rất đáng được quan tâm, vì việc nghiên cứu riêng ỉỏ mỗi nơron dã được chỉ ra là không có ý nghĩa khoa học mà cần nghiên cứu khi chúng được liên kết với nhau thành mạng

Ngoài ra, để tiếp cận cả hai khả năng học và tư duy của bộ não con người, người ta nghiên cứu khả nâng tích họp của mạng nơron và hệ mờ đó là:

hệ mờ có sử dụng công cụ mạng потоп trong mô hình mờ (Neural Fuzzy systems); mạng nưron mừ (Fuzzy Neural Networks) vứi bộ trọng số liên kết của mạng потоп được mờ hoá; dạng lai giữa hệ mờ và mạng nơron (Fuzzy Neiưal hybrid systems)

Cuốn sách "Mạng noron và ứng dụng trong đ؛ều khiển tự động"

cung cấp cho bạn đọc kiến thức ca bản nhất \’ề khái niệm của mạng noron,

một số mạng noron co bản, một số hệ thống tích hc.rp mạng noron với hệ mờ cùno vói môt số ứng dung của chúng trong lĩnh vưc diều khiển tự động Đây là tài liệu cần thiết dùng cho sinh viên các trường đại học, học viên cao học, nghiên cứu sinh chuyên ngành điéu khiển tự dộng

Cuốn sách gồm ba phần chính sau dây:

Phần I: M ạng потоп trình bày các khái niệm co bản của mạng noron và

cấu trúc, luật học, các ứng dụng cơ bíín của một số mạng noron thường dùng trong điều khiển tự động

Phần 2: Các hệ thốìUỊ tích hợp mạng потоп với hệ m ờ trình bày bổ

sung các khái niệm co bản của điều khiển logic mờ cùng cấu trúc, luật học và các ứng dụng co bản của một số mạng nơron mờ thường sử dụng trong điều khiổn tự động

Pìiần 3: Một sô mô hinh mạng потоп và mạng m ờ потоп trong Matlab

và ứng dụng trong nhận dạng và điều khiển tập trung trinh bày phương pháp

sử dụng các hàm tiện ích của Matlab cho một số mạng nơrơn, mạng nơrưn mờ

trong quá trinh thiết lập mạng, quá trinh học và một số ứng dụng cụ tl١ể cùa

chUng trong díều khiển tự dộng

Cuốn sách có sử dụng kết quả nghiên cứu dề xuất và ứng dụng cUa nliíều tác giả khác nhau, bên cạnh dó cũng trinh bày một số kết quả nghiên cứu về mạng потоп và ứng dụng trong lĩnh vực diều khiển tự dộng cùa tác giả Tác giả

cố gắng trinh bày các nội dung khoa học về mạng потоп một cách dỗ hiểu bằng cách có hướng dẫn cụ thể thực hiện từng bước các phép tinh toán và có ví

dụ minh hoạ kèm theo Hy vọng cuốn sách sẽ giup cho dộc giả có những liiểu biết co bản về các mạng потоп, hệ thống tích hợp mạng потоп với hệ mờ và ứng dụng công cụ mồ phỏng Matlab dể có thể tự minh giải dược các bài toán

co bản trong linh vực diều khiển tự dộng có ứng dụng mạng потоп

Tác giả xin cảm on Nhà xuất bản Khoa học và Kỹ thuật và trường Dại học Kinh tế - Kỹ thuật COng nghiệp dã tạo diều kiện dể cuốn sách sớm dược ra mắt bạn dọc Tặc giả cũng xin cảm on rcS.TS Nguyễn Văn Liễn, Đại học Bách khoa Hà Nội và PGS.TS Tô Vân Dực, Viện Khoa học Cồng nghệ Quân

sự dã dóng góp ý kiến dể cuốn sách dược hoàn chỉnh hon

Mặc dù dã dược biên soạn rất cẩn thận và cbng phu, nhirng do kiến thức

có hạn, khbng thể tránh khỏi khiếtn khuyết, rất mong nhận dược các ỹ kiến dOng góp của dộc giả dể cuốn sách thêm phần hoàn chỉnh hon ở lần tái bản tiếp theo

Mọi ý kiến góp ý xin gửi về địa chỉ: Nhà xuất bản Khoa học và Kỹ thuật,

70 Trần Hưng Dạo, Hà Nội hoặc trương Dại học Kinh tế - Kỹ thuật Cổng nghiệp, 456 Minh Khai, quận Hai Bà Trưng, Hà Nội

Xin chãn thành cảm om

Tác giả

MỤC LỤ C

LỜI NÓI DAU MỤC LỤC PHẨN 1 MẠNG NORON

1 Các kháỉ nỉệm cơ bản

1-1 Mô hlnh tiơron sinh học

1.2 Phầntửxửiy

1.3 Các loại mO hlnh cấu trủc.mạng IIƠIOÍ

1.4 Các tinh chất của mạng noton

4.1 Các luật học không giám sái

4.2 Các mạng noron sử dụng lu؛)t học khó؛ig giilm Síít

5.1 Mạng lan truyển ngược hổi quy

5.2 Mạng hồi quy khOng hoàn toàn

5.3 Mạng hồi quy hoàn toàn

5.3.1 Luột học lan truyền ngitợi' plui tl.uộc tliCrt giati ci ١ ، a mạttg hồi quy

5.3.2 Luật học.thời giait tlrifc chu n، qt ١ ghổ؛ quy

5.4 ВАМ bậc cao

5.5 híạng потоп Elman

5.6 Các mạng потоп Elman sửa dổi

5.6.l Mạng nơron Elman síta dổi dạng Ị

5.Ố.2 Mạng nơì'on Elman siía đổi dạng 2

Trang

3 5 7

8810

19

21

؛ 2

25 25 34 41 53 58 67 69 71 82 88 89 89 97 97

101 109

119 123 123 128 129 129 132 134 141 144 144

147

6 ứng dụng của mạng nơron trong nhận dạng và diều khiển

6 1 ứng dụng của mạng ncfron trong nhận dạng

6.2 ứng dụng của mạng nơron trong điều khiển

7.4 Các bộ điều khiển mờ ncfron học thông số

7.4.1 Bộ điều khiển mờ nơron với các luật mờ duv nhất

7.4.2 ANFIS

7.4.3 Mạng nơron Elman mờ

7.5 Bộ điều khiển sử dụng mô hình liên kết mạng nơron

với hệ mờ học cấu trúc - thông số

8 Mô hình mờ của các mạng потоп

8.1 Bộ nhớ liên kết mờ

8.2 ART mờ

8.3 ARTMAPmờ

PHẨN 3 MỘT SỐ MÔ HÌNH MẠNG NƠRON & MẠNG MỜ NƠRON

TRONG MATLAB & ỨNG DỤNG TRONG NHẬN DẠNG & ĐlỂU KHIỂN

9 Một SỐ mỏ hình của mạng потоп, mạng mờ потоп trong Matlab

9.1 Mô hình nơron và rnạng nơron truyền thẳng

9.2 Simulink Neural Toolbox của Matlab

9.3 Các mô hình ứng dụng cửa Matlab trong điều khiển

9.4 ANFIS trong Fuzzy Toolbox của Matlab

Phụ lục 1: Chức năng các hàm cơ bản trong Neural Networks

Toolbox của Matlab

Phụ lục 2: Danh sách các hàm cơ bản trong Neural Networks

Toolbox của Matlab

Phụ lục 3: Chức nủng của các hàm cơ bản trong Fuzzy Logic

Toolbox cỉia Matlab

Phụ lục 4: Danh sách các hàm trong Fuzzy Logic Toolbox của Matlab

TÀI LIỆU THAM KHẢO

L50 152 156 163 163 163 169 173 175 175 180 185 192

199 199 205 225

225 225 228 230 253 265 265 267 269

Mạng nơron nhân tạo (gọi tắt là mạng nơron) gồm nhiều nơron nhân tạo (gọi tắt là nơron) liên kết với nhau thành mạng Nó có hành vi tương tự như bộ não con người với các khả nãng học (Learning), gọi lại (Recall) và tổng hợp thông tin từ sự luyện tập của các mẫu và dữ liệu.

Mạng nơron đã có một lịch ,sử lâu dài Từ năm 1943, McCulloch và Pitts đã đề xuất một số liên kết cơ bản của mạng nơron Năm 1949, Hebb

đã đưa ra các luật thích nghi trong mạng nơron Năm 1958, Rosenblatt đưa

ra cấu trúc Perception Nãm 1969, Minsky và Papert phân tích sự đúng đắn của Perception, chứng minh các tính chất và chỉ rõ các giới hạn của một số

mô hình Năm 1976, Grossberg dựa vào tính chất sinh học đã đưa ra một

số cấu trúc của hệ động học phi luyến với các tính chất mới Năm 1982, Hopfield đã đưa ra mạng hồi quy một lớp Hopfield Nãm 1986, Rumelhart đưa ra mô hình xử lý song song và một số kết quả của thuật toán Năm

1986, thuật toán học lan truyền ngược (Back Propagation) được Rumelhart, Hinton và Williams đổ xuất thực hiện luyện mạng nơron truyền thẳng nhiều lớp

Những năm gần đây có nhiều công trình nghiên cứu đề xuất các cấu trúc, luật học cho nhiều loại mạng nơron truyền thẳng và hồi quy mới có nhiều ưu điểm Mạng nơron hiện đang được áp dụng có hiệu quả trong nhiều lĩnh vực kinh tế, kỹ thuật

Phần này trình bày về các khái niệm cơ bản và một số loại mạng nơron thường gặp Trong đó ứng với mỗi một loại mạng nơron đi sâu trình bày cấu trúc, luật học đặc thù của chúng cùng với các ví dụ ứng dụng

1.CÁC KHÁ! N.ỆM C ơ BẢN

1.1 M Ô H ÌN H N Ơ R O N S IN H H Ọ C

Bộ não'con người có khoảng 10" noion sinh học ờ nhiều dạng khác

nhau Mô hlnh cùa một dạng noion sinh học dược اnô tả trên hlnh 1.1 Cấu

trUc chung của một noron sinh học gổm có ba phần chinh là: thân, bên trong có nhân, cây và trục Cây gổm các dây thần kinh liên kết với !hân Trục có cấu trUc don, dài liên kết với thân Phần cuối của trục có dạng phân nhánh Trong mỗi nhánh có một co cấu nhỏ là khOp thần kinh, từ dây nOron sinh học này liên kết bằng tin hiệu tới các noron khác Sự thu nhận tliOng tin của noron sinh học dược thực hiện từ cây hoặc từ thân của nó Tin hiệu

thu, nhận ة dạng các xung diện.

ïïto V v Y.Y M ô hinh một dạng nơron sinh học

Mỗi tế bào thần kinh có một màng, nhiệm vụ của nó là giữ cho các chất nuOi tế bào khOng tràn ra ngoài, ở giữa phần tử nội bào và n'goại bào

có dung dịch muối lỏng làm cho chUng bị phân rã thành các lon âm và dương Các lon dươitg có trong màng tạo ra diện thế màng với trạng thái cân bằng lực: lực dẩy của các lon dương ra khỏi tế bào cân bằng với lực hút chUng vào trong tế bào

Điện thế màng là phần tử quan trọng trong quá trinh truyền tin của hệ thần kinh Khi thay dổi khả nâng thẩm thấu lon của màng thl diện thế màng của tế bào bị thay dổi và tiến tới một ngưỡng nào dó, dồng thOi sinh ra dOng diện, dOng diện này gây ra phản ứng kích thích làm thay dổi khả năng thẩm thấu lon của các tế bào thần kinh tiếp theO

1.1.1 Xử lý tìỏ n g tin trong bộ Iii'،(.

ThOng tin được tiếp nhận ,ừ các giác ﻻ؛ﻻا ا ١ và cliuyển vào các tế bào

thần kinh vận dộng và các IC' bào c(t '٢ạ؛ !nỗl أة' bào thần kinh tiếp nhận

t!iô!ig tin, diện thế của nó tăng ! ة ! ١ ا nếu diện thê' này vnçrt ngưỡng sẽ tạo dOng diện trong tế bào thần kinh, ý Iighla dOng điện dó dược giải mã và lưu

ỏ thần kinh trung ương, kết ٩uả xử ly tliOng tin dược gửi dến các tế bào cơ.

Các tế bào thần kinh dều dưa ra các tin hiệu giống nhau, do dó khOng thể phân biệt dược dó là tế bào tliẩn kinh cùa loài dộng vật nguyên thuỷ hay của một giáo sư dáng kínlr Các khớp thần kinli chỉ cho phép các tin hiệu pliU hỢp qua cliUng, còn các tin hiệu kliác bị cản lại Lượng tin hiệu dã dược biến dổi dược gọi là cương độ kliớp thần kinh - đó chinh là trọng số của nơron trong mạng nơron

Tại sao vịệc nghiên cứu về mạng thần kinh lại có tầm quan trọng như vậy? Có thể trả lơi ngắn gọn là do sự giống nliau của các tin hiệu của tế bào thần kinh dơn lẻ, nên chức năng lliực sự của bộ não không phụ thuộc vào vai trO của một tế bào thần kinlt, mà phụ tliuộc vào toàn bộ các tế bào thần kinli, tức là phụ tliuộc vào kiểu kết nối của các tế bào thần kinh liên kết với nhau dể tạo nên một mạng thẩn ki!؛h liay một mạng nơron

1.1.2 Các dặc tinh cơ bản ciia não ngưỉri

- Tinh p h á n Ιό'ρ

Các vUng trong bộ não dược ph١؛ n thành nhiều lớp, ở dó thông tin

dược xử lý theo tinh chất tương ứng của mỗi lớp dặc thù.

- Tinh m ôđun

Các vUng của bộ nhớ dược pliân !hltnh các mOdun dược mã hoá bằng cách định nghĩa mối quan hệ tícli hợp giữa các tin hiệu vào qua các giác quan với các tin hiệu ra

- M ố ih ê n kết

Liên kết giữa các lớp dản dến các dữ liệu dùn.g chung dược xem như các liên hệ phản hồi khi truyền tin hiệu

- X ử lý p h á n tán các tin hiệỉi vào

Các tin hiệu vào dược truyền qua nhiều kênh thông tin khác nhau, dược xử lý bởi các phương pháp dặc bíệt.

nhiều vào, một ra (MISO)

Hình 1.2 mô tả mô hình của

Tín hiệu đầu vào

Có m tín hiệu đầu vào Trong đó (m -1) tín hiệu là tín hiệu kích thích

ở đầu vào là (X | , , X j , , x ٠١١_ |), chúng được lấy từ đầu ra của các nơron được đặt trước nơron này hoặc được lấy từ các nguồn tín hiệu đầu vào khác Các tín hiệu kích thích đầu vào này được đưa qua một bộ trọng số (weight)

Wjj đặc trưng cho mức độ liên kết giữa các nơron thứ j (j = 1, 2, .١m - 1)

với nơron thứ i Trọng số liên kết có giá trị dương tương ứng với khép thần kinh bị kích thích, ngược lại có giá trị âm tương ứng với khớp thần hĩnh bị kiềm chế

Riêng thành phần tín hiệu vào thứ m là X٠١١ được gọi là rgưỡng (threshold) có giá trị x ٠١ = - 1 Tín hiệu X٠١١ được đưa qua thành phin dịch

m là w ١ ؛„ của nơron thứ i nối với tín hiệu vào thứ m là x „١ luôn có giá trị là

- 1 Viết lại biểu thức (1.2) ở dạng sau đâv:

111

,

v, = E w ,|X

= ؛

n et

1

= 1

(1.3)

irong dỏ ặ) là ký hiệu của hàm chuyển đổị

Có các dạng hàm chuvển dổi thưcíng dùng như ,saụ

- Hàm chuyển đổi dạng giới hạn cícng

Hàm chuyển đổi dạng giới hạn cứng (hard limit transfer function), hình 1.3a, còn có tên gọi là hàm chuyển đổi dạng bước nhảy (step transfer function) có biểu thức:

- Hàm chuyển đổi dạng tuyến tính hão hoà

Hàm chuyển đổi dạng tuyến tính bão hoà (saturating linear transfer function), hình 1.3c, có biểu thức như sau:

'1 nếu V > 0,

0 nếu V <0.

- Hàm chuyển dổi dạng tuyê.n tinlr bdo hod dối xítng

Hàm chuyển dổi dạng tuyến tinh bão hoà dối xứng (symmetric saturating linear transfer function), hlnh Ị3d, cO biểu thức như sau:

-1 nếu v < - l

V nếu -ا < ٧< ا

ăv) = آ V nếu -1 < V < 1 , (1.8)

- Hàm chuyển đổi dạng sigmoid

Hàm chuyển đổi dạng sigmoid (sigmoid transfer function), hình 1.3e,

có biểu thức như sau;

ăv) = 1

- Hàm chuyển dổi dạng tang hyperbolic

Hàm chuyển đổi dạng tang hyperbolic (hyperbolic tangent transfer function), hình 1.3f, có biểu thức như sau:

ăv) =

trong dó 0<د là hệ số độ dốc của các dạng hàm chuyển dổi (1.9), (1.10).

Các nơron có hàm chuyến đối ặ) ở các dạng hàm sigmoi hoặc tang hypecbcilic được gọi là phần tử mức tuyến tính (Linear Graded Unit - LGU)

Mạng nơron thường sử dụng các nơron ở các dạng LTU và LGỤ

- Hùm chuyến đôi dạng tuyến tínlì

Hàm chuyển đổi dạng tuyến tính (linear transfer function), hình 1.3g,

có biểu tliức như sau:

bão hoà; (d) Hàm tuyến tinh bão hoà

đối xứtìg; (ﺀ) Hàm sigmoid; ơ) Hàm

tang hyperbolic; (g) Hàm tuyến tinh

(d)

ơ )

Hình 1.4 Mô hình đơn giản của

nơron thứ i

Mô hình ở dạng ký hiệu đơn

giản của noTon thứ i được trình bày

như hình 1.4 Trong đó nơron được

ký hiệu là một vòng tròn được xem

như là một tế bào thần kinh; nó có

các mối liên kết với các nơron khác

j = (1, 2, , m ) ; có m đầu vào là

[X|,X2,. ١X„١] và có một đầu ra là

y ؛ Trong đó thành phần trọng số

thứ m là w ٠١١؛ = bị được nối với tín

hiệu đầu vào thứ m là X|١١= - l ,

nhưng không nhất thiết nơron nào

cần cũng phải có phần tử nàỵ

Ví dụ 1.1

Cho nơron được trình bày trên các hình 1.5a và hình 1.5b Hãy tính giá trị tín hiệu ra của nó với các trường hợp: hàm chuyển đổi ặ) có các dạng

hàm tuyến tính và hàm sigmoid (khi ٨ = 1).

Giải: Tim giá trị tín hiệu ra y của nơron theo các bước như saụ

Tín hiệu ra y, với hàm chuyển đổi ặ) có dạng hàm tuyến tính:

y = ănet) = ăv) = ă0.5) = 0.3

Tín hiệu ra y, với hàm chuyển đổi ặ) có dạng hàm sigmoid, với A, = 1 :

trọng V như nhau, sẽ có tín hiệu ra y khác nhau nếu hàm chuyển đổi ặ) ở các dạng khác nhaụ

X, = 0 9

Hình 1.5 Các hình vẽ mình hoụ cho ví dụ l l

(a) Mô hình nơion; (b) Mô hình nơron dạng kỷ hiệu đơn giản;

(c) Đồ thị hờm chuyển dổi dạng tuyển linh lìm tín hiệu dầu rơ y:

(d) Đồ thị hàm chuyển dổi dạng ỵigirioid (Ẫ = J) tìm tín hiệu đấu ra ỵ

Cũng có thể biểu diễn một nơron bằng một mạch điện tử thông thường Hlnh 1.6 là sơ đồ mạch điện tử của một nơron khi sử dụng hàm chuyển đổi ặ) ở dạng hàm giới hạn cứng

Trường hợp nơron sử dụng hàm chuyển đổi ặ) ở dạng hàm giới hạn cứng, có biểu thức:

y(v) = 1 nếu V > 0

0 nếu V < 0

Hình 1.6 Sơ đồ mạch điện tử biểu diễn một nơron

khi sử dụng hàm chuyên đổi ặ) ở dạng hàm giới hạn cứng

y = а(\Ѵ|Х|+\Ѵ2Х2 +\ѴзХз + Хп١\Ѵт)

áp dụng cho ttog trường hç^ giá trỊ của y có trong bảng 1 1

Xét trường hç^ 1 của bảng 1.1, áp dụng các cOng thức (1.5) và (1.14),

ta cổ:

Từ (1.5), căn cứ vào tinh chất của hàm chuyển dổi ặ) là dạng giới hạn cứng, ta có: w X 0 + W2 X 0 1 W3 X 0 1 Х щW|٢١ < 0 hay: XfflWm ك о

Thực hiện cho 7 trưỄmg hç^ còn lại ta dược;

Như vậy hàm số y có giá trỊ

biểu diễn ờ bảng 1.1 dược biểu

diễn bởi một nơron (hình 1.7) có

3 dầu vào là Xi, Χ2, x٩ lần lượt liên

hàm c!١uyển đổi ặ) dạng g؛ới iKin cứng đổ biếu díễn hàm !Ogic y trên bảng 1.ؤ

1.3 CÁC LO Ạ I M ỏ HÌNH CAL1 TRIJC MẠNG NORO N

Mgng nơron bao gồm sự !ﺈﺟاا kết của nhiéu noron Dầu ra của mỗl

noron kết nốl với các noron khíc tliOng t!ua các trọng số, hoặc tự phản hồi trO về dầu vào của chinh nó

Cấu trUc cùa mạng noíon là kiểu kết nối hình liọc của mỗi noron hên

kê't trone mạng, dây là một dặc điểm ٩ua!i trọng của từng mạng noron, dựa

vao dO tiến hhnh phân loại cliUiis Hìnli 1.8 mó tii một số loại mạng noron thường gặp

Hình Ị8a mô tả mạng truyền thẳng một lớp (single - layer feedforward networks) có dặc điểm tất cả các noron dêu nhận tin liiệư vào từ nguồn bên ngoài tjua các biến trọng số và mỗi nơron dều cho ra một tin hiệu rạ

Hlnli Ị8b mô tả mạng truvền tliẳng nhiều lớp (multilayer feedforward networks) Lớp vào (input layer) gOm có cắc noron nlrận trực tiếp các tin hiệu vào lâ'y từ bên ngoàị Lớp ra (output layer) gồm có các noron có các tin hiệu Ía, dua ra bên ngoài mgng Lớp ẩn (liiđen layer') gồm các noron còn lại khOng nhạn trực t.iếp Cilc tin hiệu vào lấy từ bên ngoài và không cung cấp tin hiệu ra cho bên ngoai mạng, nó clil có nlriệm vụ truyền tin

Iiỉệu từ các noron ة ló'p vào đcii các noron ة lớp rạ Mạng noron truyền

thẳng 1'iliiều lớp cO một lớp vào, một lớp ra, có thể khOrig có lioặc có nhiều lớp (ín Một mạng dược gọi là liốn kết dổv dri nếu mỗi nơíon ờ các ló'p trước

có liên kết với tất cả các noron ỏ ló'p ngay sau nó Mạng noron ở hlnh Ị8b

là loạị mạng noron truyền tlrẳng có 3 ló'p, có 11ﺔﻟا kẻ't khOng dầy đủ.

Nếu mạng noron có các tin hiệu dẩu ra dược dua ngược trờ lại dầu vào của các noron ở các lớp trước nó liotc cliíiih nó tliì mạng dó dược gọi là mạng phản hồi (feedback network)

Nếu tin hiệu ra của một noroir dư(.؛c dưa pliản liồi thành các tin hiệu vào cùa các noron ở cUng một lớp vdi noron dó till mạng dó dược gọi là mạng phản hồi bên (lateral feedback network)

M ؛.ing phản hồi có các vOng kin dược gọi là mạng hồi quy (recurrent netwot'ks) H'rnh Ị8c mồ tả một loại mạng hồi quy dón giản nhất, chỉ có

một nơron có tin hiệu ra tự phản liồi ١'ề dầu vào của chinh nó.

Mgng một lớp có liên kết phản hổi như hlnh Ị8d có dặc điểm tin hiệu dầu ra của mỗi noron dược dưa ngược trở lại dầu vào của chinh nó hoặc của các noron khác dược gọi là mạng hồi quy một lớp

Hình 1.8e mồ tả mạng cấu trúc ngang - hạn chế (lateral-inhibition network), mạng này có hai loại tín hiệu đầu vào khác nhau: các đầu vào kích thích (excitatory inputs) ứng với các tín hiệu vào có gắn ký hiệu vòng rỗng (o) và đầu vào hạn chế (inhibition inputs) với các tín hiệu vào có gắn

ký hiệu vòng đặc (٠).

Hình 1.8f mô tả mạng hồi quy nhiều lớp

ơ )

Hlnh 1.8 Cấu trúc của một sốloại mạng ncrron th ư ầ g g ặ p

(a) Mạng nơron truyền thẳng một lớp; (b) Mạng naron truyền tìé ig nhiều lớp; (c) Mạng nơron chi cố một nơron tự hồi quy; (d) Mạng nơron hồi quy một l ệ ;

( ٠ﺀو Mạng cố cấu trúc ngang - hạn chế; ự) Mạng ncrron hồi quy nhiều lớp.

1.4 CÁC T ÍN H C H Ấ T CỦA MẠNíỉ NƠRON

Mạng nơron có một số tính chất sau đây:

- LA hệ phi tuyến.

- Là hệ xử lý song song: mạng nơron có cấu trúc song song, do đó có tốc

độ tính toán rất cao, rất phù hợp với lĩnh vực nhận dạng và điều khiển

- Lá hệ học và thích nghi: mạng được luyện từ các số liệu quá khứ, có

khả năng tự chỉnh khi số liệu đầu vào bị mất, có thể điều khiển on-line

- Là hệ nhiều biên, là hệ nhiều đầu vào, nhiều đầu ra (MIMO) rất tiện

dùng khi điều khiển đối tượng có nhiều biến số

1.5 CÁC LU Ậ T H Ọ C

Mạng nơron sử dụng hai nhóm luật học: nhóm các luật học thông số (parameter learning rules) và nhóm các luật học cấu trúc (structure learning rules)

Các luật học trong nhóm học thòng số có nhiệm vụ tính toán cập nhật giá trị của trọng số liên kết các nơron trong mạng

Các luật học trong nhóm học cùiu trúc có nhiệm vụ đưa ra cấu trúc hợp

lý của mạng như thay đổi số lượng nơron hoặc thay đổi số lượng liên kết của các nơron có trong mạng

Hai nhóm luật học trên có thể được áp dụng đồng thời (khi đó gọi là các luật học lai - hybrid learning rules) học cả cấu trúc và thông số, hoặc được áp dụng riêng rẽ.

Sau đây trình bày các luật học tlỉỏng số với các giả thiết:

- Cấu trúc của mạng nơron gổm sô lượng lớp nơron, số lượng nơron và cách thức liên kết của các trọng số có trong mạng đã họp lý

- Ma trận,trọng số đã bao gồm tất cả các phần tử thích ứng

Nhiệm vụ của học thông số là đưa ra phưcmg pháp nào đó để tìm ma trận trọng số điều chỉnh từ ma trận trọng số tuỳ chọn ban đầu với cấu trúc của mạng nơron đã được xác định từ trước, thoả mãn điều kiện sai lệch trong phạm vi cho phép

Để làm được việc đó, mạng nơron sử dụng các phương pháp học thích ứng để tính toán được các ma trận trọng số điều chỉnh w đặc trưng cho mạng Có ba kiểu học là: học có giám sát (Supervised Learning), học củng

cố (Reinforcement Learning) và học không có giám sát (Unsupervised Learning).

1.5.1 Học có giám sát

Cho trước p cập mẫu tín hiệu vào - ra sau đây:

với X là vectơ tín hiệu mẫu đầu vào X = [x ٠ ؛' ,x ؛^؛, ,x ؛ ٠ ’ ١ ] ٢ và d là vectơ tín hiệu đầu ra mong muốn d = [d ٠ ٠ ,d ٠ ' ٠ , ,d ^ ؛' ١ ] ٦ ^.

Khi đưa một mẫu tín hiệu là x ١ ٠ vào đầu vào của mạng nơron, ở đầu ra ؛؛

có một tín hiệu ra tương ứng là y ١ ؛'^ Sai lệch giữa hai vectơ tín hiệu d và y

có nhiệm vụ điều chỉnh vectơ trọng số w của mạng nơron sao cho vectơ tín hiệu ra y của mạng bám theo được vectơ tín hiệu ra mong muốn d, nói cách khác là để giảm thiểu sai lệch giữa chúng Như vậy kiểu học có giám sát (hình 1.9a) có đặc điểm là cần có tín hiệu đầu ra mong muốn d được lấy từ bên ngoài.

1.5.2 Học củng cố

Trong quá trình học giám sát, giả thiết rằng đáp ứng đầu ra của mạng

đã đạt được giá trị mong muốn Nhưng ở một mẫu vào - ra nào đó bị cho rằng có kết quả không đáng tin cậy, vì vậy cần phải tiến hành kiểm tra lại mẫu nói trên Khi đó chỉ có một bit tín hiệu của mẫu cần kiểm tra đóng vai trò là tín hiệu củng cố được đưa vào mạng để góp phần khẳng định kết quả quá trình học có giám sát đúng hay sai Kiểu học này được gọi là kiểu học củng cố (hình 1 ٠9b) Kiểu học này cũng có tín hiệu củng cố được lấy từ bên ngoài nên nó chỉ là một trường hợp đặc biệt của kiểu học có giám sát.

1.5.3 Học không có giám sát

Kiểu học này có đặc điểm là không có tín hiệu lấy từ bên ngoài Mạng cần phải tự mình tìm ra các mẫu, nét đặc trưng, sự tương thích, phân loại trong dữ liệu đầu vào và mã hoá thành các mẫu ở đầu ra Trong quá trình học không giám sát (hình 1 ٠9c) nếu mạng không thay đổi thông số của nó thì được gọi là tự tổ chức (self - organizing).

Hình 1.10 trình bày luật học trọng số ở dạng cơ bản nhất cho nơron thứ

i Trong đó vectơ tín hiệu vào X = [ X | , X 2 , , X j, , X n١]٦^ có thể được lấy từ các nơron khác hoặc được lấy từ bên ngoài Thành phần thông số ngưỡng

có thể được thay thế bằng thành phần thứ m của vectơ tín hiệu vào X là

x٠٣ = -1 được kết nối với trọng số w ٠١١؛ = b ị

Wị|,Wj2, ,Wj٠١١

؛: |

٧ eclơ trọng số Hên kết của !iơ!ori tliứ i !à W

ه ز (

(a) Học có gỉáni sát; (b) Hoc ciìiig cố:

(c), H، ١ c k ١ iỏng cổ giúm s، 'i!

ệi

؛ !Tin hvào

Y

ή

Tin hiệu ra

(c)

-►y.

d.

- Yêu cầu đối vóỉ hai kiểu hoc có giám sát và học củng cổ'

Cần phải có tin hiệu mong muốn ở dầu ra d;١ các trọng số cUa nơron thứ

1 dược diều chỉnh theo các giíl trị cùa tin hiệu vào, lín hiệu dầu ra và tin hiệu dầu ra mong muốn của nO Nghĩa là cần dưa ra một luật học với mục dích là thay dổi vectơ trọng số w, sao cho tin hiệu dầu ra của потоп thứ i là

- Yêu cầu đối với kiêu học không có giám sát

Trọng số của nơron thứ i chỉ phụ thuộc vào giá trị của sự kết hợp của tín hiệu đầu vào and/or với tín hiệu đầu rạ

Nói chung các luật học trọng số đều có sự thay đổi giá trị của vectơ trọng số liên kết của nơron thứ i là Aw tại thời điểm t tỷ lệ với tín hiệu học

١ ؛ Tín hiệu học r thông thường phụ thuộc vào w

؛)

x ,d

؛,

r = fr(w Biểu thức tính vectơ trọng số của nơron thứ i tại (t+1) như sau

:

t))x(t ( ؛ t) + Tifr (W ị (t), x(t), d (

؛

t +1) = w (

؛ w

ở dạng liên tục có thể viết lại là

1.6 BÀI TẬP

1 C!ho giá trị của hàm số logic у = f(x٠١ X2١x١, X4) biểu diễn b bảng 1.4

Hãy chứng minh rằng không thể sử dụng một nơron với hàm chuyển đổi ặ) ở dạng giới hạn cứng để biểu diễn hàm logic nàỵ

2 Hãy thiết kế mạng ncfron chỉ có một nơron có thể thực hiện được các phép biến đổi logic: NOT ( X |) ; OR (X|,X 2 ); AND(X|,X2) với X| và

X2 e {o, 1}.

3 Hãy chứng minh rằng không thể sử dụng một nơron để biểu diễn

phép biến đổi logic XOR

2 CÁC MẠNG NƠRON TRUYỀN THANG sử DỤNG LUẬT HỌC GIÁM SÁT

2.1 MẠNG ADALINE

Phần này trình bày phần tử Adaline và mạng Adaline, trong đó bao gồm cấu trúc, luật học và các ví dụ ứng dụng chúng trong các bài toán nhận mẫu

với là chuyển vị của vectơ w

Luật học

Cho trước bộ mẫu tín hiệu vào - ra gồm p phần tử:

(2.3)trong đó mẫu tín hiệu đầu vào thứ k:

với điều kiện: p m; j = 1, 2, , m; k = 1, 2, p.

Để tín hiệu ra y bám theo được tín hiệu mẫu d ta cần điều chỉnh giá trị của trọng số w Có nhiều phương pháp học được ứng dụng cho phần tử Adaline

Sau đây trình bày phương pháp học có giám sát gọi là luật học Adaline (Adaline learning rule), còn được gọi là luật học Widrow - Hoff (Widrow - Hoff learning rule), và luật học bình phương trung bình cực tiểu (Least Mean Squaer - LMS)

Hình 2.1 Phần tửAdaline với phương pháp học có giám sát

+ L uật học Adaline

Áp dụng tiêu chuẩn sai lệch bình phương cực tiểu để tìm biểu thức cập nhật giá trị của w Hàm trung bình bình phương của sai lệch được biếu diễn như sau:

\2

Z W jx f

-؛.^

z i d-

=

؛)؛

“

؛y-

١

؛''d

( ٤

với T٦ là hằng số học, cần được chọn có giá trị nhỏ.

Luật cập nhật tìm trọng số tại thời điểm (t+ 1):

Ví dụ 2.1

Phán tử Adaline có 2 đầu vào vccto؛ tín hiệu vào: X = [X|, X2 ]^ và có 1 tín hiệu ra là y sử dụng phần tử Adaline nàv lưu trữ hai bộ mẫu tín hiệu vào - ra:

Mẫu 1; X؛'؛ = [ x |'١, x ٠ 2'١]■''=[0.1, 0.2]■''; d ٠ ٠ =0.5.‘

Mẫu 2: x ١ ٠ = [ x ị- ١,x '2^١]■' =[0.5, 0.25]■''; d 1 0 = ٠ ^ ؛-

Chọn giá trị vectơ trọng số tại thời điểm ban đầu t = I :

w (l) = [vv,(l).u'2 (l)]'' =[0.5, 0.2]٦'Chọn hệ số học 1٦ = I

Sử dụng luật học Adalíne lìin giá trị của ma trận trọng số điều chỉnh như sau

- Tính \ v 2 ) ؛) là giá trị điều chỉnli của thành phần trọng ·Số thứ nhất tại thời điểm 1 = 2:

= 0.3910.

W|(2) = W | ( l ) + A W | =0.5 + 0.3910 = 0.8910.

Tính W2(2) là giá trị điều chỉnh của thành phần trọng số thứ hai tại thời -

: 2

= điểm t

؛؛

x ٠١ )

w (l -

؛؛

d(

+ ١١

^ x ) ١

’

٢ x '( w ( l -

- [ 1.0 +

2

- Kiểm tra tin hiệu ra tại thơi điểm t = 2:

y = w(2)Tx(٠) = 0 1 8 0 5 ,٤ d())

y = w(2)Tx(2) = 0.5597^d(2).

Trên dây là các bước tinh toán thông số diều chỉnh là vecto trọng số w cho một chu kỳ (tại thời điểm t = 2) Sau thời điểm t = 2, vẫn chưa tlm dược giá trị của vecto trọng số hợp lý dể phần tử Adaline lưu giữ dược hai m^u

dã cho vì quá trinh kiểm tra cho thấy tin hiệu ra y vẫn khác tin hiệu ra mẫu

là d(') và d(2) Do dó cần thực hiện nhiều chu kỳ tinh toán tiếp theo sao cho tin hiệu ra của Adaline bằng tin hiệu ra mẫu cho trước.

Chú ý rằng khi thực hiện tinh toán tại thơi điểm t = k, cần sử dụng kêt quả giá trị vecto trọng số da tinh toán dược ở bước ngay trước dó là w(k - 1) Sau khi lập trinh trên MATLAB, dược kết quả giá trị vecto trọng số diều chỉnh sau 500 chu kỳ tinh toán là:

w (500) = [W|(500),W2(500)]T =[1.0002, 1.9997] آ Kiểm tra: tin hiệu ra tại thời điểm t = 500:

y = w (500)٣ x ( 0 5 0 0 1 = (؛ «d())

y = w(500)Tx(2)= 1.0001 « d(2).

Ta dược tin hiệu ra y sai khác so với tin hiệu ra mẫu d(') và d(2)khồng dáng kể Ta nói rằng phần tử Adaline với haỉ.dầu vào và một dầu ra có vecto trọng số là w(500) lưu giữ dược hai bộ mẫu vào - ra dẵ chọ

Phần tử Adaline có hàm chuyển dổỉ ặ) là dạng tuyến tinh, do dó thực chất bài toán nhơ mẫu này là tim nghiệm của hệ hai phương trinh tuyến tinh, trong dó mỗi một phương trinh thành phần ứng với một mẫu vào - ra sau dây:

= (d

؛2

^ (W2X

؛W|XTliay dữ liệu của hai mẫu nhớ ta có:

Giải hệ phuơng trinh trên ta duợc kết quả vect trọng số diều chỉnh cần tim líl: W = [W|,W2]^ =[1.0,2.0]T Ta thấy sai số g i.a hai vectơ w vàw(500) là khOng dáng kể

CUng có thể giải bài toán trên theo phuong pháp dồ thị (hlnh 2.2), trong

dó mỗi một mẫu vào - ra tuong ứng với một dồ thị dạng bậc nhất Giao điểm của hai dồ thị là nghiệm của bài toán, cQng là giá trị của vecto trọng

số phương trinh trong hệ bằng số lượng mẫu cần lưu giữ Nên số lượng dầu vào hay số lưọng trọng số hên kết phải ít nliất bằng số mẫu cần lưu giữ Trong ví dụ này, phần tử Adaline có 2 dầu vào nên khOng thể lưu giữ quá 2

bộ mẫu vào - ra Nhưng ngay cả kill diều kiện trên dược chấp nhận thi cQng

có thể phần tử Adaline không lưu giữ dược các bộ tin hiệu vào - ra, do giá

trị của p bộ d ٥ liệu vào - ra làm cho hệ p phương trinh tuyến tinh bậc nhất

có p biến là trọng số diều chỉnh trở thành vô nghiệm Với ví dụ này, bài

toán lưu giữ mẫu sẽ vô nghiệm khi d٥ liệu của hai bộ mẫu vào - ra làm cho

hai đổ thị cùa chUng có dạng song song với nhau

w

Hình 2.3 Sơ đổ cấu trúc phần tử Adaline minh hoạ cho ví dụ 2.1

Phần tử Adaline chí có một đầu ra nên có hạn chế trong lĩnh vực lưu giữ mẫu cần có nhiều đầu ra Để khắc phục ta cần sử dụng bộ lưu giữ mẫu sử dụng mạng Adaline được trình bày ở phần sau đây

(2.11)

Đế E đạt cực tiểu, sử dụng phuvtng pháp hạ gradient tìm giá trị điều chỉnh trọng số A W | j của phần lử mẫu vào - ra thứ k theo luật học delta (delta learning rule) như sau:

Aw,I = - r i ^ ^ = i٦[d | ٠ '٠ - a ( v | ١ '٠ )|a'(v ٠؛؛' )x؛؛؛ =T|rX j2.12) '؛)

cKv.i

Trong đó hằng số học T٦ được chọn có giá trị nhỏ.

Sử dụng dạng hàm chuyển đổi liivến tính: a(v) = V, trọng lượng đầu vào của phần tử thứ i là:

w ٠(l) = [ w „ (l),w ٠2( l ) r = [ 0 5١0 1]T

Chọn giá trị cho các vecto trọng số tạl thOi dlểm ban dầu t = l ١ hên kết

Tinh giá trị trọng số điều chinh tại t h ^ điểm t = 2

0.5430

=0.5+0.0430

=

)1(1

|

W + |2) = AW٠

(W1٠

) 2

=)2+W22(l

0.1860[

T

= ؛

Wi(2) = [w ii(2),Wi2(2)]T

] آ0.44400.2720

= ؛2(

=tw2,(2),W22(2)]T

؛ (

w

- Sử dụiig cho mâu 2: tươiis ur thuri-' !ilện c!١o mẫu thứ 2, ta có các kết t١uả

sau d؛'،y:

0.34١ = (2 ,) ه ا\'ا ا; Δ١\'|2(2) = 0.1705;

Aw2|(2) = 0.0765; Δ١٧22(21 = 0.0383;

W|(2) = [0.8840, 0.3565ا ا ; ١١ ا2(2) = [0.3485 , 0.4823]'آ

Ĩ íu h k ế t q itả d ầ u ra tạ ì thòã đ lểtu t = 2

Tíiih cho mẫu 1:

y,(2) = a(W |(2)Txii)) = w , ( 2 ) T x 0 5 9 7 = ( ٠؛ ^ d ؛i|>

y 2(2) = a (w 2(2)T xi'٠) = \V2(2)Txl'٠=0.13137؛ di^>

Títih clio mẫu 2:

y)(2) = a (١٧)(2)Tx2), ؛٠)) = ١١ ) ' ' ' x 0 5 3 = ('؛H ^ d ١؛ )

У2^2^ = a^١,V2^2^ T χ 2 ^2^.\\ = ^ا اا^ T χ 0 2 9 4 8 = ^ '؛^ d إؤ^

Tiên dăy thực hiện một cliLi kỳ học cUa mạng Adaline tại thOi điểm

t = 2, ta thay các tin hiệu dẩu ia '؛١tn có gia trị khac với tin hiệu ra mẫu Do

dó, cần thực hiện t؛ếp nhiều cltu kỳ học tiếp tlieo sao cho thoả măn diều kiện lín hiệu I'a của mạng Adalinc bằng gia trị mẫu của tin hiệu ra Thực híện lập trinh trên pliần mềm Matlab sau 500 chu kỳ học dạt dược kết quả nliu sati

K ế t q u ả títvVi to d u tạ i th ò i di.ểtu t, = 5 0 0

- Ti'ọng số diều cliínli tại thOi điểm t = 500:

آ

]4.7991 ,

1.5995[ -

=)500[2

.ﺀ ا

'

اا 1.٩997

,1.0001[

=)500(

,'ا

١١

:500

= l

لاا 'ا

n = 0 5 0 0 0 = díi(|

؛yi(500) = a(Wi(500)TxỊ'>) = vV|(500)Tx

y 2 ( 5 0 0 ) = a ( w 2 ( 5 0 0 ) ĩ x ỉ " ) = W 2(500)T xỊn= 0.7999«dị

<^

:2Tinh clio mẫu

=

٠

؛ ' x '

٠

)' i( 5 0 0

\ '١

=

)) i

٢x '(y ) ( 5 0 0 ) = a ( W |( 5 0 0

^؛ )

0 4 0 0 0

=d

؛ ' ) = x '

1.0001

= [٢

)

W i2 ,

٠

|

W | = [ W

w , = [w2 |,W 2 2 ٣ =[-1.5995, 4.79911T

Từ các kết quả tinh toán trên dây, kết luận duợc là dể liru giữ hai mẫu tin hiệu vào - ra ờ ví dụ 2.2, cần sử dụng mạng Adaline có cấu trUc gổm hai phần tử Adaline (hình 2.4) với bộ vecto trọng số là W|, Wz.

Vecto tin hiệu ra: y = [У1,У2١-,У ,,-,У п]Т ,với 1 = 1 , 2 , , n

Tin hiệu ra của mạng có biểu thức:

ăwTx) = a

؛ =y

m

و ﻻ=ا

trong dó : ặ) là hàm chuyển dổi؛ Wjj - l à trọng số liên kết giữa tin hiệu vào thứ j với nơron thứ 1

Vectơ trọng số liên kết giữa tin hiệu vào với nơron thứ 1 có dạng:

: ra

Hlnh 2.5 M ô hììih m ạ n g p erc ep tro n m ộ t lớ p

٠

؛؛

bộ mău tín hiệu ra; = [(d٠

số lư،;ng cập mẫu vào - ra Điều rnong muốn là sau khi học đạt được:

:Уп.^.] · Nghĩa là,···,

١

'^

2؛

у,

٠

؛

٠

|У

؛

٧ ٥ ١ (.،) ٥

_

<)

٠

(y

؛

a I w y X

= )

có các giá trị là ± 1, tín hiệu đầu ra của mạng có dạng:

١

؛mong muốn dị٠

)2.19(

Cần phải tìm vectơ Wị của nơron thứ i sao cho khi đưa bộ mẫu tín hiệu

١vào đầu vào của mạng, thì đầu ra của mạng được bộ tín hiệu ra

؛vào x٠٠

؛؛

Luật học perceptron dùng cho mạng perceptron một lớp gồm các LTU

sử dụng tìm vectơ trọng số trong quá trình học bộ mẫu vào - ra cho trước

Tín hiệu học r được lấy gần đúng là sai lệch giữa tín hiệu đầu ra mongmuốn và đáp ứng đầu ra thực của nơron

:

)2.20( ،

6 mẫu trong không gian mẫu 2 chiều (hình 2.6) vào 2 loại sau:

+ Nếu chọn mô hình perceptron có một phần tử LTU với 2 đầu vào là X|, X2 và có 1 ngưỡng là 0 , ta có:

= Sgn(w|X|'^١ + W2X.20 - .؛؛) trong đó [X| ١ ٠ ,x ٠^'2؛](k = 1, 2, ., 6) là 6 mẫu đầu vào ^

Từ hai phương trình mô tả g(x) và y ٠ ٠ bằng phương pháp so sánh, xác '^

định được: W| = -2 , W 2 = 1, 0 = - 2 , đó chính là các thông số cần tìm của perceptron có một phần tử LTU

+ Nếu chọn mô hình mạng perceptron một lớp chỉ có một phần tử LTU với 3 đầu vào là X|, X2 , X3, tức là thay thế ngưỡng 0 bằng tín hiệu đáu vào thứ 3 là X3 = - l và đầu vào này liên kết với LTU bởi trọng số W3 = 0 = - 2 Ta có tín hiệu đầu ra có dạng:

= )

-ﻊﻟاة

= )5(

إ

= + )3(

ل

= )2(

ل

= )

ك(ا

W = ؛W |,W2١W3]'

Thành phần ngưỡng của LTU du'í;c xcm như !؛، một trọng số (0 = w^)

V ec t dầư vào tăng thêm một thinh phíín 11 = -1 Dồ thị khOng gian bacliiẻư với vecto dầư vào gia tăng dược trinh bày ở hlnh 2 6b với mặt phẳng

w ٢x = 0 , mặt phẳng này di qua gốc toạ độ (0, 0, 0) và cắt mặt phẳng

X2 := -l theo dường giao tuyCn g(x) = -2X| + + 2 = 0 Mặt phẳng này

phân clila các dầu vào thành các mẫu dương ١'à âm, dOng vai trò biên giới phân các mẫư cần tim ٧ ectơ plilp tuyến n = ٦[2- , 1 ,2- ؛ của mặt phẳng

biên giới dược sử dụng là vectơ trong số w của mạng perceptron một lớp chỉ cb một phần tử LTU Mo lilnli mạng perceptron một lớp chỉ có một phần tử LTU cần tim của ví dụ này dược bíểư diễn ơ hlnh 2.6c

2-1

2

Hỉnh 2.6 Các hìtih veminh hoạ cho vídụ 2.3

sử dụng mạng perceptron một lớp 0 ﺀ^ﺀ một phần tiìLTU’ﺀ

;d

)2.7Thiết kế mạng perceptron một lớp chỉ có một phần tử LTU (hình

để học các cặp mẫu trên Phần tử LTU có 2 tín hiệu vào gồm: một thành

2với k = 1,2, ., 4; thành phần đầu vào thứ

؛'؛^

phần là các mẫu đầu vào x

có giá trị -1 Cụ thể các vectơ mẫu đầu vào có dạng

:

2 -

Ì Ỹ [ -

=

١

<^

2 , - l f ; x[

=١

^^

l , - l f ; x[ -

=Biết: hệ số học T| = 0.5 và vectơ trọng số ban đầu

=

>

٠

؛x

٠

؛x

؛'> +w

= - l ^ d ]

1 5 ,

0 5 [ -

X.'

>

-٧

؛2rid

=

١

، 'Aw

‘

-1 = - l = d؛'٠١

1.50.5

0

،=

٠١

؛'Aw

vv'."

١

،' x

= ؛.

V í dụ như ở bước 5: X

١

؛^

x , ١

‘ X

= ١

؛؛

b٠ ớc 8; x٠ ,

w ٠

= ١

؛ w٠

=

w ٠٥١

= ٥١

؛ w

dụng của mạng perceptron một lớp