nghiên cứu điều khiển vị trí của phản ứng nam châm điện bằng phương pháp ứng dụng bộ điều khiển nơron dự báo

Chương 1 - Mạng nơ ron Chương 2 - Mô hình nơ ron, mạng nơ ron truyền thẳng, mô hình Simulink neural toolbox của Matlab và ứng dụng của Matlab Simulink trong điều khiển Chương 3 - Ứng dụn

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KỸ THUẬT CÔNG NGHIỆP

ROÃN VĂN HÓA

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn

BỘ GIÁO DỤC VÀ ĐÀO TẠO ĐẠI HỌC THÁI NGUYÊN ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KỸ THUẬT CÔNG NGHIỆP

-

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KỸ THUẬT CÔNG NGHIỆP

-

LUẬN VĂN THẠC SĨ KỸ THUẬT

NGHIÊN CỨU ĐIỀU KHIỂN VỊ TRÍ CỦA PHẦN ỨNG NAM CHÂM ĐIỆN BẰNG PHƯƠNG PHÁP ỨNG DỤNG BỘ ĐIỀU KHIỂN NƠRON DỰ BÁO

Ngành: TỰ ĐỘNG HÓA

Mã số: 23.04.3898

Học Viên: ROÃN VĂN HÓA

Người HD Khoa học: TS PHẠM HỮU ĐỨC DỤC

THÁI NGUYÊN 2011

LUẬN VĂN THẠC SĨ KỸ THUẬT

TS PHẠM HỮU ĐỨC DỤC ROÃN VĂN HÓA

BAN GIÁM HIỆU KHOA SAU ĐẠI HỌC

LỜI CAM ĐOAN

Tôi xin cam đoan luận văn này là công trình do tôi tổng hợp và nghiên cứu Trong luận văn có sử dụng một số tài liệu tham khảo như đã nêu trong phần tài liệu tham khảo

LỜI NÓI ĐẦU

Trong hệ thống điều khiển hiện đại, có rất nhiều phương pháp điều khiển đảm bảo tốt chất lượng điều khiển.Trong điều khiển tự động, để điều khiển chính xác đối tượng khi chưa biết rõ được thông số, trước tiên ta phải hiểu rõ đối tượng

đó Đặc biệt đối với các đối tượng phi tuyến ta cần nhận dạng được đặc tính vào - ra của nó để đảm bảo tạo ra tín hiệu điều khiển thích nghi được lựa chọn chính xác hơn Những bộ điều khiển hiện đại thường được sử dụng như lôgic mờ, mạng nơron, mạng nơron mờ để nhận dạng và điều khiển thích nghi hệ thống phi tuyến Ngày nay trên thế giới người ta dựa vào cấu trúc mạng nơron sinh vật để làm mạng nơron nhân tạo áp dụng vào các ngành khoa học kỹ thuật

Trong thời gian của khoá học cao học, chuyên ngành Tự động hoá tại trường Đại học Kỹ thuật Công nghiệp Thái Nguyên, được sự tạo điều kiện giúp đỡ của nhà trường và thầy giáo TS Phạm Hữu Đức Dục em đã lựa chọn đề tài của mình là:

“Nghiên cứu điều khiển vị trí của phần ứng nam châm điện bằng phương pháp ứng dụng bộ điều khiển nơron dự báo” Trong quá trình thực hiện đề tài, được sự

hướng dẫn nhiệt tình của thầy giáo Tiến sĩ Phạm Hữu Đức Dục, sự giúp đỡ của bạn

bè cùng với sự nỗ lực, cố gắng của bản thân đến nay bản luận văn của em đã hoàn thành Dù đã có nhiều cố gắng, xong bản luận văn vẫn không tránh khỏi những thiếu sót và hạn chế, em rất mong nhận được sự góp ý của các thầy để bản luận văn của em được hoàn thiện hơn

Em xin trân trọng cảm ơn!

Roãn Văn Hóa

MỤC LỤC

Trang

Trang 1 Lời cam đoan Lời nói đầu

Mục lục

Danh mục các ký hiệu, các chữ viết tắt

Danh mục các hình vẽ, đồ thị

PHẦN MỞ ĐẦU 1

CHƯƠNG 1 - MẠNG NƠRON 4

1.1 Các khái niệm cơ bản 4

1.1.1 Mô hình nơron sinh học 4

1.1.1.1 Xử lý thông tin trong bộ não 5

1.1.1.2 Các đặc tính cơ bản của não người 5

1.1.2 Phần tử xử lý 6

1.1.3 Các loại mô hình cấu trúc mạng nơ ron 13

1.1.4 Các tính chất của mạng nơ ron 15

1.1.5 Các luật học 15

1.1.5.1 Học có giám sát 16

1.1.5.2 Học củng cố 16

1.1.5.3 Học không có giám sát 16

1.2 Các mạng nơron truyền thẳng sử dụng luật học giám sát 19

1.2.1 Mạng Adaline 19

1.2.1.1 Phần tử Adaline 19

1.2.1.2 Mạng Adaline 21

1.2.2 Mạng percepron một lớp 22

1.2.2.1 Cấu trúc 22

1.2.2.2 Luật học 23

1.2.3 Mạng truyền thẳng nhiều lớp 24

1.2.3.1 Cấu trúc 24

1.2.3.2 Luật học lan truyền ngược 25

1.3 Ứng dụng của mạng nơron trong nhận dạng và điều khiển 29

1.3.1 Các vấn đề chung 29

1.3.2 Mô tả toán học ở dạng rời rạc 30

1.3.3 Ứng dụng của mạng nơron trong nhận dạng 32

1.3.3.1 Mô hình nhận dạng song song 32

1.3.3.2 Mô hình nhận dạng nối tiếp - song song 34

1.3.4 Ứng dụng của mạng nơron trong điều khiển 35

1.3.4.1 Điều khiển ngược thích nghi 35

1.3.4.2 Điều khiển ngược thích 36

1.3.4.3 Mô hình điều khiển phi tuyến 37

1.3.4.4 Mô hình điều khiển dự báo 37

1.3.4.5 Điều khiển thích nghi theo mô hình mẫu hoặc điều khiển nơron thích nghi 38

1.3.4.6 Đánh giá thích nghi 39

1.3.4.7 Phản hồi tuyến tính hóa phản hồi thích nghi dùng mạng nơron 40

1.3.4.8 Điều khiển thích nghi trực tiếp ổn định 41

1.3.4.9 Những hạn chế và chú ý 42

Kết luận chương 1 44

CHƯƠNG 2 – MÔ HÌNH NƠ RON, MẠNG NƠ RON TRUYỀN THẲNG, MÔ HÌNH SIMULINK NEURAL TOOLBOX CỦA MATLAB VÀ ỨNG DỤNG CỦA MATLAB TRONG ĐIỀU KHIỂN 46

2.1 Mô hình nơron và mạng nơron truyền thẳng 46

2.1.1 Nơron có tín hiệu vào ở dạng véc tơ 46

2.1.2 Một lớp nơron 47

2.1.3 Mạng nơron truyền thẳng nhiều lớp 49

2.2 Simulink neural toolbox của matlab 51

2.2.1 Khối các hàm chuyển đổi 51

2.2.2 Khối đầu vào 51

2.2.3 Khối các hàm trọng số 52

2.2.4 Khối các hệ thống điều khiển 52

2.2.5 Hàm gensim 52

2.3 Các mô hình ứng dụng mạng nơron của Matlab trong điều khiển 53

2.3.1 Bộ điều khiển dự báo sử dụng mạng nơron 55

2.3.1.1 Nhận dạng đối tượng 55

2.3.1.2 Điều khiển dự báo 56

2.3.2 Bộ điều khiển Narma - L2 57

2.3.2.1 Quá trình nhận dạng 57

2.3.2.2 Bộ điều khiển NARMA-L2 59

2.3.3 Bộ điều khiển theo mô hình mẫu 61

2.4 Nhập và xuất dữ liệu 62

2.5 Nhập và xuất dữ liệu huấn luyện 65

Kết luận chương 2 68

CHƯƠNG III ỨNG DỤNG BỘ ĐIỀU KHIỂN NƠRON DỰ BÁO VÀO ĐIỀU KHIỂN VỊ TRÍ CỦA PHẦN ỨNG NAM CHÂM ĐIỆN 69

3.1 Mô tả đối tượng điều khiển là vị trí của phần ứng nam châm điện 69

3.2 Ứng dụng bộ điều khiển nơron dự báo vào điều khiển vị trí 71

của phần ứng nam châm điện

3.2.1 Thiết lập sơ đồ điều khiển 71

3.2.2 Quá trình mô phỏng 71

Kết luận chương 3 78

CHƯƠNG IV: KẾT LUẬN CHUNG VÀ KIẾN NGHỊ 79

4.1 Kết luận chung 79

4.2 Kiến nghị 79

TÀI LIỆU THAM KHẢO 80

DANH MỤC CÁC CHỮ VIẾT TẮT, TIẾNG NƯỚC NGOÀI

DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ

mạng nơron

24 Hình 2.2 Mô hình nơron thu gọn

tượng, sử dụng trong bước điều khiển tìm tín hiệu điều khiển u

dùng mạng nơron đã được cài đặt trong NEURAL NETWORK TOOLBOX

49 Hình 3.1 Hệ thống treo bóng từ

phần ứng nam châm điện

hiện quá trình nhận dạng

ứng của nam châm điện

nơ ron dự báo

vào; Tín hiệu ra của đối tượng; Tín hiệu ra của mạng nơron; Sai lệch

thị vị trí y sau khi thực hiện điều khiển

PHẦN MỞ ĐẦU

1 Tính cấp thiết của đề tài

Bộ não của con người là một sản phẩm hoàn hảo của tạo hóa, có khả năng học và tư duy sáng tạo Hiện nay, trong lĩnh vực điều khiển, con người đang cố gắng tiếp cận bộ não của mình Để tiếp cận khả năng tư duy của bộ não, người ta sử dụng khả năng suy diễn của hệ mờ (Fuzzy systems) dựa trên các luật logic mờ Để tiếp cận khả năng học, người ta đưa ra mô hình mạng nơ ron (Neural networks) gồm các nơ ron liên kết với nhau thành mạng phỏng theo cấu trúc mạng thần kinh con người Mỗi một nơ ron riêng lẻ có tốc độ xử lý thông tin thấp, nhưng khi các nơ ron được ghép thành mạng thì tốc độ xử lý thông tin của nó rất cao Cấu trúc của mạng

nơ ron là điều rất đáng được quan tâm, vì việc nghiên cứu riêng lẻ mỗi nơ ron đã được chỉ ra là không có ý nghĩa khoa học mà cần nghiên cứu khi chúng được liên kết với nhau thành mạng

Trong công nghiệp tự động hoá giữ một vai trò quan trọng trong quá trình sản xuất Nhận dạng hệ thống là một trong những công việc đầu tiên phải thực hiện khi giải quyết một bài toán điều khiển tự động, nó quyết định chất lượng và hiệu quả của công việc điều khiển hệ thống về sau Để điều khiển chính xác đối tượng khi chưa biết rõ được thông số, trước tiên ta phải hiểu rõ đối tượng đó

Nam châm điện là đối tượng phi tuyến cho nên việc điều khiển chúng rất khó khăn đòi hỏi phải có độ chính xác cao Vì vậy ta dùng bộ điều khiển thông minh như nơ ron

2 Ý nghĩa khoa học và thực tiễn của đề tài

2.1 Ý nghĩa khoa học

Điều khiển tự động đóng vai trò quan trọng trong sự phát triển của khoa học và kỹ thuật Lĩnh vực này hữu hiệu khắp nơi từ hệ thống điều khiển trong các quy trình sản xuất hiện đại, và ngay cả trong đời sống hàng ngày …

Phần lớn việc điều khiển vị trí của phần ứng nam châm điện từ trước tới nay thường được dựa trên lý thuyết điều khiển tuyến tính Theo đó, các yếu tố phi tuyến, bất định trong mô hình động học của nam châm điện được bỏ qua và động học của nam châm điện được xấp xỉ bằng các mô hình tuyến tính Sự phát triển của khoa học kỹ thuật đã tạo

ra thách thức trong vấn đề nâng cao độ chính xác điều khiển vị trí của phần ứng nam châm điện Do đó đề tài sẽ đề cập tới việc điều khiển vị trí của phần ứng nam châm điện bằng phương pháp ứng dụng bộ điều khiển nơ ron dự báo.

2.2 Ý nghĩa thực tiễn

Kết quả nghiên cứu của đề tài có thể làm cơ sở cho việc thiết kế các hệ thống điều khiển vị trí của phần ứng nam châm điện, đặc biệt làm tài liệu hỗ trợ cho việc học tập của sinh viên

3 Mục đích nghiên cứu

Nghiên cứu ứng dụng mạng nơron trong quá trình nhận dạng và điều khiển

hệ thống phi tuyến nói chung Đặc biệt nghiên cứu sâu hơn về việc ứng dụng bộ điều khiển nơ ron dự báo nhận dạng hệ thống được điều khiển, làm cơ sở cho việc tạo ra tín hiệu điều khiển i(t) (dòng điện một chiều) sao cho đối tượng cần điều

khiển y(t) (vị trí phần ứng) bám theo được y(t) mẫu

4 Đối tượng nghiên cứu

Đối tượng nghiên cứu của đề tài là: “Nghiên cứu điều khiển vị trí của phần

ứng nam châm điện bằng phương pháp ứng dụng bộ điều khiển nơ ron dự báo”

5 Nhiệm vụ nghiên cứu

* Nghiên cứu ứng dụng của mạng nơron trong nhận dạng và điều khiển

* Tìm hiểu về động học vị trí của phần ứng nam châm điện

* Ứng dụng bộ điều khiển nơ ron dự báo điều khiển vị trí phần ứng nam

châm điện

* Mô phỏng kết quả bằng phần mềm Matlab Simulink trên máy tính

6 Phương pháp nghiên cứu

a Tham khảo sách giáo khoa, giáo trình, bài báo, luận văn và các tài liệu liên quan đến đề tài

b Tiến hành khảo sát thí nghiệm bằng mô phỏng và hiệu chỉnh

c Đánh giá và kết luận

7 Cấu trúc của luận văn

Nội dung của luận văn được chia làm 4 chương:

Chương 1 - Mạng nơ ron

Chương 2 - Mô hình nơ ron, mạng nơ ron truyền thẳng, mô hình Simulink neural toolbox của Matlab và ứng dụng của Matlab Simulink trong điều khiển

Chương 3 - Ứng dụng bộ điều khiển nơ ron dự báo vào điều khiển vị trí của phần ứng nam châm điện

Chương 4 - Kết luận và kiến nghị

CHƯƠNG 1 - MẠNG NƠ RON

1.1 CÁC KHÁI NIỆM CƠ BẢN

1.1.1 MÔ HÌNH NƠRON SINH HỌC

Bộ não con người có khoảng 1011 nơron sinh học ở nhiều dạng khác nhau Mô hình của một dạng nơ ron sinh học được mô tả trên hình vẽ Cấu trúc chung của một nơron sinh học gồm ba phần chính là thân, bên trong có nhân, cây và trục Cây gồm các dây thần kinh liên kết với thân Trục có cấu trúc đơn, dài liên kết với thân Phần cuối của trục có dạng phân nhánh Trong mỗi nhánh có một cơ cấu nhỏ

là khớp thần kinh, từ dây nơron sinh học này liên kết bằng tín hiệu tới các nơron khác Sự thu nhận thông tin của nơron sinh học được thực hiện từ cây hoặc thân của

nó Tín hiệu thu, nhận ở dạng các xung điện

Hình 1.1 Mô hình một dạng nơron sinh học

Mỗi tế bào thần kinh có một màng, nhiệm vụ của nó là giữ cho các chất nuôi

tế bào không tràn ra ngoài Ở phần tử nội bào và ngoại bào có dung dịch muối lỏng làm cho chúng bị phân ra thành các ion âm và các ion dương Các ion dương có trong màng tạo ra điện thế màng với trạng thái cân bằng lực: lực đẩy của các ion dương ra khỏi tế bào cân bằng với lực hút chúng vào trong tế bào

Điện thế màng là phần tử quan trọng trong quá trình truyền tin của hệ thần kinh Khi thay đổi khả năng thẩm thấu ion của màng thì điện thế màng của tế bào bị thay đổi và tiến tới một ngưỡng nào đó, đồng thời sinh ra dòng điện, dòng điện này

gây ra phản ứng kích thích làm thay đổi khả năng thẩm thấu ion của các tế bào thần kinh tiếp theo

1.1.1.1 Xử lý thông tin trong bộ não

Thông tin được tiếp nhận từ các giác quan và chuyển vào các tế bào thần kinh vận động và các tế bào cơ Tại mỗi tế bào thần kinh tiếp nhận thông tin, điện thế của

nó tăng lên, nếu điện thế này vượt ngưỡng sẽ tạo dòng điện trong tế bào thần kinh, ý nghĩa dòng điện đó được giải mã và lưu ở thần kinh trung ương, kết quả xử lý thông tin được gửi đến các tế bào cơ

Các tế bào thần kinh đều đưa ra các tín hiệu giống nhau, do đó không thể phân biệt được đó là tế bào thần kinh của loài động vật nguyên thủy hay cuả một giáo sư đáng kính Các khớp thần kinh chỉ cho phép các tín hiệu phù hợp qua chúng, còn các tín hiệu khác thì bị cản lại Lượng tín hiệu đã được biến đổi được gọi là cường

độ khớp thần kinh – đó chính là trọng số của nơron trong mạng nơron

Tại sao việc nghiên cứu về mạng thần kinh lại có tầm quan trọng như vậy? Có thể trả lời ngắn gọn là do sự giống nhau của các tín hiệu của tế bào thần kinh đơn lẻ, nên chức năng thật sự của bộ não không phụ thuộc vào vai trò của một tế bào thần kinh, mà phụ thuộc vào toàn bộ các tế bào thần kinh, tức là phụ thuộc vào kiểu kết nối của các tế bào thần kinh liên kết với nhau để tạo nên một mạng thần kinh hay một mạng nơron

1.1.1.2 Các đặc tính cơ bản của não người

- Tính phân lớp: Các vùng trong bộ não được phân thành nhiều lớp, ở đó thông tin được xử lý theo tính chất tương ứng của mỗi lớp đặc thù

- Tính mô đun: Các vùng của bộ nhớ được phân thành các mô đun được mã hóa bằng các định nghĩa mối quan hệ tích hợp giữa các tín hiệu vào qua các giác quan với các tín hiệu ra

- Mối liên kết: Liên kết giữa các lớp dẫn đến các dữ liệu dùng chung được xem như các liên hệ phản hồi khi truyền tín hiệu

- Xử lý phân tán các tín hiêu vào: Các tín hiệu vào được truyền qua nhiều kênh thông tin khác nhau, được xử lý bởi các phương pháp đặc biệt

ra (MISO) (Hình1.2) mô tả mô hình của phần xm-1 wi(m-1) wim=bi

tử xử lý (hay mô hình một nơron) thứ i, dạng xm=-1

M – P trong đó có các phần sau đây Hình1.2 Mô hình phần tử xử lý

(mô hình một nơron) thứ i, dạng M-P

Tín hiệu đầu vào

Có m tín hiệu đầu vào Trong đó (m-1) tín hiệu là tín hiệu kích thích ở đầu vào

là (x1, , xj,…, xm-1), chúng được lấy từ đầu ra của các nơron được đặt trước nơron

này hoặc được lấy từ các nguồn tín hiệu đầu vào khác Các tín hiệu kích thích đầu

giữa các nơron thứ j (j= 1,2,…,m-1) với nơron thứ i Trọng số liên kết có giá trị

dương tương ứng với khớp thần kinh bị kích thích, ngược lại có giá trị âm tương

ứng với khớp thần kinh bị kiềm chế

Riêng thành phần tín hiệu vào thứ m là xm được gọi là ngưỡng (threshold) có

giá trị xm = -1 Tín hiệu xm được đưa qua thành phần dịch chuyển (bias) bi

thích đầu vào với giá trị trọng lượng của ngưỡng, nếu tổng trọng của (m - 1) đầu

vào vượt qua trọng lượng của ngưỡng thì nơron ở trạng thái bị kích thích để tao ra

Thành phần bi về cơ bản giống với trọng số wij, nó chỉ khác là luôn liên kết tín

hiệu xm = -1 Do đó cũng có thể coi b i là trong số liên kết thứ m là wm của nơron thứ

ị Nối với tín hiệu thứ m là xm luôn có giá trị là -1 Viết lại biểu thức (1.2) ở dạng

Hàm chuyển đổi (tranferfunction), có tài liệu gọi là hàm hoạt hóa activation

function, có nhiệm vụ biến đổi tổng trọng vi (hoặc neti) thành tín hiệu đầu ra yi:

yi = ăneti) = ăvi) (1.4) Trong đó ặ) là ký hiệu của hàm chuyển đổị

Có các dạng chuyển đổi thường dùng như sau:

- Hàm chuyển đổi dạng giới hạn cứng

Hàm chuyển đổi dạng giới hạn cứng, (hình 1.3a) còn có tên gọi là hàm chuyển đổi

dạng bước nhảy có biểu thức sau:

1 nếu v0

ăv) = sgn(v) =

0 nếu v< 0 (1.5)

- Hàm chuyển đổi dạng giới hạn cứng đối xứng

Hàm chuyển đổi dạng giới hạn cứng đối xứng (symmetric hard limit tranfer

function), còn gọi là hàm dấu (hình 1.3b) có biểu thức như sau:

1 nếu v0

ăv) = sgn(v) =

-1 nếu v< 0 (1.6) Các nơron có hàm chuyển đổi ặ) ở dạng hàm giới hạn cứng đối xứng được gọi là

phần tử ngưỡng tuyến tính (Linear Threshold Unit - LTU)

- Hàm chuyển đổi dạng tuyến tính bão hòa

Hàm chuyển đổi dạng tuyến tính bão hòa, (hình 1.3c), có biểu thức sau:

1 nếu v> 0

ăv) = v nếu 0 v1 (1.7)

0 nếu v<1

- Hàm chuyển đổi dạng tuyến tính bão hòa đối xứng

Hàm chuyển đổi dạng tuyến tính bão hòa đối xứng, (hình 1.3d), có biểu thức sau: -1 nếu v<-1

ăv) = v nếu -1 v1 (1.8)

0 nếu v>1

- Hàm chuyển đổi dạng sigmoid

Hàm chuyển đổi dạng sigmoid, (hình1.3e), có biểu thức sau:

a (v) = v

e

1

1 (1.9)

- Hàm chuyển đổi dạng hypebolic

Hàm chuyển đổi dạng hypebolic, hình (1.3f), có dạng sau:

a (v)=

v

e

1

2

- 1 (1.10)

trong đó >0 là hệ số tốc độ của các dạng hàm chuyển đổi (1.9), (1.10)

Các nơron có hàm chuyển đổi ặ) ở các dạng hàm sigmoi hoặc tang hypecbolic

được gọi là phần tử mức tuyến tính

Mạng nơron thường sử dụng các nơron ở các dạng LTU và LGỤ

- Hàm chuyển đổi dạng tuyến tính

Hàm chuyển đổi dạng tuyến tính (hình1.3g), có biểu thức sau:

ăv) = v (1.11)

Hình 1.3e Hàm sigmoid

có m đầu vào là [x1,x2,…,xm] và có một đầu ra là yi Trong đó thành phần trọng số thứ m là wim = bi được nối với tín hiệu đầu vào thứ m là xm = -1, nhưng không nhất thiết nơ ron nào cần cũng phải có phần tử này

1.1.3 Các loại mô hình cấu trúc mạng nơron

Mạng nơron bao gồm sự liên kết của nhiều nơron Đầu ra của mỗi nơron kết nối với các nơron khác thông qua các trọng số, hoặc tự phản hồi trở về đầu vào của cấu trúc của mạng nơron là kiểu kết nối hình học của mỗi nơron liên kết trong mạng, đây là một đặc điểm quan trọng của từng mạng nơron, dựa vào đó tiến hành phân loại chúng (Hình 1.5) mô tả một số loại nơron thường gặp

(Hình 1.5a) mô tả mạng truyền thẳng một lớp (single - layer feedforward networks) có đặc điểm tất cả các nơron đều nhận tín hiệu vào từ nguồn bên ngoài qua các biến trọng số và mỗi nơron đều cho ra một tín hiệu ra

(Hình 1.5b) mô tả mạng truyền thẳng nhiều lớp (Multilayrer feedforward networks) Lớp vào (Input layer) gồm các nơron nhận trực tiếp các tín hiệu vào lấy

từ bên ngoài Lớp ra (Output layer) gồm các nơron có các tín hiệu ra, đưa ra bên ngoài mạng Lớp ẩn (hidden layer) gồm các nơron còn lại không nhận trực tiếp các tín hiệu vào lấy từ bên ngoài và không cung cấp tín hiệu ra cho bên ngoài mạng, nó chỉ có nhiệm vụ truyền tín hiệu từ các nơron ở lớp vào đến các nơron ở lớp ra Mạng nơron truyền thẳng nhiều lớp có một lớp vào, một lớp ra, có thể không có hoặc có nhiều lớp ẩn Một mạng được gọi là liên kết đầy đủ nếu mỗi nơron ở các lớp trước liên kết với tất cả các nơron ở lớp ngay sau nó Mạng nơron ở hình 1.5b là loại mạng nơron truyền thẳng có 3 lớp, có liên kết không đầy đủ

Nếu mạng nơron có các tín hiệu đầu ra được đưa ngược trở lại đầu vào của các nơron ở các lớp trước nó hoặc chính nó thì mạng đó được gọi là mạng phản hồi (Feedback network)

Mạng phản hồi ở các vòng kín được gọi là mạng hồi quy (recurrent network) (Hình 1.5c) mô tả một loại mạng hồi quy đơn giản nhất, chỉ có một nơron có tín hiệu ra tự phản hồi về đầu vào của chính nó

Mạng một lớp có liên kết phản hồi như (hình 1.5d) có đặc điểm tín hiệu đầu

ra của mỗi nơron được đưa ngược trở lại đầu vào của chính nó hoặc của các nơron khác được gọi là mạng hồi quy một lớp

x1

x2

xm

(f)

(Hình 1.5e) mô tả mạng cấu trúc ngang - hạn chế (Lateral-inhibition network), mạng này có 2 loại tín hiệu đầu vào khac nhau: các đầu vào kích thích (Exitatory inputs) ứng với các tín hiệu vào có gắn kí hiệu vòng rỗng (0) và đầu vào hạn chế (Inhibition inputs) với các tín hiệu vào có gắn kí hiệu vòng đặc()

(Hình 1.5f) mô tả mạng hồi quy nhiều lớp

Hình 1.5 Cấu trúc của một số loại mạng nơron thường gặp

(b) Mạng nơron truyền thẳng nhiều lớp

(c) Mạng nơron chỉ có một nơron tự hồi quy

(d) Mạng nơron hồi quy một lớp

(e) Mạng có cấu trúc ngang - hạn chế

(f) Mạng nơron hồi quy nhiều lớp

y1

y2

yn

Mạng nơron sử dụng hai nhóm luật học:

nhóm các luật học thông số (Parameter learning rules) và nhóm các luật học cấu trúc (Structure learning rules)

của trọng số liên kết các nơron trong mạng

Các luật học trong nhóm học cấu trúc có nhiệm vụ đưa ra cấu trúc hợp lý của mạng như thay đổi số lượng nơron hay thay đổi số lượng liên kết của các nơron có trong mạng

Hai nhóm luật học trên có thể được áp dụng đồng thời (khi đó gọi là các luật học lai - hybrid learning rules) học cả cấu trúc và thông số, hoặc được áp dụng riêng

rẽ

Sau đây trình bày các luật học thông số với các giả thiết :

Cấu trúc của mạng nơron gồm số lượng lớp nơron, số lượng nơron và cách thức liên kết của các trọng số có trong mạng đã hợp lý

Ma trận trọng số đã bao gồm tất cả các phần tử thích ứng

Nhiệm vụ của học thống số là đưa ra phương pháp nào đó để tìm ra ma trận trọng số điều chỉnh từ ma trận trọng số tùy chọn ban đầu với cấu trúc của mạng nơron đã được xác định từ trước, thỏa mãn điều kiện sai lệch trong phạm vi cho phép

Để làm được việc đó, mạng nơron sử dụng các phương pháp học thích ứng

để tính toán được các ma trận trọng số điều chỉnh w đặc trưng cho mạng Có 3 kiểu học là: Học có giám sát, học củng cố và học không có giám sát

1.1.5.2 Học củng cố

Trong quá trình học giám sát, giả thiết rằng đáp ứng đầu ra của mạng đã đạt được giá trị mong muốn nhưng ở một mẫu vào – ra nào đó bị cho rằng có kết quả không đáng tin cậy, vì vậy cần phải tiến hành kiểm tra lại mẫu nói trên Khi đó chỉ

có một bit tín hiệu của mẫu cần kiểm tra đóng vai trò là tín hiệu củng cố được đưa vào mạng để góp phần khẳng định kết quả quá trình học có giám sát đúng hay sai Kiểu học này được gọi là kiểu học củng cố (hình 1.6b) Kiểu học này cũng có tín hiệu củng cố được lấy từ bên ngoài nên nó chỉ là một trường hợp đặc biệt của kiểu học có giám sát

1.1.5.3 Học không có giám sát

Kiểu học này có đặc điểm là không có tín hiệu lấy từ bên ngoài Mạng cần phải tự minh tìm ra các mẫu, nét đặc trưng, sự tương thích, phân loại trong dữ liệu đầu vào và mã hóa thành các mẫu ở đầu ra Trong quá trình học không giám sát (Hình 1.6c) nếu mạng không thay đổi thông số của nó thì được gọi là tự tổ chức (self-organizing)

(Hình 1.7) trình bày luật học trong số ở dạng cơ bản nhất cho nơron thứ i Trong đó véc tơ tín hiệu vào: x = [(x1,x2,…, xj, xm]T có thể được lấy từ các nơron khác hoặc được lấy từ bên ngoài Thành phần thông số ngưỡng có thể được thay thế

wim= bi

Véc tơ trọng số liên kết của nơron thứ i là : wi = [ wi1, wi2,…, wim]T

Hình 1.6 Sơ đồ ba kiểu học của mạng nơron

(a) Học có giám sát (b) Học củng cố (c) Học không có giám sát

Mạng nơron

W

Máy phát tín hiệu sai lệch

Tín hiệu sai lệch

(a)

Tín hiệu vào

Mạng nơron

Mạng nơron

W

Máy phát tín hiệu đánh giá

- Yêu cầu đối với hai kiểu học có giám sát và học củng cố

được điều chính theo giá các trị của tín hiệu vào, tín hiệu đầu ra và tín hiệu đầu ra mong muốn của nó Nghĩa là cần đưa ra một luật học với mục đích là thay đổi vectơ trọng số wi sao cho các tín hiệu đầu ra của nơron thứ i là yi bám theo được tín hiệu đầu ra mong muốn di (hình 1.7)

- Yêu cầu đối với kiểu học không có giám sát

Trọng số của nơron thứ i chỉ phụ thuộc vào giá trị của sự kết hợp của tín hiệu đầu vào and/or với tín hiệu đầu ra

Nói chung các luật học trọng số đều có sự thay đổi giá trị của véctơ trọng số liên kết của nơron thứ i là wi tại thờ điểm t phù hợp với tín hệu học r và tín hệu vào x(t):

của mạng, thông thường 0 <  < 1

Tín hiệu học r thông thường phụ thuộc vào wi, x, di

Nơron thứ i

Máy phát tín hiệu học

wim=bi

Biểu thức tính véc tơ trọng số của nơron thứ i tại (t+1) như sau:

Cấu trúc

Chỉ có nơron tuyến tính

Tín hiệu vào x có dạng vectơ cột có m phần tử x = [ x1,x2 ,xm]Tcó một tín hiệu ra y; véctơ trọng số: w = [w1,w2 ,wm]T; hàm chuyển đổi ặ) có dạng tuyến tính

Tín hiệu ra y được tính theo biểu thức:

Luật học

Cho trước bộ mẫu tín hiệu vào – ra gồm p phần tử:

{ (x(1), d(1)), (x(2), d(2)), , (x(p), d(p))} (1.18)

Trong đó mẫu tín hiệu đầu vào thứ k:

x(k) = [ x1(k) , x2(k) ,……. xm(k) ] (1.19)

Để tín hiệu ra bám theo được tín hiệu mẫu d cần điều chỉnh giá trị của trọng

số w Có nhiều phương pháp học được ứng dụng cho phần tử Adaline

Sau đây trình bày phương pháp học có giám sát gọi là luật học Adaline, còn gọi là luật học Widrow-Hoff , và luật học bình phương trung bình cực tiểu

với  là hằng số học cần được chọn giá trị nhỏ

Luật cập nhật tìm trọng số tại thời điểm (t+1):

wj (t+1) = wj(t) +wj (1.22)

+ Luật học LMS

Tín hiệu học r được tính theo biểu thức :

r = d - y = d - wTx (1.23) Lượng điều chỉnh trọng số wj được tính theo biểu thức :

(Hình 1.9) mô tả sơ đồ cấu trúc của mạng Adaline có 2 phần tử Adaline (n = 2)

.Trong đó bao gồm vecto tín hiệu vào x = [x1,x2]T, vectơ tín hiệu ra y = [y1, y2]T

Sử dụng luật học Adaline (hay luật học Widrow- Hoff) Căn cứ vào kết quả đã

đạt được của phần tử adaline ở phần trên, có được trung bình bình phương sai

lệch của mạng Adaline được biểu diễn như sau:

Để E đạt cực tiểu, sử dụng phương pháp hạ gradient tìm giá trị điều chỉnh trọn

sốwij của phần tử mẫu vào - ra thứ k theo luật học deta như sau:

Trong đó hằng số học là được chọn có giá trị nhỏ

Sử dụng hàm chuyển đổi tuyến tính: a(v) = v, trọng lượng đầu vào của phần tử thứ

i là:

Vi(k) = wiTx(k) (1.28) a’(vi(k) ) = ( )

) (

k i

k i

v

av



 (1.29)

và tín hiệu học r được tính theo biểu thức:

Mạng perceptron một lớp có cấu trúc là một lớp nơron truyền thẳng được

mô tả trên (hình 1.10).Trong đó:

Véc tơ tín hiệu vào: x = [x1, x2, x3, , xm], với j = 1,2, ,m; thành phần đầu vào thứ

m là xm -1

Véc tơ tín hiệu ra: y= [y1, y2, , yn], với i=1,2, ,n

Tín hiệu ra của mạng có biểu thức:

trong đó: ặ) là hàm chuyển đổi; wij là trọng số liên kết giữa các tín hiệu vào thứ j với nơron thứ i

Véc tơ trọng số liên kết giữa tín hiệu vào với nơron thứ i có dạng:

wi = [wi1, wi2, wi3,……… , wim]T

Véc tơ tín hiệu mẫu ra:

Xét mạng perceptron một lớp gồm có các nơron dạng LTU

Các đầu ra mong muốn di(k) có các giá trị là 1, tín hiệu ra của mạng có dạng:

Lớp ra: gồm n nơron có tín hiệu ra:

y = [y1, y2, , yi, , ym]T, với i =1,2 ,n

Các lớp ẩn: có thể có một hoặc nhiêu lớp ẩn, với đặc điểm là các nơron thứ q ở

lớp ẩn liên kết với lớp vào bằng trọng số vqj và liên kết với lớp ra bằng trọng số wiq ;

với q = 1, 2, , l; i = 1, 2, , n; j = 1, 2, , m

Giai đoạn thứ hai: sai lệch lan truyền theo chiều ngược từ đầu ra trở về đầu vào

x1 v11 w11 y1

xj v1j vqj w1q wiq yi vmj wnq

1.2.3.2 Luật học lan truyền ngƣợc

Bryson và Ho đã đề xuất luật học lan truyền ngược cho mạng truyền thẳng

nhiều lớp vào năm 1969

Cho trước bộ cặp mẫu tín hiệu vào – ra {(x(k),d(k))} với k = 1,2, ,p, luật học

lan truyền ngược thực hiện giai đoạn trong quá trình học cặp giữ liệu mẫu

Ở giai đoạn đầu, bộ mẫu tín hiệu đầu vào x lan truyền theo chiều thuận từ lớp

vào qua các lớp ẩn đến lớp ra để tạo ra tín hiệu ra y

Giai đoan thứ hai, sai lệch e = (d - y) được lan truyền theo hướng ngược lại từ

lớp ra qua các lớp ẩn trở về lớp vào, có nhiệm vụ điều chỉnh lại giá trị trọng số giữa

các lớp sao cho tín hiệu ra y bám theo dược tín hiệu mẫu đầu ra d

) (

i

i

v

v a

v v

z z

q v

z z

Để tiện cho việc tính toán, nên sử dụng các công thức tính tín hiệu sai lệch đã

được cho sẵn sau đây ứng với trường hợp sử dụng hàm chuyển đổi ặ) sau đây:

- Nếu sử dụng ặ) có dạng hàm sigmoid:

y = ăv) =

v

e

1

1 nên ta có a’(v) = y(1- y) (1.50)

tìm các công thức tính tín hiệu sai lệch như sau:

0i=

2

1(1 - y2)[di - yi] (1.54)

hq=

2

1(1- zq2) 



n

i iq

oi w

1

 (1.55)

Các bước thực hiện

Với mạng truyền thẳng có S lớp; s

vi và s

yi tương ứng là tổng trọng và gía trị đầu

ra của nơron thứ i của lớp thứ s ;s

wij là các trọng số nối từ s 1

yj đến s

yi(s=1,2,…,S); có m nơron và n nơron ở lớp ra

Ban đầu

Thiết lập bộ dữ liệu mẫu vào- ra (x(k),d(k)) với k=1,2,…,p

Bước 1

Thiết lập trạng thái ban đầu cho mạng :

Chọn >0 vàEcp (Ecp là sai lệch cho phép );

Các trọng số ban đầu với giá trị nhỏ và ngẫu nhiên;

Bước 3 (quá trình truyền thẳng)

Quá trình truyền thẳng của tín hiệu trong mạng theo công thức:

Tính toán sai lệch đầu ra:

Xác định giá trị sai lệch và tín hiệu sai lệch s i cho lớp đầu ra: