Tổng quan mạng nơron, đi sâu nghiên cứu mạng nơron truyền thẳng nhiều lớp Nghiên cứu bộ điều khiển nơron theo mô hình mẫu Nghiên cứu động học của bể khuấy Nghiên cứu các bộ điều khiển
Trang 1PHẦN MỞ ĐẦU I.Tính cấp thiết của đề tài
Bộ não con người là sản phẩm hoàn hảo của tạo hoá Để tiếp cận khả năng
tư duy của bộ não, người ta sử dụng khả năng suy diễn của hệ mờ dựa trên các luật logic mờ Để tiếp cận khả năng học, người ta đưa ra mô hình mạng nơron,
do vậy cấu trúc mạng nơron là điều rất đáng được quan tâm Để tiếp cận cả hai khả năng học và tư duy của bộ não người, người ta nghiên cứu khả năng tích hợp của mạng nơron và hệ mờ Trong công nghiệp tự động hoá giữ một vai trò quan trọng trong quá trình sản xuất Nhận dạng hệ thống là một trong những công việc đầu tiên phải thực hiện khi giải quyết một bài toán điều khiển tự động,
nó quyết định chất lượng và hiệu quả của công việc điều khiển hệ thống về sau
Để điều khiển chính xác đối tượng khi chưa biết rõ được thông số, trước tiên ta phải hiểu rõ đối tượng đó Bộ điều khiển nơron theo mô hình mẫu là phần tử phi tuyến, nên điều khiển nó rất khó, đòi hỏi phải có độ chính xác cao Vì vậy cần ứng dụng bộ điều khiển thông minh là BĐK nơron theo mô hình mẫu Được sự tạo điều kiện giúp đỡ của nhà trường và Tiến sỹ Phạm Hữu Đức Dục, em đã lựa chọn đề tài tốt nghiệp của mình là “Nghiên cứu điều khiển nồng độ của sản phẩm trong bể chứa có khuấy bằng phương pháp ứng dụng bộ điều khiển nơron theo mô hình mẫu.”
II Ý nghĩa khoa học và thực tiễn của đề tài
1 Ý nghĩa khoa học
Điều khiển tự động đóng vai trò quan trọng trong sự phát triển khoa học và
kỹ thuật Lĩnh vực này hữu hiệu khắp nơi từ hệ thống điều khiển trong các quy trình sản xuất hiện đại, và ngay cả trong đời sống hàng ngày …
Mô hình điều khiển theo mô hình mẫu để điều khiển đối tượng, sao cho tín hiệu cần điều khiển bám theo được tín hiệu của mô hình mẫu Mô hình mạng
Trang 2
nơron được sử dụng để hỗ trợ trong qúa trình học của bộ điều khiển Do đó đề tài sẽ đề cập tới việc ứng dụng bộ điều khiển theo mô hình mẫu để điều khiển nồng độ của sản phẩm trong một bể chứa phản ứng có khuấy
2 Ý nghĩa thực tiễn
Kết quả nghiên cứu của đề tài có thể làm cơ sở cho việc thiết kế các mô hình điều khiển theo mô hình mẫu trong các nhà máy công nghiệp, đặc biệt làm tài liệu hỗ trợ cho việc học tập của sinh viên đại học và học viên cao học
III Mục đích của đề tài
Nghiên cứu ứng dụng mạng nơron trong quá trình nhận dạng và điều khiển
hệ thống phi tuyến nói chung Đặc biệt nghiên cứu sâu hơn về việc ứng dụng bộ điều khiển nơron theo mô hình mẫu hệ thống được điều khiển, làm cơ sở cho việc tạo ra tín hiệu điều khiển thích nghi được lựa chọn chính xác
Tổng quan mạng nơron, đi sâu nghiên cứu mạng nơron truyền thẳng nhiều lớp
Nghiên cứu bộ điều khiển nơron theo mô hình mẫu
Nghiên cứu động học của bể khuấy
Nghiên cứu các bộ điều khiển nơron dự báo, bộ điều khiển NAMA-L2, bộ điều khiển nơron theo mô hình mẫu và bộ điều khiển nơron dự báo
Nghiên cứu các phương pháp nhận dạng điều khiền
Ứng dụng bộ điều khiển nơron theo mô hình mẫu để điều khiển nồng độ của sản phẩm trong bể chứa phản ứng có khuấy
IV Đối tƣợng nghiên cứu
Nồng độ của sản phẩm trong bể chứa phản ứng có khuấy
Trang 3V Nhiệm vụ nghiên cứu
bằng phương pháp ứng dụng bộ điều khiển nơron theo mô hình mẫu
VI Phương pháp nghiên cứu
Tìm hiểu tài liệu và các công trình nghiên cứu liên quan tới bộ điều khiển nơron theo mô hình mẫu
Lựa chọn đối tượng, mô tả toán học và nghiên cứu mô hình hóa mô phỏng
Lựa chon các giải pháp phù hợp cho 1 lớp đối tượng
Trang 4CHƯƠNG 1 MẠNG NƠRON
1.1 CÁC KHÁI NIỆM CƠ BẢN
1.1.1 Mô hình nơron sinh học
.Mô hình của một dạng nơron sinh học được mô tả trên hình vẽ Cấu trúc chung của một nơron sinh học gồm ba phần chính là thân, bên trong có nhân, cây và trục Cây gồm các dây thần kinh liên kết với thân Trục có cấu trúc đơn, dài liên kết với thân Phần cuối của trục có dạng phân nhánh Trong mỗi nhánh có một
cơ cấu nhỏ là khớp thần kinh, từ dây nơron sinh học này liên kết bằng tín hiệu tới các nơron khác Sự thu nhận thông tin của nơron sinh học được thực hiện từ cây hoặc thân của nó Tín hiệu thu, nhận ở dạng các xung điện
Hình 1.1 Mô hình một dạng nơron sinh học
Mỗi tế bào thần kinh có một màng, nhiệm vụ của nó là giữ cho các chất nuôi tế bào không tràn ra ngoài Ở phần tử nội bào và ngoại bào có dung dịch muối lỏng làm cho chúng bị phân ra thành các ion âm và các ion dương Các ion
Trang 5dương có trong màng tạo ra điện thế màng với trạng thái cân bằng lực: Lực đẩy của các ion dương ra khỏi tế bào cân bằng với lực hút chúng vào trong tế bào
Điện thế màng là phần tử quan trọng trong quá trình truyền tin của hệ thần kinh Khi thay đổi thẳng thẩm thấu ion của màng thì điện thế màng của tế bào bị thay đổi và tiến tới một ngưỡng nào đó, đồng thời sinh ra dòng điện, dòng điện này gây ra phản ứng kích thích làm thay đổi khả năng thẩm thấu ion của các tế bào thần kinh tiếp theo
1.1.1.1 Xử lý thông tin trong bộ não
kinh vận động và các tế bào cơ Tại mỗi tê bào thần kinh tiếp nhận thông tin, điện thế của nó tăng lên, nếu điện thế này vượt ngưỡng sẽ tạo dòng điện trong tế bào thần kinh, ý nghĩa dòng điện đó được giải mã và lưu ở thần kinh trung ương, kết quả xử lý thông tin được gửi đến các tế bào cơ
phân biêt được đó là tế bào thần kinh của loài động vật nguyên thủy hay cuả một giáo sư đáng kính Các khớp thần kinh chỉ cho phép các tín hiệu phù hợp qua chúng, còn các tín hiệu khác thì bị cản lại Lượng tín hiệu đã được biến đổi được goi là cường độ khớp thần kinh – đó chính là trọng số của nơron trong mạng nơron
Tại sao việc nghiên cứu về mạng thần kinh lại có tầm quan trọng như vậy
? Có thể trả lời ngắn gọn là do sự giống nhau của các tín hiệu của tế bào thần kinh đơn lẻ, nên chức năng thật sự của bộ não không phụ thuộc vào vai trò của một tế bào thần kinh, mà phụ thuộc vào toàn bộ các tế bào thần kinh, tức là phụ thuộc vào kiểu kết nối của các tế bào thần kinh liên kết với nhau để tạo nên một mạng thần kinh hay một mạng nơron
1.1.1.2.Câc đặc tính cơ bản của não người
Tính phân lớp: Các vùng trong bộ não được phân thành nhiều lớp, ở đó thông tin được xử lý theo tính chất tương ứng của mỗi lớp đặc thù
Trang 6Tính mô đun: Các vùng của bộ nhớ được phân thành các mô đun được mã
hóa bằng các định nghĩa mối quan hệ tích hợp giữa các tín hiệu vào qua các
giác quan với các tín hiệu ra
xem như các liên hệ phản hồi khi truyền tín hiệu
Xử lý phân tán các tín hiêu vào: Các tín hiệu vào được truyền qua nhiều
kênh thông tin khác nhau, được xử lý bởi các phương pháp đặc biệt
tả mô hình của phần tử xử lý (mô xm= -1
hình một nơron) thứ i, dạng M-P, Hình1.2
trong đó có các phần sau đây Mô hình phần tử xử lý thứ i,dạng M-P
Tín hiệu đầu vào
Có m tín hiệu đầu vào Trong đó (m-1) tín hiệu là tín hiệu kích thích ở đầu
nơron này hoặc được lấy từ cac nguồn tín hiệu đầu vào khác Các tín hiệu kích
độ liên kết giữa các nơron thứ j (j= 1,2…….m-1) với nơron thứ i Trọng số liên
kết có giá trị dương tương ứng với khớp thần kinh bị kích thích, ngược lại có giá
trị âm tương ứng với khớp thần kinh bị kiềm chế
(bias) bi
wim = bi (1.1)
Trang 7j
WijXj +b i x m (1.2)
Thành phần bi về cơ bản giống với trọng số wij, nó chỉ khác là luôn liên
(1.2) ở dạng
Neti = V=
1 1
Hàm chuyển đổi (tranferfunction), có tài liêu gọi là hàm hoạt hóa
đầu ra yi:
yi = ăneti) = ăvi) (1.4) trong đó ặ) là ký hiệu của hàm chuyển đổi
- Hàm chuyển đổi dạng giới hạn cứng
Hàm chuyển đổi dạng giới hạn cứng như hình vẽ dưới đây còn có tên gọi
là hàm chuyển đổi dạng bước nhảy có biểu thức sau:
1 nếu v0
ăv) = sgn(v) = (1.5)
Trang 80 nếu v < 0
- Hàm chuyển đổi dạng giới hạn cứng đối xứng
Hàm chuyển đổi dạng giới hạn cứng đối xứng (symmetric hard limit tranfer
function), còn gọi là hàm dấu (Hình 1.3b) có biểu thức như sau:
1 nếu v0
ăv) = sgn(v) = (1.6)
- 1 nếu v< 0
Các nơron có hàm chuyển đổi ặ) ở dạng hàm giới hạn cứng đối xứng được
gọi là phần tử ngưỡng tuyến tính ( Linear Threshold Unit- LTU)
- Hàm chuyển đổi dạng tuyến tính bão hoà
Hàm chuyển đổi dạng tuyến tính bão hòa (Hình 1.3c), có biểu thức sau:
1 nếu v > 0
a (v) = v nếu 0 v1 (1.7)
0 nếu v <1
- Hàm chuyển đổi dạng tuyến tính bão hòa đối xứng
thức sau: -1 nếu v < -1
a (v) = v nếu -1 v 1 (1.8)
0 nếu v > 1
- Hàm chuyển đổi dạng sigmoid
- Hàm chuyển đổi dạng hypebolic
Trang 9Các nơron có hàm chuyển đổi ặ) ở các dạng hàm sigmoi hoặc tang
hypecbolic được gọi là phần tử mức tuyến tính
Mạng nơron thường sử dụng các nơron ở các dạng LTU và LGỤ
- Hàm chuyển đổi dạng tuyến tính
Hàm chuyển đổi dạng tuyến tính (Hình 1.3g) có biểu thức sau:
ăv) = v
1
0.8 0.6 0.4 0.2 0
-0.2 -0.4 -0.6 -0.8 -1
-5 -4 -3 -2 -1 0 1 2 3 4 v5
Hình 1.3 (a): Hàm giới hạn cứng 1
0.8
0.6
0.4
0.2
0
-0.2
-0.4
-0.6
-0.8
1
5 -4 -3 -2 -1 0 1 2 3 4 v5
Hình 1.3 (b ): Hàm giới hạn cứng đối xứng
Trang 11Hình 1.3 (d ): Hàm tuyến tính bão hòa đối xứng
Trang 12Mô hình ở dạng ký hiệu đơn giản của nơron thứ i được trình bày như hình
1.4 Trong đó nơron được ký hiệu là một vòng tròn được xem như là một tế bào
nhưng không nhất thiết nơron nào cũng cần phải có phần tử này
x1 wi1
Trang 13Hình 1.4 Mô hình đơn giản của nơron thứ i
1.1.3 CÁC LOẠI MÔ HÌNH CẤU TRÚC MẠNG NƠRON
Mạng nơron bao gồm sự liên kết của nhiều nơron Đầu ra của mỗi nơron kết nối với các nơron khác thông qua các trọng số, hoặc tự phản hồi trở về đầu vào của cấu trúc của mạng nơron là kiểu kết nối hình học của mỗi nơron liên kết trong mạng, đây là một đặc điểm quan trọng của từng mạng nơron, dựa vào đó tiến hành phân loại chúng Hình 1.5 mô tả một số loại nơron thường gặp
Hình 1.5a mô tả mạng truyền thẳng một lớp (single - layer feedforward networks) có đặc điểm tất cả các nơron đều nhận tín hiệu vào từ nguồn bên ngoài qua các biến trọng số và mỗi nơron đều cho ra một tín hiệu ra
Hình 1.5b mô tả mạng truyền thẳng nhiều lớp (Multilayrer feedforward networks) Lớp vào (Input layer) gồm các nơron nhận trực tiếp các tín hiệu vào lấy từ bên ngoài Lớp ra (Output layer) gồm các nơron có các tín hiệu ra, đưa ra bên ngoài mạng Lớp ẩn (hidden layer) gồm các nơron còn lại không nhận trực tiếp các tín hiệu vào lấy từ bên ngoài và không cung cấp tín hiệu ra cho bên ngoài mạng, nó chỉ có nhiệm vụ truyền tín hiệu từ các nơron ở lớp vào đến các nơron ở lớp ra Mạng nơron truyền thẳng nhiều lớp có một lớp vào, một lớp ra,
có thể không có hoặc có nhiều lớp ẩn Một mạng được gọi là liên kết đầy đủ nếu mỗi nơron ở các lớp trước liên kết với tất cả các nơron ở lớp ngay sau nó Mạng
Trang 14Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn
nơron ở hình 1.5b là loại mạng nơron truyền thẳng có 3 lớp, có liên kết không
đầy đủ
Nếu mạng nơron có các tín hiệu đầu ra được đưa ngược trở lại đầu vào
của các nơron ở các lớp trước nó hoặc chính nó thì mạng đó được gọi là mạng
phản hồi (Feedback network)
Mạng phản hồi ở các vòng kín được gọi là mạng hồi quy (recurrent
network) Hình 1.5c mô tả một loại mạng hồi quy đơn giản nhất, chỉ có một
nơron có tín hiệu ra tự phản hồi về đầu vào của chính nó
Mạng một lớp có liên kết phản hồi như hình 1.5d có đặc điểm tín hiệu đầu
ra của mỗi nơron được đưa ngược trở lại đầu vào của chính nó hoặc của các
nơron khác được gọi là mạng hồi quy một lớp
Hình 1.5e mô tả mạng cấu trúc ngang - hạn chế (Lateral-inhibition
network), mạng này có 2 loại tín hiệu đầu vào khac nhau: các đầu vào kích thích
(Exitatory inputs) ứng với các tín hiệu vào có gắn kí hiệu vòng rỗng (0) và đầu
Hình 1.1f mô tả mạng hồi quy nhiều lớp
x1
x2
xm , (b) y1
y2
yn
x1
x2 y
xm
(c) x1 y1
y2 x2
xm yn
(d) x1 y1
x2 y2
x2 yn
(a) y2
yn
yn
yn
y1
x2 y2 xm yn
(a) y1
y2
yn
Trang 15x2
xm
(f)
(e)
(b) Mạng nơron truyền thẳng nhiều lớp
(c) Mạng nơron chỉ có một nơron tự hồi quy
(d) Mạng nơron hồi quy một lớp
(e) Mạng có cấu trúc ngang - hạn chế
(f) Mạng nơron hồi quy nhiều lớp
1.1.4 CÁC TÍNH CHẤT CỦA MẠNG NƠRON
Mạng nơron có một số tính chất sau đây:
- Là hệ phi tuyến
- Là hệ xử lý song song: mạng nơron có cấu trúc song song, do đó có tốc
độ tính toán rất cao, rất phù hợp với lĩnh vực nhận dạng và điều khiển
- Là hệ học và thích nghi: Mạng được luyện từ các số liệu quá khứ, có khả năng tự điều chỉnh khi số liệu đầu vào bị mất, có thể điều khiển on-line
- Là hệ nhiều biến, là hệ nhiều đầu vào, nhiều đầu ra (MIMO) rất tiện dùng khi điều khiển đối tượng khi có nhiều biến số
1.1.5 CÁC LUẬT HỌC
Mạng nơron sử dụng hai nhóm luật học:
nhóm các luật học thông số (Parameter learning rules) và nhóm các luật học cấu
trúc (Structure learning rules)
Các luật học trong nhóm học thông số có nhiệm vụ tính toán cập nhập giá
trị của trọng số liên kết các nơron trong mạng
Hình 1.5 Cấu trúc của một số loại mạng nơron thường gặp
Trang 16Các luật học trong nhóm học cấu trúc có nhiệm vụ đưa ra cấu trúc hợp lý của mạng như thay đổi số lượng nơron hay thay đổi số lượng liên kết của các nơron có trong mạng
Hai nhóm luật học trên có thể được áp dụng đồng thời (khi đó gọi là các luật học lai - hybrid learning rules) học cả cấu trúc và thông số, hoặc được áp dụng riêng rẽ
Sau đây trình bày các luật học thông số với các giả thiết:
- Cấu trúc của mạng nơron gồm số lượng lớp nơron, số lượng nơron và cách thức liên kết của các trọng số có trong mạng đã hợp lý
- Ma trận trọng số đã bao gồm tất cả các phần tử thích ứng
Nhiệm vụ của học thống số là đưa ra phương pháp nào đó để tìm ra ma trận trọng số điều chỉnh từ ma trận trọng số tùy chọn ban đầu với cấu trúc của mạng nơron đã được xác định từ trước, thỏa mãn điều kiện sai lệch trong phạm
vào đầu vào của mạng nơron, ở đầu ra có
vụ điều chỉnh véc tơ trọng số w của mạng nơron sao cho véc tơ tín hiệu ra y của mạng bám theo được véc tơ tín hiệu ra mong muốn d, nói cách khác là để giảm thiểu sai lệch giữa chúng Như vậy kiểu học có giám sát (Hình 1.6a) có đặc điểm
là cần có tín hiệu đầu ra mong muốn d được lấy từ bên ngoài
Trang 17Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn
1.1.5.2 Học củng cố
Trong quá trình học giám sát, giả thiết rằng đáp ứng đầu ra của mạng đã đạt được giá trị mong muốn nhưng ở một mẫu vào – ra nào đó bị cho rằng có kết quả không đáng tin cậy, vì vậy cần phải tiến hành kiểm tra lại mẫu nói trên Khi
đó chỉ có một bit tín hiệu của mẫu cần kiểm tra đóng vai trò là tín hiệu củng cố được đưa vào mạng để góp phần khẳng định kết quả quá trình học có giám sát đúng hay sai Kiểu học này được gọi là kiểu học củng cố (Hình 1.6b) Kiểu học này cũng có tín hiệu củng cố được lấy từ bên ngoài nên nó chỉ là một trường hợp đặc biệt của kiểu học có giám sát
1.1.5.3 Học không có giám sát
Kiểu học này có đặc điểm là không có tín hiệu lấy từ bên ngoài Mạng cần phải tự mình tìm ra các mẫu, nét đặc trưng, sự tương thích, phân loại trong dữ liệu đầu vào và mã hóa thành các mẫu ở đầu ra Trong quá trình học không giám sát (Hình 1.6c) nếu mạng không thay đổi thông số của nó thì được gọi là tự tổ chức (self-organizing)
Hình 1.7 trình bày luật học trong số ở dạng cơ bản nhất cho nơron thứ i
nơron khác hoặc được lấy từ bên ngoài Thành phần thông số ngưỡng có thể
Mạng nơron
W
Máy phát tín hiệu
Tín hiệu
ra
d Tín hiệu
sai lệch
Trang 18
Hình 1.6 Sơ đồ ba kiểu học của mạng nơron
(a) Học có giám sát (b) Học củng cố (c) Học không có giám sát
x1 wi1
x2 wi2
Tín hiệu vào
Mạng nơron
Tín hiệu củng cố
Mạng nơron
W
Máy phát tín hiệu đánh giá
Tín hiệu vào
Tín hiệu
ra
Tín hiệu đánh giá
(b)
Trang 19- Yêu cầu đối với hai kiểu học có giám sát và học củng cố
i được điều chính theo giá các trị của tín hiệu vào, tín hiệu đầu ra và tín hiệu đầu ra mong muốn của nó Nghĩa là cần đưa ra một luật học với mục đích là
- Yêu cầu đối với kiểu học không có giám sát
Trọng số của nơron thứ i chỉ phụ thuộc vào giá trị của sự kết hợp của tín hiệu đầu vào and/or với tín hiệu đầu ra
Nói chung các luật học trọng số đều có sự thay đổi giá trị của véctơ trọng
hệu vào x(t):
Trang 201.2 CÁC MẠNG NƠRON TRUYỀN THẲNG SỬ DỤNG LUẬT HỌC GIÁM SÁT
Cấu trúc
Chỉ có nơron tuyến tính
Trang 21x(k) = [ x1
(k) , x2 (k) ,……. xm
(k) ] (1.8)
Để tín hiệu ra bám theo được tín hiệu mẫu d cần điều chỉnh giá trị của trọng số w Có nhiều phương pháp học được ứng dụng cho phần tử Adaline Sau đây trình bày phương pháp học có giám sát gọi là luật học Adaline, còn gọi là luật học Widrow-Hoff, và luật học bình phương trung bình cực tiểu
Trang 22với là hằng số học cần được chọn giá trị nhỏ
Luật cập nhật tìm trọng số tại thời điểm (t+1):
Cấu trúc: Mạng Adaline là mạng một lớp có n phần tử Adaline
Hình 1.9 mô tả sơ đồ cấu trúc của mạng Adaline có 2 phần tử Adaline(n=2)
.Trong đó bao gồm vectơ tín hiệu vào x = [x1,x2]T, vectơ tín
Trang 23Sử dụng luật học Adaline ( hay luật học Widrow- Hoff) Căn cứ vào kết quả đã đạt được của phần tử adaline ở phần trên, có được trung bình bình phương sai lệch của mạng Adaline được biểu diễn như sau
T
x(k)]2
Để E đạt cực tiểu, sử dụng phương pháp hạ gradient tìm giá trị điều chỉnh
k i
k i v
Trang 24Mạng perceptron một lớp có cấu trúc là một lớp nơron truyền thẳng được
mô tả trên hình vẽ 2.5 Trong đó:
Véc tơ tín hiệu ra: y = [y1, y2, , yn], với i=1,2, ,n,
Tín hiệu ra của mạng có biểu thức
Véc tơ trọng số liên kết giữa tín hiệu vào với nơron thứ i có dạng:
wi = [wi1, wi2, wi3,……… , wim]T
Véc tơ tín hiệu mẫu ra:
w12 w22 y2 d2 ra
x2 - +
Trang 251.2.2.2 Luật học
Cho trước bộ mẫu tín hiệu vào:
x(k)=[x1
(k),x2
]T tương ứng với bộ mẫu tín hiệu ra:
(1.22) Sau đây trinh bày luật học perceptron áp dụng cho mạng perceptron một lớp được tạo bởi noeron LTU
Xét mạng perceptron một lớp gồm có các noeron dạng LTU
Trang 26Cần phải tìm véc tơ wi của nơron thứ i sao cho khi đưa toàn bộ mẫu tín
Luật học perceptron dùng cho mạng perceptron một lớp gồm các LTU sử dụng tìm véc tơ trọng số trong quá trình học bộ mẫu vào – ra cho trước
Tín hiệu học r được lấy gần đúng sai lệch giữa tín hiệu đầu ra mong muốn
và đáp ứng đầu ra thực của nơron:
Lớp ra: gồm n nơron có tín hiệu ra:
y = [y1,y2, yi, ,ym]T, với i =1,2 ,n
Các lớp ẩn: có thể có một hoặc nhiêu lớp ẩn, với đặc điểm là các nơron thứ
số wiq ; với q = 1,2, ,l ; i = 1,2, ,n; j = 1,2, ,m
Trang 27Giai đoạn thứ hai: Sai lệch lan truyền theo chiều ngược từ đầu ra trở về
1.2.3.2 Luật học lan truyền ngƣợc
Bryson và Ho đã đề xuất luật học lan truyền ngược cho mạng truyền
thẳng nhiều lớp vào năm 1969
luật học lan truyền ngược thực hiện giai đoạn trong quá trình học cặp giữ liệu
mẫu
Ở giai đoạn đầu, bộ mẫu tín hiệu đầu vào x lan truyền theo chiều thuận từ
lớp vào qua các lớp ẩn đến lớp ra để tạo ra tín hiệu ra y
Giai đoan thứ hai, sai lệch e =(d-y) được lan truyền theo hướng ngược lại
từ lớp ra qua các lớp ẩn trở về lớp vào, có nhiệm vụ điều chỉnh lài giá trị trọng
số giữa các lớp sao cho tín hiệu ra y bám theo dược tín hiệu mẫu đầu ra d
Xét nơron thứ q của lớp ẩn có tổng trọng là:
Trang 28) (
i
i
v
v a
Trang 29q q
v v
z z
q v
z z
q
( )
(1.36) Luật cập nhật tìm trọng số tại thời điểm học (t+1):
vqj(t+1)=vqj(t)+ v qj (1.38)
wiq(t+1)=wiq(t)+w iq (1.40)
Để tiện cho việc tính toán, nên sử dụng các công thức tính tín hiệu sai
lệch đã được cho sẵn sau đây ứng với từng trường hợp sử dụng hàm chuyển đổi
ặ) sau đây:
- Nếu sử dụng ặ) có dạng hàm sigmoid:
Trang 30(s=1,2,….,S); có m nơron và n nơron ở lớp ra
Ban đầu
Bước 1
Thiết lập trạng thái ban đầu cho mạng :
Các trọng số ban đầu với giá trị nhỏ và ngẫu nhiên;
Bước 3 ( quá trình truyền thẳng)
Quá trình truyền thẳng của tín hiệu trong mạng theo công thức:
Tính toán sai lệch đầu ra:
Trang 31Lan truyền ngược của sai lệch
Quá trình lan truyền ngược của sai lệch được cập nhật các trọng số tính
- Nếu k < p, thì k = k+1 và tiến hành bước 1;
- Nếu không thực hiện bước 6;
Bước 7
các véc tơ trọng số, bias của các lớp và các đồ thị cần thiết;
1.3 ỨNG DỤNG CỦA MẠNG NƠRON TRONG NHẬN DẠNG VÀ ĐIỀU KHIỂN
1.3.1 Các vấn đề chung
Mạng nơron đã được ứng dụng thành công trong nhiều lĩnh vực như: các
hệ thống điều khiển, xử lý hình ảnh, tiếng nói, tối ưu, truyền thông, y học…
Trang 32Vì có yêu cầu ngày càng tăng về điều khiển, các hệ thống động học phức tạp với điều kiện thông tin không đầy đủ hoặc không xác định nên việc sử dụng mạng nơron rất hấp dẫn bởi khả năng học tập để xấp xỉ hàm và phân loại mẫu của mạng Ngoài ra còn bởi tính xử lý song song mạnh mẽ của phần cứng thực thi mạng
lớp với luật dạy học có giám sát Ưu điểm lớn nhất của các mạng loại này là khả năng tổng quát hoá ánh xạ đầu vào - đầu ra để có thể xấp xỉ bất cứ hàm nào với độ chính xác tuỳ ý Chủ yếu mạng nơron sử dụng để nhận dạng và điều khiển hệ thống
1.3.2 Mô tả toán học của đối tƣợng ở dạng rời rạc
Xét hệ thống có phương trình trạng thái ở dạng sau đây:
Viết lại (1.53) ở dạng rời rạc, ta có:
với u(k), x(k), y(k) là các đại lượng cho ở dạng dãy rời rạc
Giả thiết hệ rời rạc (1.54) là tuyến tính và bất biến, có thể viết lại ở dạng:
x(k+1) = Ax(k) + Bu(k)
Trang 33với A, B, C tương ứng là các ma trận có kích thước (nn), (np) và (mn)
* Đối tượng tuyến tính
Xét hệ một vào - một ra (SISO), dạng rời rạc, có thông số tuyến tính bất biến với thời gian được cho ở dạng:
1
1 0
) ( )
* Đối tượng phi tuyến
Đối tượng phi tuyến được biểu diễn theo mô hình rời rạc theo bốn dạng sau đây:
+ Dạng 1:
1 0
u k u g i k y
n
t p i
phụ thuộc phi tuyến vào giá trị quá khứ đầu vào u(k), , u(k-m+1)
+ Dạng 2:
yp(k+1) = f [(yp (k), yp (k-1), ,yp(k-n+1)]+
1
0
) (
m
i
i u k i
+ Dạng 3:
+ Dạng 4:
Trang 34yp(k+1) phụ thuộc phi tuyến vào giá trị quá khứ đầu ra và phụ thuộc vào các giá
f(.), g(.), là các hàm chưa biết trước của đối tượng, chúng cần được xấp xỉ gần đúng bởi mạng nơron với độ chính xác mong muốn Số lượng các lớp, số nơron ở mỗi lớp và số lượng mối liên kết trọng số giữa các nơron mỗi lớp với nhau của mạng nơron nhận dạng cần được chọn phù hợp với độ chính xác và đặc tính vào ra của hàm phi tuyến tương ứng của đối tượng đã cho
1.3.3 Ứng dụng của mạng nơron trong nhận dạng
g(.), (từ 1.57 đến 1.60) là chưa được biết trước
Vì đầu vào và đầu ra của hệ bất biến theo thời gian, nên hệ động học rời rạc là u(k) và y(k) tương ứng: trong đó u(k) là hàm giới hạn, thay đổi theo thời gian Đối tượng được giả thiết là ổn định, nhưng chưa biết các giá trị thông số của đối tượng này
`
Hình 1.12 Mô hình nhận dạng
Hệ thống nhận dạng được mô tả tại hình 1.4, trong đó mô hình nhận dạng
có cùng đầu vào u(k) với đối tượng cần nhận dạng, đầu ra của mô hình cần nhận
^
yp (k)
Đối tƣợng
Mô hình nhận dạng
y p (k)
e i (k)
+ +
=
=
+
+
Trang 35dạng là y p k là biểu diễn tính toán gần đúng của đầu ra đối tượng cần nhận
1.3.3.1 Mô hình nhận dạng song song
Trên cở sở các dạng phương trình của đối tượng tuyến tính và phi tuyến (từ 1.56 đến 1.60), có các mô hình nhận dạng các đối tượng nói trên theo mô hình nhận dạng song song có các dạng tương ứng như sau
* Với đối tượng tuyến tính
1
1 0
) ( ) ( )
0
) (
ypk 1=f[yp k , ,ypkn 1;u k ,u k 1, ,ukm 1] (1.65)
Để nhận dạng đối tượng dạng 3 (1.59), trong trường hợp này cấu trúc của
mô hình nhận dạng là giống như đối tượng với f và g được thay thế tương ứng
ypk 1= N2[yp k , ,ypkn 1]+ N1[u k , ,ukm 1] (1.66)
Trang 36xác định bởi lan truyền ngược
Hình 1.13 trình bày cấu trúc của mô hình nhận dạng đối tượng phi tuyến
1.3.3.2 Mô hình nhận dạng nối tiếp - song song
Căn cứ vào dạng phương trình của đối tượng tuyến tính và phi tuyến ( từ 1.56 đến 1.60), các mô hình nhận dạng của các đối tượng nói trên theo mô hình nhận dạng nối tiếp - song song có dạng tương ứng như sau:
* Đối tượng tuyến tính:
1
1 0
) ( ) ( )
+
Đối tượng
Mạng nơron
Mạng nơron
Trang 37) (
ypk 1=f[y p k , ,y pkn 1;u k ,u k 1, ,ukm 1] (1.71)
1.3.4 Ứng dụng của mạng nơron trong điều khiển:
Vấn đề đặt ra là cần thiết kế bộ điều khiển thỏa mãn yêu cầu đề ra với
1.60) đã được biết trước
1.3.4.1 Bộ điều khiển ổn định
Mạng nơron mô phỏng mô hình ngƣợc của đối tƣợng điều khiển
Thuật toán thích nghi
Bộ điều khiển Đối tƣợng điều khiển
Tín hiệu điều khiển ngƣợc
T/h điều khiển phản hồi
Tín hiệu đầu ra đối tƣợng
Trang 38Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn
Hình 1.14 Bộ điều khiển ổn định
Sơ đồ cấu trúc bộ điều khiển ổn định như hình 1.14 Sai lệch giữa tín hiệu lệnh đầu vào và tín hiệu ở đầu ra đối tượng được đưa vào bộ điều khiển để tạo ra tín hiệu điều khiển phản hồi ở đầu ra bộ điều khiển Lệnh đầu vào và tín hiệu điều khiển phản hồi được đưa vào đầu vào của mạng nơron mô phỏng mô hình ngược của đối tượng điều khiển để tạo ra tín hiệu điều khiển ngược Tín hiệu điều khiển đưa vào đối tượng điều khiển được tổng hợp từ hai tín hiệu là: tín hiệu điều khiển phản hồi và tín hiệu điều khiển ngược Mạng nơron thực hiện học theo tín hiệu điều khiển phản hồi với thuật toán thích nghi Ưu điểm của cấu trúc điều khiển loại này là dễ dàng thiết lập được một hệ thống ổn định với mạng nơron không cần huấn luyện quá phức tạp
1.3.4.2 Điều khiển ngƣợc thích nghi
Hình 1.15 là mô hình cấu trúc của mô hình mẫu điều khiển ngược thich nghi Thuật toán này có khả năng tiếp nhận sai lệch giữa đầu ra của đối tượng và đầu ra của mô hình mẫu Thông số của bộ điều khiển được cập nhật liên tục để giảm sai lệch Bộ điều khiển mô hình mẫu thích nghi cơ bản có thể ảnh hưởng bởi nhiễu từ sensor và nhiễu bên ngoài tác động vào đối tương điều khiển Loại
bỏ các loại nhiễu này bằng cách sử dụng mạng nơron mô tả đối tượng nối song song với đối tượng điều khiển Mạng nơron được huấn luyện trên cơ sở giữ liệu vào - ra của đối tượng điều khiển Sai lệch giữa đầu ra của đối tượng điều khiển
và của mô hình mạng nơron được phân tích như hiệu ứng của nhiễu và nhiễu ở đầu ra đối tượng Tín hiệu sai lệch này được đưa vào mạng nơron mô phỏng mô hình ngược của đối tượng điều khiển tạo ra tín hiệu lọc nhiều và dấu hiệu nhiễu được loại trừ từ đầu vào đối tượng Đó chính là ý tưởng thực hiện loại bỏ được nhiễu bên ngoài và nhiễu bên trong của đối tượng
Trang 39+
+
Hình 1.15 Hệ thống điều khiển ngược thích nghi
1.3.4.3 Mô hình điều khiển phi tuyến:
Mô hình điều khiển phi tuyến được biểu diễn trên hình 1.16 Nó gồm có
bộ điều khiển sử dụng mạng nơron, mạng nơron mô phỏng đối tượng và bộ lọc
với một thông số điều khiển Bộ điều khiển sử dụng mạng nơron thường được
huấn luyện để biểu diễn mô hình ngược của đối tượng (nếu mô hình ngược này
tồn tại) Sai lệch giữa đầu ra của mạng nơron mô phỏng đối tượng và tín hiệu
đầu ra của đối tượng được đưa về đầu vào bộ của bộ lọc, sau đó được đưa tới bộ
điều khiển sử dụng mạng nơron Mạng nơron mô phỏng đối tượng và mạng
nơron đóng vai trò là bộ điều khiển đối tượng (nếu nó là mô hình ngược của đối
tượng) có thể được huấn luyện theo kiểu off - line sử dụng dữ liệu tập hợp từ
động học của đối tượng Bộ lọc ở mô hình này là bộ lọc bậc nhất có hằng số thời
gian được lựa chọn để đảm bảo mạch vòng kín ổn định
+
Mạng nơron mô phỏng đối tƣợng
Bộ lọc Bộ điều khiển
nơron
Đối tƣợng điều khiển
Tín hiệu điều khiển
Trang 40Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn
Hình 1.16 Mô hình điều khiển phi tuyến
1.3.4.4 Mô hình điều khiển dự báo
ra của đối tượng trong khoảng thời gian dự kiến Đây là cấu trúc phụ thuộc nhiều vào mạng nơron mô tả đối tượng, bộ điều khiển sử dụng mạng nơron hàm biển diễn phản ứng đầu ra của hệ thống và thực hiện tối ưu hóa để lựa chọn tín hiệu điều khiển tốt nhất
Mạng nơron mô phỏng đối tượng được sử dụng để dự báo đầu ra của đối tượng Bộ điều khiển sử dụng mạng nơron tiến hành học, lựa chon các đầu vào bằng quá trình tối ưu Khi quá trình huấn luyện đã hoàn thành, quá trình tối ưu hóa được thay thế bởi quá trình điều khiển sử dung bộ điều khiển nơron
Đối tƣợng điều khiển
Bộ điều khiển nơron
Dự báo đầu
ra đối tƣợng
Đầu ra đối tƣợng Lệnh đầu vào