iv TÓM TẮT TÓM TẮT: Hệ phi tuyến tồn tại ở hầu hết các hệ thống điều khiển, để đạt được giá trị đầu ra mong muốn đòi hỏi phải có một bộ điều khiển được thiết kế phù hợp với từng hệ thốn
Trang 1BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT
THÀNH PHỐ HỒ CHÍ MINH
LUẬN VĂN THẠC SĨ NGUYỄN NGỌC MINH THÔNG
KẾT HỢP GIẢI THUẬT DI TRUYỀN VÀ MẠNG NƠ-RON RBF
Trang 2LÝ LỊCH KHOA HỌC
BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT
THÀNH PHỐ HỒ CHÍ MINH
LUẬN VĂN THẠC SĨ NGUYỄN NGỌC MINH THÔNG
KẾT HỢP GIẢI THUẬT DI TRUYỀN VÀ MẠNG NƠ-RON RBF NHẬN DẠNG VÀ XỬ LÝ TÍN HIỆU ĐIỀU KHIỂN
PHI TUYẾN
NGÀNH: KỸ THUẬT ĐIỆN - 60520202 Hướng dẫn khoa học:
PGS.TS NGUYỄN THANH PHƯƠNG
Tp Hồ Chí Minh, tháng 10/2016
Trang 3i
LÝ LỊCH KHOA HỌC
I LÝ LỊCH SƠ LƯỢC:
Họ & tên: NGUYỄN NGỌC MINH THÔNG Giới tính: Nam
Ngày, tháng, năm sinh: 24/10/1982 Nơi sinh : Vĩnh Long Quê quán: An Nhơn, Trung Thành, Vũng Liêm, Vĩnh Long Dân tộc: Kinh Chỗ ở riêng hoặc địa chỉ liên lạc: An Nhơn, Trung Thành, Vũng Liêm, Vĩnh Long
Điện thoại cơ quan: 070.3825903
Điện thoại nhà riêng: 0939712127
Ngành học: Điện Công nghiệp
2 Đại học:
Hệ đào tạo: Hoàn chỉnh ĐHTC Thời gian đào tạo từ 09/2006 đến 09/2008 Nơi học (trường, thành phố): Trường ĐH Sư phạm Kỹ thuật Tp.HCM
Ngành học: Điện Khí hóa Cung cấp điện
Tên đồ án, luận án hoặc môn thi tốt nghiệp: Đồ án Thiết kế Cung cấp điện cho nhà xưởng cơ khí chế tạo máy
Ngày & nơi bảo vệ đồ án, luận án hoặc thi tốt nghiệp: 8/2008 tại Thành phố Vĩnh Long
Người hướng dẫn: Thầy Nguyễn Thanh Tùng
III QUÁ TRÌNH CÔNG TÁC CHUYÊN MÔN KỂ TỪ KHI TỐT NGHIỆP ĐẠI HỌC:
Thời gian Nơi công tác Công việc đảm nhiệm
2008 - 2010 Công ty cổ phần dịch vụ Bưu
chính Viễn thông Sài gòn Nhân viên phát triển thị trường
2010 - 2013 Công ty cổ phần Viễn thông FPT Trưởng phòng KD dịch vụ
2013 - 2016 Trường ĐHXD Miền Tây Nhân viên phòng Quản lý ĐT
Trang 4ii
LỜI CAM ĐOAN
Tôi cam đoan đây là công trình nghiên cứu của tôi
Các số liệu, kết quả nêu trong luận văn là trung thực và chưa từng được ai công
bố trong bất kỳ công trình nào khác
Tp Hồ Chí Minh, ngày 24 tháng 10 năm 2016
Tác giả
Nguyễn Ngọc Minh Thông
Trang 5Xin chân thành cảm ơn
Tác giả luận văn
Nguyễn Ngọc Minh Thông
Trang 6iv
TÓM TẮT
TÓM TẮT: Hệ phi tuyến tồn tại ở hầu hết các hệ thống điều khiển, để đạt được giá
trị đầu ra mong muốn đòi hỏi phải có một bộ điều khiển được thiết kế phù hợp với từng hệ thống khác nhau Với đòi hỏi ngày càng cao của hệ thống điều khiển chính xác cần có những giải pháp điều khiển ngày càng tối ưu hơn Ứng dụng trí tuệ nhân tạo để giải quyết bài toán này là một trong những hướng nghiên cứu hiện đại và thiết thực nhất Mạng Nơ-ron dùng hàm Xuyên tâm cơ sở (Neural network Radial Basic Function – RBFNN) là công cụ mạnh trong nhận dạng và xấp xỉ hệ phi tuyến Tuy nhiên RBFNN vẫn có nhược điểm đòi hỏi người sử dụng phải có kinh nghiệm trong việc chọn các thông số học Để giải quyết vấn đề này tác giả đề xuất giải pháp dùng Giải thuật di truyền (Genetic Algorithm – GA) giúp huấn luyện RBFNN trở nên dễ dàng hơn không cần phải có nhiều kinh nghiệm lựa chọn các tham số học cho RBF
Từ khóa: Mạng nơ-ron Xuyên tâm cơ sở, Giải thuật di truyền, Điều khiển phi tuyến,
Phân tích hệ thống phi tuyến
ABSTRACT: Nonlinear systems exist on the most of the control systems, to achieve
the desired output values require a controller is designed to suit each different
systems With requring the hight technology of the precise control system needs many
control solutions is more optimal Applying the artificial intelligence to solve this problem is the one of the morden research and practically Neural nerwork Radial Basic Function (RBFNN) is a powerful tool in the identification and approximate nonlinear systems However, RBFNN has a limitation to require to has experience in the selection of training parameters of them To resolve this issue, I propose Genetic Algorithm (GA) to training parameters of RBFNN and do not need to have any experience to select of them
Keywords: Neural nerwork Radial Basic Function, Genetic algorithm, Nonlinear
control, Nonlinear systems alnalysis
Trang 7v
MỤC LỤC
Quyết định giao đề tài
MỞ ĐẦU 1
Chương 1 TỔNG QUAN 3
1.1 Điều khiển phi tuyến 3
1.2 Mạng nơ-ron nhân tạo (ANN - Artificial Neural Network) 5
1.3 Giải thuật di truyền (Genetic Algorithm - GA) 6
1.4 Kết hợp mạng nơ-ron RBF với Giải thuật di truyền 8
Kết luận chương 1 11
Chương 2 CƠ SỞ LÝ THUYẾT 12
2.1 Hệ phi tuyến 12
2.2 Mạng nơ-ron (Neuron) 15
2.3 Giải thuật di truyền 25
Kết luận chương 2: 30
Chương 3 HUẤN LUYỆN MẠNG NƠ-RON RBF 31
3.1 Xấp xỉ mạng nơ-ron RBF trên cơ sở phương pháp giảm Gradient 31
3.2 Thực nghiệm dùng mạng nơ-ron RBF xấp xỉ đối tượng phi tuyến 33
Trang 8vi
3.3 Xấp xỉ đối tượng phi tuyến bằng mạng nơ-ron RBF với độ rộng b bất kỳ 37
Kết luận chương 3: 41
Chương 4 KẾT HỢP MẠNG NƠ-RON RBF VÀ GIẢI THUẬT DI TRUYỀN XẤP XỈ HÀM PHI TUYẾN 42
4.1 Kết hợp Giải thuật di truyền với mạng nơ-ron RBF 42
4.2 Mô phỏng thực nghiệm kết hợp Giải thuật di truyền (GA) để tối ưu độ rộng mạng nơ-ron RBF 43
Kết luận chương 4: 46
Chương 5 KẾT HỢP MẠNG NƠ-RON RBF VÀ GIẢI THUẬT DI TRUYỀN ĐIỀU KHIỂN CÁNH TAY MÁY HAI BẬC TỰ DO 47
5.1 Cánh tay máy hai bậc tự do: 47
5.2 Điều khiển cánh tay máy hai bậc tự do bằng RBF theo phương pháp Runge-Kutta-Merson [21] 49
5.3 Kết hợp Giải thuật di truyền để tối ưu độ rộng RBF cho hệ điều khiển cánh tay máy 2 bậc tự do sử dụng phương pháp điều khiển Runge-Kutta-Merson 53
Kết luận chương 5 54
KẾT LUẬN 56
TÀI LIỆU THAM KHẢO 58
Trang 9vii
DANH MỤC CÁC CHỮ VIẾT TẮT
E(t) Hiệu suất xấp xỉ của hàm xuyên tâm cơ sở (RBF)
𝒉𝒋(𝒕) Ngõ ra của lớp ẩn j hàm xuyên tâm cơ sở (RBF)
M(q) Ma trận quán tính 𝑛 × 𝑛
𝑪(𝒒, 𝒒̇) Ma trận lực hướng tâm và hệ số Coriolis 𝑛 × 𝑛
𝑮(𝒒) Ma trận lực hướng tâm và momen 𝑛 × 1
𝒄𝒋 Tâm thứ j của hàm xuyên tâm cơ sở (RBF)
𝝈𝒋 Độ rộng thứ j của hàm xuyên tâm cơ sở (RBF)
w Trọng số hàm xuyên tâm cơ sở (RBF)
r Số K láng giềng của tâm
[… ]𝑇 Ma trận chuyển vị
|| || Khoảng cách Euclidean
AI Trí tuệ nhân tạo (Artifical Intelligent)
ANN Mạng nơ-ron nhân tạo (Artificial Neural Network)
RBFNN Mạng nơ-ron hàm bán kính xuyên tâm cơ sở (Radial
Basic Function Neural Netword)
GA Giải thuật di truyền (Genetic Algorithm)
RMSE Căn phương sai số (Root Mean Square Error)
SMC Điều khiển trượt (Sliding Mode Control)
MLP Mạng nhiều tầng (Multi-Layer Perceptrons)
MFN mạng nơ-ron truyền thẳng nhiều lớp (Multilayer
feed-forward network)
EAs Giải thuật tiến hóa (Evolution Algorithms)
KNN Phương pháp K- láng giềng gần nhất
(K-nearest-neighbor)
Trang 10viii
DANH SÁCH CÁC HÌNH
Hình 1.1 So sánh kết quả NRMSE với các phương pháp khác (Phương pháp González
và Rivas) 11
Hình 2.1 Hệ thống bơm xả nước 13
Hình 2.2 Hệ cánh tay máy hai bậc tự do 13
Hình 2.3 Cấu tạo của tế bào nơ-ron sinh học 16
Hình 2.4 Mô hình một nơ-ron nhân tạo 18
Hình 2.5 Đồ thị hàm ngưỡng 18
Hình 2.6 Đồ thị hàm tuyến tính 18
Hình 2.7 Đồ thị hàm signmoid 19
Hình 2.8 Đồ thị hàm tanh 19
Hình 2.9 Đồ thị hàm Gaussian 19
Hình 2.10 Mô hình mạng nơ-ron nhiều lớp (MLP) 20
Hình 2.11 Mô hình mạng hàm cơ sở 22
Hình 2.12 Cấu trúc mạng nơ-ron RBF ba lớp 24
Hình 2.13 Lưu đồ thuật toán của Giải thuật di truyền đơn giản 26
Hình 2.14 Toán tử lai ghép biễu diễn theo cây 29
Hình 3.1 Kết quả mô phỏng huấn luyện một pha mạng nơ-ron RBF 34
Hình 3.2 Kết quả mô phỏng huấn luyện hai pha mạng nơ-ron RBF 35
Hình 3.3 Kết quả mô phỏng huấn luyện ba pha mạng nơ-ron RBF 36
Hình 3.4 Biểu đồ hiệu suất huấn luyện 1 pha, 2 pha, 3 pha của RBFNN 37
Hình 3.5 Hiệu suất huấn luyện một pha mạng nơ-ron RBF với b = 0.1 38
Trang 11ix
Hình 3.7 Hiệu suất huấn luyện ba pha mạng nơ-ron RBF với b = 0.1 39
Hình 3.8 Biểu đồ so sánh hiệu suất huấn luyện 40
1 pha, 2 pha, 3 pha của RBFNN với b=0.1 40
Hình 4.1: Lưu đồ Giải thuật di truyền tối ưu độ rộng 42
Hình 4.2 Hiệu suất huấn luyện 2 pha mạng nơ-ron RBF có sử dụng GA với b=0.1 44
Hình 4.3 So sánh hiệu suất hai phương pháp 45
Hình 5.1 Mô tả cánh tay máy hai bậc tự do trong không gian Descartes 47
Hình 5.2 Đáp ứng vị trí của tay máy hai bậc tự do 50
Hình 5.3 Đáp ứng tốc độ của cánh tay máy hai bậc tự do 50
Hình 5.4 Tín hiệu điều khiển cánh tay máy hai bậc tự do 51
Hình 5.5 So sánh đáp ứng vị trí khi chọn tâm ci khác nhau 52
Hình 5.6 So sánh đáp ứng tốc độ khi chọn tâm ci khác nhau 52
Hình 5.7 So sánh đặc tính điểu khiển khi chọn tâm ci khác nhau 52
Hình 5.8 So sánh đáp ứng vị trí khi chưa có và có kết hợp GA 53
Hình 5.9 So sánh đáp ứng tốc độ khi chưa có và có kết hợp GA 54
Hình 5.10 So sánh đặc tính điều khiển khi chưa có và có kết hợp GA 54
Trang 12x
DANH SÁCH CÁC BẢNG
Bảng 1.1 Căn phương sai số (RMSE) hàm Sin một chiều với 500 mẫu thử 9
Bảng 1.2 Căn phương sai số (RMSE) hàm Sin hai chiều với 1000 mẫu thử 10
Bảng 3.2 Hiệu suất huấn luyện một pha, hai pha, ba pha RBFNN với b = 0.1 40
Bảng 4.1 Hiệu suất xấp xỉ theo 2 cách huấn luyện mạng RBF 45
Trang 131
MỞ ĐẦU
1 Tính cấp thiết của đề tài: Hệ phi tuyến tồn tại ở hầu hết các hệ thống điều
khiển, để đạt được giá trị đầu ra mong muốn đòi hỏi phải có một bộ điều khiển được thiết kế phù hợp với từng hệ thống khác nhau Với đòi hỏi ngày càng cao của hệ thống điều khiển chính xác cần có những giải pháp điều khiển ngày càng tối ưu hơn Ứng dụng trí tuệ nhân tạo để giải quyết bài toán này là một trong những hướng nghiên cứu hiện đại và thiết thực nhất Mạng Nơ-ron dùng hàm Xuyên tâm cơ sở (Neural network Radial Basic Function – RBFNN) là công cụ mạnh trong nhận dạng và xấp xỉ hệ phi tuyến Tuy nhiên RBFNN vẫn
có nhược điểm đòi hỏi người sử dụng phải có kinh nghiệm trong việc chọn các thông số học
Đề tài luận văn “Kết hợp Giải thuật di truyền và mạng nơ-ron RBF nhận dạng và xử lý tín hiệu điều khiển phi tuyến” nghiên cứu giải pháp dùng Giải
thuật di truyền (Genetic Algorithm – GA) giúp huấn luyện các tham số của RBFNN làm cho huấn luyện mạng RBF trở nên dễ dàng hơn không cần phải
có nhiều kinh nghiệm lựa chọn các tham số học cho RBF
2 Đối tượng nghiên cứu của đề tài: Điều khiển cánh tay máy hai bậc tự do
3 Nội dung nghiên cứu:
- Nghiên cứu điều khiển hệ thống phi tuyến
- Nghiên cứu lý thuyết mạng nơ-ron RBF, Giải thuật di truyền
- Nghiên cứu kết hợp mạng nơ-ron RBF và Giải thuật di truyền
- Mô phỏng so sánh các giải pháp trong điều khiển nhận dạng điều khiển phi tuyến
4 Phạm vi nghiên cứu: Ứng dụng mạng nơ-ron RBF và Giải thuật di truyền xử
lý tín hiệu điều khiển phi tuyến
5 Phương pháp nghiên cứu: Trên cơ sở nghiên cứu lý thuyết hệ thống phi
tuyến, mạng nơ-ron RBF và Giải thuật di truyền Mô phỏng trên Matlab
Trang 142
simulink 2012b các giải thuật từ các hệ thống nhỏ đơn lẻ đến hệ cánh tay máy hai bậc tự do
6 Những đóng góp của luận văn:
Hệ thống hóa kiến thức cơ bản về hệ phi tuyến, mạng nơ-ron RBF, Giải thuật di truyền
Nghiên cứu phương pháp kết hợp Giải thuật di truyền và mạng nơ-ron RBF nhằm tối ưu hóa tham số độ rộng của RBFNN trong huấn luyện mạng để xấp xỉ đối tượng phi tuyến, dùng Giải thuật di truyền tối ưu tham số độ rộng của mạng nơ-ron RBF áp dụng cho huấn luyện hai pha không cần phải lựa chọn tối ưu tâm ci và độ rộng RBF
Các kết quả mô phỏng trên tay máy hai bậc tự do cho thấy rằng phương pháp mà tác giả đề xuất ở trên là một đóng góp nhằm làm đa dạng hơn các thuật học của RBFNN cũng như sự đa dạng khi sử dụng RBFNN vào các quá trình điều khiển nói chung
7 Cấu trúc của luận văn: Gồm có 5 chương
Chương 1: Tổng quan
Chương 2: Cơ sở lý thuyết
Chương 3: Huấn luyện mạng nơ-ron RBF
Chương 4: Kết hợp mạng nơ-ron RBF và Giải thuật di truyền xấp xỉ hàm
phi tuyến
Chương 5: Kết hợp mạng nơ-ron RBF và Giải thuật di truyền điều khiển
cánh tay máy 2 bậc tự do
Trang 153
Chương 1
TỔNG QUAN
1.1 Điều khiển phi tuyến
Điều khiển phi tuyến đã được nhiều nhà vật lý, nhà toán học, nhà khoa học, nhà thiết kế hệ thống điều khiển,… quan tâm từ các hệ thống, thiết bị phục vụ sinh hoạt hằng ngày, đến các robot, thiết bị không gian vũ trụ Chẳng hạn như yếu tố thời tiết được xem là phi tuyến bất định vì trong đó các thay đổi đơn giản trong một phần của hệ thống hoặc có nhiễu loạn tác động đến hệ thống sẽ tạo ra các hiệu ứng phức tạp và có thể dẫn đến tan rã cả hệ thống điều khiển
Sự phi tuyến này là một trong những lý do tại sao dự báo dài hạn một cách chính xác là không thể với công nghệ hiện nay [20] Theo Jean-Jacquese.Slotine và Weipingli [4], có rất nhiều lý do để tiếp tục nghiên cứu điều khiển phi tuyến như:
Cải tiến các hệ thống hiện có: Đối với các hệ thống điều khiển tuyến
tính thường chỉ được sử dụng trong các lĩnh vực nhỏ, hẹp Khi phát triển mở rộng lên thành các hệ thống lớn hơn chúng sẽ trở nên không ổn định, đáp ứng
sẽ thiếu chính xác Chẳng hạn khâu điều khiển nâng của robot nếu áp dụng điều khiển tuyến tính sẽ không đáp ứng tốt khi có tải thay đổi (tải đặt vào lớn hơn hoặc trọng lượng tải thay đổi liên tục) sẽ ảnh hưởng tốc độ di chuyển của robot (phản hồi của robot), nếu tại đây thay đổi thành kiểu điều khiển phi tuyến
sẽ giúp cho robot hoạt động ổn định hơn
Phân tích phi tuyến đặc trưng (hard nonlinearities): Giả sử trong một
hệ thống điều khiển tuyến tính với mô hình hoàn toàn tuyến tính Tuy nhiên sẽ
có rất nhiều thành phần phi tuyến tác động vào hệ, cản trở hoạt động của hệ
làm hệ không thể hoạt động tuyến tính Các yếu tố “hard noninearities” đó là:
Ma sát Columb, bảo hòa, vùng chết (dead-zones), phản ứng (backlash), hiện tượng trễ (hysteresis) là những thứ thường gặp trong hệ thống điều khiển Chỉ
Trang 164
có dùng các kỹ thuật phân tích phi tuyến mới có thể phân tích, dự đoán và bù chính xác ảnh hưởng tác động phi tuyến bên ngoài
Phù hợp với các mô hình bất định (model uncertainties): Trong các
mô hình điều khiển tuyến tính thường cần xác định các tham số cho mô hình
hệ thống một cách chính xác Tuy nhiên trong nhiều hệ điều khiển có rất nhiều các tham số bất định những thứ mà chỉ có thể dùng hệ điều khiển phi tuyến
Đơn giản hóa thiết kế: Một thiết kế phi tuyến thường sẽ đơn giản hơn,
thực tế hơn so với thiết kế hệ tuyến tính Điều này có vẻ nghịch lý vì hệ phi tuyến thường phân tích rất sâu vào yếu tố vật lý của đối tượng Nhưng một điều chắc chắn rằng những phương pháp mới về phân tích, xử lý, nhận dạng
hệ thống phi tuyến sẽ nâng cao được chất lượng cho các hệ thống điều khiển hiện tại
Hầu hết các hệ thống vật lý đều phi tuyến Các hệ thống điều khiển phi tuyến thường được mô tả bởi các phương trình phi tuyến không giống nhau Tuy nhiên xét trong một khía cạnh nào đó và nếu các tác động phi tuyến tương đối
phẳng (smooth) thì hệ thống có thể được xấp xỉ bằng hệ thống tuyến tính và
các nhiễu động sẽ được mô tả bởi các phương trình tuyến tính khác nhau
Về mặt toán học người ta chia hệ phi tuyến thành hai dạng, liên tục
(continuous) và rời rạc (discontinuous) Vì hệ phi tuyến rời rạc không thể xấp
xỉ địa phương (locally approximated) bằng các hàm tuyến tính, người ta còn gọi đó là các “hard nonlinearities”
Vì các hệ thống phi tuyến đa dạng hơn và phức tạp hơn các hệ thống tuyến tính
do đó phân tích chúng trở nên khó khăn hơn nhiều Về mặt toán học nó biểu hiện ở hai mặt, mặt thứ nhất là các phương trình phi tuyến không giống với các loại tuyến tính nào, nó không thể gộp chung để tiến hành phân tích, do đó
để hiểu được các thuộc tính của nó trở nên rất khó khăn; Mặt thứ hai, khả năng của công cụ toán học như Laplace, triển khai Fourier không thể áp dụng cho các hệ thống phi tuyến phức tạp