Nghiên cứu Ứng dụng một số cấu trúc mạng nơron Để nhận dạng mô hình hộp Đen Đối tượng hai cánh nhiều Đầu nhiều Đầu ra phần 1

tee NN-based Model uanne Real TRMS Sai lệch bình phương trung bình của góc chao đọc trong quá trình huấn luyện Mô hình hộp đen đối tượng TRMS 2 bậc tự do trên Matlab/Simulink và mô hình

Mô hình hộp đen đối tượng TRMS 2 bậc tự do trên Matlab/Simulink và mô

hình thực khi sử dụng thuật toán huấn luyện và kiểm tra mạng là Bayesian

regularisation được đưa ra trong hình 4.32 đến hình 4.35

Training

xe NN-based Model manne Real TRMS

tee NN-based Model uanne Real TRMS

Sai lệch bình phương trung bình của góc chao đọc trong quá trình huấn luyện

Mô hình hộp đen đối tượng TRMS 2 bậc tự do trên Matlab/Simulink và mô

hình thực khi sử dụng thuật toán huấn luyện và kiểm tra mạng là liên hợp Gradient với

khởi tạo lai Powell-Beale (Conjugate gradient with Powell-Beale restarts) dugce dua

ra trong hinh 4.36 dén hinh 4.39

56

Hình 4.36 Góc đảo lái của TRMS khi dùng thuật toán Conjugate gradien( with

Powell-Beale restarts để huấn luyện mạng

Training

TRANG Real RMS

Hình 4.37 Góc chao dọc của TRMS khi dùng thuat toan Conjugate gradient

with Powell-Beale restarts để huấn luyện mạng

Si

Hình 4.38 Góc đảo lái của TRMS khi dùng thuật toan Conjugate gradient with

Powell-Beale restarts dé kiém tra mang

Hình 4.39 Góc chao dọc của TRMS khi dùng thuật toan Conjugate gradient

with Powell-Beale restarts dé kiém tra mang

Nhận xét:

Sai lệch bình phương trung bình của góc chao đọc trong quá trình huấn luyện

la: 1.188296.107

38

4.40 đến hình 4.43

Hình 4.40 Góc đảo lái của TRMS khi dùng thuật toán Conjugate gradient with

Fletcher-Reeves để huấn luyện mạng

59

Hình 4.41 Góc chao dọc cia TRMS khi ding thuat toan Conjugate gradient

with Eletcher-Reeves để huấn luyện mang

Hình 4.42 Góc đảo lái cia TRMS khi ding thuat toan Conjugate gradient with

Fletcher-Reeves dé kiém tra mang

60

Hình 4.43 Góc chao dọc của TRMS khi dùng thuật toan Conjugate gradient

with Fletcher-Reeves để kiểm tra mạng Nhận xét:

Sai lệch bình phương trung bình của góc chao dọc trong quá trình huấn luyện

61

Training

Hình 4.44 Góc đảo lái của TRMS khi dùng thuat toan Conjugate gradient with

Polak-Ribiere updates dé huan luyén mang

Training

te=s====s NN-based Model i xmmmnm Real TRMS

Hình 4.45 Góc chao dọc của TRMS khi dùng thuật toán Conjugate gradient

with Polak-Ribiere updafes để huấn luyện mạng

62

se NN-based Model

"am mm: Real TRMS

Hình 4.46 Góc đảo lái của TRMS khi dùng thuat toan Conjugate gradient with

Polak-Ribiere updates dé kiém tra mang

Test

te NN-based_ Model wuanw Real TRMS

Hình 4.47 Góc chao đọc của TRMS khi ding thuat toan Conjugate gradient

with Polak-Ribiere updates dé kiém tra mang

63

trong hinh 4.52 dén hinh 4.55

66

Hình 4.53 Góc chao dọc của TRMS khi dùng thuật toán giảm Gradient véi tốc

độ học thích nghi để huấn luyện mạng

67

Ha pouses

hình 4.56 đến hình 4.59

Hình 4.56 Góc đảo lái của TRMS khi dùng thuat toan Gradient descent with

momentum đề huần luyện mạng

69

70

Hình 4.59 Góc chao dọc của TRMS khi dùng thuật toán Gradient descent with

momentum để kiểm tra mạng

7I

Hình 4.66 Góc đảo lái của TRMS khi dùng thuat toan Resilient để

kiêm tra mang

75

Sai lệch bình phương trung bình của góc chao dọc trong quá trình huấn luyện

76

Góc chao đọc của TRMS khi dùng thuat toan Scaled conjugate

gradient để huấn luyện mạng

Te

“| s====s NN-based Model mmmxm"w Real TRMS

Hình 4.70 Géc dao lai cia TRMS khi ding thuat toan Scaled conjugate gradient

dé kiém tra mang

Hình 4.71 Góc chao doc của TRMS khi dùng thuật toán Scaled conjugate

gradient dé kiém tra mang

78

Các kết quả mô phỏng cho thấy khi sử dụng các bộ dữ liệu giống nhau với các

thuật toán huấn luyện khác nhau để nhận dạng mô hình đối tượng TRMS cho các kết

quả khác nhau, sai số bình phương trung bình giữa mô hình nhận dạng và đối tượng

thực của mô hình huấn luyện và mô hình kiểm tra giảm từ 107 đến 10 Với các bộ dữ

liệu này, nếu sử đụng các thuật toán huấn luyện là: Conjugate gradient with Powell- Beale restarts, Conjugate gradient with Fletcher-Reeves, Conjugate gradient with Polak-Ribiere updates, Scaled conjugate gradient, Levenberg-Marquardt, BFGS Quasi-Newton, Bayesian Regularisation and One step Secant thi binh phuong sai léch khoang 10' hoặc 10 đều có thể sử dụng được Tuy nhiên, cũng với các bộ dữ liệu đó, sai lệch bình phương trung bình của các thuật toán Gradient descent, Gradient descent with momentum and adaptive rate, Gradient descent with adaptive learning rate, Resilient vao khoang 10? dén 10° thì không nên sử dụng các mô hình này Thuật toán có thể coi là tốt nhất là Levenberg-Marquardt, tiếp đó đến BFGS Quasi-Newton, các thuật toán như Bayesian Regularisation, One step Secant, Conjugate gradient with Powell-Beale restarts, Conjugate gradient with Fletcher- Reeves, Conjugate gradient with Polak-Ribiere updates, Scaled conjugate gradient

có chất lượng tương đương nhau Thuật toán cho chất lượng mô hình kém nhất là Gradient descent

Xây dựng mô hình của hệ thống TRMS theo mô hình hộp đen sử dung mang nơron thông qua việc mô phỏng trên Matlab và so sánh với mô hình đối tượng thực cho ta thấy sai số bình phương trung bình giữa mô hình huấn luyện và mô hình kiểm tra ở cả góc đảo lái và và góc chao dọc khi sử dụng cùng cấu trúc luyện mạng và các

bộ dữ liệu, chúng ta có thể sử dụng được các mô hình khi dùng các thuật toán huấn luyện và kiểm tra là Conjugate gradient with Powell-Beale restarts, Conjugate

79

gradient with Fletcher-Reeves, Conjugate gradient with Polak-Ribiere updates, Scaled conjugate gradient, Levenberg-Marquardt, BFGS Quasi-Newton, Bayesian Regularisation and One step Secant vì sai lệch mô hình nhỏ, và không nên sử dụng

mô hình được huấn luyện và kiểm tra bởi các thuật toán: Gradient descent, Gradient descent with momentum and adaptive rate, Gradient descent with adaptive learning rate, Resilient vi sai lệch mô hình lớn

80

TAI LIEU THAM KHAO

[1] Twin Rotor MIMO System 33-220 User Manual, 1998 (Feedback Instruments Limited, Crowborough, UK)

[2] A Rahideh, M.H Shaheed, Mathematical dynamic modelling of a twin rotor multiple input-multiple output system, Proceedings of the IMechE, Part I J ournal

of Systems and Control Engineering 221 (2007) 89-101

[3] Ahmad, S M., Shaheed, M H., Chipperfield, A J., and Tokhi, M O Nonlinear modelling of a twin rotor MIMO system using radial basis function networks

IEEE National Aerospace and Electronics Conference, 2000, pp 313-320

[4] Ahmad, S M., Chipperfield, A J., and Tokhi, M O Dynamic modelling and optimal control of a twin rotor MIMO system IEEE National Aerospace and Electronics Conference, 2000, pp 391-398

[5] Shaheed, M H Performance analysis of 4 types of conjugate gradient algorithm in

‘the nonlinear dynamic modelling of a TRMS using feedforward neural networks

IEEE International Conference on Systems, man and cybernetics, 2004, pp 5985—

5990

[6] Subrahmanyam Saderla,R Dhayalan, Ajoy Kanti Ghosh (2016), Parameter

Estimation from Near Stall Flight Data using Conventional and Neural-based Methods

[7] Abhishek Ghosh Roy, Naba Kumar Peyada (2017), Lateral aircraft parameter

estimation using neuro-fuzzy and genetic algorithm based method, IEEE

[8] Huong T.M Nguyen, Thai Mai T., Lai Lai K (2015), “Model Predictive Control

to get Desired Output with Infinite Predictive Horizon for Bilinear Continuous Systems”, International Journal of Mechanical Engineeringand Robotics Research,

Vol 4, No 4, pp 299 - 303

[9] Huong T.M Nguyen, “Jnterchannel Interference in While box Model of Twin Rotor MIMO System” SSRG International Journal of Electrical and Electronics Engineering (SSRG-IJEEE), Volume 8 Issue 4, 36-40, April 2021

[10] Huong T.M Nguyen, Mai Trung Thai!, “Black box Modeling of Twin Rotor MIMO System by Using Neural Network” SSRG International Journal of Electrical and Electronics Engineering (SSRG-IJEEE), Volume 8 Issue 6, 15-22, June 2021

[11] Akabar Rahideh (2009), Model Identification and Robust nonlinear Model predictive control of a twin rotor MIMO system, A thesis Doctor of philosophy in the school of Engineering and Materials Science Queen Mary, University of London

[12] M Norgaard, O Ravn, N K Poulsen, L K Hansen, Neural Networks for Modelling and control of dynamic systems, 3d Edition, Springer-Verlag, London,

2003

[13] T.L McClelland, D E Rumelhart, et al., Parallel Distributed Processing, The

MIT Press, Cambridge, 1986

[14] P J Werbo, Beyond Regression: New Tools for Prediction and Analysis in the

Behavioral Sciences, Ph D Thesis, Harvard University, Cambridge, 1974

[15] S Haykin, L Li, "Nonlinear and Adaptive Prediction of Non-stationary Signals", [EEE Transactions on Signal Processing, Vol 43, No 2,1995, pp 526-

535

81

[16] A N Michel, J A Farrell, "Associative Memories via Artificial Neural

Networks", IEEE Control Systems Magazine, April 1990, pp 6-17

[17] T Kohonen, Self- Organization and Associative Memory, 2nd Ed,

Springer Verlag, Berlin, 1987

[18] G A Carpenter, S Grossberg, "ART2 Self-organization of State Category

Recognition Codes for Analog Input Patterns", Applied Optics, Vol 26, No

23,1987, pp 4919-4930

[19] G.A Carpenter, S Grossberg, D S Rosen, "Fuzzy ART: Fast Stable Learning

and Categorization of Analog Patterns by an Adaptive Resonance System", Neural

Networks, Vol 4,1991, pp 759-771

[20] J J Hopfield, D W Tank, "Neural Computation of Decisions in Optimization

Problems", Biological Cybernetics, Vol 52,1985, pp 141-15

[21] W.S McCulloc, W H Pitts, "A Logical Calculus of the Ideas Imminent in

Nervous Activity", Bulletin of Mathematical Biophysics, Vol 5,1943, pp 115-

133

[22] M F Moller, "A Scaled Conjugate Gradient Algorithm for Fast Supervised

Learning", Neural Networks, Vol 6,1993, pp 525-533

[23] M T Hagan, H B Demuth, M H Beale, Neural Network Design, Boston,

MA: PWS Publishing, 1996

[24] M Riedmiller, H Braun, "A Direct Adaptive Method for Faster

Back propagation Learning: The RPROP Algorithm", Proceedings of the IEEE

International Conference on Neural Networks, 1993

[25] R Fletcher, C M Reeves, "Function Minimization by Conjugate Gradients",

Computer Journal, Vol 7,1964, pp 149-154

[26] M J D Powell, "Restart Procedures for the Conjugate Gradient Method",

Mathematical Programming, Vol 12,1977, pp 241-254

[27] E.M.L Beale, "A Derivation of Conjugate Gradients", in F A Lootsma, ed.,

Numerical Methods for Nonlinear Optimization, London: Academic Press, 1972

[28] J E Dennis, R B Schnabel, Numerical Methods for Unconstrained

Optimization and Nonlinear Equations, Englewood Cliffs, NJ: Prentice-Hall, 1983

[29] R Battiti, "First and Second Order Methods for Learning: Between Steepest

Descent and Newton's Method", Neural Computation, Vol 4, No 2,1992, pp 141-

166

[340] R Battiti, F Masulli, "BFGS Optimization for Faster and Automated

Supervised Learning", International Neural Network Conference, Paris, July 1990,

pp 757-760

[31] M T Hagan, M Menhaj, "Training Feedforward Networks with the Marquardt

Algorithm", IEEE Transactions on Neural Networks, Vol 5, No 6, 1994, pp 989-

993

[32] D J C MacKay, "Bayesian Interpolation", Neural Computation, Vol 4, No

3,1992, pp 415-447

[33] F D Foresee, M T Hagan, "Gauss-Newton Approximation to Bayesian

Regularization", Proceedings of the 1997 International Joint Conference on Neural

Networks, 1997, pp 1930-1935

82

[34] S A Billings, W S N Voon, "Correlation Based Model Validity Tests for

Non-linear Models", International Journal of Control, 44(1), 1986, pp 235- 244

[35] S A Billings, Q M Zhu, "Nonlinear Model Validation using Correlation Tests", International Journal of Control, 60(6), 1994, pp 1107-1120

[36] H B Demuth, M Beale, M T Hagan, The Neural Networks Toolbox, Mathworks Inc USA, 2006

[37] Abhishek Ghosh Roy, Naba Kumar Peyada (2017), Longitudinal Aircraft Parameter Estimation Using Neuro-Fuzzy and Genetic Algorithm Based Method

[38] Hari Om Verma, Naba Kumar Peyada (2020), Aircraft parameter estimation using ELM network

[39] Abhishek Ghosh Roy, Naba Kumar Peyada (2017); Aircraft parameter estimation using Hybrid Neuro Fuzzy and Artificial Bee Colony optimization (HNFABC) algorithm

[40] Hari Om Verma, Naba Kumar Peyada,S R Singh (2017); Aerodynamic

modelling of quasi steady stall using neural-network based Gauss Newton method

[41] Naba Kumar Peyada, Ajoy Kanti Ghosh (2009); Aircraft Parameter Estimation using Neural Network based Algorithm

[42] Akabar Rahideh (2009), Model Identification and Robust nonlinear Model predictive control of a twin rotor MIMO system, A thesis Doctor of philosophy in the school of Engineering and Materials Science Queen Mary, University of London

[43] Naba Kumar Peyada, Ajoy Kanti Ghosh (2009); Aircraft parameter estimation using a new filtering technique based upon a neural network and Gauss-Newton method

[44] Đỗ Trung Hải (2005), Nghiên cứu lý thuyết điều khiển mờ và mạng nơron ứng dụng giải quyết bài toán phi tuyến trong hệ truyền động điện, Đề tài nghiên cứu khoa học và công nghệ cấp bộ, Trường Đại học Kỹ Thuật Công nghiệp Thái Nguyên

83

Y' voi 500 hang

dong co chinh va

$dien ap dong co duoi

$I: ma tran dau vao de huan luyen mang noron

$T: Mục tieu Ma tran dau ra de huan luyen mang

$%IT: Ma tran dau vao de kiem tra mang noron

$%TT: Muc tieu ma tran dau ra de kiem tra mang noron OT=2; %Bac (khong gian tre) cua dau vao mang noron

OO=3; %Bac (khong gian tre) cua dau ra mang noron

Ts=0.2; %Thoi gian lay mau cua mang Tss=0.0001; %Thoi gian lay mau cua TRMS thuc NDS=9; %S%o cac bo du lieu de luyen mang NDST=3; %5o cac bo du lieu de kiem tra

%Dang du lieu luyen mang clear st 2

L=0;

for j=1:NDS

N=length (Yout) ;

$%Cau truc cac dau vao cua mang noron cho cac giai doan huan luyen

n=length (VV);

T(L+1:T+n,1)=[zeros(1,1);VV(1:n-1)];

for i=1:OT T(L+1:L+n,i+1)=[zeros(i1+1,1);VV(1:n-i-1)];?

end

for i=1:OO

end T1(L+1:L+n,OT+OoO+2)=[zeros (1,1);VH(1:n-1)];

for i=1:OTI

end for i1=1:00

84