Ứng dụng mạng neuron để dự báo mưa với cơ sở dữ liệu được thu thập trong khu vực triển khai mạng cảm biến không dây

Ứng dụng mạng neuron để dự báo mưa với cơ sở dữ liệu được thu thập trong khu vực triển khai mạng cảm biến không dây Ứng dụng mạng neuron để dự báo mưa với cơ sở dữ liệu được thu thập trong khu vực triển khai mạng cảm biến không dây Ứng dụng mạng neuron để dự báo mưa với cơ sở dữ liệu được thu thập trong khu vực triển khai mạng cảm biến không dây

TÓM TẮT

Hiện nay trên thế giới các hệ thống dự báo thời tiết được thực hiện bởi nhiều phương pháp khác nhau như: Synop, thống kê, phân tích ảnh mây vệ tinh, sản phẩm Radar thời tiết, dự báo thời tiết bằng mô hình số trị,… Trong mỗi phương pháp đó lại có rất nhiều hình thức triển khai và mô hình dự báo cụ thể Mỗi phương pháp đều có những

ưu điểm và nhược điểm riêng Việc ứng dụng phương pháp nào là tùy thuộc vào tài nguyên của hệ thống, trang thiết bị kỹ thuật, kiến thức chuyên môn của người triển khai, yêu cầu và mục đích mà hệ thống hướng đến

Trong thời gian gần đây, các thuật toán máy học được ứng dụng rộng rãi cho việc giải quyết các bài toán dự đoán phức tạp trong đó có dự báo thời tiết Với những ưu điểm vượt trội như tính linh hoạt, độ chính xác cao, đa dạng về ứng dụng, xử lý dữ liệu có tính biến động theo thời gian,… Các thuật toán máy học mang tính khách quan

và đáp ứng được nhiều yêu cầu của thực tiễn hơn so với các phương pháp trước đây Phương pháp dự báo sử dụng mạng nơron nhân tạo là phương pháp dự báo sử dụng

mô hình có khả năng tiếp thu và ghi nhớ các dữ liệu quá khứ để cập nhật các tham số hiện tại Nếu lựa chọn được các tham số tối ưu thì kết quả dự báo cũng có độ chính xác cao Đây là mô hình được lựa chọn cho bài toán dự báo mưa của luận văn Mục đích của luận văn là thiết kế hệ thống dự báo mưa dựa trên mạng nơron nhân tạo kết hợp với mạng cảm biến không dây Mạng nơron nhân tạo sẽ xử lý các thông

số môi trường được thu thập từ mạng cảm biến để đưa ra dự báo về sự kiện mưa Mô hình mạng nơron sẽ được xây dựng và lựa chọn các thông số phù hợp bằng các sai số

dự đoán Hiệu suất của hệ thống dự báo thời tiết với mô hình mạng nơron đã xây dựng sẽ được kiểm chứng thông qua quá trình thực nghiệm với lượng dữ liệu được thu thập từ thực tế Kết quả dự báo sẽ được đánh giá và so sánh độ chính xác với các

mô hình thuật toán máy học khác Các kết quả dự báo sẽ giúp người dùng hoặc các

hệ thống tự động đưa ra được quyết định phù hợp để đảm bảo sản phẩm luôn ở trong môi trường tốt nhất để phát triển

ABSTRACT

Currently in the world weather forecast systems are implemented by many different methods such as: Synop, statistics, satellite image analysis, weather radar, numerical weather prediction, … In each of these methods, there are many specific implementation forms and prediction models Each method has its own advantages and disadvantages The application of the method depends on the resources of the system, technical equipment, the professional knowledge of the implementers, requirements and purposes that the system aims to In recent times, machine learning algorithms are widely applied to solve complex nonlinear problems including weather forecasting With outstanding advantages such as flexibility, high accuracy, variety of applications, data processing with time fluctuations, … Machine learning algorithms are objective and meet many requests practical requirement than the previous methods Prediction method using artificial neural networks is a predictive method using a model capable of “learning” from past data, able to update parameters If the optimal parameters are selected, the forecast results are also highly accurate This is the model chosen for the rain forecast problem of the thesis

The purpose of the thesis is to design a rain forecasting system based on artificial neural networks combined with wireless sensor networks The neural network will process the environmental parameters collected from the sensor network to make a forecast of the rain event Neural network model will be built and selected suitable parameters based on prediction errors Predictive error is the difference between the real value and the forecasted value in order to assess the quality or suitability of the forecasting model The performance of the weather forecasting system with the built neural network model will be verified through an experimental process with the amount of data collected from reality The forecast results will be evaluated and compared the accuracy with other machine learning algorithm models The forecast results help users or automative systems make the right decisions to ensure the product is always in the best environment for development

MỤC LỤC

LÝ LỊCH KHOA HỌC i

LỜI CAM ĐOAN ix

LỜI CẢM ƠN x

TÓM TẮT xi

ABSTRACT xii

MỤC LỤC xiii

DANH SÁCH CHỮ VIẾT TẮT xvii

DANH MỤC HÌNH xviii

DANH MỤC BẢNG xx

Chương 1 TỔNG QUAN 1

Đặt vấn đề 1

Mục tiêu và giới hạn đề tài 2

Phương pháp nghiên cứu 2

Tổng quan tình hình nghiên cứu 3

Nội dung luận văn 5

Chương 2.CƠ SỞ LÝ THUYẾT 7

Mạng cảm biến không dây 7

2.1.1 Khái niệm 7

2.1.2 Nút cảm biến 7

2.1.3 Đặc điểm của cấu trúc mạng cảm biến 8

2.1.4 Kiến trúc và giao thức của mạng cảm biến không dây 10

2.1.5 Ưu điểm, nhược điểm của mạng cảm biến không dây 11

2.1.6 Sự khác nhau giữa WSN và mạng truyền thống 12

Công nghệ truyền thông không dây Zigbee 12

2.2.1 Tổng quan 12

2.2.2 Đặc điểm 13

2.2.3 Cấu trúc các tầng của Zigbee 13

2.2.4 Thành phần mạng Zigbee 15

2.2.5 Mô hình mạng Zigbee 16

2.2.6 Zigbee và các giao thức truyền thông khác 18

Mạng nơron nhân tạo 18

2.3.1 Tổng quan 18

2.3.2 Nơron sinh vật 19

2.3.3 Nơron nhân tạo 20

2.3.4 Mạng nơron nhân tạo 23

2.3.5 Quá trình học 26

2.3.6 Mạng perceptron một lớp 28

2.3.7 Mạng perceptron nhiều lớp 29

2.3.8 Thuật toán lan truyền ngược 30

2.3.9 Thiết kế cấu trúc mạng 34

2.3.10 Một số yếu tố ảnh hướng đến quá trình học 34

Các thuật toán máy học khác 36

2.4.1 Mô hình thuật toán SVM 36

2.4.2 Mô hình thuật toán Naive Bayes 37

2.4.3 Mô hình thuật toán Decision Tree 37

2.4.4 Mô hình thuật toán Logistic Regression 38

2.4.5 Mô hình thuật toán K-Nearest Neighbor 39

2.4.6 Mô hình thuật toán Random Forest 39

Chương 3 THIẾT KẾ HỆ THỐNG 41

Tổng quan mô hình 41

3.1.1 Thu thập dữ liệu 43

3.1.2 Máy chủ lưu trữ 44

3.1.3 Thuật toán 44

Sơ đồ phần cứng hệ thống 45

Thiết kế phần cứng 46

3.3.1 Khối xử lý trung tâm 46

3.3.2 Nút cảm biến 47

3.3.3 Khối truyền nhận dữ liệu 48

3.3.4 Truyền nhận dữ liệu đến máy chủ 49

Lưu đồ hoạt động của hệ thống 50

Xây dựng mô hình dự báo sử dụng mạng nơron 52

3.5.1 Các bước xây dựng mô hình 52

3.5.2 Xác định cấu trúc mạng 52

3.5.3 Huấn luyện mô hình mạng 55

3.5.4 Thuật toán lan truyền ngược 56

Sai số mô hình dự báo 57

Độ chính xác của mô hình 58

Chương 4 THỰC NGHIỆM và ĐÁNH GIÁ 60

Tiền xử lý dữ liệu 60

Lựa chọn dữ liệu 61

Thực nghiệm thuật toán 62

Kiểm thử thuật toán 65

So sánh thuật toán 66

Nhận xét thuật toán 69

Đánh giá hệ thống 70

4.7.1 Ưu điểm 70

4.7.2 Nhược điểm 70

Chương 5.KẾT LUẬN 71

Kết luận 71

5.1.1 Kết quả đạt được 71

5.1.2 Hạn chế 71

Hướng phát triển 72

Tài Liệu Tham Khảo 73

Phụ Lục 77

A Code Neural Network 77

DANH SÁCH CHỮ VIẾT TẮT

NN: Neural Network

ANN: Artificial Neural Network

BPA: Back Propagation Algorithm

MLP: Multilayer Layer Perceptron

IEEE: Institute of Electrical and Electronics Engineers

MAE: Mean Absolute Error

MSE: Mean Square Error

MAPE: Mean Absolute Percent Error

RMSE: Root Mean Square Error

SVM: Support Vector Machine

WSN: Wireless Sensor Network

K-NN: K-Nearest Neighbors

UART: Universal Asynchronous Receiver – Transmitter

WIFI: Wireless Fidelity

DANH MỤC HÌNH

Hình 2.2 Cấu trúc cơ bản của mạng cảm biến không dây [10] 9

Hình 2.23 Cấu trúc mô hình K Nearest Neighbor [26] 39

Hình 3.10 Lưu đồ mô hình thực nghiệm Neural Network 56 Hình 3.11 Lưu đồ thực nghiệm thuật toán lan truyền ngược 57

Hình 4.3 Hàm mất mát Cross Entropy với 100 vòng lặp 64

Hình 4.5 Số phần trăm dự đoán chính xác của các thuật toán 68

DANH MỤC BẢNG

Bảng biểu 4.1: Bảng phân chia dữ liệu huấn luyện và kiểm thử 62

Bảng biểu 4.2: Huấn luyện mô hình mạng với số nơron lớp ẩn khác nhau 63

Bảng biểu 4.3: Kiểm thử với tập dữ liệu testing dataset 66

Bảng biểu 4.4: Thời gian huấn luyện của các thuật toán 66

Bảng biểu 4.5: Phần trăm dự đoán của các thuật toán 67

từ các trạm khí tượng [1] Những thông tin dự báo và cảnh báo kịp thời, chính xác góp phần rất lớn tới quá trình phát triển kinh tế - xã hội và bảo vệ môi trường Đồng thời, những cảnh báo nguy hiểm về hiện tượng thời tiết tiêu cực như hạn hán, lũ lụt,

… cũng giúp con người có những hành động kịp thời làm giảm thiểu những thiệt hại Ngày nay, sản xuất nông nghiệp ở Việt Nam vẫn phụ thuộc rất nhiều vào thời tiết Sự thay đổi thất thường của các yếu tố thời tiết sẽ ảnh hưởng trực tiếp đến hoạt động sản xuất nông nghiệp, nhất là trồng trọt Những tác hại có thể kể đến như sự gia tăng dịch bệnh, dịch hại với cây trồng, giảm sút năng suất mùa màng, [2] Vậy nên nếu những thay đổi thời tiết có thể được dự đoán với độ chính xác đáng tin cậy thì chúng ta có thể sử dụng những dự đoán này để giúp người nông dân cũng như các hệ thống nông nghiệp tự động đưa ra quyết định điều chỉnh phù hợp giúp cho sản phẩm nông nghiệp luôn ở trong môi trường tốt nhất để phát triển, cũng như tránh được ảnh hưởng hoặc giảm thiểu thiệt hại từ thời tiết xấu [3] Với mong muốn sẽ tìm được giải pháp cho vấn đề trên, học viên quyết định tìm hiểu và thực hiện một hệ thống dự báo thời tiết với độ chính xác cao, cung cấp một công cụ hữu hiệu cho nông dân và các hệ thống nông nghiệp tự động để giảm thiểu các tác động tiêu cực từ thời tiết với môi trường phát triển sản phẩm nông nghiệp Sự kiện mưa sẽ là mục tiêu dự báo mà luận văn sẽ hướng đến vì thời tiết mưa có tác động trực tiếp đến môi trường, cũng như làm thay đổi những điều kiện phát triển của sản phẩm nông nghiệp

Mục tiêu và giới hạn đề tài

Mục tiêu của đề tài là thiết kế hệ thống dự báo mưa bao gồm một thiết bị có thể cập nhật dữ liệu môi trường theo thời gian thực và một thuật toán máy học để dự đoán sự kiện mưa trong tương lai Các dữ liệu môi trường bao gồm nhiệt độ, độ ẩm sẽ được thu thập từ xa sau đó xử lý trên máy tính Mô hình máy học Neural Network cùng với thuật toán Back Propagation sẽ được triển khai để xử lý dữ liệu môi trường, từ đó sẽ đưa ra dự đoán sự kiện mưa vào ngày tiếp theo Với sự kiện đã được dự đoán sẽ là cơ

sở để đưa ra những quyết định tức thời một cách thuận tiện trong nhiều lĩnh vực như nông nghiệp (điều khiển tưới tiêu, bón phân, điều chỉnh nhiệt độ), công nghiệp (điều khiển động cơ, vận hành hệ thống làm mát), Bên cạnh đó, luận văn cũng sẽ đánh giá hiệu quả khi áp dụng mô hình Neural Network vào hệ thống dự báo và hiệu năng của mô hình này so với các mô hình thuật toán dự đoán phổ biến khác như: SVM,

Logistic Regression, Naive Bayes,

Giới hạn nghiên cứu là mô hình mạng cảm biến không dây Zigbee với cấu trúc mạng hình sao bao gồm 2 cảm biến nhiêt độ - độ ẩm được đặt ở 2 địa điểm khác nhau với mục đích là thu thập thông số môi trường diễn ra tại các địa điểm lắp đặt cảm biến

Mô hình dự báo là Neural Network truyền thẳng nhiều lớp và sử dụng thuật toán Back Propagation với các thông số mô hình được lựa chọn và thực nhiệm nhiều lần cùng với cơ sở dữ liệu đã thu thập để tìm ra mô hình có sai số thấp nhất giữa dự đoán và thực tế

Phương pháp nghiên cứu

Trong luận văn này học viên thực hiện các phương pháp nghiên cứu sau để hoàn thành đề tài đặt ra:

- Tham khảo các tài liệu trong và ngoài nước về lý thuyết và mô hình của mạng cảm biến không dây

- Nghiên cứu các phần cứng dùng để thu thập các thông số môi trường và triển khai mô hình mạng cảm biến không dây

- Tham khảo các tài liệu trong và ngoài nước về lý thuyết và mô hình các thuật toán để phục vụ cho việc dự báo thời tiết

- Tìm hiểu tính tương quan giữa các thông số trong các thuật toán

- Nghiên cứu ứng dụng mạng ANN truyền thẳng nhiều lớp vào hệ thống dự báo

- Phân tích, so sánh và đánh giá kết quả từ mô hình thực tế

Tổng quan tình hình nghiên cứu

Dự báo thời tiết là một công việc vô cùng phức tạp và đòi hỏi rất nhiều công đoạn phải được thực hiện một cách chuyên nghiệp Mặc dù khoa học dự báo thời tiết ra đời

đã ra đời từ rất lâu nhưng hiện nay chất lượng công tác dự báo thời tiết vẫn đang không ngừng được các nhà khoa học nghiên cứu và cải thiện Các phương pháp đang được ứng dụng hiện nay bao gồm: Synop, thống kê, phân tích ảnh mây vệ tinh, Radar thời tiết, mô hình số trị, [4] Tuy nhiên trong luận văn này học viên đã nghiên cứu một mô hình thuật toán máy học để ứng dụng cho dự đoán thời tiết Máy học đang trở thành xu thế mới trên thế giới hiện này vì tính chính xác và ứng dụng đa dạng của

nó để giải quyết các vấn đề thực tiễn trong đời sống và dự đoán thời tiết cũng là một trong những ứng dụng của máy học Các thuật toán máy học đang được sử dụng rộng rãi để giải quyết các bài toán dự đoán ở khắp nơi trên thế giới Được biết đến và ứng dụng nhiều phải kể đến những thuật toán như Neural Network, Support Vector Machine, Naive Bayes Classifier, Linear Regression, Logistic Regression,…[5] Trong đó thuật toán Neural Network đang được sử dụng rất phổ biến trong dự đoán

ô nhiễm môi trường, dự đoán thời tiết, dự đoán môi trường gây hại cho cây trồng,

Có rất nhiều nghiên cứu đã khai thác về vấn đề này và cho chúng ta thấy được sự đa dạng về ứng dụng của các thuật toán để giải quyết các bài toán trong thực tế:

 Thomas Truong, Anh Dinh, Khan Wahid (2017), đã có những nghiên cứu với

đề tài: Hệ thống thu thập dữ liệu môi trường IoT để phát hiện nấm trong các vườn cây trồng Họ thiết kế hệ thống Internet of Things (IoT) bao gồm thiết bị có khả năng gửi dữ liệu môi trường thời gian thực đến đám mây để lưu trữ và thuật toán học máy có khả năng dự đoán điều kiện môi trường để phát

hiện và ngăn chặn nấm Dữ liệu môi trường bao gồm độ ẩm không khí, tốc độ gió và lượng mưa được xử lý bởi một máy tính từ xa để phân tích và quản lý Thuật toán học máy SVMr được phát triển để xử lý dữ liệu thô và dự báo nhiệt

độ, độ ẩm không khí tương đối và tốc độ gió để hỗ trợ dự đoán sự hiện diện

và lan truyền các bệnh nấm có hại ở các vườn cây trồng tại địa phương Cùng với đó, các dữ liệu về môi trường và dự đoán môi trường dễ dàng được tiếp cận thông qua hệ thống IoT sẽ hỗ trợ các nông dân quản lý tốt hơn và ngăn ngừa lây lan bệnh nấm tại vườn cây của mình [6]

Đây là một đề tài sử dụng được sự hiệu quả của mạng cảm biến để thu thập dữ liệu

và dùng máy học để xử lý những thông tin, thực hiện dự đoán Bên cạnh đó những nghiên cứu về việc dự đoán được sử dụng rất nhiều trong vấn đề thiên tai, lũ lụt Có thể kể đến một đề tài như sau đã sử dụng mạng cảm biến kết hợp với mô hình Neural Network để giải quyết bài toán dự đoán lũ lụt:

 Prof.(Dr.) J.K.Roy, Dola Gupta, Sanjay Goswami (2015), đã có những nghiên cứu với đề tài: Hệ thống cảnh báo lũ được cải tiến sử dụng mạng cảm biến

và mạng nơron nhân tạo Trong đó, tác giả đã thiết kế hệ thống dựa vào hoạt động của bề mặt nước để kiểm soát lũ và giảm thiểu tác động của lũ lụt theo thời gian thực Mô hình được xem xét ở đây giả định cho một hệ thống cảnh báo lũ lụt phức tạp Các tham số đầu vào được giới hạn về mặt lý thuyết và dự đoán được mô phỏng bằng ANN Kết quả của nghiên cứu đã đưa ra cảnh báo sớm cũng như tình hình lũ lụt để hỗ trợ cho quản lý thiên tai và chống lại hậu quả của lũ lụt [7]

Ngoài những ứng dụng về dự báo lũ lụt, dự báo những thông số thời tiết hằng ngày trong thời gian gần với mô hình mạng Neural Network cũng đã được áp dụng từ rất lâu:

 Mohsen Hayati, Zahra Mohebi (2007), đã có những nghiên cứu với đề tài: Ứng dụng của mạng thần kinh nhân tạo để dự báo nhiệt độ Trong đó, các tác giả đã nghiên cứu mạng thần kinh nhân tạo dựa trên mô hình mạng lan truyền

thẳng nhiều lớp (MLP) đã được huấn luyện và kiểm thử bằng thông số khí tượng trong vòng 10 năm từ 1996 đến 2006 Kết quả huấn luyện và kiểm thử cho thấy rằng mạng lan truyền thẳng nhiều lớp có sai số dự đoán nhỏ và có thể coi là một phương pháp tốt để mô hình hóa các hệ thống dự báo nhiệt độ ngắn hạn [8]

Ngoài những ứng dụng về dự báo, các thuật toán máy học còn có thể sử dụng để lọc

dữ liệu và giảm thiểu dữ liệu lưu trữ không cần thiết:

 L.P Dinesh Kumar, S.Shakena Grace, Akshaya Krishnan, V M Manikandan,

R Chinraj, M R Sumalatha (2012), đã có những nghiên cứu với đề tài: Lọc

dữ liệu trong mạng cảm biến không dây sử dụng mạng nơron để lưu trữ trong đám mây Trong đó, các tác giả đã thiết kế mô hình mạng cảm biến không dây được tích hợp với môi trường đám mây để hỗ trợ lưu trữ và xử lý

dữ liệu dễ dàng hơn Khái niệm về gateways được giới thiệu để kết nối mạng cảm biến không dây và đám mây Sensor gateway thu thập thông tin từ các nút cảm biến, nén và truyền đến cloud gateway, sau đó sẽ được giải mã và lưu trữ tại cloud server Bài báo sử dụng mạng nơron để lọc các giá trị bất thường tại sensor gateway trong quá trình thu thập Mô hình được đề xuất sẽ giúp giảm mức tiêu thụ năng lượng vì phần lớn quá trình xử lý dữ liệu được thực hiện tại các gateway, đồng thời tài nguyên lưu trữ sẽ được sử dụng hiệu quả do dữ liệu được lưu trữ lên đám mây giảm đáng kể sau khi loại bỏ được những dữ liệu không cần thiết [9]

Sau khi tìm hiểu các nghiên cứu gần đây, học viên thấy rằng các thuật toán máy học đang được ứng dụng để xử lý rất nhiều vấn đề trong thực tế với nhiều lĩnh vực khác nhau Việc nghiên cứu để ứng dụng thuật toán máy học cho hệ thống dự báo mà luận văn đang hướng đến là hoàn toàn có cơ sở dựa trên những nghiên cứu đã nêu trên Nội dung luận văn

Chương 1 Tổng quan

Chương này trình bày khái quát về dự báo thời tiết và các ứng dụng của dự báo thời tiết trong cuộc sống Giới thiệu mô hình cảm biến không dây và thuật toán dự đoán

mà luận văn sẽ sử dụng Nội dung chương cũng đề cập đến lý do chọn đề tài, mục tiêu, giới hạn và phương pháp nghiên cứu sẽ sử dụng trong luận văn

Chương 2 Cơ sở lý thuyết

Trong chương này, các khái niệm về mạng cảm biến không dây, các mô hình và phương pháp xây dựng chúng sẽ được trình bày Giới thiệu về mạng Neural Network

và ưu điểm của mạng trong việc dự đoán mưa sẽ được trình bày trong chương này Chương 3 Xây dựng hệ thống

Trong chương này, thiết kế hệ thống mạng cảm biến không dây để thu thập các thông

số môi trường bao gồm lựa chọn phần cứng và thiết kế mô hình sẽ được trình bày Bên cạnh đó, chương này cũng sẽ trình bày cách mà hệ thống thu thập dữ liệu cũng như phương thức triển khai thuật toán dự đoán với thông số môi trường đã thu thập được, đồng thời cách thức lựa chọn các thông số của mô hình cũng sẽ được giới thiệu trong chương này

Chương 4 Thực nghiệm và đánh giá

Trong chương này, việc thực nghiệm với hệ thống đã được xây dựng ở chương 3 sẽ trình bày Các bước thực thi trong thu thập dữ liệu và huấn luyện mô hình mạng ANN

dự đoán trong hệ thống cũng sẽ được phân tích làm rõ Bên cạnh đó các kết quả thực nhiệm thực tế mà mô hình đạt được cũng sẽ được đánh giá và phân tích Việc kiểm thử và so sánh độ chính xác trong dự đoán của mô hình ANN với các mô hình thuật toán khác sẽ được trình bày và nhận xét trong chương này

Chương 5 Kết luận

Chương này sẽ tiến hành đánh giá các kết quả đạt được của hệ thống Từ đó, so sánh với mục tiêu ban đầu đề ra và kết luận Bên cạnh đó, chương này cũng sẽ trình bày hướng phát triển đề tài trong tương lai

Chương 2

CƠ SỞ LÝ THUYẾT

Mạng cảm biến không dây

2.1.1 Khái niệm

Mạng cảm biến không dây là hệ thống các nút cảm biến kết nối với nhau bằng sóng

vô tuyến và từ đó hình thành một mạng lưới liên kết, trong đó các nút này thường là các thiết bị nhỏ gọn, giá thành thấp và có khả năng thu thập các thông số môi trường xung quanh khu vực lắp đặt Các điểm cảm biến này được lắp đặt số lượng lớn và phân bố một cách không có hệ thống trên một diện tích rộng, có thời gian hoạt động lâu dài và sử dụng nguồn năng lượng hạn chế

2.1.2 Nút cảm biến

Một nút cảm biến được cấu tạo bởi 4 thành phần cơ bản sau : bộ xử lý, bộ cảm biến,

bộ thu phát không dây và nguồn cung cấp Tuỳ theo mục đích ứng dụng, nút cảm biến còn có thể có các thành phần bổ sung như hệ thống định vị và thiết bị di động [10]

Hình 2.1 Thành phần nút cảm biến [10]

 Bộ xử lý có khả năng lưu trữ và phân tích các thông số cảm biển sau khi được thu thập, quản lý các tác vụ hoạt động và giao tiếp với các nút khác để trao đổi thông tin, thực hiện nhiệm vụ

 Bộ cảm biến thường gồm hai thành phần là đầu đo cảm biến với chức năng cảm nhận và cập nhật những thay đổi của các thông số môi trường Thành phần thứ hai là bộ chuyển đổi tương tự có khả năng chuyển đổi các tín hiệu tương tự được thu nhận từ đầu đo sang tín hiệu số, sau đó mới được đưa tới

bộ xử lý

 Bộ thu phát có khả năng đảm bảo kết nối và bảo toàn thông tin giữa nút cảm biến trong mạng với kết nối không dây như vô tuyến, hồng ngoại hoặc tín hiệu quang

 Bộ nguồn cung cấp năng lượng cho nút cảm biến Vì yêu cầu thiết kế nhỏ gọn nên pin hoặc ắc quy thường được lựa chọn làm bộ nguồn cho nút cảm biển

Ngoài ra những thành phần phụ khác có thể được bổ sung phụ thuộc vào mục đích của ứng dụng Bộ định vị sẽ được triển khai khi mạng cảm biến yêu cầu có độ chính xác cao về vị trí Các bộ phận di động sẽ được lắp đặt để đáp ứng với các yêu cầu như theo dõi chuyển động của vật thể Tất cả những thành phần này cần phải có kích cỡ phù hợp để tích hợp cùng với các thành phần khác Ngoài kích cỡ ra các nút cảm ứng còn một số yêu cầu nghiêm ngặt khác, như là khả năng tiêu thụ năng lượng thấp, hoạt động ở mật độ cao và có khả năng tự hoạt động, giá thành thấp khi triển khai với số lượng lớn, và thích ứng với môi trường đặc biệt [10]

2.1.3 Đặc điểm của cấu trúc mạng cảm biến

Đặc điểm của mạng cảm biến là bao gồm một số lượng lớn các nút cảm biến, các nút cảm biến đòi hỏi khả năng tiêu thụ năng lượng ở mức thấp và giới hạn lưu trữ do hạn chế về tài nguyên Vì vậy, cấu trúc mạng mới có nhiều đặc điểm khác biệt so với các mạng truyền thống trước đây Sau đây là một số đặc điểm nổi bật trong mạng cảm biến [6]:

 Kích thước vật lý nhỏ gọn

 Khả năng xử lý, lưu trữ và tương tác với các thiết bị cơ sở bị chi phối bởi công suất tiêu thụ

 Các nút cảm biến hoạt động đồng thời với độ tập trung cao

 Hạn chế trong khả năng liên kết vật lý và phân cấp điều khiển

 Đa dạng trong thiết kế và sử dụng

 Hoạt động tin cậy

Cấu trúc cơ bản của mạng cảm biến không dây được thể hiện qua hình 2.2

Hình 2.2 Cấu trúc cơ bản của mạng cảm biến không dây [10]

Các nút cảm biến được triển khai trong một trường cảm biến Mỗi nút cảm biến được phát tán trong mạng có khả năng thu thập thông số liệu, định tuyến số liệu về bộ thu nhận để chuyển tới người dùng và định tuyến các bản tin mang theo yêu cầu từ nút thu phát đến các nút cảm biến Bộ thu nhận có thể liên lạc trực tiếp với trạm điều hành của người dùng hoặc gián tiếp thông qua Internet hay vệ tinh Việc thiết kế mạng cảm biến phụ thuộc vào nhiều yếu tố như sau [10]:

 Khả năng chịu lỗi

 Các phương tiện truyền dẫn

 Cấu hình mạng cảm nhận

 Sự tiêu thụ năng lượng

2.1.4 Kiến trúc và giao thức của mạng cảm biến không dây

Kiến trúc giao thức áp dụng cho mạng cảm nhận được trình bày trong hình 2.3 Kiến trúc này bao gồm các lớp và các mặt phẳng quản lý Các mặt phẳng quản lý này giúp cho các nút có thể làm việc hiệu quả cùng nhau, định tuyến dữ liệu trong mạng cảm biến di động và chia sẻ tài nguyên giữa các nút cảm biến [11]

Hình 2.3 Kiến trúc mạng cảm biến không dây [11]

Lớp vật lý: có nhiệm vụ lựa chọn tần số cho mạng Đồng thời tạo ra tần số sóng mang và phát hiện tín hiệu, điếu chế và mã hoá tín hiệu

Lớp liên kết số liệu: có nhiệm vụ phát hiện các khung dữ liệu và cách truy cập đường truyền, ghép các luồng dữ liệu Vì môi trường có nhiễu và các nút cảm biến có thể di động, giao thức điều khiển truy nhập môi trường (MAC) phải xét đến vấn đề công suất và khả năng tối ưu hoá việc va chạm với thông tin từ các nút lân cận

Lớp mạng: tập trung vào việc chọn đường số liệu được cung cấp bởi lớp truyền tải

Lớp truyền tải: giúp duy trì luồng số liệu nếu ứng dụng mạng cảm biến yêu cầu Lớp truyền tải chỉ cần thiết khi hệ thống cần được truy cập thông qua mạng Internet

và các mạng bên ngoài khác

Lớp ứng dụng: tuỳ theo yêu cầu cảm biến, các loại phần mềm ứng dụng khác nhau

có thể được phát triển và triển khai ở lớp ứng dụng

Mặt phẳng quản lý nguồn: quản lý việc tiêu thụ năng lượng của một nút cảm biến Mặt phẳng quản lý tính di động: có nhiệm vụ xác định và theo dõi hoạt động của các nút cảm biến lân cận

Mặt phẳng quản lý tác vụ: Có nhiệm vụ cân bằng và sắp xếp nhiệm vụ cảm biến giữa các nút trong một vùng cụ thể do đó các nút cảm biến có thể làm việc cùng với nhau hiệu quả về mặt năng lượng, có thể định tuyến số liệu trong một mạng cảm biến

di động và chia sẻ tài nguyên giữa các nút cảm biến

2.1.5 Ưu điểm, nhược điểm của mạng cảm biến không dây

 An ninh

2.1.6 Sự khác nhau giữa WSN và mạng truyền thống

Qua phân tích và tìm hiểu ta có thể thấy được sự khác biệt cơ bản của WSN và mạng truyền thống như sau [12]:

 Số lượng các nút cảm biến trong một mạng cảm biến lớn hơn nhiều lần so với những nút cảm biến ad-hoc

 Các nút cảm biến thường được triển khai với mật độ lớn hơn so với các mạng truyền thống

 Những nút cảm biến dễ hư hỏng sau thời gian dài lắp đặt

 Topo mạng cảm biến thay đổi rất thường xuyên

 Mạng cảm biến chủ yếu sử dụng truyền thông quảng bá khác với đa số các mạng ad hoc là điểm - điểm

 Những nút cảm biến có giới hạn về năng lượng, khả năng tính toán và tài nguyên bộ nhớ

 Những nút cảm biến có thể định danh toàn cầu (global ID)

 Nhiệm vụ được chia sẻ giữa các nút lân cận nhau trong mạng

Công nghệ truyền thông không dây Zigbee

Thực tế cho thấy hệ thống có thể hoạt động trong môi trường có dữ liệu dày đặc, hay trong vùng mà có nhiều đường truyền khác làm nhiễu thì hệ thống vẫn đảm bảo hoạt động liên tục đó là nhờ sự đánh giá chất lượng, sự phát hiện năng lượng tiếp nhận và đánh giá kênh rõ ràng

Công nghệ đa truy cập nhận biết sóng mang CSMA được sử dụng để xác định thời điểm truyền, và tránh được những va chạm trong đường truyền [12]

Các thiết bị không dây sử dụng công nghệ ZigBee có thể dễ dàng truyền tin trong khoảng cách 10-75m tùy thuộc và môi trường truyền và mức công suất phát được yêu cầu với mỗi ứng dụng Các dữ liệu được truyền theo gói, gói tối đa là 128bytes cho phép tải xuốngtối đa 104 bytes Tốc độ dữ liệu là 250kbps ở dải tần 2.4GHz (toàn cầu), 40kbps ở dải tần 915MHz (Mỹ và Nhật) và 20kbps ở dải tần 868MHz (Châu Âu) [12]

Tiêu chuẩn này hỗ trợ địa chỉ 64bit cũng như địa chỉ ngắn 16bit Loại địa chỉ 64bit chỉ xác định được mỗi thiết bị có cùng 1 địa chỉ IP duy nhất Khi mạng được thiết lập, những địa chỉ ngắn có thể được sử dụng và cho phép hơn 65000 nút được liên kết [12]

2.2.3 Cấu trúc các tầng của Zigbee

Ngoài 2 tầng vật lý và tầng MAC xác định bởi tiêu chuẩn IEEE 802.15.4, tiêu chuẩn ZigBee còn có thêm các tầng trên của hệ thống bao gồm: tầng mạng, tầng hỗ trợ ứng dụng, tầng đối tượng thiết bị và các đối tượng ứng dụng [13]

Hình 2.4 Cấu trúc các tầng của Zigbee [13]

Tầng vật lý: Tầng này cung cấp 2 loại dịch vụ gồm quản lý và dữ liệu (PHY) Nhiệm

vụ chính gồm kích hoạt/giảm kích các bộ phận tiếp nhận sóng, chọn và giải phóng kênh truyền, phát hiện năng lượng, thu và phát các gói dữ liệu

Tầng MAC: sử dụng như công nghệ đa truy cập nhận biết sóng mang CSMA để xác định hình dạng đường truyền để tránh va chạm xác định và xác định hình dạng mạng, giúp hệ thống mạnh và vững chắc Cung cấp dịch vụ dữ liệu và dịch vụ MAC, dịch

vụ dữ liệu MAC sẽ quản lý việc thu phát thông qua dịch vụ dữ liệu (PHY) Nhiệm vụ của tầng này là điều kiển truy cập kênh, điều khiển và giải phóng kết nối

Tầng mạng – NWK là 1 tầng phức tạp của ZigBee, giúp tìm kiếm, kết nối mạng và

mở rộng hình dạng từ chuẩn 802.15.4 lên dạng lưới Cung cấp 2 dịch vụ là mạng và bảo mật Dịch vụ mạng sẽ thiết lập 1 mạng lưới các thành viên tham gia hoặc loại bỏ thành viên nếu được đưa vào mạng khác, gắn địa chỉ cho hệ thống mới được kết nối, đồng bộ tín hiệu giữa các thiết bị và định tuyến các gói tin truyền đi Còn dịch vụ bảo mật thì có nhiệm vụ bảo vệ tầng MAC, các thông báo tín hiệu và khung tin xác nhận Giúp thông tin di chuyển giữa các nốt mạng được đảm bảo

Tầng hỗ trợ ứng dụng – APS là tầng kết nối với tầng mạng và là nơi cài đặt những ứng dụng cần cho ZigBee, giúp lọc bớt các gói dữ liệu trùng lắp từ tầng mạng Đồng

thời giúp dò tìm các nút trong vùng phủ sóng, duy trì và kết nối thông tin giữa các nút mạng Xác định vai trò của thiết bị trong mạng, thành lập các mối quan hệ cũng như là thiết lập và trả lời các kết nối giữa các thiết bị

Tầng đối tượng thiết bị – ZDO có trách nhiệm quản lý các thiết bị, định hình tầng

hỗ trợ ứng dụng và tầng mạng, cho phép thiết bị tìm kiếm, quản lý các yêu cầu và xác định trạng thái của thiết bị

Tầng các đối tượng ứng dụng người dùng – APO: là tầng mà ở đây người dùng tiếp xúc với thiết bị, tầng này cho phép người dùng có thể tuỳ biến thêm ứng dụng vào hệ thống

2.2.4 Thành phần mạng Zigbee

Các thiết bị trong mạng thường được chia làm 2 loại là FFD (Full Function Device)

và RFD (Reduced Function Device) Trong đó FFD có thể hoạt động như một Coordinator, Router hoặc End Device, còn RFD chỉ có thể đóng vai trò End Device trong một mạng ZigBee Mạng Zigbee cơ bản sẽ có 3 loại thiết bị là [13]:

Hình 2.5 Thành phần mạng Zigbee [13]

Thiết bị điều phối trung tâm – Zigbee Coordinator (ZC)

 Trong 1 mạng Zigbee, chỉ có một và duy nhất 1 Coordinator

 Quyết định kết cấu mạng

 Thiết lập mạng, địa chỉ mạng

 Là thành phần duy nhất có thể truyền thông với các mạng khác

 Định tuyến đường truyền nếu trong mạng lưới (Mesh)

 Là gốc của Tree nếu trong mạng hình cây (Tree)

 Luôn hoạt động

 Là thiết bị FFD

Thiết bị Router – Zigbee Router (ZR)

 Tìm và tham gia mạng

 Duy trì các gói tin thông qua mạng

 Tham gia việc tìm đường, khám phá và duy trì đường đi

 Cho phép các thiết bị khác tham gia mạng

 Lưu các gói thông tin thay cho các Children đang ngủ

 Luôn loạt động để truyền thông với các thành phần khác của mạng

 Theo dõi, điều khiển, thu thập dữ liệu như nút bình thường

 Là thiết bị FFD

Thiết bị End Device – Zigbee EndDevice (ZED)

 Tìm và tham gia mạng

 Giao tiếp với ZC và ZR ở gần nó nhất

 Polling Parent của nó để kiểm tra có dữ liệu nào truyền đến nó hay không

 Tìm một Parent mới nếu kết nối tới Parent cũ bị mất

 Ngủ hầu hết thời gian để tiết kiệm năng lượng

 Các thiết bị ZEDs không giao tiếp trực tiếp với nhau

 Có thể coi là RFD

2.2.5 Mô hình mạng Zigbee

Chuẩn ZigBee có 3 cấu hình mạng cơ bản, tùy vào từng ứng dụng cụ thể mà người ta thiết lập mạng theo các cấu hình khác nhau [13]:

Hình 2.6 Mô hình mạng Zigbee [13]

Mạng hình sao (Star Topology): Mạng chỉ có Coordinator (ZC) và các End Device (ZED) Khi ZC được kích hoạt lần đầu tiên nó sẽ trở thành bộ điều phối mạng PAN Mỗi mạng hình sao có PAN ID riêng để hoạt động độc lập Mạng chỉ có một ZC duy nhất kết nối với các FFD và RFD khác ZED không truyền trực tiếp dữ liệu cho nhau Mạng hình sao bị hạn chế khoảng cách và sự mở rộng

Mạng hình cây (Cluster Tree Topology): Cấu trúc này là một dạng đặc biệt của cấu trúc hình lưới, trong đó đa số thiết bị là FFD và một RFD có thể kết nối vào mạng như một nút rời rạc ở điểm cuối của nhánh cây Bất kì một FFD nào cũng có thể hoạt động như một coordinator, cung cấp tín hiệu đồng bộ cho các thiết bị và các coordinator khác Vì thế mà cấu trúc mạng kiểu này có qui mô phủ sóng và khả năng

mở rộng cao Trong loại cấu hình mạng này, mặc dù có thể có nhiều coordinator nhưng chỉ có duy nhất một bộ điều phối mạng PAN (PAN coordinator)

Mạng hình lưới (Mesh Topology): Gồm 1 nút trung tâm ZC, các nút trong mạng đều có thể kết nối với nhau (trừ ZED chỉ có thể kết nối với parent của nó) Khi một đường truyền bị lỗi, sẽ tự động tìm ra một đường truyền khác, tăng tính tin cây và kết nối trong mạng Hình thành tương tự như mạng hình sao, song trong mạng này có thêm sự xuất hiện của ZR ZR đóng vai trò định tuyến dữ liệu, mở rộng mạng và nó cũng có khả năng điều khiển, thu thập số liệu như một nút bình thường

2.2.6 Zigbee và các giao thức truyền thông khác

Hình 2.7 Các giao thức không dây phổ biến [14]

Zigbee có tốc độ truyền dữ liệu thấp nhất trong 3 chuẩn trên và có khả năng đáp ứng đặc biệt cho tuổi thọ của pin Tốc độ dữ liệu rất thấp của Zigbee đồng nghĩa nó không phải là sự lựa chọn tốt nhất cho việc cài đặt kết nối Internet hay một tai nghe nhạc không dây chất lượng cao, khi mà tốc độ cho những ứng dụng này đòi hỏi từ 1 Mbps trở lên Tuy nhiên, nếu mục tiêu của giao tiếp không dây chỉ là truyền và nhận các lệnh đơn giản hay tập hợp thông tin từ các đầu dò như đầu dò nhiệt độ hay đầu dò độ

ẩm thì Zigbee là giải pháp hiệu quả cho công suất cũng như chi phí cài đặt thấp nhất

so với Bluetooth và Wifi Đồng thời trong cùng một hệ thống Zigbee có thể mở rộng tới 65.000 thiết bị cho thấy khả năng mở rộng cao hơn so với 2 giao thức còn lại [14]

Mạng nơron nhân tạo

2.3.1 Tổng quan

Mạng nơron nhân tạo (Artificial Neural Network- ANN) là mô hình xử lý thông tin được mô phỏng dựa trên hoạt động của hệ thống thần kinh của sinh vật, bao gồm số lượng lớn các Neuron được gắn kết để xử lý thông tin và kết nối với nhau thông qua các liên kết (gọi là trọng số liên kết), làm việc như một thể thống nhất để giải quyết

một vấn đề cụ thể nào đó ANN giống như bộ não con người, được học bởi kinh nghiệm (thông qua huấn luyện), có khả năng lưu giữ những kinh nghiệm hiểu biết (tri thức) và sử dụng những tri thức đó trong việc dự đoán các dữ liệu chưa biết Một mạng nơron nhân tạo được cấu hình cho một ứng dụng cụ thể (nhận dạng mẫu, phân loại dữ liệu ) thông qua một quá trình học từ tập các mẫu huấn luyện Về bản chất học chính là quá trình hiệu chỉnh trọng số liên kết giữa các nơron [15]

Các ứng dụng của mạng Neuron được sử dụng trong rất nhiều lĩnh vực như điện, điện

tử, kinh tế, quân sự, để giải quyết các bài toán có độ phức tạp và đòi hỏi có độ chính xác cao như điều khiển tự động, khai phá dữ liệu, nhận dạng, … Điển hình là các ứng dụng: xử lý ngôn ngữ, nhận dạng kí tự, nhận dạng tiếng nói, nhận dạng mẫu, xử lý tín hiệu, lọc dữ liệu, …

2.3.2 Nơron sinh vật

Mạng nơron là một tập hợp các dây thần kinh kết nối với nhau Nơron là đơn vị cơ bản cấu tạo hệ thống thần kinh và là một phần quan trọng nhất của não Não chúng ta gồm khoảng 10 triệu nơ-ron và mỗi nơ-ron liên kết với 10.000 nơron khác Các nơron

có khả năng nhận, xử lý và truyền các tín hiệu điện hóa trên các đường mòn nơron, các con đường này tạo nên hệ thống giao tiếp của bộ não

Thông thường, một mạng nơron bao gồm một hoặc nhiều nhóm các nơron được kết nối vật lý với nhau hoặc có liên quan với nhau về chức năng Một nơ-ron đơn có thể được nối với nhiều nơron khác nên tổng số nơron và kết nối trong một mạng có thể

là một giá trị cực kỳ lớn Ở mỗi nơ-ron có phần thân (soma) chứa nhân, các tín hiệu đầu vào qua sợi nhánh (dendrites) và các tín hiệu đầu ra qua sợi trục (axon) kết nối với các nơ-ron khác Hiểu đơn giản mỗi nơ-ron nhận dữ liệu đầu vào qua sợi nhánh

và truyền dữ liệu đầu ra qua sợi trục, đến các sợi nhánh của các nơ-ron khác Mỗi nơron nhận xung điện từ các nơron khác qua sợi nhánh Nếu các xung điện này đủ lớn để kích hoạt nơ-ron, thì tín hiệu này đi qua sợi trục đến các sợi nhánh của các nơron khác Vậy nên ở mỗi nơ-ron cần quyết định có kích hoạt nơron đấy hay không [15]

Mọi thông tin đi vào và đi ra khỏi hệ thần kinh đều được truyền qua nơron dưới dạng các xung động thần kinh Các xung động này truyền đi theo một chiều nhất định nhờ chức năng dẫn truyền đặc biệt của các khớp thần kinh Các khớp thần kinh có cấu trúc màng đặc biệt để tiếp nhận các tín hiệu khi có sự chênh lệch về nồng độ ion giữa bên trong và bên ngoài Nếu độ lệch về nồng độ càng lớn thì việc truyền các ion càng nhiều và ngược lại Mức độ thẩm thấu của các ion có thể coi là một đại lượng thay đổi tùy thuộc vào nồng độ như một giá trị đo thay đổi được gọi là trọng số [15]

Hình 2.8 Nơron sinh học [16]

2.3.3 Nơron nhân tạo

Một mạng nơron được cấu thành bởi các nơron đơn lẻ được gọi là các perceptron Trên cơ sở mô hình nơron sinh vật tổng quát và các nó hoạt động, người ta đề xuất

mô hình nơron nhân tạo gồm 2 thành phần chính: bộ tổng các liên kết đầu vào và bộ kích hoạt

Hình 2.9 Nơron nhân tạo [17]

Công việc cơ bản của một nơron nhân tạo là cộng các mức kích hoạt ở đầu vào rồi tạo một mức tác động ở đầu ra nếu tổng các mức kích hoạt ở đầu vào lớn hơn một giá

trị ngưỡng nào đó Toàn bộ công việc này được được thực hiện qua các thành phần của nơron bao gồm [15]:

Tập các đầu vào: Là các tín hiệu vào của nơron, các tín hiệu này thường được đưa vào dưới dạng một vector N chiều Mỗi đầu vào tương ứng với 1 thuộc tính của dữ liệu Ví dụ như trong ứng dụng của ngân hàng xem xét có chấp nhận cho khách hàng vay tiền hay không thì mỗi đầu vào là một thuộc tính của khách hàng như thu nhập, nghề nghiệp, tuổi, số con, …

Đầu ra: Kết quả của một ANN là một giải pháp cho một vấn đề, ví dụ như với bài toán xem xét chấp nhận cho khách hàng vay tiền hay không thì đầu ra là có (cho vay) hoặc không (không cho vay)

Trọng số liên kết: Mỗi liên kết được thê hiện bởi một trọng số (gọi là trọng số liên kết).Trọng số liên kết giữa tín hiệu vào thứ i với nơron j thường được kí hiệu là 𝑊 Thôngthường, các trọng số này được khởi tạo một cách ngẫu nhiên ở thời điểm khởi tạo mạngvà được cập nhật liên tục trong quá trình học mạng Đây là thành phần rất quan trọng của một ANN, nó thể hiện mức độ quan trọng (độ mạnh) của dữ liệu đầu vào đối với quá trình xử lý thông tin (quá trình chuyển đổi dữ liệu từ lớp này sang lớp khác) Quá trình học của ANN thực ra là quá trình điều chỉnh các trọng số của các tập đầu vào để có được kết quả mong muốn

Hàm tổng: Thường dùng để tính tổng của tích các đầu vào với trọng số liên kết của

nó Hàm tổng của một nơron đối với n đầu vào được tính theo công thức sau:

𝑌 = 𝑋 𝑊

(2.1)

Hàm tổng đối với nhiều nơron trong cùng một lớp:

𝑌 = 𝑋 𝑊

(2.2)

Hàm chuyển đổi: Hàm tổng của một nơron cho biết khả năng kích hoạt của nơron

đó còn gọi là kích hoạt bên trong Kích hoạt bên trong là sự quyết định đầu ra của một nơron có thể được chuyển đến lớp tiếp theo trong mạng nơron hay không Mối quan hệ giữa kích hoạt bên trong và đầu ra được thể hiện bằng hàm chuyển đổi Hàm này được dùng để giới hạn phạm vi đầu ra của mỗi nơron Nó nhận đầuvào là kết quả của hàm tổng và ngưỡng đã cho Thông thường, phạm vi đầu ra của mỗi nơron được giới hạn trong đoạn [0,1] hoặc [-1,1] Các hàm chuyển đối rất đa dạng, có thể

làcác hàm tuyến tính hoặc phi tuyến Việc lựa chọn hàm truyền nào là tùy thuộc vào từng bàitoán và kinh nghiệm của người thiết kế mạng

Hình 2.10 Hàm chuyển đổi [17]

Kết quả xử lý tại các nơron đầu ra đôi khi rất lớn, vì vậy hàm chuyển đổi được sử dụng để xử lý đầu ra này trước khi chuyển đến lớp tiếp theo Đôi khi thay vì sử dụng hàm chuyển đổi người ta sử dụng giá trị ngưỡng (Threshold value) để kiểm soát các đầu ra của các nơron tại một lớp nào đó trước khi chuyển các đầu ra này đến các lớp tiếp theo Nếu đầu ra của một nơron nào đó nhỏ hơn giá trị ngưỡng thì nó sẽ không được chuyển đến lớp tiếp theo [15]

Việc lựa chọn hàm chuyển đổi có tác động lớn đến kết quả của ANN Các hàm chuyển đổi phi tuyến được sử dụng phổ biến trong ANN là:

Hình 2.11 Các hàm chuyển đổi phổ biến [18]

2.3.4 Mạng nơron nhân tạo

Mạng nơ ron nhân tạo là hệ thống bao gồm nhiều nơ ron nhân tạo kết hợp với nhau Mỗi nơron có các đặc tính đầu vào, đầu ra và thực hiện một số chức năng tính toán cục bộ Mạng nơron có khả năng học, khái quát hóa tập dữ liệu học thông qua việc gán và hiệu chỉnh các trọng số liên kết Kiến trúc tổng quát của một ANN [15]:

Hình 2.12 Kiến trúc tổng quát của một ANN [17]

Processing Elements (PE): Các PE của ANN là các perceptron đơn lẻ, mỗi nơron nhận các dữ liệu đầu vào, xử lý chúng và cho ra một kết quả duy nhất Kết quả xử lý của một nơron có thể làm đầu vào cho các nơron khác

Kiến trúc chung của một ANN gồm 3 tầng chính [15]:

- Lớp vào (Input Layer): Là lớp bao gồm các giá trị đầu vào của mạng, cung cấp cho mạng các số liệu cần thiết Số lượng nơron trong lớp vào tương ứng với số lượng thông số đầu vào được cung cấp cho mạng và các thông số đầu vào này được giả thiết ở dạng vector

- Lớp ẩn (Hidden Layer): chứa các nơron ẩn giúp kết nối giá trị đầu vào đến giá trị đầu ra Một mạng nơron có thể có một hoặc nhiều lớp ẩn chịu trách nhiệm chính cho việc xử lý các nơron của lớp vào và đưa các thông tin đến nơron của lớp ra Các nơron này thích ứng với việc phân loại và nhận diện mối liên hệ giữa thông số đầu vào và thông số đầu ra

- Lớp ra (Output Layer): chứa các nơron đầu ra nhằm chuyển thông tin đầu ra của các tính toán từ ANN đến người dùng Một ANN có thể được xây dựng

để có nhiều thông số đầu ra

Giữa các lớp có các liên kết bởi những nơron trong mỗi lớp hoặc là giữa các lớp với nhau Trong mỗi lớp có thể có số lượng nơron khác nhau cũng như các kết nối khác nhau Trong đó, lớp ẩn gồm các nơron, nhận dữ liệu đầu vào từ các nơron ở lớp trước

đó và chuyển đổi các đầu vào này cho các lớp xử lý tiếp theo Trong một ANN có thể không có hoặc có nhiều lớp ẩn nhưng luôn luôn chỉ có một lớp vào và một lớp ra

Hình 2.13 Kiến trúc của một ANN [16]

Mô hình của mạng được định nghĩa bởi: số lớp, số đơn vị trên mỗi lớp, và sự liên kết giữa các lớp như thế nào Các mạng về tổng thể được chia thành ba loại dựa trên cách thức liên kết các đơn vị

Hình 2.14 Các kiểu mạng nơronMạng truyền thẳng là mạng hai hay nhiều lớp mà quá trình truyền tín hiệu từ đầu này đến đầu kia theo một hướng Dòng dữ liệu từ đơn vị đầu vào đến đơn vị đầu

ra chỉ được truyền thẳng Việc xử lý dữ liệu có thể mở rộng ra nhiều lớp, nhưng không

có các liên kết phản hồi Nghĩa là, các liên kết mở rộng từ các đơn vị đầu ra tới các đơn vị đầu vào trong cùng một lớp hay các lớp trước đó là không cho phép [16]

Hình 2.15 Mạng truyền thẳng [19]

Mạng phản hồi là mạng trong đó một hay nhiều đầu ra của các phần tử lớp sau truyền ngược tới đầu vào lớp trước Mạng có chứa các liên kết ngược Khác với mạng truyền thẳng, các thuộc tính động của mạng mới quan trọng Trong một số trường hợp, các giá trị kích hoạt của các đơn vị trải qua quá trình nới lỏng (tăng giảm số đơn vị và thay đổi các liên kết) cho đến khi mạng đạt đến một trạng thái ổn định và các giá trị

kích hoạt không thay đổi nữa Trong các ứng dụng khác mà cách chạy động tạo thành đầu ra của mạng thì những sự thay đổi các giá trị kích hoạt là đáng quan tâm [16]

Hình 2.16 Mạng phản hồi [19]

Mạng tự tổ chức là mạng có khả năng sử dụng những kinh nghiệm quá khứ để thích ứng với những biến đổi của môi trường (không dự báo trước) Loại mạng này thuộc nhóm tự học, thích nghi không cần có tín hiệu chỉ đạo từ ngoài [16]

2.3.5 Quá trình học

Thuật toán học là phần trí tuệ thông minh của mạng nơron mà các công trình nghiên cứu chiếm số lượng lớn trong mấy chục thập kỷ qua Thuật toán học được chia làm 2 loại: Học theo tham số và học theo cấu trúc

Học theo tham số: là quá trình điều chỉnh, cập nhật các trọng số liên kết để mạng nhận biết được mối quan hệ giữa đầu vào và đầu ra mong muốn Hầu hết các thuật toán học tồn tại thuộc kiểu học theo tham số Thông thường, thuật toán học theo tham

số được chia làm 3 loại chính: học có giám sát, học không giám sát và học củng cố [15]

Hình 2.17 Các phương pháp học máy [15]

 Học có giám sát: Trong học có giám sát, tại mỗi thời điểm có đầu vào mạng nơron thì đầu ra mong muốn của hệ sẽ được cho sẵn Mạng được cung cấp một tập các mẫu X = {𝑥 , 𝑥 , … , 𝑥 }là tập hợp đầu vào và Z = {𝑧 , 𝑧 , … , 𝑧 } là tập hợp đầu ra mong muốn Khi một đầu vào 𝑥 được đưa vào mạng, đầu ra mong muốn 𝑧 cũng được đưa vào mạng Sự sai lệnh giữa giá trị đầu ra thực sự 𝑦

và đầu ra mong muốn 𝑧 sẽ là cơ sở tạo tín hiệu lỗi để mạng sửa đổi trọng số sao cho đầu ra thực sự gần với đầu ra mong muốn Nhóm thuật toán học có giám sát gồm các bài toán chính sau: phân loại (classification) và hồi quy (regression)

 Học không giám sát: Trong thuật toán này không biết trước được đầu ra hay thuộc tính của tập dữ liệu đầu vào, chỉ dựa vào cấu trúc của dữ liệu để thực hiện công việc như: phân nhóm (clustering) hoặc giảm số chiều của dữ liệu (dimension reduction) để thuận tiện trong việc lưu trữ và tính toán Học không giám sát là khi chỉ có dữ liệu đầu vào mà không biết thuộc tính tương ứng hoặc không có bất kỳ một thông tin phản hồi nào từ môi trường Mạng phải tự tìm

ra các mẫu, đặc tính, tính quy tắc, sự tương quan trong dữ liệu đầu vào và tập hợp lại để tạo đầu ra Khi tự tìm ra các đặc điểm này, mạng đã trải qua các thay đổi về tham số của nó

 Học củng cố: Học củng cố giúp hệ thống tự động xác định hành vi dựa trên hoàn cảnh để đạt được lợi ích cao nhất (maximising the performance) Học

củng cố là một dạng của học có giám sát vì mạng vẫn có được vài thông tin phản hồi từ môi trường Tuy nhiên thông tin phản hồi này chỉ mang tính đánh giá chứ không phải mang tính chất dạy Tín hiệu củng cố này được mạng sử dụng để điều chỉnh trọng số với hy vọng là có được đánh giá phản hồi tốt hơn trong lần học tiếp theo

Học theo cấu trúc: Thủ tục học cấu trúc tìm kiếm các tham số cấu trúc của mạng để tạo ra một mạng hoạt động tốt nhất Thực chất, học cấu trúc là việc tìm ra số lớp ẩn

và số nơron trên mỗi lớp ẩn vì số đầu vào và số đầu ra của mạng là xác định đối với một bài toán cụ thể Kết quả học cấu trúc phụ thuộc nhiều vào kết quả học tham số

Do đó, việc xây dựng một thuật toán tìm kiếm cho thủ tục học tham số là cần thiết Thuật toán tìm kiếm này phải có khả năng tìm kiếm lời giải toàn cục, tìm kiếm hiệu quả trong không gian nhiều chiều và có thể sử dụng cho nhiều cấu trúc mạng khác nhau Có thể sử dụng các kỹ thuật liên quan đến thuật toán gen và lập trình tiến hoá Các cách tìm kiếm trong lập trình tiến hóa là khá tiêu tốn thời gian ngay cả đối với mạng có kích thước trung bình Vì vậy, còn có thể sử dụng các kỹ thuật sửa đổi hay xây dựng mạng dần dần từ một cấu trúc mạng ban đầu Các kỹ thuật này bao gồm cắt xen bớt mạng nơron, phát triển mạng và kết hợp cả hai cách cắt xen và phát triển mạng nơron [15]

2.3.6 Mạng perceptron một lớp

Mạng perceptron một lớp mạng truyền thẳng chỉ có một lớp vào và một lớp ra, không

có lớp ẩn Mô hình mạng nơron truyền thẳng một lớp là mô hình liên kết cơ bản và đơn giản nhất Các nơron tổ chức lại với nhau tạo thành một lớp, đường truyền tín hiệu được truyền theo một hướng nhất định nào đó Các đầu vào được nối với các nơron theo các trọng số khác nhau, sau quá trình xử lý cho ra một chuỗi các tín hiệu

ra Trên mỗi lớp này có thể có một hoặc nhiều nơron Mô hình mạng nơron thường

sử dụng hàm ngưỡng đóng vai trò là hàm chuyển Do đó, tổng của các tín hiệu vào lớn hơn giá trị ngưỡng thì giá trị đầu ra của nơron sẽ là 1, còn trái lại sẽ là 0 [20]

𝑤 : là trọng số liên kết từ nơron i tới nơron j

𝑥 : là đầu vào từ nơron j

𝜃: là ngưỡng của nơron

Hình 2.18 Mạng perception một lớp [20]

Để bắt đầu quá trình huấn luyện mạng, các trọng số được gán giá trị ngẫu nhiên trong khoảng [-1, 1] Sau đó hiệu chỉnh các trọng số cho phù hợp với mẫu học để làm giảm sai số giữa đầu ra thực tế và đầu ra mong muốn Mạng perceptron một lớp có khả năng phân lớp tuyến tính, giải bài toán quy hồi tuyến tính, nhưng không thể phân lớp phi tuyến Vấn đề này sẽ được giải quyết bằng mô hình mạng nơron Perceptron nhiều lớp (Multilayer Perceptron - MLP)

2.3.7 Mạng perceptron nhiều lớp

Mạng Perceptron nhiều lớp (Multi Layer Perceptron –MLP) là mô hình mạng nhiều lớp truyền thẳng được sử dụng rộng rãi và là kiến trúc chủ đạo của các mạng nơron hiện tại Các mạng nơron truyền thẳng nhiều lớp được huấn luyện bằng phương pháp

học có giám sát gồm một lớp vào, một lớp ra và một hoặc nhiều các lớp ẩn Các nơron đầu vào không thực hiện tính toán nào trên dữ liệu đầu vào Việc tính toán sẽ do các nơron ở lớp ẩn và lớp ra thực hiện Mô hình truyền thẳng có nghĩa là các nơron được kết nối với nhau theo một hướng tới một hay nhiều nơron khác của lớp kế tiếp [20]

Hình 2.19 Mạng perception nhiều lớp [20]

Hoạt động của mạng như sau: Tại lớp đầu vào, các nơron nhận tín hiệu vào xử lý với mỗi liên kết gắn với một trọng số Mỗi nơron tính toán mức kích hoạt của chúng bằng cách cộng tổng các đầu vào sau đó gửi đến hàm kích hoạt và cho ra kết quả Một khi đầu ra của tất cả các nơron trong một lớp mạng cụ thể đã thực hiện tính toán thì lớp

kế tiếp có thể bắt đầu thực hiện tính toán của mình bởi vì đầu ra của lớp hiện tại là đầu vào của lớp kế tiếp Quá trình tiếp tục cho đến khi các nơron thuộc tầng ra cho kết quả

2.3.8 Thuật toán lan truyền ngược

Mạng nơron truyền thẳng nhiều lớp thường được huấn luyện bằng thuật toán lan truyền ngược (Back-Propagation) Thuật toán này được áp dụng cho mạng truyền thẳng nhiều lớp trong đó các nơron có thể sử dụng các hàm kích hoạt là các hàm liên tục có các dạng khác nhau

Thuật toán lan truyền ngược là thuật toán học có giám sát, do đó nó cần một tập mẫu gồm các cặp đầu vào 𝑋 , đầu ra 𝑌 để huấn luyện mạng, với 𝑋 là vector đầu vào và 𝑌

là vector đầu ra mong muốn Đối với mỗi cặp đầu vào – đầu ra, thuật toán lan truyền ngược thực hiện hai giai đoạn sau [15]: