(LUẬN văn THẠC sĩ) ứng dụng mạng nơron nhân tạo trong dự báo phụ tải điện ngắn hạn

Lịch sử nghiên cứu Hiện nay đã có rất nhiều đề tài khoa học, bài báo và tài liệu trong nước, nước ngoài nghiên cứu về phương pháp sử dụng mạng nơron nhân tạo để dự báo ngắn hạn phụ tải đ

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI

-

Quản Quốc Cường

ỨNG DỤNG MẠNG NƠ RON NHÂN TẠO TRONG

DỰ BÁO PHỤ TẢI ĐIỆN NGẮN HẠN

Chuyên ngành: Kỹ thuật Điện

LUẬN VĂN THẠC SĨ KỸ THUẬT

KỸ THUẬT ĐIỆN

CHỦ TỊCH HỘI ĐỒNG NGƯỜI HƯỚNG DẪN KHOA HỌC

TS NGUYỄN XUÂN TÙNG TS NGUYỄN ĐỨC HUY

Hà Nội – Năm 2014

MỤ C LỤC

LỜI CAM ĐOAN iii

LỜI CẢM ƠN………… iv

DANH MỤC CÁC KÝ HIỆU, CHỮ VIẾT TẮT v

DANH MỤC CÁC BẢNG vi

DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ vii

MỞ ĐẦU………… 1

CHƯƠNG 1: TỔNG QUAN VỀ DỰ BÁO PHỤ TẢI 5

1.1 GIỚI THIỆU CHUNG 5

1.2 CÁC LOẠI DỰ BÁO PHỤ ẢI ĐIỆ T N 5

1.3 CÁC PHƯƠNG PHÁP DỰ BÁO PHỤ TẢI ĐIỆN NGẮN HẠN 6

1.3.1 Mô hình áp dụng ngày tương tự (Similar-day approach) 7

1.3.2 Phương pháp hồi quy (Regression methods) 7

1.3.3 Các mô hình chuỗi th i gian ngờ ẫu nhiên (Time series) 7

1.3.4 Mạng nơron (Neural Network) 8

1.3.5 Phương pháp chuyên gia (Expert systems) 10

1.3.6 Lôgic mờ (Fuzzy logic) 10

1.3.7 Máy vectơ hỗ (Support vector machines) 10 trợ 1.4 PHỤ ẢI ĐIỆN THÀNH PHỐ HÀ NỘ T I 11

1.4.1 Ngày trong tuần 11

1.4.2 Các ngày đặc biệt trong năm 12

1.4.3 Thời tiết trong ngày 13

1.4.4 K hoế ạch sửa chữa lớn trong ngày có cắt điện 13

CHƯƠNG 2: TỔNG QUAN VỀ MẠNG NƠRON 14

2.1 MÔ HÌNH NƠRON SINH HỌC 15

2.1.1 Phầ ử ử lýn t x 16

2.2 MÔ HÌNH CẤU TRÚC MẠNG NƠRON 18 2.2.1 M ng truy n th ng m t l p 19 ạ ề ẳ ộ ớ

2.2.2 Mạng nơron nhiề ớu l p 19

2.3 CÁC TÍNH CHẤT CỦA MẠNG NƠRON 20

2.4 CÁC LUẬT HỌC 20

2.4.1 Học có giám sát 21

2.4.2 Học củng c 22 ố 2.4.3 Học không có giám sát 22

2.5 MẠNG NƠRON MLP 23

2.5.1 Cấu trúc mạng MLP 23

2.5.2 Quá trình học của m ng MLP 24 ạ 2.6 VẤN ĐỀ M NG HẠ ỌC QUÁ KHỚP VÀ MẠNG HỌC KHÔNG ĐỦ 27

CHƯƠNG 3: DỰ BÁO PHỤ TẢI ĐIỆN NGẮN HẠN VỚI SỐ LIỆU THU THẬP TỪ ISO-NEW ENGLAND 30

3.1 XÂY DỰNG BÀI TOÁN DỰ BÁO PHỤ Ả T I ĐIỆN 30

3.2 D Ự BÁO PHỤ Ả T I ĐIỆN NGẮN HẠN DÙNG MẠNG NƠRON MLP (24xNx24) 33

3.3 MÔ HÌNH DỰ BÁO PHỤ Ả T I ĐIỆN DÙNG MẠNG NƠRON MLP (6xNx1) 36

3.4 SO SÁNH HAI MÔ HÌNH DỰ BÁO PHỤ Ả T I 40

3.5 KẾT LUẬN NỘI DUNG CHƯƠNG 3 42

CHƯƠNG 4: ỨNG DỤNG MẠNG NƠRON NHÂN TẠO TRONG DỰ BÁO PHỤ TẢI ĐIỆN NGẮN HẠN CHO THÀNH PHỐ HÀ NỘI 43

4.1 XÂY DỰNG MÔ HÌNH DỰ BÁO ÁP DỤNG CHO THÀNH PHỐ HÀ N I 43 Ộ 4.1.1 Mô hình dự báo phụ ải điện dùng mạng nơron (24xNx24) t 44

4.1.2 Mô hình dự báo phụ ải điện dùng mạng nơron (27xNx24) t 47

4.1.3 Mô hình dự báo phụ ải điện dùng mạng nơron (31xNx24) t 49

4.1.4 Mô hình dự báo phụ ải điện dùng mạng nơron (34xNx24) t 51

4.2 KẾT LUẬN NỘI DUNG CHƯƠNG 4 53

TÀI LIỆU THAM KHẢO 56 PHỤ LỤC………… I

LỜI CAM ĐOAN

n u s d ng trong lu n Tôi xin cam đoanluận văn này do tôi thực hiệ Các số liệ ử ụ ậvăn được thu th p th c t , k t qu ậ ự ế ế ả phân tích và tính toán trong luận văn là trung thực và do tôi tìm hiểu trong các tài liệu

Học viên

LỜ I CẢM ƠN

Luận văn thạc sĩ k thuỹ ật chuyên ngành Kỹ thuật điện với tên đề tài là “Ứng

dụng mạng nơron nhân tạo trong d ự báo phụ ải điệ ngắ t n n h nạ ” được hoàn thành vào tháng 9 năm 2014

em r t nhiấ ều trong quá trình thực hi n luệ ận văn Xin cảm ơn các thầy cô thuộc b ộmôn Hệ ống điệ – th n Viện Điệ –n Trường Đạ ọc Bách Khoa Hà Nội đã có nhữi h ng góp ý quý báu về ộ n i dung của đề tài Đồng th i, cờ ảm ơn ới các bạn bè, đồt ng nghiệp đã cùng tôi trao đổi và giúp tôi tháo gỡ nhiều vướng mắc trong quá trình thực hiện

Xin chân thành cảm ơn!

Hà Nội, tháng 9 năm 2014

Quản Quốc Cường

DANH MỤC CÁC KÝ HIỆ U, CH Ế ỮVI T T T Ắ

ANN Applications Neural Network Mạng nơron nhân tạo

MSE Mean Sum of Squares Errors Trung bình tổng bình phương sai số SSE Sum of Squares Errors Tổng bình phương sai số

APE Absolute Percent Error Tính sai số phần trăm tuyệt đối

MAPE Mean Absolute Percent Error Tính trung bình sai số phần trăm tuyệt đốiSTLF Short term Load Forecasting – Dự báo phụ tải ngắn hạn

MTLF Medium term Load Forecasting – Dự báo phụ tải trung hạn

LTLF Long –term Load Forecasting Dự báo phụ tải dài hạn

MLP Multi- layer Feedforward Mạng truyền nhiều lớp

DANH MỤC CÁC BẢNG

B ng 3.1 Kả ết quả ự báo phụ ải từ 22 d t - 28/06/2014 (ANN 24x20x24) 34

B ng 3.2 Kả ết quả ự báo phụ ải ngày 30/06/2014 (ANN 24x20x24) d t 35

B ng 3.3 Kả ết quả ự báo phụ ải từ ngày 22 d t -28/06/2014 (ANN 6x20x1) 37

B ng 3.4 Kả ết quả ự báo phụ ải ngày 30/06/2014 (ANN 6x20x1) d t 38

B ng 3.5 Kả ết quả so sánh dự báo phụ ải của hai mô hình t 40

B ng 4.1 Kả ết quả ự báo phụ ải ngày 08/11/2012 (24xNx24) d t 46

B ng 4.2 Kả ết quả ự báo phụ ải ngày 08/11/2012 (27xNx24) d t 48

B ng 4.3 Kả ết quả ự báo phụ ải ngày 08/11/2012 (31xNx24) d t 50

B ng 4.4 Kả ết quả ự báo phụ ải ngày 08/11/2012 (34xNx24) d t 52

DANH MỤC CÁC HÌNH VẼ, ĐỒ TH Ị

Hình 1.1 Đồ ị th ph t i các ngày đụ ả ặc trưng trong tuần 12

Hình 1.2 Đồ ị th ph t i thành ph ụ ả ốHà Nội hai ngày 1/1/2012, 6/1/2012 12

Hình 1.3 Đồ ị th ph tụ ải ngày hai ngày có nhiệ ộ kháct đ 13

Hình 2.1 Mô hình mộ ạng nơron sinh họt d c 15

Hình 2.2 Mô hình phầ ử ử lý (mô hình một nơron) thứn t x i, d ng M-P 16ạ Hình 2.3 Mạng nơron truyền th ng m t l p 19ẳ ộ ớ Hình 2.4 Mạng nơron truyền th ng nhi u l p 20ẳ ề ớ Hình 2.5 Sơ ba ki u hđồ ể ọc của mạng nơron 22

Hình 2.6 Mô hình mạng MLP m t l p n 23ộ ớ ẩ Hình 3.1 Đồ ị ự báo phụ ải ngày 30/06/2014 (ANN 24x20x24) th d t 34

Hình 3.2 Đồ ị ự báo phụ ải ngày 30/06/2014 (ANN 6x20x1) th d t 37

Hình 3.3 Đồ ị ự báo phụ ải ngày 22 th d t -28/06/2014 (ANN 6x20x1) 39

Hình 3.4 Đồ ị so sánh dự báo phụ ả ủa hai mô hình th t i c 41

Hình 4.1 Đồ ị ự báo phụ ải ngày 08/11/2012 (24xNx24) th d t 45

Hình 4.2 Đồ ị ự báo phụ ải ngày 08/11/2012 (27xNx24) th d t 47

Hình 4.3 Đồ ị ự báo phụ ải ngày 08/11/2012 (31xNx24) th d t 49

Hình 4.4 Đồ ị ự báo phụ ải ngày 08/11/2012 (34xNx24) th d t 51

M Ở ĐẦU

1. Lý do chọn đề tài

Trong giai đoạn thực hiện tiến trình công nghiệp hóa, hiện đại hóa đất nước đã đẩy nhanh sự phát triển của nền kinh tế, ứng dụng các thành tựu khoa học công nghệ dẫn đến nhu cầu sử dụng điện tăng cao Vấn đề đặt ra cho ngành điện xâydựng các công cụ dự báo phụ tải điện, làm cơ sở cho công tác thiế ết k quy ho ch h ạ ệthống điện Mục đích của d ự báo phụ ả trong tương lai dựa vào các quan sát trong t i quá khứ, ph c v ụ ụ cho công tác quy hoạch nguồn lưới trong h thệ ống điện, ph c v ụ ụcho công tác điều độ ệ ống (Có kế h th ho ch chu n b sạ ẩ ị ẵn sàng đáp ứng ph t i) ụ ả

D ự báo à mộl t khoa học còn non trẻ, trong đó có nhiều vấn đề chưa hình thành trọn vẹn Đối tượng nghiên cứu c a khoa hủ ọc này là các phương pháp dự báo và

ph m vi ng dạ ứ ụng là các hiện tượng xã hội, kinh t , k thu t D ế ỹ ậ … ự báo là một khoa

h c quan tr ng, nh m mọ ọ ằ ục đích nghiên cứu những phương pháp luận khoa học, làm

cơ sở cho việc đề xuất các dự báo cụ th ể cũng như việc đánh giá mức độ tin c y, ậ

mức độ chính xác của các phương pháp dự báo – ế n u d ự báo sai lệch quá nhiều v ề

kh ả năng cung cấp và nhu cầu năng lượng s dẽ ẫn đến h u qu ậ ả không tốt trong ngành kinh tế N u d ế ự báo quá thừa v ph t i s phề ụ ả ẽ ải huy động nguồn quá lớn làm tăng vốn đầu tư dẫn đến lãng phí vốn đầu tư và không khai thác hết công su t thi t ấ ế

bị, ngượ ạ ếc l i n u d ự báo thiếu ph t i s dụ ả ẽ ẫn đến cung cấp điện không đủ cho nhu

c u c a ph t i, giầ ủ ụ ả ảm độ tin c y cung cậ ấp điện gây thiệt h i cho n n kinh t quạ ề ế ốc dân Vì vậy tác giả ự th c hiện đề tài “Ứng d ng m ng nơron ụ ạ nhân tạo trong dự báo

ph tụ ải điệ ngắn n h nạ ” nhằm phát huy tính chất ưu việ ủt c a m ng ạ nơron nhân tạo trong công tác dự báo phụ ả t i

2. Lịch sử nghiên cứu

Hiện nay đã có rất nhiều đề tài khoa học, bài báo và tài liệu trong nước, nước ngoài nghiên cứu về phương pháp sử dụng mạng nơron nhân tạo để dự báo ngắn hạn phụ tải điện

Tại Việt Nam:

Bài toán dự báo phụ tải ngắn hạn được giải quyết bằng nhiều phương pháp khác nhau như: Phương pháp ngoại suy, phương pháp san bằng hàm mũ, phương pháp hồi quy đa biến đã được đề xuất trong dự báo phụ tải ngắn hạn Có thể nhận thấy rằng nhược điểm của các phương pháp trên là mô hình dự báo lượng điện năng tiêu thụ chỉ hiệu quả đối với một số ngày bình thường nhưng không hiệu quả đối với tất

cả các ngày Phụ tải là một đại lượng phụ thuộc (phi tuyến) vào rất nhiều yếu tố, có thể kể tới sự phụ thuộc của lượng điện tiêu thụ vào các thông số thời tiết như nhiệt

Trần Thị Hoàng Oanh, Đồng Sĩ Thiên Châu, Trần Hoàng Lĩnh, Nguyễn Kỳ Tài – Viện nghiên cứu phát triển năng lượng, ĐHBK TP Hồ Chí Minh với bài viết “Ứng dụng mạng nơron song tuyến trong bài toán dự báo phụ tải điện”

D.C.Park, M.A EL-Sharkawi, R.J.Marks II, L.E Atlas and M.J Damborg –University of Washington “ Electric Load Forecasting Using An Artification Neural Network”, IEEE Trans, 1991

Rui Zhang, Zhao Yang Dong, Yan Xu, Ke Meng, Kit Po Wong University –

of Newcastle, Newcastle, Australia “Short-term load forecasting of Australian National Electricity Market by an ensemble model of extreme learning machine”, 2012

3. Mục đích nghiên cứu của luận văn, đối tượng, phạm vi nghiên cứu.

3.1 Mục đích nghiên cứu:

Mục đích của đề tài là đề xuất phương pháp dự báo phụ tải điện ngắn hạn dựa vào mạng nơron, đưa ra mô hình dự báo phù hợp nhất để thu được kết quả tốt với sai số của dự báo trong khoảng cho phép

3.2 Đối tượng nghiên cứu:

Tìm hiểu về mạng nơron nhân tạo, các mô hình và phương pháp dự báo phụ tải điện hiện nay, các yếu tố ảnh hưởng đến phụ tải điện ngắn hạn Lựa chọn phương pháp để dự báo phụ tải ngắn hạn dựa vào mạng nơron

3.3 Phạm vi nghiên cứu:

Luận văn nghiên cứu đồ thị phụ tải và xây dựng mô hình dự báo phụ tải điện ngắn hạn áp dụng cho thành phố Hà Nội

3.4 Ý nghĩa khoa học và thực tiễn của đề tài

Trong dự báo phụ tải điện hiện nay tại nước ta có rất nhiều phương pháp dự báo

Mô hình sử dụng mạng nơron được ứng dụng trong công tác dự báo phụ tải Các mô hình đó đã xét đến các vấn đề về phụ tải, nhiêt độ, kiểu ngày dự báo Nhưng bên cạnh đó phụ tải hệ thống điện còn phụ thuộc cả vào độ ẩm, số giờ sáng, tốc độ gió… Trong luận văn này đưa ra các mô hình sử dụng mạng nơron để giải quyết bài toán dự báo phụ tải có xét đến các yếu tố về thời tiết như độ ẩm, tốc độ gió Đánh giá sai số dự báo trong mỗi mô hình và lựa chọn mô hình tối ưu nhất để ứng dụng

dự báo phụ tải cho thành phố Hà Nội

4. Nội dung luận văn

- Trình bày tổng quan về dự báo phụ tải điện, và các phương pháp dự báo phụ tảingắn hạn

- Phân tích phụ tải điện của thành phố Hà Nội, các yếu tố ảnh hưởng chủ yếu đến phụ tải điện

- Giới thiệu tổng quan về mạng nơron nhân tạo cấu trúc, mô hình, các luật học của mạng nơron

- Trình bày khái quát về mạng MLP, về cấu trúc, quá trình huấn luyện mạng

Chương 3 –Dự báo phụ tải điện ngắn hạn với số liệu thu thập t ừ ISO-New England

- Thu thập số liệu về phụ tải, nhiệt độ… từ ISO New England, áp dụng mô - hình (24xNx24) cho bộ số liệu thu được trên

- Xây dựng mô hình (6x20x1) dự báo mới để áp dụng cho bộ số liệu trên, so sánh kết quả giữa hai mô hình

- Xây dựng các mô hình dự báo phụ tải ngắn hạn Áp dụng các mô hình đó vào thực tế và lựa chọn ra mô hình phù hợp nhất với thành phố Hà Nội

Trình bày kết quả luận văn đã đạt được và hướng nghiên cứu tiếp theo của luận văn

CHƯƠNG 1: TỔNG QUAN VỀ DỰ BÁO PHỤ TẢI

1.1 GIỚI THIỆU CHUNG

D ự báo phụ ải điện năng là mộ ấn đề t t v quan tr ng trong h ọ ệthống điện hi n nay ệ

Mục đích của d ự báo điệ năng trong tương lai dựa vào các quan sát trong quá khứn ,

ph c v ụ ụ cho công tác quy hoạch nguồn lưới trong h thệ ống điện, ph c v ụ ụ cho công tác điều độ ệ ống (Có kế h th ho ch chu n b sạ ẩ ị ẵn sàng đáp ứng ph t i) ụ ả

D ự báo là một khoa học còn non trẻ, trong đó có nhi u về ấn đề chưa hình thành trọn vẹn Đối tượng nghiên cứu c a khoa hủ ọc này là các phương pháp dự báo và

ph m vi ng dạ ứ ụng là các hiện tượng xã hội, kinh t , k ế ỹthuật, … Dự báo là một khoa h c quan tr ng, nh m mọ ọ ằ ục đích nghiên cứu những phương pháp luận khoa

học, làm cơ sở cho việc đề xuất các dự báo cụthể cũng như việc đánh giá mức độtin c y, mậ ức độ chính xác của các phương pháp dự báo – ế n u d ự báo sai lệch quá nhi u v kh ề ề ả năng cung cấp và nhu cầu năng lượng s dẽ ẫn đến h u qu ậ ả không tốt trong ngành kinh ế t N u d ế ự báo quá thừa v ngu n s phề ồ ẽ ải huy động nguồn quá lớn làm tăng vốn đầu tư dẫn đến lãng phí vốn đầu tư và không khai thác hết công suất thiế ị, ngượ ạt b c l i n u d ế ự báo thiếu công suất ngu n s dồ ẽ ẫn đến cung cấp điện không đủ cho nhu c u c a ph t i, giầ ủ ụ ả ảm độ tin c y cung cậ ấp điện gây thiệ ạt h i cho

- Trong vận hành hệ thống điện, dự báo phụ tải là chủ yếu cho một khoảng thời gian một giờ đến một tuần Có hai loại chính của dự báo phụ tải hệ thống điện

hoạt động: dự báo tải rất ngắn hạn và ngắn hạn Dự báo tải rất ngắn hạn là phút trước và để phục vụ cho công tác điều độ hệ thống Dự báo tải ngắn hạn là từ một giờ đến một tuần Kết quả dự báo phụ tải ngắn hạn chủ yếu được sử dụng cho mục đích điều độ và vận hành hệ thống điện

Như vậy, ự báo phụ tải điện chia thành 3 nhóm dự báo phụ tải sau:d

- D ự báo ngắ n hạn (STLF)

D ự báo phụ ải điệ t n ng n h n th ng d ắ ạ ườ ự báo cho một gi n m t tu n Sai s ờ đế ộ ầ ốcho phép ủa công tác dự báo trong khoảng yêu cầc u < 5% Lo i d ạ ự báo này phục v ụcho công tác điều độ và vận hành hệ ống điệ th n trong kho ng th i gian ng n ả ờ ắ

Bài toán dự báo phụ tải ngắn hạn được đánh giá là phức tạp so với các bài toán khác Kết quả dự báo ngắn hạn chính xác sẽ hỗ trợ các công tác vận hành và khai thác hệ thống điện ở khu vực được hiệu quả, thuận lợi Kết quả dự báo này cũng

có thể nhanh chóng và dễ dàng kiểm chứng do không cần phải chờ đợi dài ngày Bài toán dự báo phụ tải ngày là một trong những nhiệm vụ quan trọng của công tác điều độ và có nhu cầu thực tiễn rất cao Đã có rất nhiều mô hình giải pháp được

đề xuất và ứng dụng, tuy nhiên cho tới thời điểm này vẫn chưa có một mô hình nào được coi là chuẩn và áp dụng hiệu quả cho mọi đối tượng Một trong những nguyên nhân chính của vấn đề này là do ở mỗi vùng, mỗi khu vực phụ tải ngày phụ

thuộc khác nhau vào các số liệu trong quá khứ Sự khác nhau này đòi hỏi phải điều chỉnh lại các thông số của một mô hình đã được lựa chọn nào đó hoặc đến mức độ phải xây dựng một mô hình hoàn toàn mới

1.3.1 Mô hình áp ụng ngày tương tựd (Similar-day approach)

Phương pháp này dựa trên cơ sở ữ ệu ngày d li [3] trướ đó trong vòng mộc t, hai,

hoặc ba năm với các đặc tính tương tự như ngày dự báo Đặc điểm tương tự bao

g m th i tiồ ờ ết, ngày trong tuần, và ngày tháng Phụ ả ủ t i c a một ngày tương tự được xem đó là phụ ả ủa ngày ự báo Thay vì mộ ả t i c d t t i duy nhất ngày tương tự ự báo , d

có thể ử ụng phương phá s d p h i quy tuyồ ến tính lấy s li u nhiố ệ ều ngày tương tự ngày

d ự báo Phụ ả t i đuợc ử ụng cho các ngày tương tự ấ ừ các năm trướs d l y t c

1.3.2 Phương pháp hồi quy (Regression methods)

Hồi quy theo [3], là một trong những phương pháp được sử dụng rộng rãi trong bài toán kỹ thuật Đối với bài toán dự báo phụ tải điện, phương pháp hồi quy thườngđược sử dụng để mô hình mối quan hệ phụ tải và các yếu tố khác như thời tiết, loại ngày Mô hình hồi quy tuyến tính là mô hình kinh điể đơn giản và khá hiện, u qu ảtrong thống kê và dự báo, do đó có rất nhi u d ề ự báo dựa trên phương pháp này [4] trình bày một số mô hình hồi quy cho dự báo đỉnh ngày hôm sau Mô hình của họ kết hợp ảnh hưởng xác định như ngày lễ, ảnh hưởng ngẫu nhiên như phụ tải trung bình, và ảnh hưởng khác như thời tiết

1.3.3 Các mô hình chuỗi thời gian ngẫu nhiên (Time series)

Phương pháp chuỗi thời gian [3] dựa trên giả định rằng các dữ liệu có cấu trúc nội bộ, chẳng hạn như tương tự, xu hướng, hoặc biến đổi theo mùa Chuỗi thời gian

đã được sử dụng trong nhiều thập niên trong các lĩnh vực như kinh tế, xử lý tín hiệu

kỹ thuật số, cũng như dự báo phụ tải điện Nguyên tắc cơ bản của phương pháp này

là đầu tiên chuỗi phụ tải theo thời gian được chuyển thành chuỗi thời gian dừng (tức chuỗi thời gian không biến đổi), sau đó chuỗi dừng còn lại sẽ được lọc nhiễu trắng Các mô hình chuỗi thời gian có ưu điểm Trước hết, lý thuyết mô hình chuỗi thời gian có cơ sở toán học chặt chẽ và rõ ràng nên dễ thực hiện dự báo trên cơ sở lý

thuyết này Các thông số của mô hình cũng được tính toán một cách dễ dàng Thủ tục đánh giá thông số mô hình cũng không khó

Xét hai mô hình ARMAX và ARIMAX, trong mô hình ARMAX, sử dụng các sai số của các buớc dự báo trước để thực hiện các bước dự báo tiếp theo

Việc sử dụng mạng nơron (Neural network-NN) [3], [5] được sử dụng trong bài toán dự báo phụ tải từ những năm 1990 Mạng nơron cơ dùng ước lượng các hàm phi tuyến phù hợp với đường cong phụ tải Thông dụng nhất là các giải pháp

dự báo ngắn hạn như dự báo trước 1 giờ, dự báo trước 12 giờ hoặc 24 giờ Trong bài toán dự báo ta quan tâm giải quyết hai vấn đề lớn là:

- Phát hiện các mối liên hệ giữa các đại lượng để cải thiện chất lượng của mô hình ước lượng

- Tối ưu hóa mô hình (mạng nơron) để đạt chất lượng cao không chỉ trong quá trình học mà cả trong quá trình kiểm tra

Hai vấn đề này có liên quan chặt chẽ với nhau do mỗi bộ số liệu học khác nhau lại có thể làm thay đổi cấu trúc của mô hình xấp xỉ Đồng thời bộ số liệu đặc trưng cũng tạo điều kiện để hạn chế lại không gian tìm kiếm mô hình

Mô hình [6] có nhiều ứng dụng nhất là mạng MLP với một hoặc hai lớp ẩn Số lớp ẩn và số nơron trên từng lớp cũng như các hàm truyền đạt của các nơron trong mỗi mô hình đều khác nhau do được xây dựng cho các đối tượng khác nhau hoặc thậm chí cho cùng một đối tượng nhưng các bộ số liệu và thời điểm lấy số liệu khác nhau

Các mạng nơron hồi quy cũng ít được sử dụng hơn các giải pháp khác do các thuật toán học phức tạp hơn mạng truyền thẳng, xác suất tìm được cực trị tốt thấp hơn Mặc dù vậy, mạng hồi quy với các kênh tín hiệu phản hồi của mình cũng rất phù hợp với các bài toán mô hình hóa đối tượng có phụ thuộc thời gian trễ Trong

số các mạng được sử dụng, các mạng được dùng nhiều hơn cả là mạng Elman và mạng RTRN với thuật toán học của Williams –Zipser

Một lớp mạng khác cũng được sử dụng trong các bài toán dự báo phụ tải là các mạng tự tổ chức, hoạt động theo nguyên tắc tự sắp xếp các véc tơ đầu vào để phát -hiện các vùng số liệu tập trung Hiểu theo nghĩa khoảng cách giữa các véc tơ đa -thành phần thì các véc tơ có giá trị tương đối giống nhau sẽ được nhóm vào thành -một nhóm Trong bài toán dự báo phụ tải ta hay sử dụng mạng tự tổ chức để nhóm các nhóm biểu đồ phụ tải chuẩn hóa (hay còn gọi là hình dạng của biểu đồ phụ tải – đã chuẩn hóa về đoạn giá trị 0 1) Sau khi đã có các nhóm ngày có biểu đồ phụ - tải tương đối giống nhau, ta cần xác định quy luật để thuộc về nhóm đó và khi cần

dự báo ta xác định xem ngày cần dự báo thuộc vào nhóm nào và sẽ lấy biểu đồ đặc trưng cho nhóm đó để làm kết quả dự báo

Hiện nay trên thị trường cũng có rất nhiều các phần mềm phục vụ cho công việc dự báo Có thể lấy ví dụ phần mềm ANNSTLF của EPRI cho phép dự báo với sai số 2 – 4% tùy thuộc vào kiểu dự báo và dạng biến thiên của phụ tải Phần mềm UNIPEDE hỗ trợ sử dụng các phương pháp mạng nơron, lô gíc mờ trong một số -bài toán liên quan tới hệ thống điện, trong đó có dự báo ngắn hạn, quy hoạch lưới điện, mô hình hóa và ứng dụng tốt trong điều khiển các quá trình trong nhà máy điện,

Cũng cần phải nhấn mạnh rằng các giải pháp đã đề xuất khác biệt nhau rất nhiều về ý tưởng, về công cụ và nhất là về kết quả đánh giá cuối cùng Độ chính xác của kết quả dự báo có thể thay đổi từ 1,5% tới 12% , nhưng điều này không có nghĩa rằng mô hình có sai số lớn hơn là mô hình kém hiệu quả hơn Vấn đề nằm ở chỗ mỗi một mô hình được xây dựng cho một đối tượng (một khu vực phụ tải) khác nhau, cho những khoảng thời gian khác nhau và cho những thông tin đầu vào khác nhau

1.3.5 Phương pháp chuyên gia (Expert systems)

Trong những năm gần đây nhiều nước đã áp dụng phương pháp chuyên gia [3], [6] có trọng s , dố ựa trên cơ sở ể hi u biết sâu sắc của các chuyên gia về các lĩnh vực

của các ngành để ự báo các chỉ tiêu kinh tế Trong ngành năng lượng, ngườ d i ta cũng dùng phương pháp này để ự báo nhu cầu điệ năng của nước mình Đây là d n bài toán cần ph i l a ch n l i giả ự ọ ờ ải trong điều kiện đa chỉ tiêu và bất định nên thường được th c hi n bự ệ ởi cá nhân quyế ịnh có tham khảo ý kiết đ n c a h i đủ ộ ồng tư vấn Phương pháp chuyên gia có ưu thế hơn hẳn khi d ự báo những hi n tư ng hay ệ ợquá trình có tầm bao quát rộng, cấu trúc nói chung ph c t p nhi u ch ứ ạ ề ỉ tiêu, nhiều nhân tố chi phối làm cho xu hướng vận động cũng như hình thức bi u diể ễn đa dạng, khó định lượng bằng con đường ti p c n tr c tiế ậ ự ếp để tính toán, đo đạc thông qua các phương pháp ước lượng và công cụ chính xác

1.3.6 Lôgic m (Fuzzy logic) ờ

Lôgic mờ [3] được phát triể ừ lý thuyế ận t t t p m th c hi n l p lu n mờ để ự ệ ậ ậ ột cách

x p x ấ ỉ thay vì lập luận chính xác theo lôgic vị ừ ổ điển Lôgic mờ có thể đượ t c c coi

là mặ ứt ng d ng cụ ủa lý thuyế ật t p m x ờ để ử lý các giá trị trong th gi i thế ớ ực cho các bài toán phứ ạc t p Lôgic m ờ cho suy ra được k t qu t ế ả ừ đầu vào mờ

1.3.7 Máy vectơ hỗ trợ (Support vector machines)

SVM là mộ ật t p hợp các phương pháp học có giám sát được s d ng ử ụ để phân loại, h i quyồ Không giống như mạng nơron, tìm các hàm đặc trưng không gian trạng thái của mẫu đầu vào, SVM thực hi n mệ ột ánh xạ phi tuy n d ng chu n nh n ế ạ ẩ ậ

d ữliệu vào và phân loại chúng vào hai lớp khác nhau Do đó SVM là mộ thuật toán t phân loại nh ị phân V i m t b ớ ộ ộ các ví dụ luy n t p thu c hai th loệ ậ ộ ể ại cho trước, thuật toán luyệ ập SVM xây dựn t ng một mô hình SVM để phân loại các ví dụ khác vào hai thể ại đó Một mô hình SVM là một cách biể lo u diễn các điểm trong không gian và lựa ch n ranh gi i gi a hai th lo i sao cho khoọ ớ ữ ể ạ ảng cách từ các ví dụ luy n ệ

t p t i ranh giậ ớ ới là xa nhất có thể Các ví dụ mới cũng được bi u diể ễn trong cùng

một không gian và được thuật toán dự đoán thuộc m t trong hai th ộ ểloại tùy vào ví

d ụ đó nằm ở phía nào của ranh gi [7] ới áp dụng phương pháp SVM để ự báo phụ d

tải điện ng n hắ ạn Tác giả so sánh kết qu vả ới phuơng pháp tự ồ h i quy K t qu so ế ảsánh cho thấy s d ng SVM cho k t qu d ử ụ ế ả ự báo rấ ốt t t [8] S dử ụng mô hình SVM

để ự báo phụ ải điệ d t n trong một tháng Li and Fang [9] cũng sử ụ d ng m ng ạWavelet k t h p vế ợ ới SVM để ự báo phụ ải điệ d t n ng n h n ắ ạ

Luận văn thạc sĩ của tác giả Chu Nghĩa [10]cho th y ph t i cấ ụ ả ủa lưới điện thành

ph ố Hà Nội phụ thu c ch yộ ủ ếu vào các yế ố chính sau: u t

1.4.1 Ngày trong tu n ầ

Các yếu tố thời gian bao gồm thời gian của năm, các ngày trong tuần, và giờ trong ngày Có sự khác biệt quan trọng trong việc tải các ngày trong tuần và cuối tuần Phụ tải tại các ngày trong tuần khác nhau cũng có khác nhau, như ngày thứ Hai và thứ Sáu là tiếp giáp với cuối tuần, đồ thị phụ tải khác nhau hơn so với thứ Ba đến thứ Năm Ngày thứ Bảy và chủ nhật đồ thị phụ tải tương đối giống nhau [11], [12] Điều này đặc biệt đúng trong thời gian mùa hè, còn ngày lễ là ngày rất khó khả năng dự báo phụ tải bởi vì nhu cầu sử dụng là khác nhau

Hình 1.1 Đồ ị th ph t i các ngày đụ ả ặc trưng trong tuần 1.4.2 Các ngày đặc biệt trong năm

Ngày đặc biệt trong năm như các ngày lễ ế t t, 30/4, 1/5, 2/9 ph t i giụ ả ảm đáng

k so vể ới ngày thường Ph tụ ải các ngày sát với các ngày này cũng bị ảnh hưởng,

có thể ấy rõ điều đó trên đồ ị th th ph t i ụ ả thành phố Hà ội ngày ễ ết dương lịN l t ch 1/1/2012 và ngày làm việc bình thường 6/1/2012 Vì vậy, ph tụ ải trong các ngày

đặc biệt không được áp dụng như ngày thông thường mà phải tách biệt b ng ằphương pháp riêng, thường là ựa vào các ngày dạng này củ d a các năm trư c đó ớ

Hình 1.2 Đồ ị th ph t i thành ph ụ ả ốHà Nội hai ngày 1/1/2012, 6/1/2012

1.4.3 Thời tiết trong ngày

Bao gồm các thông số ự nhiên: nhiệt độ, độ ẩ t m, tốc độ gió, cường độ sáng, trong đó nhiệt độ có ảnh hưởng l n nh t, nhiớ ấ ệt độ tăng thì phụ ải tăng và ngượ t c

l ại Thành phố Hà Nội khi th i tiờ ết thay đổi nhiệt độ tăng lên, nhu cầu s dử ụng điện tăng, đây là vấn đề ấ ế t t y u do nhu c u s dầ ử ụng làm mát, nhu cầu này không chỉ có trong dân dụng mà cả trong công nghiệp, các thiế ị điệt b n c n phầ ải tăng cường làm mát Khi nhi t đ l nh xu ng ph t i s ệ ộ ạ ố ụ ả ẽ tăng lên do sử ụ d ng thi t b sư i m ế ị ở ấ

Hình 1.3 Đồ ị th ph t i ngày hai ngày có nhi t đ khác ụ ả ệ ộ1.4.4 K ế hoạch s a ch a lử ữ ớn trong ngày có cắt điện

Trong quá trình thực hi n k ho ch s a ch a lệ ế ạ ử ữ ớn, như cắt điện đường dây đang

vận hành để kéo đường dây mới, s a ch a tr m 220KV, 500KV ph i c t t i diử ữ ạ ả ắ ả ện

r ng dộ ẫn đến điện năng tiêu thụ vào các ngày này giảm một cách đáng kể ự báoD

ph t i nh ng nụ ả ữ gày này phải tính toán khấu tr ph t i gi m do ng ng cung c p ừ ụ ả ả ừ ấđiện D ng cạ ủa đồ ị th ph tụ ải trong ngày có cắt điện di n rệ ộng cũng mang đặc thù riêng, thay đổi tu thuỳ ộc vào thời gian, vùng, mi n cề ắt điện Qua quá trình vận hành thự ế và dữ ệc t li u thống kê, các điều độ viên, các chuyên viên chuyên phân tích về ph t i h thụ ả ệ ống điện đi đến k t lu n: Nhiế ậ ệt độ môi trường, đặc thù của các gày trong tuần, ngày lễ, ngày tết là các yế ố ảnh hưởu t ng l n nhớ ất đến giá trị ph ụ

CHƯƠNG 2: TỔNG QUAN VỀ MẠNG ƠRONN

M ng ạ nơron nhân ạo t [13] (Artifical Neural Networks) được xây dựng dựa trên

cấu trúc của b ộ não con người, giúp đưa ra một phương pháp mới trong lĩnh vực

tiếp cận thông tin Mạng nơron nhân tạo có thể ựth c hiện các bài toán nhận m u ẫ(Recognition), tối ưu, nhận dạng (Identification) và điều khiển (Control) cho các đối tượng tuyến tính và phi tuyến đạt hi u qu ệ ả hơn so với các phương pháp tính toán truy n th ng ề ố

M ng ạ nơron nhân tạo (g i tọ ắt là mạng nơron) g m nhiồ ều ơron nhân tạn o (g i tọ ắt

là nơron) liên kết với nhau thành mạng Nó có hành vi tương tự như bộ não con người v i kh ớ ả năng học (Learning), g i lọ ại (Recall) và tổng hợp thông tin từ ự s luy n t p t mệ ậ ừ ẫu và dữ u liệ

M ng ạ nơron đã có lịch s ử nghiên cứu phát triển khá lâu dài Từ năm 1943, McCulloch và Pitt’s đã đề xu t m t s ấ ộ ố liên kết cơ bản c a m ng ủ ạ nơron Năm 1949,Hebb đã đưa ra các luật thích nghi trong mạng nơron Rosenblatt đưa ra cấu trúc Perceptron năm 1958 Năm 1969, Minsky và Papert phân tích sự đúng đắn của Percept n, chro ứng minh các tính chất và chỉ rõ các giới h n c a m t s ạ ủ ộ ố mô hình Năm 1976, Grossberg dựa vào tính chất sinh học đã đưa ra mộ ố ấu trúc củt s c a h ệ

động h c phi tuy n vọ ế ới các tính chất mới Hopfield đã đưa ra mạng h i quy m t l p ồ ộ ớHopfield được đề xuất năm 1982 Năm 1986, Rumelhart đưa ra mô hình xử lý song song và mộ ố ết s k t qu c a thuả ủ ật toán Năm 1986, thuật toán học được lan truy n ềngược (Back Propagation) được Rumelhart, Hinton và Williams đề xu t th c hi n ấ ự ệluy n m ng ệ ạ nơron truy n th ng nhi u lề ẳ ề ớp

Những năm gần đây có nhiều công trình nghiên cứu đề xuất các cấu trúc, luật

h c cho nhi u lo i m ng ọ ề ạ ạ nơron truy n thề ẳng và hồi quy mới có nhiều ưu điểm

M ng ạ nơron hiện đang được áp dụng có hiệu qu trong nhiả ều lĩnh vực kinh t , k ế ỹthu t.ậ

2.1 MÔ HÌNH NƠRON SINH H C Ọ

B ộ não con người có khoảng 1011nơron sinh h c nhi u dọ ở ề ạng khác nhau Mô hình của d ng ạ nơron sinh h c gọ ồm có ba phần chính là: thân, bên trong có nhân, cây

và trục Cây gồm các dây thần kinh liên kế ới thân Trục có cấu trúc đơn, dài liên t v

k t vế ới thân Phần cu i c a trố ủ ục có dạng phân nhánh Trong mỗi nhánh có một cơ

c u nh ấ ỏ là khớp th n kinh, t ầ ừ đây nơron sinh học này liên kế ằng tín hiệ ới các t b u tnơron khác Sự thu nhận thông tin củ nơrona sinh học được th c hi n t ự ệ ừ cây hoặ ừc t thân của nó Tín hiệu thu, nh n dậ ở ạng các xung điện

Hình 2.1 Mô hình mộ ạt d ng nơron sinh h c ọ

M i t ỗ ế bào thần kinh có một màng, nhiệm v cụ ủa nó là giữ cho các chất nuôi tếbào không tràn ra ngoài Ở gi a ph n t nữ ầ ử ội bào và ngoại bào có dung dịch mu i ố

l ng ỏ làm cho chúng bị phân rã thành các ion âm và dương Các ion dương có trong màng tạo ra điện th ế màng với trạng thái cân bằng l c: lự ực đẩy của các ion dương ra

khỏi tế bào cân bằng với lực hút chúng vào trong t bào.ế

Điện th ế màng là phầ ửn t quan tr ng troọ ng quá trình truyền tin c a h th n kinh ủ ệ ầKhi thay đổi kh ả năng thẩm th u ion cấ ủa màng thì điện th ế màng củ ế bào bịa t thay đổi và tiế ớn t i một ngưỡng nào đó, đồng thời sinh ra dòng điện, dòng điện này gây

ra phả ứng kích thích làm thay đổn i kh ả năng thẩm thấu ion của các tế bào thần kinh tiếp theo

2.1.1 Phầ n tử ử lý x

Mô hình phầ ử ử lý (Processing Elements) hay mô hình nơron ạn t x d ng M-P, do Coullock và Pitts đề xu t ấ năm 1943 Phầ ử ử lý có dạn t x ng nhiều vào một ra MISO

Hình 2.2 mô tả mô hình ủa ầ ử ử ý (hay mô hình một nơronc ph n t x l ) th i, d ng M-ứ ạ

P, trong đó có các phầ ử sau đây n t

Hình 2.2 Mô hình phầ ử ử lý (mô hình ộ nơronn t x m t ) th i, d ng M-P ứ ạ

Tín hiệu đầu vào :

với thần kinh b ịkiềm ch ế

Riêng thành phần tín hiệu vào thứ m là xmđược gọi là ngưỡng (threshold) có giá trị xm= -1 Tín hiệu xmđược đưa qua thành phần d ch chuy n (bias) ị ể bi:

(m-1) đầu vào vượt qua trọng lượng của ngưỡng thì nơron ở trạng thái kích thích để

tạo ra được tín hiệu ra yi:

ij 1

Thành phần bi v ề cơ bản gi ng ng s ố trọ ố wij chỉ khác là luôn liên kết tín hiệ xu m = -1

Do đó, cũng có thể coi bi là trọng s ố liên kết th ứ m là wim của nơron thứ i ố ới tín n i v

hiệu vào thứ m là xmluôn có giá trị là -1 Vi t lế ại biểu th c (2.1 dứ ) ở ạng sau đây:

ij 1

Hàm kích hoạt (activation function)

Là hàm thể ệ hi n biến đổi tuyến tính giữa các kích thích đầu vào của một nơron

và tín hiệu đầu ra tương ứng Th c t ự ế hàm kích hoạt này thường hoạt động theo ngưỡng nhất định thì nơron ẽ ạo thàn s t h một xung điện áp tại đầu ra Ngưỡng kích

hoạt này được th hi n vể ệ ới giá trị phân cực (bias) Bên cạnh đó, hàm kích hoạ ủa t cnơron cũng th c hi n nhi m v h n ch mự ệ ệ ụ ạ ế ức tín hiệu trong m ng ả

Các dạ ng hàm truy ề n đ ạt s d ng trong mử ụ ạ ng nơron

t (hoHàm truyền đạ ặc ngưỡng làm việc, hàm chuyển đổi) dùng để đưa tính chất phi tuy n, tuyế ến tính vào chức năng hoạt động của nơron K t qu sau khi chuy n ế ả ể

đổ ầi đ u ra c a ủ nơron

- Hàm chuyển đổi gi i h n c ng ớ ạ ứ

Hàm chuyển đổi gi i h n c ng (ớ ạ ứ hard limit

transfer fuction),còn có tên gọi là hàm chuyển

đổ ạng bưới d c nh y (ả step transfer fuction)

- Hàm chuyển đổ ại d ng sigmoid ho c logsig ặ

Hàm chuyển đổ ại d ng logsig (logsig

transfer fuction) có biểu th c sau : ứ

Hàm chuyển đổ ại d ng tansig (tansig

transfer fuction) có biểu th c sau: ứ

Hàm chuyển đổ ại d ng tuy n tính (linear ế

transfer fuction) có biểu th c sau : ứ

a(v) =n

Hàm chuyển đổ ại d ng tuyến tính bảo hòa

Hàm chuyển đổ ại d ng tuyến tính bảo hòa

(satlin-Saturating linear transfer function )

có biểu th c sau: ứ

M ng ạ nơron bao g m s ồ ự liên kế ủt c a nhi u ề nơron Đầu ra c a mủ ỗi nơron ế ối k t n

với các nơron khác thông qua các trọng s ho c t ph n h i tr v ố, ặ ự ả ồ ở ề đầu vào của chính nó ấ trúc củ C u a m ng ạ nơron là kiểu k t nế ối hình học c a m i ủ ỗ nơron liên kết

1 khi n 1 khi 0 n 1

0 khi 0

a satlin n n

trong mạng, đây là một đặc điểm quan tr ng c a t ng m ng ọ ủ ừ ạ nơron ựa vào đó tiến , dhành phân loại chúng

Hình 2.3 Mạng nơron truy n th ng m t l p ề ẳ ộ ớ2.2.2 Mạ ng nơron nhiề u lớp

Trong trường h p cợ ần các hàm truyền đạt v i mớ ức độ phi tuy n cao, cế ần có

m ng v i cạ ớ ấu trúc phứ ạp hơn Cách đơn giảc t n nhất là tăng số ớ l p s ử lý tín hiệu

giữa đầu vào và đầu ra cũng như tăng khối lượng tính toán (nơron) trên từng lớp này Các lớp tính toán nằm gi a hai lữ ớp vào và lớp ra được gọi chung là lớ ẩp n (hidden layer)

Hình 2.4 Mạng nơron truy n th ng nhi u l p ề ẳ ề ớ2.3 CÁC TÍNH CHẤ T CỦA MẠNG NƠRON

M ng ạ nơron có mộ ố tính chất sau đây:t s

Các luật học trong nhóm học cấu trúc có nhiệm v ụ đưa ra cấu trúc hợp lý của

mạng như thay đổ ố lượi s ng nơron hoặc thay đổ ố lượng liên kế ủa các nơroni s t ctrong m ng ạ

Hai nhóm luât học trên có thể được áp dụng đồng thời (khi đó gọi là các luậ ọt h c lai – hybrid learning rules) h c cả ấu trúc và thông sốọ c , ho c đưặ ợc áp dụng riêng rẽ Sau đây trình bày các luật học thông số ớ v i gi ảthiết:

- Cấu trúc của m ng ạ nơron ồ g m s ố lượng lớp nơron ố lượ, s ng nơron và cách thức liên kết các trọng s ố có trong mạng đã hợp lý

- Ma trận tr ng s ọ ố đã bao gồm t t cảấ các ph n t thích ng ầ ử ứ

Nhiệm v c a hụ ủ ọc thông số là đưa ra phương pháp nào đó để tìm ma trận tr ng s ọ ốđiều khi n t ma tr n tr ng s ể ừ ậ ọ ố tùy chọn ban đầu v i cớ ấu trúc của m ng ạ nơron đã xác

định t trư c, thừ ớ ỏa mãn điều ki n sai l ch trong phệ ệ ạm vi cho phép

Để làm được điều đó, mạng nơron ử ụng các phương pháp học thích ứng để s dtính toán được các ma trận tr ng s ọ ố điều ch nh ỉ w đặc trưng cho mạng Có ba kiểu

học là: học giám sát (Supervised Learning), học c ng c (Reinforcement Learning) ủ ố

và học không có giám sát (Unsupervised Learning)

giữa chúng Như vậy ki u hể ọc có giám sát có đặc điểm là cần có tín hiệu đầu ra mong muốn được lấ ừ bên ngoài.y t

2.4.2 H ọ c củng c ố

Trong quá trình học giám sát, giả thi t rế ằng đáp ứng đầu ra c a mủ ạng đã đạt được giá trị mong muốn Nhưng ở m t mộ ẫu vào ra nào đó bị cho r ng k t qu ằ ế ảkhông đáng tin cậy, vì vậy c n ph i tiầ ả ến hành kiểm tra l i mạ ẫu nói trên Khi đó chỉ

có một bit tín hiệu c a m u c n kiủ ẫ ầ ểm tra đóng vai trò là tín hiệu c ng c ủ ố được đưa vào mạng để góp p ầh n khẳng định k t qu ế ả quá trình học giám sát đúng hay sai Kiểu học này gọi là kiểu h c c ng c Ki u họ ủ ố ể ọc này cũng có tín hiệu c ng c ủ ố được

l y t ấ ừ bên ngoài nên nó chỉ là một trường hợp đặc biệt của ki u hể ọc có giám sát

2.4.3 Học không có giám sát

Kiểu h c nọ ày có đặc điểm là không có tín hiệ ấ ừ bên ngoài Mạu l y t ng c n ph i ầ ả

t ự mình tìm ra các mẫu, nét đặc trưng, sự tương thích, phân loại trong d ữ liệu đầu vào và mã hóa thành các mẫ ở đầu ra Trong quá trình học không giám sát nếu u

mạng không thay đổi thông số ủ c a nó thì được gọi là t ổự t chức (self organizing) –Hình 2.5 trình bày luậ ọt h c tr ng s dọ ố ở ạng cơ bản nh t cho ấ nơron ứ th Trong i

đó vectơ tín hiệu vào x= [x1, x2, …, xj, …, xm]T có thể ấ ừ l y t các nơron khác hoặc đượ ấc l y t ừ bên ngoài.Thành phần thông ố ngưỡng có thể đượ s c thay th b ng ế ằthành phần th m cứ ủa vectơ tín hiệu vào x là xm= -1 được kế ối vớ ọt n i tr ng s ố xim=bi

Vectơ trọng s ố liên kế nơron ứ i là t th [ ,1 2, , 3]T

(a) (b)

(a)

Y X

Tín hiệ u ra mong mu n ố

Tín hiệu ra

Tín hiệu đánh giá

X

Tín hiệ u ra c ng c ủ ố

Tín hiệu vào

M ng ạ nơro

n

Máy phát

Tín hiệ u ra

Y

X Tín hiệu vào

M ng ạ nơron

Hình 2.5 Sơ đồ ba ki u h c c a m ng ể ọ ủ ạ nơron

(a) Học có giám sát; (b) Học củng c ố;

tín hiệu đầu vào (input layer), mộ ớp các kênh tín hiệu đầt l u ra (output layer) và có

thể ồ g m một số ớ l p trung gian gọi chung là các lớ ẩp n (hidden layers)

Không có các ghép nố ữa các nơron trên cùng mộ ớp mà chỉ có ghép nối

giữa các nơron ủ c a hai lớp liên tiếp Các ghép nối đều có chiều hướng t ừ đầu vào đến đầu ra (m ng truy n th ng) ạ ề ẳ

mô hình hóa hàm phi tuyến với độ chính xác tùy chọn Ph n l n ch ầ ớ ỉ dùng mạng m t ộ

l p n do mớ ẩ ạng không có lớp ẩn thì quá đơn giản, còn mạng hai l p ớ ẩn thì quá phức

t p ạ

M ng MLP v i mạ ớ ột lớ ẩn có thể đượ ặc trưng bởp c đ i các thông số sau:

B ộ ba (N, M, K), trong đó N- S ố đầu vào, M ố nơron- s thuộ ớp ẩc l n, K- s ốnơron ở ớ l p ra

Các hàm truyền đạt: 1 của lớ ẩn và p 2 của lớp đầu ra

Ma tr n tr ng s W k t n i gi a lậ ọ ố ế ố ữ ớp đầu vào và lớ ẩp n Ma tr n tr ng s kậ ọ ố ết

nối V giữa lớ ẩn và lớp đầp u ra

Khi đó, với véc – tơ đầu vào (đầ vào phân cựu c c ố định

x0 =1), có đầu ra được xác định theo tu n t ầ ựchiều ra lan truy n thu n ề ậ (forward propagation) như sau:

- Tổng đầu vào của nơron ẩ n th ứi:

i 0

mẫu là mộ ật t p h p g m p ợ ồ các cặp mẫu được cho dở ạng véc tơ đầu vào, véc tơ đầ- u

ra tương ứng {xi, di} v i i= 1, , p, xớ … i RN; di RK Nhi m v cệ ụ ủa quá trình học là xác định giá trị các phầ ử ủa W và V sao cho đáp ứng đần t c u ra c a m ng g n gi ng ủ ạ ầ ố

với giá trị đích nhất Có rất nhi u ề thuật toán để tìm giá trị W, V c a m ng ủ ạ nơron Trong luận văn này sử ụ d ng thuật toán Levenberg – Marquardt

Marquardt

Thuật toán Levenberg –

c i ả thiện tốc độ ọc Phương pháp này đượ h c c i ti n t ả ế ừ phương pháp Guass- Newton để tránh tình trạng mạng rơi vào các cực tr ị địa phương Thuật toán này dựa trên khai triển b c hai c a khai tri n Taylor nh m mặ ủ ể ằ ục đích xác định giá trị bé nhất

của sai số đị nh nghĩa bởi:

Các tham số tham gia quá trình điề ỉnh này là các trọ ố ghép nố ữa các

l p ớ nơron trong mạng MLP Đố ới v i mạng có mộ ớ nơron ẩt l p n, s ẽ có hai bộ ng trọ

s ố ghép nối gi a lữ ớp đầu vào, lớ ẩn và lớp đầ ra Ký hiệp u u chung W- ma tr n chậ ứa các tham số ủa quá trình tối ưu hóa tìm giá trị c nh nh t cỏ ấ ủa hàm E Khi đó ta có

d ng ma tr n c a khai triạ ậ ủ ển hàm E xung quanh lân cận W là

3

1( ) ( ) [ ( )] ( ) ( )

2 1

1

2

M i i

T T

g W J W e W

G W J W J W R W

Với R(W) là thành phần khai tri n b c cao cể ậ ủa H theo W Tuy nhiên việc xác định giá trị chính xác của R khá khó khăn nên thuật toán L M đã thay thành phần này bở- i thành phần v1 với v thay đổi trong quá trình học C th , tụ ể ại bước th ứ k ta có

( k ) ( k) T ( k 1

Tại các bước học đầu tiên (k nh ), Wỏ (k) sai khác lớn so v i v ớ ị trí cực tiểu, do đó

c n ch n vầ ọ (k) r t l n ( so vấ ớ ới giá trị riêng lớn nh t c a ma tr n ấ ủ ậ J W( ( ) k) TJ W( ( ) k

để có G W( ( ) k ) v(k).1

Và biến thiên sẽ được tính theo phương bước gi m c c đ i ả ự ạ

(k) (k)

(

p

v Khi sai số đã giảm xuống và W(k) đã tiến g n tầ ới điểm cực tiểu thì hệ ố s v(k) s ẽđược gi m xuả ống và thành phần J W( ( ) k) T J W( ( ) k s ẽchiếm t ỷtrọng ngày càng

lớn trong công thức Tính hiệu qu cả ủa thuật toán L M sẽ- do việc điều ch nh vỉ (k)

quyế ịnh Như trên có vt đ (k) s bẽ ắ ầt đ u t mừ ột giá trị ớn và giảm dầ l n v ề 0 khi đạt

g n tầ ới điểm cực trị Có rất nhiều phương án lựa chọn nhưng phương án gốc do

L-M đưa ra như sau Ký hiệu E(k)là giá trị hàm sai số ở bước thứ k, r- h s gi m cệ ố ả ủa

xây dựng được m t m ng ộ ạ nơron sao cho có thể đạt được sai s ố này Tuy nhiên trong

những trường hợp như vậy, các mạng nơron tìm được có cấu trúc rấ ớ và đưa t l n, vào mạng một tín hiệu đầu vào mới (chưa xuất hi n trong t p s li u hệ ậ ố ệ ọc) thì xác suấ ể có đáp ứng đầt đ u ra t t c a mạng là rấố ủ t th p Nh ng m ng ấ ữ ạ nơron hoạt động t t ốtrên các mẫu đã được s dử ụng để xây dựng mô hình nhưng hoạt động không hiệu

qu ả trên các mẫu mới được gọi là mạng nơron có khả năng tổng quát hóa ế ki n thức thấp

Để tìm đượ ộ ạ nơron ừa đáp ứng được các yêu cầu đã đượ ết và đặt

ra trước, l i vạ ừa đồng thời có xác suất thành công cao khi xử lý những yêu cầu đầu vào mới Có thể ki m nghi m viể ệ ệc đạt k t qu bế ả ằng cách sử ụ d ng hai t p s li u ậ ố ệthay vì chỉ ử ụ s d ng m t t p M t tộ ậ ộ ập để ử ụng trong quá trình xây dựn mô hình, s d

t p s ậ ốliệu này gọ à tậi l p s u hốliệ ọc (learning data set), ký hiệu {xi, di} v i i=1, 2ớ ,

…, p T p s liậ ố ệu còn lạ ẽ đượ ử ụng trong quá trình kiểi s c s d m tra (testing data set),

ký hiệu {xikt, dikt} v i i=1, ớ 2, … q trong đó q là số lượ, ng m u ki m tra M ng ẫ ể ạ nơronsau khi đã xây ựng trên tậd p s li u h c s ố ệ ọ ẽ được ki m tra v i t p s li u th ể ớ ậ ố ệ ứ hai và

có sai số ểm tra như sau ki :

2 1

1

( ) 2

M ng s ạ ẽ chấp nhận là tốt nếu như sai số trên tập kiểm tra đủ nh , m t trong ỏ ộ

những điều ki n quan trệ ọng để đả m bảo tính khách quan là tập s u ki m tra ố liệ ể(testing set) không được ch a s liứ ố ệu đã xuất hi n trong t p s h c ệ ậ ố ọ

Trong m ng ạ nơron và các mô hình phi tuyến đều phải đối m t v i hai hiặ ớ ện tượng: học quá khớp (overfitting) và học quá ít (underfitting) M t mộ ạng quá đơn

giản không có khả năng xử lý hết độ ph c t p c a s u dứ ạ ủ ố liệ ẫn đế trườn ng h p hợ ọc quá ít Một mạng quá phứ ạp có thể ọc t h c rất chính xác các mẫu đến mức không

gi i quyả ết được các mẫu m i s d n t i hiớ ẽ ẫ ớ ện tượng học quá khớp Học quá khớp là hiện tượng khá nguy hiểm do có thể ễ dàng dẫ ớ d n t i những trường hợp đưa ra đáp ứng khác lệch r t nhi u so vấ ề ới giá trị chính xác Để tránh hiện tượng học quá khớp,

có thể ử ụ s d ng r t nhi u s li u m u M t trong nh ng y u t ấ ề ố ệ ẫ ộ ữ ế ố ảnh hưởng m nh nh t ạ ấ

tới độ phi tuy n c a m ng ế ủ ạ nơron là số ơron ẩ n n S ố nơron ẩ n ph ụ thuộc vào rất nhi u y u t ề ế ố như:

S ố đầu vào và đầu ra c a m ng ủ ạ nơron;

S c p m u trong s u h c ố ặ ẫ ốliệ ọ

Lượng nhiễu có trong tín hiệu vào;

Độ ph c t p cứ ạ ủa hàm ánh xạ đang cần tìm;

Cấu trúc của mạng nơron đang xây dựng;

Dạng hàm truyề đạt củn a các nơron trong m ng; ạ

Thuật toán học;

Các phương pháp hỗ ợ quá trình họ tr c trong vi c ệ “làm trơn hàm ánh xạ”

Vẫn chưa có một quy t c th ng nh t trong viắ ố ấ ệc xác định cấu trúc tối ưu Cách phổ

bi n nhế ất là thử nghiệm quá trình học v i nhi u mớ ề ạng khác nhau thông qua việc

khảo sát sai số thu được Có thể ự l a chọn m ng ạ nơron nào có sai số bé nhất

Một số nghiên cứu đã đề xuất việ ựa chọ ố nơron ớ ẩn như sau:c l n s l p

S ố nơron trong lớp ẩn gi i h n trong kho ng s ớ ạ ả ố đầu vào và số đầ u ra của

m ng ạ

M ng ạ nơron ớ v i m t l p n ch c n s dộ ớ ẩ ỉ ầ ử ụng không quá 2N số nơron ẩ n, Trong đó N là số đầu vào của m ng ạ nơron

S ố nơron ẩ n s ẽ tương đương vớ ố thành phần chính (PCA) đượ ử ụi s c s d ng

để tái t o t ạ ừ 70% đến 90% m c đ biứ ộ ến thiên củ ậa t p s liố ệu đầu vào

CHƯƠNG 3: D Ự BÁO PHỤ ẢI ĐIỆ T N NG N H N V I S LI U THU Ắ Ạ Ớ Ố Ệ

3.1 XÂY DỰNG BÀI TOÁN DỰ BÁO PHỤ Ả T I ĐIỆN

Bài toán dự báo là một bài toán phứ ạc t p, c v s lư ng d liả ề ố ợ ữ ệu đưa vào cũng như độ chính xác dữ ệ li u c n d ầ ự báo Có các phương pháp dự báo khác nhau như phương pháp: Hồi quy tuyến tính, Phương pháp ngoại suy theo thời gian… Tuy nhiên đến thời điểm này đố ới các bài toán dự báo phứ ạp, đòi hỏi độ chính xác i v c tcao người ta thường dùng thuật toán lan truyền ngược để ứ ng dụng trong các lĩnh

v c d ự ự báo, nhận dạng, phân lớp Các bước chính trong quá trình thiế ế và xây t k

d ng mự ột ứng d ng dụ ựa trên mạng nơron MLP bao gồm:

Bước1: L a chự ọn các biế n đ ầu vào

Đố ới bài toán dự báo phụ ải điện, giá trị phụ ải và nhiệt độ tương ứ ừ

gi ờ là các dữliệu đầu vào cho mạng

Bước2: Thu th p d li u ậ ữ ệ

kiểm tra tính hợ ệ ủa chúng p l c

Bước 3: Phân chia tập d li u ữ ệ

tra T p hu n luyậ ấ ện thường là lớn hơn tập ki m tra, t p hu n luyể ậ ấ ện thường chứa kho ng 60% - 70% ả toàn bộ ậ t p d u T p ki m tra s dữ liệ ậ ể ử ụng để kiểm tra tính đúng đắn c a mủ ạng sau khi đã huấn luyện, có hai cách xác định t p ki m tra, m t ậ ể ộ

là lấy ngẫu nhiên các mẫ ừ ậu t t p hu n luyấ ện ban đầu, hai là chỉ ấ ậ l y t p d li u g n ữ ệ ầ

với hiệ ại hơn vì nó quan trọ g hơn các dữ liệu trong quá khứn t n