Một giải pháp để dự báo sự biến động của hệ thống các dữ liệu đa chiều phụ thuộc lẫn nhau theo chuỗi thời gian bằng mạng nơron FIR

trình này tuy đã có một số thành công trong những bài toán cụ thể, nhưng còn tồn tại hạn chế là chỉ khảo sát bài toán chuỗi thời gian bằng cách dùng các phương pháp dự báo trong mô hì[r]

MỘT GIẢI PHÁP ĐỂ DỰ BÁO SỰ BIẾN ĐỘNG CỦA HỆ THỐNG CÁC DỮ LIỆU ĐA CHIỀU PHỤ THUỘC LẪN NHAU THEO CHUỖI

THỜI GIAN BẰNG MẠNG NƠRON FIR

Hà Gia Sơn*

Tóm tắt: Bài viết này nhằm xây dựng một giải pháp để dự báo hệ thống dữ liệu

đa chiều phụ thuộc lẫn nhau theo chuỗi thời gian bằng mạng nơron FIR (FINITE IMPULSE RESPONSE – Mạng đáp ứng xung hữu hạn) Phần ứng dụng dựa vào dữ liệu trên trang Web của thị trường tài chính Forex Kết quả cho thấy, việc sử dụng giải pháp này đã góp phần nâng cao hiệu quả của dự báo

Từ khóa: Dự báo; Chuỗi thời gian; Dữ liệu đa chiều; Mạng nơron FIR

1 ĐẶT VẤN ĐỀ

Dự báo đó chính là dự kiến, tiên đoán về những sự kiện, hiện tượng, trạng thái nào đó

có thể hay nhất định sẽ xảy ra trong tương lai Theo nghĩa hẹp hơn, đó là sự nghiên cứu khoa học về những triển vọng của một hiện tượng nào đó Ở nước ngoài, có nhiều công trình nghiên cứu về vấn đề này, đã có một hệ thống lý thuyết gồm nhiều phương pháp, qui trình cũng như nhiều mô hình để dự báo tương lai như tài liệu [11] Tài liệu này đã phân tích và thăm dò các yếu tố của chuỗi thời gian, các mô hình của chuỗi thời gian Trong thời gian gần đây, ở trong nước, chúng ta đã có nhiềuđề tài các cấp, với những mục đích

và cách tiếp cận khác nhau về dự báo như các công trình [1-4], [6-7]

Hiện tại, xuất hiện nhiều mô hình dự báo có hiệu quả cao, trên thế giới đã bắt đầu áp dụng một công cụ mới vào công tác dự báo đó chính là mạng nơ- ron, trong thời gian qua, nhiều tác giả đã tiến hành hàng loạt các nghiên cứu tập trung vào việc ứng dụng chúng trong việc dự báo các nhân tố, biến số trong các lĩnh vực kinh tế, kỹ thuật như tài liệu [8], [10], [12],[13] và đã đạt được nhiều kết quả khả quan, và họ đi tới kết luận mô hình dự

báo bằng mạng nơ ron lai ( kết hợp giữa mạng nơ ron và các mô hình dự báo truyền thống) như FIR có sự vượt trội hơn mô hình hồi quy tuyến tính truyền thống Các công

trình này tuy đã có một số thành công trong những bài toán cụ thể, nhưng còn tồn tại hạn chế là chỉ khảo sát bài toán chuỗi thời gian bằng cách dùng các phương pháp dự báo trong

mô hình chuỗi thời gian có kết hợp với mạng nơron để khảo sát một cột dữ liệu thông thường mà chưa tính đến sự ảnh hưởng lần nhau của những yếu tố phụ thuộc khác, các công trình này ít đề cập đến việc dự báo một hệ thống dữ liệu đa chiều phụ thuộc lẫn nhau theo chuỗi thời gian Tuy nhiên, trong bài báo [6] đã đưa ra ý tưởng kết hợp giữa các mô hình và bài báo [7] đã chỉ rõ phương pháp xác trình tự hồi quy trong dự báo hệ thống dữ liệu đa chiều

Trên thế giới cũng như ở Việt nam, việc nghiên cứu các giải pháp dự báo biến động của

hệ thống các dữ liệu đa chiều phụ thuộc lẫn nhau theo chuỗi thời gian thường chỉ áp dụng vào một vài bài toán nhất định, chưa được tổng quát hóa, giải pháp thường bằng những công cụ về toán học kết hợp với các phần mềm phân tích, chưa chỉ rõ được mối quan hệ giữa biến, các cá thể với nhau, cần đòi hỏi về một vài giả thuyêt thống kê hoặc mô hình đặc biệt Với ý định xây dựng một giải pháp hợp lý để dự báo biến động của hệ thống các

dữ liệu đa chiều phụ thuộc lẫn nhau theo chuỗi thời gian bằng mạng nơ ron chính là một ý tưởng mới, đáp ứng được sự phát triển của thực tế trong vấn đề dự báo

Trong bài viết, phần đầu là cơ sở lý thuyết chung về chuỗi thời gian, khái niệm về mạng nơ ron FIR, phương pháp phân tích thành phần chính các giải thuật về ứng dụng

mạng nơ ron FIR trong dự báo và phát triển phương pháp phân tích thành phần chính để xác định trình tự hồi quy, và sử dụng mô hình hồi quy bội để xác định lại các giá trị dự báo Ứng dụng dựa vào dữ liệu trên trang http://www.investing.com của thị trường tài chính Forex Kết quả cho thấy, việc kết hợp giữa mạng nơ ron FIR và mô hình hồi quy truyền thống lại có kết quả dự báo tốt hơn khi chỉ sử dụng mạng nơ ron

2 NỘI DUNG CẦN GIẢI QUYẾT 2.1 Xây dựng lý thuyết

2.1.1 Giả thiết ban đầu

Trong dự báo, số liệu trong quá khứ và hiện tại quyết định xu hướng vận động của các hiện tượng trong tương lai

2.1.2 Xây dựng giải pháp dự báo hệ thống dữ liệu đa chiều

2.1.2.1 Bài toán: Hệ thống dữ liệu đa chiều là một ma trận Xnp gồm n hàng ( cá thể ) và p cột (biến ) có dạng:































p n

n n

p p

p

x x x t

x x x t

x x x t X

, 2 , 1 ,

, 2 2 , 2 1 , 2 2

, 1 2 , 1 1 , 1 1

,

.

(1)

Trong đó ti là cột thời gian, xij là các tham số biến động theo chuỗi thời gian, hãy xây dựng giải pháp để xác định tại thời điểm tn+1…, giá trị các tham số xn+1,1, xn+1,2….xn+1,p… 2.1.2.2 Giải pháp chung: việc dự báo này chia làm 02 giai đoạn:

+ Giai đoạn 1: Trong môi trường dự báo có ba thời đoạn được quan tâm Đầu tiên,

người khảo sát sử dụng dữ liệu trong thời đoạn n1 đến n2 để ước lượng một hoặc một vài

mô hình Các thời đoạn từ n2+ 1 đến n3 , trong đó, giá trị thực tế của Y đều đã biết; và thời đoạn n3+1 trở đi trong đó các giá trị của Xs và Y đều chưa biết Các giá trị dự báo được tạo

ra cho thời kỳ từ n2+1 đến n3 được gọi là các giá trị dự báo kiểm định, và các giá trị dự báo được tạo ra cho thời kỳ từ n3+1 trở đi được gọi là các giá trị dự báo tiên nghiệm

Hình 1 Các thời đoạn dự báo trong mẫu, kiểm định và tiên nghiệm

Đầu tiên, ta phải dự báo từng cột của bảng dự liệu này Theo [9], người ta thường dùng

phương pháp dự báo chuỗi thời gian sử dụng các mô hình tự hồi quy Mô hình chuỗi thời

gian tự hồi quy hoàn toàn có cấu trúc như sau:

Y t = α 1 Y t-1 + α 2 Y t-2 + … + α p Y t-p + u t (2)

Trong đó Yt là quan sát thứ t đối với biến phụ thuộc và ut là thành phần sai số Các mô hình thường gặp là mô hình trung bình trượt (MA – Moving Average):

Yt = νt – β1νt-1– β2 νt-2– …– βq νt-q (3) Nhưng mô hình thường áp dụng để dự báo trong chuỗi thời gian là mô hình ARMA (Autoregressive Moving Average), phối hợp giữa các công thức tự hồi quy và trung bình

trượt tạo ra mô hình ARMA Do đó, mô hình ARMA (p, q) có dạng tổng quát:

Y t = α 1 Y t-1 + α 2 Y t-2 + … + α p Y t-p + u t + νt – β1νt-1– β2 νt-2– …– βq νt-q ( 4)

- Để đánh giá mô hình người ta sử dụng nhiều tiêu chuẩn nhưng đơn giản và phổ biến nhất là tiêu chuẩn ME (sai số tuyệt đối trung bình, nhiều tài liệu, có thể ký hiệu là MAE),

cụ thể: 









n

i

i

i y y n MAE

1

Trong đó, yi và y i



lần lượt là giá trị thực tế và giá trị dự báo của mô hình hồi quy và chọn mô hình nào có giá trị MAE thấp Tuy nhiên, để tăng thêm độ chính xác, ở giai đoạn này, ta sẽ sử dụng mạng nơron FIR kết hợp với mô hình ARMA để dự báo cho từng cột

+ Giai đoạn 2: Theo [7], trong hệ thống dữ liệu đa chiều, sự phát triển của cột này sẽ

ảnh hưởng tích cực hay tiêu cực tới sự phát triển của cột khác, chính vì vậy, khi dự báo xong một cột bất kỳ, phải tính tới sự ảnh hưởng của các cột khác tới nó Chính vì vậy, cần phải đưa ra được trình tự để hồi quy, nếu không sẽ dẫn tới việc kết quả dự báo sẽ thiếu chính xác Sau đó, dùng tiếp mô hình hồi quy bội để tìm sự liên quan giữa các biến (các cột) trong bảng với nhau để xác định lại các giá trị dự báo, nghĩa là liên hệ biến phụ thuộc

Y cho trước với nhiều biến độc lập X1, X2, , Xn Công thức tổng quát như sau:

Y=  X1X2 + X3+…….nXn +n+1Yt (6)

2.1.2.3 Sử dụng mạng nơron FIR để dự báo từng cột (biến)

+ Mạng nơ ron: Mạng nơron nhân tạo, gọi tắt là mạng nơron, là một mô hình xử lý

thông tin phỏng theo cách thức của các hệ nơron sinh học Nó được tạo nên từ một số

lượng lớn các nơron kết nối với nhau thông qua các liên kết (gọi là trọng số liên kết) làm

việc như một thể thống nhất để giải quyết một vấn đề cụ thể nào đó (hình 2)

Hình 2 Mạng nơron truyền thẳng

Hình trái là một tế bào nơron và bên phải là mạng truyền thẳng

Xét một tế bào nơron duy nhất được trích từ lớp l của một mạng L lớp Đầu vào x i l

tới nơron sẽ được nhân với 1 hệ số wij l gọi là trọng số đại diện cho các kết nối khớp thần kinh giữa nơron i trong lớp trước đó và nơron j trong lớp l Và đầu ra của nơron xl j1 là một hàm sigmoid là tổng trọng số đầu vào của nó: 1  ( )

i

l i l i l

- Mạng nơron FIR: theo [6], trong tế bào nơron cơ bản của mạng này, khớp tĩnh thay bằng một bộ lọc tuyến tính FIR Bộ lọc FIR cơ bản nhất có thể được mô hình hóa với một đường trễ phân nhánh như minh họa trong hình 3 Trong bộ lọc này, đầu ra y(k) sẽ tương ứng với tổng trọng số giá trị trễ của đầu vào









T

n

n k x n w k

y

0

) ( ) ( )

Điều này tương ứng với các thành phần trung bình trượt của mô hình tự hồi quy (ARMA-công thức 4) Bộ lọc FIR, trên thực tế, là một trong số mạng nơron tốt nhất có phần tử thích nghi cơ bản để áp dụng vào mô hình ARMA này

Hình 3 Mô hình bộ lọc FIR

Đầu ra xl j1( k ) của lớp l tại thời điểm k bây giờ được tính bằng hàm sigmoid của tổng của tất cả các kết quả đầu ra l của bộ lọc cung cấp cho nơron:

)) ( ( )

1 k f w x k

i i

l j l

Hình 4 Nơron FIR và mạng nơron FIR

2.1.2.4 Phương pháp phân tích thành phần chính để xác định sự phụ thuộc và trình tự hồi quy giữa các cột biến

+ Phương pháp chung: mục đích của kỹ thuật này là rút ra thông tin chủ yếu chứa

trong bảng dữ liệu bằng cách xây dựng một biểu diễn đơn giản hơn, sao cho đám mây số liệu thể hiện rõ nhất, mà thông tin không sai lạc Theo [5], ta có bảng số liệu:































p n

n

p p p

x x

x

x x

x

x x

x X

, 2

, 1 ,

, 2 2 , 2 1 , 2

, 1 2 , 1 1 , 1

,

.

Trong đó, xi,j là giá trị mà biến Xj (với j = 1,p) nhận trên cá thể i (với i= 1,n) Để biết mối quan hệ giữa các biến, giữa các cá thể cần chuyển chung qua không gian con với số chiều ít hơn Bài báo [7] đã nêu 7 bước tiến hành gồm quy tâm bảng số liệu; Tính ma trận phương sai- hiệp phương sai; tìm các giá trị riêng: 1  2   q p; Tìm trục chính hình chiếu của cá thể i trên trục chính j; Tìm thành phần chính; Tái lập các điểm – biến Bài báo [7] cũng đã đưa ra giải thuật xác định trình tự hồi quy trong dự báo dữ liệu

đa chiều, ý tưởng của giải thuật này là:

Giả sử ta đã có tất cả các hình chiếu của các biến trên thành phần chính, khi đó, theo [5] (tr 103), nếu coi biến Xi là biến cần giải thích và biến Xk là biến giải thích thì Xk tác động vào Xi khi và chỉ khi góc giữa 2 véc tơ Xk, Xi nhỏ hơn hoặc bằng 900 và

i

X > Xk ( Xi , Xk - Độ dài của véc tơ Xi và Xk) Lúc này, ta đã biết được tọa độ của các véc tơ nên có thể xác định được chúng theo công thức:

2 2

i i

( x i , y i là tọa độ của X i trên mặt phẳng tạo bởi 2 trục chính) Góc giữa 02 véc tơ Xk, Xi

được xác định bởi công thức:

2 2 2 2

)

, (

k k i i

k i k i k

i

y x y x

y y x x X

X Cos







Vì thế, để xác định trình tự hồi quy là dùng phương pháp phân tích thành phần chính để đưa các biến (các cột) về 1 mặt phẳng của 02 thành phần chính, sau đó, sắp xếp theo độ lớn của các biến và xem xét các góc giữa 02 biến để phân tích sự liên quan giữa chúng, khi

đó, giả sử như biến Xi là biến cần giải thích, ta sẽ tìm được các biến Xk1, Xk2…Xkn giải thích cho biến Xi, sử dụng kết quả dự báo và ứng dụng phương pháp hồi quy bội để tìm tiếp các giá trị dự báo mới Lập lại như vậy cho tới khi hết bảng dữ liệu

2.1.2.5 Sử dụng phương pháp hồi quy bội để dự báo lại kết quả của từng cột (biến) Gọi Yt là giá trị thực tại thời điểm t của biến phụ thuộc và Xt1, Xt2, , Xtk là các giá trị

dự báo của các cột tương ứng được tạo ra bởi mạng nơron FIR Phương pháp đương nhiên

là tạo ra giá trị trung bình có trọng số của các giá trị dự báo này Do vậy, giá trị dự báo kết

i

X2, 3 3, ,

2

1 ˆ ˆ ˆ

Trong đó, ˆ1, ˆ2,…… ˆk là các hệ số - trọng số cần xác định

Gọi Yi là giá trị thực tế tại thời điểm i, vậy sai số e i của dự báo so với kết quả kỳ vọng

sẽ tiến tới 0, cụ thể như sau:

e i = Yi – fi = Yi - ˆ1ˆ2X2,iˆ3X3,i ˆk X k,i  0 (13)

Áp dụng công thức 5 cho e i , sử dụng phương pháp bình phương tối thiểu, ta được biểu

thức sau:

n

1 i

i k k i 3 3 i 2 2 1 i n

1 i 2

















Trong đó, X1,1, X1,2, … Xi,j là các giá trị dự báo của các mô hình đã biết Khai triển (14) và giải hệ phương trình ta sẽ có được các trọng số ˆ1, ˆ2,……  ˆk cần xác định

2.2 Ví dụ ứng dụng

2.2.1 Dữ liệu ứng dụng

Trong ví dụ này, tác giả lấy dữ liệu về giá vàng bán ra ở trang web trang

trường tài chính lớn nhất thế giới Bảng dữ liệu bao gồm 3 cột là giá mở cửa, giá cao nhất

và thấp nhất (vì giá vàng luôn biến động trong ngày) Dữ liệu bắt đầu từ ngày 10/12/2006

tới ngày 11/11/2016, gồm 2580 trường hợp Bảng này và kết quả dự báo khi áp dụng mạng

nơ ron FIR được tác giả đưa lên trang Mediafile theo địa chỉ : http://www.mediafire.com/file/5zu56hz7zuowjp4/du_lieu_va_ket_qua_du_bao.xls

Dữ liệu ở dạng bảng:

Bảng 1 Dữ liệu và kết quả dự báo bằng mạng nơron FIR

TT Ngày Lúc mở Cao nhất Thấp nhất Lúc mở Cao nhất Thấp nhất

1 10/12/2006 575.00 575.00 575.00 1197,865 1204,764 1190,317

2 10/13/2006 585.50 585.50 585.50 1197,865 1204,764 1190,317

2580 11/11/2016 1260.55 1264.85 1226.00 1283,848 1304,886 1257,861

Ở phần 2.1.2.2 (giải pháp chung), tác giả đã khái quát quá trình dự báo gồm 2 giai

đoạn, giai đoạn dự báo từng cột (bằng mạng nơ ron FIR) và giai đoạn xem xét các tác

động lần nhau giữa các cột để hồi quy và xác định chính xác lại giá trị đã dự báo

2.2.2 Xây dựng mạng nơron FIR để dự báo

Dữ liệu huấn luyện là tập các cặp (Xh, Dh), Xh trong đó, là thông số giá vàng lúc mở, lúc cao nhất và thấp nhất của ngày h, Dh là thông số giá vàng của ngày h+1 Tức là Dh

=Xh1 Sau khi huấn luyện mạng nơron nhiều lần với L mẫu huấn luyện như thế thì mạng nơron có thể đã nắm được quy luật biến đổi của giá vàng Quá trình huấn luyện thực hiện theo thuật toán lan truyền ngược Các thông số huấn luyện như sau:

Bảng 2 Các thông số của mạng FIR

trị

1 Số lượng nơ-ron đầu vào 1 5 Số mẫu trong thời kỳ ước lượng 1-1299

2 Số lượng nơ-ron đầu ra 1 6 Số mẫu trong thời kỳ kiểm định 1300-1499

3 Số lượng lớp ẩn 2 7 Số mẫu để kiểm tra tiên nghiệm 1499-2538

4 Số lượng nơ-ron ẩn 3x4

Sau đây là hình vẽ dữ liệu ở các thời kỳ của các cột 1 (giá mở cửa), 2 (giá thấp nhất trong ngày) và 3 (giá cao nhất trong ngày) từ trên xuống, I- Toàn vùng dữ liệu, II- Thời

kỳ ước lượng dự báo trong mẫu, III- Dự Báo Kiểm định, IV- Dự báo Tiên nghiệm)

Hình 4 Biểu đồ các giai đoạn của các cột giá mở, giá cao nhất và giá thấp nhất

Sau khi dự báo bằng mạng nơron FIR, MAE của các cột như sau:

Bảng 3: trình tự hồi quy

cot dodai cotpt

Bảng 1 Thông số MAE của giá mở, giá cao nhất và thấp nhất

So sánh hiệu quả của FIR với phương pháp dự báo chuỗi thời gian sử dụng mô hình ARIMA:

Đầu tiên, ta dùng 1499 trường hợp đầu tiên của giá vàng lúc mở cửa để dự báo các trường hợp tiếp theo, sau khi chạy chương trình dự báo ARIMA, ta

có bảng 2 so sánh giữa FIR và ARIMA,

ta thấy MAE của FIR quá nhỏ so với ARIMA, từ đó ta rút ra kết luận FIR có hiệu quả dự báo tốt hơn rất nhiều so với ARIMA

Dữ liệu để tại đường dẫn :

http://www.mediafire.com/file/sua979gtg557qte/du_lieu_ung_dung_gia_vang.xls

2.2.3 Sử dụng mô hình hồi quy bội để xác định lại các giá trị dự báo

+ Sử dụng phương pháp phân tích thành phần chính để xác định chính xác trình tự hồi quy của các cột: Sử dụng thuật toán của bài báo [7], ta sẽ tính

toán được bảng 3 Ở đây, ta lấy cột 1 (giá mở cửa) là cột đơn vi, qua bảng trên, ta thấy, cột 3 phụ thuộc cột

2, cột 1 lại phụ thuộc cột 3 Đó chính là trình tự hồi quy mà ta phải xác định

+ Sử dụng mô hình hồi quy bội xác định lại các giá trị dự báo: Xét hồi quy bội

cho cột 3: vì trường hợp này có 2 cột (biến) tác động vào cột này, đó là cột 2 (giá cao nhất) và kết quả dự báo bằng FIR của chính cột 3 (giá thấp nhất), vậy cần xác định 3 trọng số   1, 2, 3bằng việc triển khai biểu thức (14) để qui về việc giải các hệ 3 phương trình 3 ẩn:

2

0 ˆ

ˆ ˆ 2

0 ˆ ˆ ˆ 2

1

, 3 , 3 3 , 2 2 1 1

2

, 2 1

, 3 3 , 2 2 1 2

1 2 1

, 3 3 , 2 2 1 1

1 2









































































n i

i i i i

k

n i i

i n

i

i i i

n i i

n i

i i i

n i i

X X X Y

e

X X X Y

e

X X Y

e

























(15)

Đặt

n

X X

n

i i





 1 2 ,

n

X X

n i i





3 ,

n

Y Y

n i i





X X

x2,i  2,i ,x3,i  X3,i X và y i Y iY , ta sẽ xác định được ˆ1, ˆ2, ˆ3:

3 3 2 2

1 Y ˆ X ˆ X

Bảng 2 So sánh MAE của FIR và ARIMA