Dùng genetic programming giải bài toán symbolic regression

Dùng genetic programming giải bài toán symbolic regression

DÙNG GENETIC PROGRAMMING GIẢI BÀI TOÁN

SYMBOLIC REGRESSION

Trần Ngọc Anh Khoa Toán Tin Đề tài nghiên cứu khoa học cấp trường 2006

TÓM TẮT Trong đề tài này, tác giả tìm hiểu và áp dụng Genetics Programming (GP) giải bài toán Symbolic Regression (SR) Các thử nghiệm trên bảy hàm một biến thực đã chỉ ra rằng có thể giải bài toán này bằng GP Tiếp theo đó, tác giả áp dụng chiến lược động vào phép lai chuẩn nhằm khắc phục nhược điểm tìm kiếm cục bộ của phép lai này Kết qủa chạy 6 thử nghiệm khi xấp xỉ hai hàm một biến được chọn từ bảy hàm trên đã chỉ ra: phép lai chuẩn có áp dụng chiến lược động đạt được độ chính xác cao hơn và ổn định hơn trong khoảng thời gian ít hơn.

1 Mở đầu

Genetic Programming (GP) là một nhánh của Genetics Algorithm được nghiên cứu đầu tiên bởi John Koza từ năm 1972, sau đó bởi William Langdon, Ricardo Poli,

GP là một phương pháp tối ưu ký hiệu dựa trên biểu diễn cây – cây là cấu trúc linh hoạt có thể biểu diễn các chương trình máy tính, các biểu thức, phương trình toán học, … GP có nhiều ứng dụng quan trọng như lập trình tự động, giải bài toán hồi quy ký hiệu (Symbolic Regression)

Phần 2 giới thiệu bài toán SR và mô hình áp dụng GP giải bài toán SR Phần 3 áp dụng chiến lược động vào phép lai chuẩn trong GP nhằm tăng độ chính xác của lời giải Phần 4 là giao diện chương trình thử nghiệm và kết qủa thử nghiệm Phần 5 là các vấn đề cần nghiên cứu thêm

2 Mô hình GP giải bài toán SR

2.1 Bài toán SR

Cho trước tập các điểm

R y R x N i

y x

D= {( i, i) = 1 , , }, i∈ M, i∈ , tập các hàm cơ sở

F = {+,−,*,/,pow,ln,exp,abs,sin,cos,tan,sqrt }

và tập các toán hạng T = {x1,x2, ,cons1,cons2, } Bài toán đặt ra là tìm một hàm

R

R

f*: M → , f* được tạo bởi các hàm trong F và các toán hạng trong T sao cho

0

% 100

* ) (

* )

*,

−

= ∑

=

N y

y x f D

f E

N

i i

2.2 Thuật giải di truyền – GA

Hoạt động của GA được cho trong hình 1

Tạo ngẫu nhiên PopSize (PS) cá thể ban đầu (Q), t = 0

while (t < T)

Q b r

Q

Q m

r

Q cm r

Qrep= Q cm

r U Q m r U Q b

r U Q g r

Q = Opt (Qrep)

Tính độ thích nghi cho các cá thể trong Q, t = t+1

Đột biến

(V)

Chọn (III)

các cá thể từ Q và lai

(IV) chúng Q c

r

Đột biến

(V)

(1)

(2) (4)

(3)

(5)

Sinh ngẫu

nhiên (I)

Q g r

Hình 1: Các bước thực hiện của GA

Trong đó, số lượng các phần tử được:

(1) chọn (theo độ thích nghi) từ Q để lai là PSC = (pCPS % 2 = 0 ? pCPS :

pCPS+1),

(2) chọn (ngẫu nhiên) từ Qc

r để đột biến là PSCM = pcm*PS,

(3) chọn (ngẫu nhiên) từ Q để đột biến là PSM = pmPS,

(4) chọn (xén theo độ thích nghi) từ Q để tái tạo là PSb = pbPS; và

(5) có (1 – (pC+ pm+ pb))PS được sinh ngẫu nhiên

Các phép chọn trên dựa vào thủ tục chọn phần tử từ tập L phần tử theo bàn xoay roulette thêm vào tập T ở vị trí thứ r

Gọi selilà xác suất chọn Li (chú ý: ∑ ≤ 1

i i

sel ) Sắp tăng L theo {sel i}và đặt:p 0 := 0,

∑

=

= ( )

1

:

L

Card

i

i

sel

S Thủ tục như sau:

RWS (L, p, kind, r)

begin

do

- q = random(0; S)∈ (0; S)

- if (pi-1 < q≤ pi), v i i = 1 Card(L)

T[r] = Li

while (











=

<

∃

∧

=

∨

=

∧

=

∧

=

∧

<>

−

)]}

: ( ) _ [(

)]

( ) 0 2

% ( ) _ {[(

)

1

j r

r r

T T r j ALL DIFF kind

T T r

TWO DIFF

kind

FREE kind

)

return T[r]

end

với kind là hình thức chọn:











≠

≠

≠

∀

≠

=

else FREE

T T T T TWO DIFF

n m T T ALL DIFF kind

n m

:

,

, :

_

, :

_

3 2 1 0

Từ đó, để:

- chọn ngẫu nhiên:

o bước chọn (2): T[r] := RWS(QC

R, 1/PS, DIFF_ALL, r), r=1, , PSCM

o bước chọn (3): T[r] := RWS(Q, 1/PS, DIFF_ALL, r), r=1, , PSM

- chọn theo độ thích nghi g:

o bước chọn (1): lấy PSb cá thể có độ thích nghi cao nhất từ Q, T := PopTop (Q, g, PSb)

o bước chọn (4): T[r] := RWS(Q, g, DIFF_TWO, r), r=1, …, PSC.

2.3 Aùp dụng GP giải bài toán SR

Thuật giải di truyền tiến hóa trên cấu trúc cá thể có dạng cây được gọi là GP Biểu diễn hàm bằng cây nhị phân ta có thể dùng GP để giải bài toán SR Ở thế hệ đầu tiên, một quần thể các hàm (hay cây hay cá thể) được sinh ngẫu nhiên Trong các thế hệ sau, ở mỗi thế hệ, các hàm tốt có E bé được chọn lựa để biến hóa (lai ghép, đột biến) nhằm tạo ra thế hệ sau tốt hơn Hàm tốt nhất ở thế hệ cuối cùng được chọn làm lời giải

2.3.1 Biểu diễn hàm bằng cây nhị phân

Các nút trong chứa các toán tử, các nút lá chứa các toán hạng Chẳng hạn, xem hình 2

2.3.2 Khởi tạo quần thể

Khởi tạo quần thể ban đầu chứa PopSize cây có độ cao tối đa là d Có 3 phương pháp khởi tạo: Full, Grow, Ramped

2.3.2.1 Khởi tạo Full

Các hàm cơ sở được chọn làm các nút của cây cho đến khi đạt đến độ sâu d-2, các toán hạng được chọn làm các nút ở độ sâu d-1

Đặc điểm của phương pháp này là: mọi cá thể đều có cùng độ cao d, quần thể không đa dạng về cấu trúc

2.3.2.2 Khởi tạo Grow

Đầu tiên, chọn hàm cơ sở làm nút gốc Sau đó, chọn ngẫu nhiên hàm cơ sở hoặc toán hạng cho các nút ở độ sâu 1 Nếu một nút ở độ sâu 1 là toán hạng thì chấm dứt khởi tạo trên nhánh con tương ứng đó, tiếp tục khởi tạo các nhánh còn lại

Hình 2: Biểu diễn một số hàm bằng cây nhị phân

Ngược lại, nếu một nút ở độ sâu 1 là hàm cơ sở thì tiếp tục khởi tạo các nút ở độ sâu 2 Tiếp tục khởi tạo cho các nhánh cho đến khi các nhánh đều đã có toán hạng hoặc nút cuối của nhánh có độ sâu d-2 Khi nút cuối của nhánh có độ sâu d-2, ta chọn ngẫu nhiên một hoặc hai toán hạng làm các nút có độ sâu d-1 và kết thúc nhánh

Đặc điểm của phương pháp Grow là: các cá thể có độ cao ngẫu nhiên thuộc đoạn [2, d], quần thể sẽ chứa nhiều cá thể có độ cao nhỏ (2, 3, …) và ít cá thể có độ cao lớn (d, d-1, …)

2.3.2.3 Khởi tạo Ramped half-and-half

Để khởi tạo quần thể chứa PopSize cá thể có độ cao nhỏ hơn giới hạn độ cao d cho trước, ta trải qua m giai đoạn, giai đoạn k khởi tạo N/m cá thể chứa: a) N/m/2 cá thể có cùng độ cao k bằng phương pháp Full, b) N/m/2 cá thể có độ cao trong đoạn [1, k] bằng phương pháp Grow

Phương pháp này kết hợp đặc điểm của hai phương pháp Full và Grow để tạo ra quần thể đa dạng về cấu trúc

2.3.3 Độ thích nghi của cá thể

Độ thích nghi của cá thể thể hiện khả năng tham gia của cá thể (so với quần thể)

vào qúa trình tái tạo – các qúa trình chọn (1), (4) trong hình 1 – ra thế hệ sau Nó

phụ thuộc chính vào lỗi của cá thể trên tập D: cá thể f có E(f) lớn/nhỏ sẽ có độ thích nghi cao/thấp

Các công thức sau chỉ ra các cách tính độ thích nghi gicho cá thể fi(G(fi)):

), ( : ) (f i E f i

), ( :

, ,

j Max StdFit f

MaxStdFit

=

) ( 1

: ) (

, ) ( 1

1 :

) (

, ) ( :

)

i i

i i

i i

f StdFit

MaxStdFit f

AdjFit

or f StdFit f

AdjFit

or f

StdFit MaxStdFit

f AdjFit

+

=

+

=

+

−

(4)

∑

=

=

N j

j

i i

f AdjFit

f AdjFit f

G

, , 1

) (

) ( :

)

2.3.4 Lai ghép

Lai ghép giữa hai cá thể được chọn (có độ thích nghi cao) nhằm tạo ra hai cá thể mơi có độ thích nghi cao Phép lai ghép chuẩn giữa hai cá thể cha, mẹ diễn ra như

Hình 3: Minh họa phép lai chuẩn

Đột biến

Hình 4: Minh họa phép đột biến

sau: a) chọn ngẫu nhiên một nút (điểm lai) trên cha, b) chọn ngẫu nhiên một điểm lai trên mẹ, c) tráo đổi hai cây con có gốc là hai điểm lai đã chọn để tạo ra hai cây con

2.3.5 Đột biến

Đột biến giúp tạo ra các gen mới (các cây con) trong quần thể giúp quần thể duy trì được tính đa dạng bị giảm đi do phép lai trong quá trình tìm kiếm

Đột biến trên cá thể thay đổi một cây con bằng một cây con khác được sinh ngẫu nhiên

3 Aùp dụng chiến lược động vào phép lai chuẩn

3.1 Nhược điểm của phép lai chuẩn

Đối với phép lai chuẩn, mọi điểm lai trên cây cha (mẹ) đều có xác suất chọn bằng nhau Khi các điểm lai được chọn là các nút lá thì các cá thể con tạo ra rất gần với cha, mẹ (chỉ khác biệt ở các toán hạng)ï Các nút lá trong cây chiếm “gần” một nửa số lượng các nút của cây Do đó, phép lai chuẩn thực hiện tìm kiếm cục bộ: không khám phá được nhiều vùng khác (chứa các dạng hàm khác) của không gian tìm kiếm

Để khắc phục, Koza đã đưa ra luật 90-10: 90% điểm lai được chọn ứng với các nút trong, 10% đối với các nút lá [Langdon, 1990] và [Harries, Smith, 1997] đã nghiên cứu các phân phối chọn điểm lai khác

3.2 Các phép lai khác

Trong [2], [3]; R Poli, W.B Langdon đề nghị các phép lai một điểm, lai đồng nhất

3.2.1 Phép lai một điểm

Phép lai một điểm (xem ví dụ trong hình 5) gồm các bước:

§ Tìm cây lai tiềm tàng của cha và mẹ: (a) nút trong tương ứng với hai nút ở cha và mẹ có chung số đối (hoặc trùng nhau trong trường hợp lai ngặt), (b) nút lá tương ứng với hai nút con chung cuối cùng của cha và mẹ

§ Chọn (với xác suất đều) một nút trên cây chung làm điểm lai cho cả cha và mẹ

§ Tráo đổi hai cây con tương ứng của cha và mẹ

Trong giai đoạn ban đầu (nếu quần thể đủ đa dạng về mặt cấu trúc), lai ghép diễn

ra ở phần trên (xác suất lai ghép ở phần dưới thấp, thậm chí có thể bằng 0), các cây

con được tráo đổi có kích thước lớn, sự tráo đổi lượng vật chất di truyền mạnh, tìm

kiếm mang tính toàn cục Đến một lúc, quần thể sẽ hội tụ về các cá thể có chung

cấu trúc ở phần trên Lúc này, lai ghép diễn ra ở các điểm lai bên dưới nhưng với

tốc độ chậm hơn vì lai ghép cũng có thể diễn ra ở trên, tuy nhiên, các thay đổi của phần dưới sẽ tác động lớn đến độ thích nghi của các cá thể (vì phần trên đã hội tụ

đến cấu trúc chung) Lượng vật chất di truyền tráo đổi bây giờ ít hơn, tìm kiếm

mang tính cục bộ hơn trong không gian các cá thể có chung cấu trúc phần trên Tình

trạng tương tự diễn ra, tìm kiếm sẽ chuyển “dần” từ không gian lớn (toàn cục) vào các không gian nhỏ (cục bộ) hơn – cố định cấu trúc

Ở giai đoạn cuối, khi quần thể hầu như giống nhau về cấu trúc, lai ghép một điểm

trở thành lai chuẩn Tuy nhiên, không giống lai chuẩn – tìm kiếm mang tính cục bộ

trong không gian lớn – lai một điểm tìm kiếm cục bộ trong không gian các cấu trúc cố định – không gian này là kết qủa của qúa trình hội tụ dần về mặt cấu trúc từ trên xuống dưới trong qúa trình chuyển từ tìm kiếm toàn cục sang tìm kiếm cục bộ

Lúc này, quần thể gồm nhiều cá thể có vật liệu di truyền giống nhau, do đó tìm kiếm mang tính chất rất cục bộ, nó có khả năng tinh chỉnh và chỉ ra lời giải tốt nhất

3.2.2 Phép lai đồng nhất

Phép lai đồng nhất (xem ví dụ trong hình 6) gồm các bước:

§ Tìm cây lai tiềm tàng con chung của cha và mẹ: (a) nút trong tương ứng với hai nút ở cha và mẹ có chung số đối (hoặc trùng nhau trong trường hợp lai ngặt), (b) nút lá tương ứng với hai nút con chung cuối cùng của cha và mẹ

§ con_1 ß cha; con_2 ß mẹ

§ Duyệt trên cây lai tiềm tàng:

o if (Flip(pS)) then

Hình 5: Phép lai một điểm

Hình 6: Phép lai đồng nhất

§ tráo đổi hai nút tương ứng của con_1 và con_2 nếu điểm lai là nút trong (của cây lai tiềm tàng),

§ tráo đổi hai cây con tương ứng của con_1 và con_2 nếu điểm lai là nút lá (của cây lai tiềm tàng)

Tính toàn cục hoặc cục bộ của tìm kiếm được điều khiển bằng pS:

o nếu p S qúa bé (gần 0): tìm kiếm mang tính cục bộ, lượng vật chất di

truyền tráo đổi ít,

o nếu p S qúa lớn (gần 1): tất cả đều bị tráo đổi, nhưng do tính đối xứng,

thực chất chẳng có tráo đổi nào: tìm kiếm mang tính cục bộ,

o nếu pS = 0.5: lượng vật chất tráo đổi nhiều nhất: tìm kiếm mang tính

toàn cục

Nếu quần thể ban đầu đủ đa dạng, trong giai đoạn đầu của tiến hóa, lai đồng nhất chỉ tráo đổi các nút và các cây con (có kích thước lớn) gần gốc Qua một thời gian tiến hóa, khi phần trên đã bắt đầu hội tụ, tương tự như lai một điểm, lai đồng nhất sẽ bắt tráo đổi các nút và cây con (nhỏ hơn) ở các mức thấp hơn Đến cuối tiến hóa, mọi nút của cây đều có thể được chọn lai ghép, nhưng lai ghép chỉ là tráo đổi các nút đơn của cây (các cây con tương ứng ở cha và mẹ ở các nút lá của cây lai tiềm tàng chỉ chứa một nút đơn – là nút lá đó) Tìm kiếm lúc này mang tính cục bộ, nhưng quần thể gồm nhiều cá thể có vật liệu di truyền giống nhau, do đó tìm kiếm mang tính chất rất cục bộ, nó có khả năng tinh chỉnh và chỉ ra lời giải tốt nhất

3.3 Aùp dụng chiến lược động vào phép lai chuẩn

Ở đây, ta áp dụng chiến lược động [4] vào phép lai chuẩn (phép lai chuẩn động)

như sau: giai đoạn đầu chọn các điểm lai ở gần gốc với xác suất lớn (các điểm lai

xa gốc với xác suất bé), giai đoạn sau chọn các điểm lai ở gần các nút lá với xác suất lớn (các điểm lai ở gần gốc với xác suất bé).

Để chọn điểm lai trên cá thể c (cha hoặc mẹ) ở thế hệ thứ t trong qúa trình tiến hóa

T thế hệ, ta xác định tam giác ∆c (t) chứa các nút có độ sâu 0, 1, , lim_depth(t, c) với

) 2 ) ( (

* ) 1 ( ) , (

T

t c

t

Xác suất chọn điểm lai trong ∆c (t) là

end beg end beg T

t end

t trong

) (

p

)

(t

c

Hình 7: Minh họa phép lai chuẩn động giữa cha c và mẹ m

4 Chương trình và kết qủa thử nghiệm

4.1 Chương trình thử nghiệm

Chương trình thử nghiệm được viết trên NET 2003 với giao diện như sau:

4.2 Thử nghiệm

Aùp dụng mô hình GP trên với phép lai chuẩn để xấp xỉ 7 hàm một biến thực

(cho trong bảng 1; các hàm 3, 4, 5, 6 được chọn từ [1], các hàm 1, 2, 7 là các hàm

đa thức phổ biến trong các tài liệu về SR; đồ thị các hàm cho trong hình 8) Thử

nghiệm 1: chạy 5 lần với siêu hạt giống 8000, kích thước quần thể 100, số thế hệ

100 Thử nghiệm 2: chạy 10 lần với siêu hạt giống 2000, kích thước quần thể 150,

số thế hệ 100 Lỗi (%) trung bình, min, max, phương sai cho trong bảng 2.

Hiệu qủa của phép lai chuẩn và phép lai chuẩn động được so sánh trên 6 thử

nghiệm với: cùng mô hình áp dụng GP (phép lai chuẩn động với beg = 0.7, end = 0.0), xấp xỉ các hàm 4 và 7 (bảng 1), số thế hệ 100, kích thước quần thể 50 Lỗi

(%) trung bình, phương sai, thời gian của các thử nghiệm cho trong bảng 3 (với các

ký hiệu: phép lai chuẩn: LC, phép lai chuẩn động: LC_D)

2 4 2

6 − x + x +

x

1

2 + x +

x

1 ) 1 ) cos(

) ( )(sin sin(

)

3 − − − +

x x

x x

e

1 ) 2

sin(

3

.

0 x π x + log( x ) + 1

1

+

Hình 8: Một số dạng hàm thử nghiệm

Bảng 1: Tham số của các hàm thử nghiệm

4 x3 −e−xcos(x) sin(x)(sin 2 (x) cos(x) − 1 ) + 1 [-1, 1] 100

Bảng 2: Kết qủa của 2 thử nghiệm áp dụng GP xấp xỉ 7 hàm một biến thực

STT Trung

bình Min Max Phươngsai Trung bình Min Max Phương sai

Tổng

Bảng 3: Kết qủa 6 thử nghiệm so sánh phép lai chuẩn và phép lai chuẩn động ([0.7, 0.0])

Siêu hạt giống 250 1000 4000 5000 7000 8000

Trung bình

550 lần

So sánh (%)

LC 10.17 13.77 13.79 12.41 9.51 12.48 11.83 100

Trung

Phương

sai LC_D 2.14 2.30 2.40 2.14 2.02 2.27 2.19 94

LC 7h53 5h46 3h21 5h38 3h28 3h50 5h31 100

Thời

gian LC_D 7 h 14 5h34 3h10 5h24 3h25 3h50 5h14 95

Từ bảng 2 và bảng 3, ta có nhận xét:

1) GP có thể giải hiệu qủa bài toán xấp xỉ hàm một biến thực với lỗi bé (2.3%).

2) Phép lai chuẩn động tốt hơn phép lai chuẩn: độ chính xác cao hơn (lỗi giảm 8%) và ổn định hơn (phương sai bé hơn 6%) trong khoảng thời gian ít hơn (5%).

5 Các vấn đề cần nghiên cứu thêm

a) Các phép lai: một điểm, lai đồng nhất; các phép đột biến: điểm, tráo

đổi hai cây con của chính nó; đột biến động

b) Tối ưu các hệ số bằng kỹ thuật giảm gradient, hồi quy tuyến tính.

c) Các phương pháp hạn chế sự phát triển độ sâu: parsimony pressure (độ

cao cá thể là một cơ sở để đánh giá độ tốt của cá thể), double tournament (hai lượt chọn, một lượt dựa vào độ cao và một lượt dựa vào độ tốt)

TÀI LIỆU THAM KHẢO

[1] M Keijzer, “Improving Symbolic Regression with Interval Arithmetic and Linear Scaling”, Computer Science Department, Free University Amsterdam

[2] R Poli, W.B Langdon, “Genetic Programming with One-Point Crossover and Point Mutation”, School of Computer Science, The University of Birmingham (UK)

[3] R Poli, W.B Langdon, “On the Search Properties of Different Crossover Operators in Genetic Programming”, School of Computer Science, The University of Birmingham (UK)

[4] T.C Tin, “Ứng dụng chiến lược động trong thuật giải di truyền giải một số bài toán tối ưu toàn cục”, Hội thảo quốc gia CNTT, Đà Lạt, 2006

[5] M Walker, “Introduction to Genetic Programming”, October 7, 2001