Chuong 2 toi uu hoa nguon nuocmoi2b phituyen

• Quy hoạch phi tuyến QHPT là quá trình giải hệ các phương trình đẳng thức và bất đẳng thức, tập hợp các điều kiện ràng buộc nhiều hơn tập hợp các biến thực chưa biết, Hàm mục tiêu là ma

Water Resources Engineering – Hydrosystems Laboratory

TS Lê Hùng Khoa Xây dựng Thủy lợi Thủy điện Trường Đại học Bách Khoa

Đ

1

TRƯỜNG ĐẠI HỌC BÁCH KHOA - ĐHĐN

PHẦN I: CÁC PHƯƠNG PHÁP TỐI ƯU HÓA

CHƯƠNG I QUY HOẠCH TUYẾN TÍNH

CHƯƠNG II QUY HOẠCH PHI TUYẾN

CHƯƠNG III QUY HOẠCH ĐỘNG .

CHƯƠNG IV THUẬT TOÁN DI TRUYỀN

CHƯƠNG V QUY HOẠCH ĐA MỤC TIÊU.

• Quy hoạch phi tuyến (QHPT) là quá trình giải hệ các phương trình đẳng thức và bất đẳng thức, tập hợp các điều kiện ràng buộc nhiều hơn tập hợp các biến thực chưa biết, Hàm mục tiêu là maximum hoạch minimum với các ràng buộc phi tuyến

(tối ưu tuyệt đối)

E - Min toàn thể (tối

ưu tuyết đối)

Hình 2.1: Đồ thị biểu diễn hàm phi tuyến đơn trị và đa trị

2.1 Giới thiệu về lời giải bài toán phi tuyến

2.1 Giới thiệu về lời giải bài toán phi tuyến

2.1 Giới thiệu về lời giải bài toán phi tuyến

Hình 2.3ab Lời giải tối ưu tồn tại điểm cực và không tồn tại điểm cực trị

Miền khả thi

Miền khả thi

Tối ưu toàn cục

Tối ưu toàn cục Tối ưu cục bộ

2.1 Giới thiệu về lời giải bài toán phi tuyến

2.1 Giới thiệu về lời giải bài toán phi tuyến

Hàm f(x) được gọi là lồi trên một vùng nếu với mọi xa và xb, xa≠ xbthỏa mãn như sau:

Hàm f(x) được gọi là lõm trên một vùng nếu với mọi xa và xb,

xa≠ xb thỏa mãn như sau:

* Chú thích: Các phương trình trên không tiện lợi để sử dụng trong kiểm tra tính lồi lõm của một hàm

2.1 Giới thiệu về lời giải bài toán phi tuyến

2.1 Giới thiệu về lời giải bài toán phi tuyến

Giả sử hàm f(x) nhiều biến, hàm liên tục và có đạo hàm liên tục

f x

f x

f x

2 n x

F

2

i

x n x F

2

2

x n x F 2

1

x n x F 2

.

n

x j x F

2

i

x j x F

2

2

x j x F 2

1

x j x F 2

.

n

x 2 x F

2

i

x 2 x F

2

2 2 x

F 2

1

x 2 x F 2

n

x 1 x F

2

i

x 1 x F

2

2

x 1 x F 2 2

1 x

F 2

) ( )

H

f(x) có đạo hàm liên tục bậc 2 tồn tại một ma trận đạo hàm được gọi là ma trận Hessian

2.1 Giới thiệu về lời giải bài toán phi tuyến

Ví dụ 2.1 Xét hàm bậc hai sau (Edgar và Himmelblau, 1988)

2 1

2 2

2

4 ) (x x x x x

2 1

1 2

2 1

2

2

8 2

2 , 2 8

, )

(

x x

x

x x

x x

x x

f x

f x

f x

1 , 1 (

2 8

2 2 x

F 2 1

x 2 x

F 2

2

x 1 x

F

2 2

1 x

F 2

) ( )

H

Xác định Hessian

4.0 4.0

0.5

1.0 2.0 3.0

x 2

2.1 Giới thiệu về lời giải bài toán phi tuyến

Kiểm tra tính lồi lõm của một hàm Ta kiểm tra dấu của đạo hàm bậc hai của nó như sau 2 (2 )

dx

x f d

,

0 )

( 2

2

<

dx

x f d

Còn nếu Thì là hàm lồi

Nếu Thì là hàm lõm

0 )

( 2

2

>

dx

x f d

Tính lồi lõm của hàm nhiều biến f(x) cũng có thể được xác định khi sử dụng ma trận Hessian Xác định dương, xác định

âm, xác định, không xác định được sử dụng để xác định loại của ma trận Hessian

2.1 Giới thiệu về lời giải bài toán phi tuyến

2.1 Giới thiệu về lời giải bài toán phi tuyến

df dx

x

df dx

2.1 Giới thiệu về lời giải bài toán phi tuyến

,

H xác định dương: xTHx>0 với mọi x ≠0

H xác định âm: xTHx<0 với mọi x ≠0

H không xác định: xTHx<0 với một số x;

>0 với một số khác

H bán xác định dương: xTHx≥ 0 với mọi x

H bán xác định âm: xTHx≤ 0 với mọi x

Các quy tắc cơ bản cho tính lồi lõm của một hàm nhiều biến f(x) có đạo hàm bậc hai liên tục là:

f(x) là lõm, H(x) là bán xác định âm;

f(x) là lõm thực sự, H(x) là bán xác định âm;

f(x) là lồi, H(x) là bán xác định dương;

f(x) là lồi thực sự, H(x) là bán xác định dương

Các loại bài toán phi tuyến

1/ Tối ưu hóa không ràng buộc 1 biến

2/ Tối ưu hóa không ràng buộc đa biến

3/ Tối ưu hóa ràng buộc

Các loại bài toán phi tuyến

1/ Tối ưu hóa không ràng buộc 1 biến

- Phương pháp mặt cắt vàng

- Phương pháp Bisection

- Phương pháp Newton

- Phương pháp Gradient Descent Method

2/ Tối ưu hóa không ràng buộc đa biến

- Phương pháp Seempest

- Phương pháp Polka – Ribiere

- Phương pháp tựa Newton (Quasi-Newton)

- Phương pháp Newton

- Phương pháp Powell

Các loại bài toán phi tuyến

3/ Tối ưu hóa ràng buộc

- Phương pháp Gradient suy giảm

- Phương pháp hàm phạt

- Phương pháp nhân tử Lagrange

- Phương pháp một dãy quy hoạch tuyến tính SLP

- Phương pháp dãy quy hoạch bậc 2 SQP

1/ Tối ưu hóa không ràng buộc 1 biến

( '

)

( '

)

(

0 0

0 0

x f

x

f x

x

1/ Tối ưu hóa không ràng buộc 1 biến

• Phương pháp Steepest descent

) ( ( ) )

(k f x k

d = ∇

0

voi )

( ( ) ( ))

( )

( )

1

(k+ = x k − k ∇f x k k >

cua

hàm là

)) f(x -

f(x )

g(

xét

Xem

, đinh

Xác

(k) (k)

(k) (k)

(k)

(k)

α α

α

α

∇

=

Phương pháp mặt cắt vàng

Mặt cắt vàng tách một đoạn thẳng thành hai đoạn, với tỷ lệ của đoạn thẳng

đó trên đoạn thẳng con lớn hơn bằng tỷ lệ của đoạn thẳng con lớn hơn (∆L) trên đoạn thẳng con nhỏ hơn (∆S) Đặt độ dài đoạn thẳng tổng cộng là ∆L +

∆S =1, trong đó ∆L là khoảng con lớn hơn và ∆S là khoảng con nhỏ hơn

Phương pháp mặt cắt vàng

Bước 0: k=0, Chọn các giá trị a0 và b 0 có miền chứa giá trị nhỏ nhất của f (x).

Bước 1: Xác định các điểm bên trong

Bước 4: Nếu chỉ tiêu hội tụ không thỏa mãn và quay lại bước 1.(k k= + 1)

Sau k bước lặp, khoảng con có độ dài (b k − a k) (0.618) (= k b0 − a0)

Lời giải: Đạo hàm bậc hai là 6x vì thế hàm là lồi với x≥0, Thuật giải

trên như sau:

( ) 0,841 5,664 4,823

1 2

( ) 6,730 11,328 4,598

2.2.2 Phương pháp hàm đa biến

• Phương pháp Steepest descent

Dừng!

x (k) is minimum Yes

No

α {α1 ，… αn}

Đa thức : bậc ba ,… Miền loài bỏ : …

2.2.2 Phương pháp hàm đa biến

• Phương pháp hướng dốc nhất (Steepest descent)

Ví dụ 2.4 Áp dụng phương pháp

hướng dốc nhất để cực tiểu hóa

hàm sau:

2 1

2 2

2 1

2

4 )

Lặp cho tới khi nghiệm tiệm

cận tới nghiệm tối ưu x*=(0,0)

Phần dốc nhất là theo hình zíc

zắc với mỗi đường chuyển

động vuông góc với đường

trước

2.2.2 Phương pháp hàm đa biến

2.2.2 Phương pháp hàm đa biến

2.2.2 Phương pháp hàm đa biến

Ví dụ 2.6: Minimum f(X) = f(x1, x2) = 3 + (x1 – 1.5x2) 2 + (x2 – 2) 2

Ràng buộc 0 ≤ x 1 ≤ 5; 0 ≤ x 2 ≤ 5 Hình vẽ dưới là các

đường đồng mức của

bài toán và lời giải có

thể vị trí tại

2 ,

Phương pháp hướng dốc nhất (Steepest descent)

Phương pháp này sẽ là không hiệu quả nếu các đường đẳng trị của hàm mục tiêu càng kéo dài ra theo một hướng vuông góc Mặt khác, phương pháp hướng dốc nhất sẽ chỉ lấy một bước lặp để hội tụ nếu đường đẳng trị là một vòng tròn.

tụ rất nhanh một lần xấp xĩ đạt

được đó là gần lời giải đúng

• Điều đó không dễ dàng đến xác

định giá trị bắt đầu để đạt được

lời giải giải

• Các giá trị lời giải bắt đầu tối có

thể tìm theo phương pháp

Steepest Descent

2.2.2 Phương pháp hàm đa biến

Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau:

Min F(x)=(x1-2)2+(x2-2)2Miền ràng buộc được xác định bởi:

Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau:

Điều kiện Kuhn-Tucker của bài toán

này được viết như sau:

i i

g f

x

g f

Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau:

x x

⇒ = = = Từ (1) ⇒ = λ1 2

Ta thấy với (x1=1; x2=1)(với ) thỏa mãn các điều kiện dừng của hàm

Lagrange.

Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau:

Vậy phương án tối ưu toàn cục là x1= 1, x2= 1 tương ứng với Fmin= 2

Giải bằng Matlab

Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau:

Tạo M.file hàm mục tiêu

Tạo M.file ràng buộc

Mở công cụ tối ưu >>optimtool

Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau:

Vậy phương án tối ưu toàn cục là x = 1, x = 1 tương ứng với F = 2