Bài tiểu luận tối ưu phi tuyến nhóm 11

Chương 5: Tiêu chuẩn tối ưu của quy hoạch không khả vi Mục tiêu của chương này là để suy ra tiêu chuẩn tối ưu điểm yên ngựa cho bài toán quy hoạch phi tuyến tính.. Tuy nhiên để thiết lậ

TRƯỜNG ĐẠI HỌC SƯ PHẠM TP.HCM

KHOA TOÁN – TIN Lớp: Toán-VB2 khóa 2

TỐI ƯU PHI TUYẾN

Đề tài :

Tiêu chuẩn tối ưu của quy hoạch

không khả vi

Người thực hiện:

1 Lưu Thị Hảo

2 Nguyễn Thị Hồng Tiên

3 Đặng Lê Xuân Ánh Nguyệt

Mục lục

1 Bài toán cực tiểu hóa và bài toán điểm yên ngựa 3

1.1 Bài toán cực tiểu hóa (MP) 4

1.2 Bài toán cực tiểu hóa địa phương (LMP) 4

1.3 Bài toán điểm yên ngựa Fritz John(FJSP) 4

1.4 Bài toán điểm yên ngựa Kuhn-tucker (KTSP) 4

1.5 Chú ý: 5

1.6 Chú ý: 5

1.7 Chú ý: 5

2 Một vài kết quả nền tảng cho bài toán cực tiểu hóa và cực tiểu hóa địa phương 6

2 1 Định lý: 6

2 2 Đinh lý về tính duy nhất: 6

2 3 Định lý: 6

2 4 Định lý: 7

3 Tiêu chuẩn tối ưu đầy đủ 8

3.1 Định lý tối ưu đầy đủ 8

3.2 Bài toán 9

3.3 Hệ luận – kết quả tất nhiên 10

4 Điều kiện cần của tiêu chuẩn tối ưu 10

4.1 Định lý về kiều kiện cần cho tính tối ưu của bài toán điểm yên ngựa Fritz John 10

4.2 Bài toán 11

4.3 Tính chất ràng buộc Slater [Slater 50] 12

4.4 Tính chất ràng buộc Karlin [Karlin 59] 12

4.5 Tính chất ràng buộc ngặt 12

4.6 Bổ đề 12

4.7 Điều kiện tối ưu của định lý điểm yên ngựa Kuhn-Tucker 13

4.8 Định lý Kuhn-Tucker cần thiết cho tiêu chuẩn tối ưu trong sự hiện diện các ràng buộc tuyến tính [Uzawa 58] 14

4.9 Mở rộng điều kiện tối ưu Kuhn-Tucker 16

5 Bài tập 16

Chương 5: Tiêu chuẩn tối ưu của quy hoạch

không khả vi

Mục tiêu của chương này là để suy ra tiêu chuẩn tối ưu điểm yên ngựa cho bài toán quy hoạch phi tuyến tính Để minh họa, ta xét ví dụ đơn giản sau

Xét bài toán cực tiểu hóa:

2

u u

u R u







  



u  2 và m in ( ) :u uR 4

Tiêu chuẩn tối ưu cho bài toán này là: điều kiện cần và đủ để *

R



(u ) ( u 2 ) (u ) ( u 2 ) ( )u ( u 2 )

u   

Đối với các bài toán đơn giản trên, tiêu chuẩn điểm yên ngựa có lẽ là cả điều kiện cần và đủ của

Điều này không phải luôn luôn đúng trong mọi trường hợp Chúng ta sẽ chứng minh trong chương này là điều kiện điểm yên ngựa nói trên là điều kiện tối ưu đầy đủ mà không cần đòi hỏi tính lồi Tuy nhiên để thiết lập điều kiện điểm yên ngựa nói trên, chúng ta không chỉ cần tính lồi mà còn cần chọn ra một vài điều kiện chính quy, một khả năng ràng buộc

Điều kiện tối ưu cần thì phức tạp và khó hơn để thiết lập

Chúng ta sẽ phát triển tiêu chuẩn tối ưu của chương này mà không có bất kỳ giả thuyết khả vi nào trong hàm đã được suy ra Chương sau, chương 7 và 11, sẽ thiết lập tiêu chuẩn tối ưu để suy ra các hàm khả vi

1 Bài toán cực tiểu hóa và bài toán điểm yên ngựa

Tiêu chuẩn tối ưu của chương này liên quan đến phương án tối ưu của một bài toán cực tiểu hóa, một bài toán cực tiểu hóa địa phương, và hai bài toán điểm yên ngựa mỗi loại Chúng ta định nghĩa những bài toán dưới đây

Giả sử 0

M

1.1 Bài toán cực tiểu hóa (MP)

*

*

0

 







( u )

án của bài toán

quy hoạch lồi hoặc quy hoạch lồi

(Chúng ta chú ý rằng bài toán cực tiểu hóa trên là một trường hợp đặc biệt của bài toán cực tiểu

hóa tổng quát 1.6.9, trong đó thêm đẳng thức véctơ k- chiều ràng buộc h(x)=0 đã có Lý do cho

trường hợp không khả vi này là chúng có điều kiện tối ưu không có nghĩa cho bài toán với tính chất ràng buộc không tuyến tính Tuy nhiên một vài kết quả cho tính ràng buộc tuyến tính sẽ đạt

được Xem 5.3.2, 5.4.2, 5.4.8)

*

*

*

( u ) ( u )

( L M P )





  



 



Tìm

( u , a , a ) ( u , a , a ) ( ( u , a , a )

( u , a , a ) a ( u ) a f ( u )

Tìm u  M ,   R ,   0 ,nếu nó tồn tại, sao cho

0

( u , a , a ) ( x ) f ( u )

Nếu

0

0

Hàm số

0

( u , a , a )

Phép nhân này được tính theo quy tắc trong quy hoạch tuyến tính và không tuyến tính mà nó thì giống với quy tắc tính bởi phép nhân Lagrange của phép tính cổ điển nơi mà một hàm của một vài biến thì được cực tiểu để thỏa tính ràng buộc của đẳng thức ( xem ví dụ Fleming trang 65) Ở đây, bởi vì chúng ta có bất đẳng thức ràng buộc, phép nhân Lagrange được thay đổi để không âm Khi chúng ta chú ý đến đẳng thức ràng buộc trong 5.3.2, 5.4.2 và 5.4.8, phép nhân liên đới với những đẳng thức này sẽ không được đòi hỏi không âm

Bất đẳng thức đúng của bài toán điểm yên ngựa, FJSP 3 và KTSP 4:

( u , a , a ) ( u , a , a )

u  M

và

u  M

Có thể được thể hiện như 1 nguyên lý cực tiểu, giống nguyên lý cực đại Pontryagin [Pontryagin ví

dụ ở trang 62] Nguyên lý Pontryagin trong điểm xuất phát của nó là điều kiện cần để kiểm soát tính tối ưu của hệ thống được miêu tả bởi các phương trình khả vi thông thường Chẳng hạn như,

gian khác Gần đây [Halkin 66, Canon ví dụ trang 66, Mangasarian-Fromovitz 67] một nguyên lý cực tiểu thì được thiết lập để kiểm soát tính tối ưu được miêu tả bởi các phương trình khả vi thông

, nói chung thì không có tính lồi tổng quát, và vì vậy kết quả của chương này thì không được ứng dụng tuy nhiên điều kiện tối ưu của chương 7 và

11, cái mà dựa trên sự tuyến tính và không dựa trên tính lồi, được ứng dụng để kiểm soát tính tối

ưu của bài toán miêu tả bởi phương trình khả vi không tuyến tính

2 Một vài kết quả nền tảng cho bài toán cực tiểu hóa và cực tiểu hóa địa phương

Chúng ta thiết lập một vài kết quả nền tảng liên quan đến tập hợp nghiệm của bài toán cực tiểu hóa

và liên quan đến nghiệm của bài toán cực tiểu hóa và cực tiểu hóa địa phương cho mỗi loại

2 1 Định lý:

u M



0    1, (1   ) u   ( u )  M và

u M



+ Pontryagin tạo 1 nguyên lý cực đại thay thế bởi nguyên lý cực tiểu bởi vì hàm Lagrange

của ông là hàm Lagrange âm của quy hoạch không tuyến tính

2 2 Đinh lý về tính duy nhất:

của MP

( u ') ( u )

*

u

( u )

khác

2 3 Định lý:

phải là một điểm biên của M

Chứng minh:

Nếu MP 5.1.1 vô nghiệm thì định lý đúng một cách hiển nhiên Cho là một nghiệm của MP

z  (1   ) u   y

Hình 5.2.1

Do đó:

*

( u )

             

      

 

Và không đạt được giá trị nhỏ nhất của nó tại một điểm trong z



*

u

Hình 5.2.2 một ví dụ đơn giản của định lý 3 trong R

2 4 Định lý:

Nếu u là một phương án của MP 5.1.1, thì nó cũng là 1 phương án của LMP 5.1.2 Ngược lại thì đúng nếu M lồi và  là lồi tại *

u

Chứng minh:

u thỏa mãn MP, thì *

u

u

*

0     / u '  u và  1 , chúng ta có

u   ( u '  u )  (1   ) u   u '  B ( u )  M

Do đó

       ( bởi vì *

u thỏa mãn LMP)

*

       (bởi tính lồi của  tại *

u )

Từ đó, kéo theo:

*

3 Tiêu chuẩn tối ưu đầy đủ

Tiêu chuẩn tối ưu đầy đủ chính được phát triển ở đây không đòi hỏi giả thuyết về tính lồi trong bài

toán cực tiểu hóa MP 5.1.1 những tiêu chuẩn này thì dường như tịnh tiến để đạt được và không

cần công cụ để suy ra Kết quả đầu tiên của loại này đã đạt được trong [Uzawa 58]

0

( u , a , a ) là một nghiệm của FJSP 5.1.3, và

0

*

Chứng minh:

Dạng 2 của định lý kéo theo một cách thông thường từ dạng đầu tiên bởi chú ý 5.1.5

Từ bất đẳng thức đầu tiên chúng ta có:

(    ) f ( u )  0với mọi   0

i

j

*

i

*

j

v o i i 1, 2 , , j 1, j 1, , m 1

   

f ( u )  0 , và

0

f ( u ) 0

f ( u ) 0

f ( u ) 0

Cho u là một phương án bất kì trong M, từ bất đẳng thức 2 của bài toán điểm yên ngựa ta nhận được

( u ) ( u ) f ( u )

f ( u ) 0

( u )

0 , f ( u ) 0 ]

Điều được chú ý ở đây là vì không có giả thiết lồi được tạo trong định lý trên, nên đẳng thức ràng buộc có thể được sử dụng lại bởi việc thay thế chúng bởi 2 bất đẳng thức ràng buộc Đó là, thay thế h ( u )  0 bởi h ( u ) 0  và h ( u ) 0 

Xét bài toán cực tiểu hóa



và tất cả mọi thứ còn lại thì được định nghĩa như trong MP 5.1.1 Cho

( u , a , a , s ) a ( u ) a f ( u ) s h ( u )

Và

u *  M ,   * R ,   * 0 , *   R sao cho

( u * , , ) ( u * , * , * ) ( u , * , * )

Hoặc nếu tồn tại

u *  M , a *  R , a *  0 , a *  R , a *  0 , s*  R sao cho

0 0 0

( u * , a * , a , s ) ( u * , a * , a * , s* ) ( u , a * , a * , s* )

0

( u * , a * , a * )là một nghiệm của FJSP 5.1.3 và chúng ta không đòi hỏi

0

*

quả sau

Nếu

0

Chứng minh: bằng việc chứng minh tương tự như trong định lý 1 trên, chúng ta chứng minh rằng

*

a f ( u )  0 Nếu

0

*

*

u  M

u u  M , f ( u )  0 là khác rỗng, thì với bất kì 1 phần tử u ' làm cho a f ( u ')*  0,

4 Điều kiện cần của tiêu chuẩn tối ưu

Vấn đề điều kiện cần thì phức tạp hơn so với điều kiện đủ của tiêu chuẩn tối ưu 2 trường hợp này được so sánh trong bảng dưới đây:

(a) Cần tính lồi

(b) Hệ quả của định lý tách của tập hợp lồi

thì cần thiết

(c) Điều kiện tổng quát (các tính chất ràng

buộc) thì quan trọng hơn trong điều

kiện cần (7 điều kiện dưới)

Không cần tính lồi

Hệ quả của định lý tách của tập hợp lồi thì không cần thiết

Không cần tính chất ràng buộc

Chúng ta bắt đầu thiết lập các điều kiện cho tiêu chuẩn tối ưu mà không đòi hỏi bất kì một điều kiện tổng quát nào Tiêu chuẩn này giống điều kiện cho tiêu chuẩn tối ưu của Fritx John [John 48]

không sử dụng tính khả vi nhưng chúng ta sử dụng tính lồi Tiêu chuẩn hiện có là một tiêu chuẩn điểm yên ngựa, trong khi tiêu chuẩn của Friz John là 1 tiêu chuẩn gradien Điểm chính của sự giống nhau là sự hiện diện của nhân tử

0

*

4.1 Định lý về kiều kiện cần cho tính tối ưu của bài toán điểm yên ngựa Fritz John

m

a *  R , a *  R , ( a * , a * )  0 thỏa FJSP 5.1.3 và a * f ( u * )  0

Chứng minh:

Vì u * thỏa mãn MP

f ( u ) 0

0

u  M

Bởi hệ luận 4.2.2 tồn tại

m

a *  R , a *  R , ( a * , a * )  0 sao cho a *0 ( u )   ( u * ) a * f ( u ) 0 

u  M

*

a f ( u )  0 và

a  ( u )  a f ( u ) a   ( u )  a f ( u ) với

u  M

Là bất đẳng thức thứ 2 của FJSP 5.1.3

a f ( u )  0

a  0 , a  R là bất đẳng thức thứ nhất của FJSP 5.1.3

4.2 Bài toán

Xét bài toán cực tiểu hóa



a f ( u )  0và:

( u , a , a , s ) ( u , a , a , s ) ( u , a , a , s )

( u , a , a , s ) a ( u ) a f ( u ) s h ( u )

Gợi ý: sử dụng lại hệ luận Corollary 4.2.2

Điều được lưu ý ở đây là trong điềk kiện cần của tiêu chuẩn tối ưu trên thì không đảm bảo

0

*

Trong trường hợp

0

*

bất kỳ một hàm nào khác có thể tuân thủ quy tắc của nó Để mà loại trừ những trường hợp như vậy, chúng ta có đưa vào 1 vài điều kiện chính quy Những điều kiện chính quy này thì được liên

hệ với một vài tài liệu như tính chất ràng buộc chúng ta sẽ có cơ hội để sử dụng những tính chất ràng buộc này trong suốt cuốn sách này Một vài những tính chất ràng buộc đó (giống như 3 cái được giới thiệu dưới đây) chỉ sử dụng tính lồi của hàm được định nghĩa trong miền chấp nhận

được của M một vài tính chất ràng buộc khác, được đưa vào sau, trong chương 7 phần ví dụ, hầu hết sử dụng tính khả vi của hàm được định nghĩa trong miền chấp nhận được của M

4.3 Tính chất ràng buộc Slater [Slater 50]

M  u u  M , f ( u ) 0  thì thỏa mãn tính chất ràng buộc Slater (trong X0) nếu tồn

u  M

4.4 Tính chất ràng buộc Karlin [Karlin 59]

M  u u  M , f ( u ) 0  thì thỏa mãn tính chất ràng buộc Karlin (trong M0)

u  M

4.5 Tính chất ràng buộc ngặt

M  u u  M , f ( u ) 0  thì thỏa mãn tính chất ràng buộc ngặt (trong M0

) nếu M

u

4.6 Bổ đề

Tính chất ràng buộc Slater 3 và tính chất ràng buộc Karlin 4 thì tương đương Tính chất ràng buộc ngặt 5 kéo theo tính chất ràng buộc Slater 3 và Karin 4

Chứng minh:

(1   ) u   u  M

f (1   ) u   u   (1   ) f ( u )   f ( u ) 0 

f ( u )  0 và 2

chất ràng buộc Slater 3 và vì vậy tính chất ràng buộc Karlin 4 cũng thỏa mãn

Chúng ta sẵn sàng để suy ra một điều kiện cần quan trọng nhất của tiêu chuẩn tối ưu không sử dụng tính khả vi Định lý được biết một cách rộng rãi dưới tên Kuhn-Tucker [Kuhn-Tucker 51], tuy nhiên cả Kuhn và Tucker đều đòi hỏi cả tính lồi lẫn tính khả vi trong phép lấy đạo hàm từ

chính nó Dạng hiện tại của định lý, không có đòi hỏi tính khả vi, là thuộc tính của Uzuwa [Uzuwa 58] và Karlin [Karlin 59]

4.7 Điều kiện tối ưu của định lý điểm yên ngựa Kuhn-Tucker

s u M g u i m







điểm cực tiểu địa phương của bài toán P thì sao cho:

i I

f u  g u v o i i I



m

i I

i

i m



















  







được viết một cách ngắn gọn hơn như sau:

0

i t

f u g u

g u















 



Định lý: cho tập mở khác rỗng n

s u M g u i m







Ký hiệu I i:g i( * )u  0 Giả sử các hàm f,g i,  i I là các hàm lồi và khả vi tại u* Lúc đó,

i I

f u  g u



4.8 Định lý Kuhn-Tucker cần thiết cho tiêu chuẩn tối ưu trong sự hiện diện các ràng buộc tuyến tính [Uzawa 58]

Lấy , f là một hàm hằng và một hàm vec tơ m-chiều mà cả hai hàm đều có tính lồi trong n

R , nghĩa là, h(u)=Bu – d, trong đó B là ma trận k X n, và d là một k-vec tơ Lấy

*

u M



Và lấy f và h thỏa mãn tất cả các tiêu chuẩn ràng buộc:

(i) (Khái quát Slater 3) là có một nghiệm n

x R

Hình 5.4.1: mối liên hệ giữa nghiệm của bài toán cực tiểu hóa địa phương

(LMP) 5.1.2, bài toán cực tiểu hóa (MP) 5.1.1, bài toán điểm yên ngựa Fritz

John (FJSP) 5.1.3, và bài toán điểm yên ngựa (KTSP) 5.1.4

(ii) (Khái quát Karlin 4) trong đó không tồn tại p  0 , p R m, q R k để mà

    0

p f u q B u d  cho tất cả n

u R

(iii) (Khái quát Strict 5) X chứa hai điểm nhỏ nhất 1

u và 2

u để mà g là lồi chặt chẽ tại 1

u

Khi đó *

u và một vài  *  R m,  *  0 ,  *  R k thỏa mãn  * f u* 0 , và

       

Chứng minh:

Chúng ta nên thiết lập nhóm đầu tiên để (iii)  ( )i   ii và sau đó chứng minh định lý dưới (ii)

[(i i i)  ( )i ] :

f u  f u  B u  d B u  d , chúng ta phải cho 0    1 điều

1

B   u  u   d và   1 2   1 2

f    u  u     f u   f u 

Do đó (i) cố định [( )i  ( )ii ] :

Nếu f u* 0 và B u*  d khi đó với mọip  0 , pR m và với mọi

   

k

q R p f u  q B u d 

Do đó (ii) cố định Chúng ta thiết lập định lý dưới (ii) Điều đó sẽ không mất tính tổng quát nếu chúng ta giả định các hàng B1, , B k của B độc lập tuyến tính, vì giả sử rằng một

số hàng, Bk

độc lập tuyến tính B1 , , B k1 , trong đó

1

1

k

i

B s B





  trong đó s1, ,s k1 là số

thực được xác định Khi đó

B u d s B u d s d d

với mọi u thỏa mãn B u i  d i, i 1, ,k  1 Nhưng vì * M , và

B u  d i k

nó kéo theo

1

1

0

k

i

s d d





 và B u k d k  0 với mọi u thỏa mãn

B u  d i k 

Do đó sự ràng buộc đẳng thức B u k  d k là thừa nghiệm và có thể được giảm từ bài toán cực tiểu hóa không thay đổi nghiệm u* Khi đó, một lần nữa chúng ta thiết lập định lý cho các hàng độc lập tuyến tính của B, chúng ta có thể biến đổi các hàng B k(mà không làm thay đổi bài toán cực tiểu hóa) và bộ  *k  0 trong bài toán điểm yên ngựa

Bằng 2 định lý trên, tồn tại r0R, r  R m , s  R k, r0,r 0 , r0,r s,  0

mà thỏa a* f u* 0 và thỏa bài toán điểm yên ngựa của 2 Nếu a*0  0, khi

đó  *  a* /a* , 0  *  s* /a* 0 giải quyết bài toán bởi định lý mà chúng ta đã làm Cho a*0  0 Khi đó vì a* f u* 0 và B u* d  0, chúng ta có bất đẳng thức thứ hai của bài toán điểm yên ngựa của 2 là 0  a* f  u s* (B u d)  0 với mọi

n

u R