Các điều kiện định tính và mỗi liên hệ giữa chúng .... Mối liên hệ giữa các điều kiện định tính... Các tiêu chuẩn tối ưu cần Trong các tiêu chuẩn tối ưu cần được đưa ra dưới đây, tính lồ
Trang 1BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM TP HCM
KHOA TOÁN - TIN
TIỂU LUẬN TỐI ƯU PHI TUYẾN
ĐỀ TÀI: TIÊU CHUẨN TỐI ƯU CỦA QUY HOẠCH
PHI TUYẾN VỚI GIẢ THIẾT KHẢ VI
GIẢNG VIÊN : TS TRỊNH CÔNG DIỆU THỰC HIỆN : NHÓM 21 – VB2 TOÁN – KHÓA 2
THÀNH PHỐ HỒ CHÍ MINH THÁNG 01 NĂM 2015
Trang 2MỤC LỤC
MỤC LỤC i
TIÊU CHUẨN TỐI ƯU CỦA QUY HOẠCH PHI TUYẾN VỚI GIẢ THIẾT KHẢ VI 2
1 Kiến thức chuẩn bị 2
1.1 Các định lý loại trừ 2
1.2 Hàm lồi và các định lý liên quan 2
1.3 Các điều kiện định tính và mỗi liên hệ giữa chúng 4
1.3.1 Bổ đề 1 5
1.3.2 Bổ đề 2 5
2 Các bài toán cực tiểu và các bài toán điểm dừng Fritz John và Kuhn-Tucker 7
3 Các tiêu chuẩn tối ưu đủ 8
3.1 Định lý 1 8
3.2 Hệ quả 1 9
3.3 Định lý 2 9
4 Các tiêu chuẩn tối ưu cần 11
4.1 Bổ đề tuyến tính hoá 11
4.2 Định lý tối ưu cần cho điểm dừng Fritz John 12
4.3 Định lý tối ưu cần cho điểm dừng Kuhn-Tucker 14
4.4 Định lý 16
4.5 Hệ quả 1 16
4.6 Hệ quả 2 17
5 Minh họa sơ lược mối liên hệ giữa nghiệm của các bài toán 18
6 Thuật toán và các ví dụ minh họa 19
6.1 Thuật toán giải bài toán MP bằng cách giải bài toán KTP tương ứng 19
6.2 Các ví dụ minh họa 20
Trang 3TIÊU CHUẨN TỐI ƯU CỦA QUY HOẠCH PHI TUYẾN VỚI GIẢ THIẾT KHẢ VI
00
0
A y B y C y
y y
(ii) Nếu là tập lồi thì (i) không cần điều kiện 1 x x
(iii) là hàm lồi trên nếu lồi tại mọi x
Trang 51.3 Các điều kiện định tính và mỗi liên hệ giữa chúng
Giả thiết chung:
0
X là tập lồi trong n
g là một hàm vectơ lồi m chiều xác định trên X0
0
X x xX g x
- Điều kiện Slater
Hàm g được gọi là thỏa mãn điều kiện Slater trên X0 nếu tồn tại 0
xX sao cho g x 0
- Điều kiện Karlin
Hàm g được gọi là thỏa mãn điều kiện Karlin trên 0
X nếu không tồn tại p m, p0 sao cho pg x 0 với mọi 0
xX
- Điều kiện nghiêm ngặt
Hàm g được gọi là thỏa mãn điều kiện nghiêm ngặt trên X0 nếu X chứa ít nhất hai điểm phân biệt 1
x , 2
x sao cho g lồi nghiêm ngặt tại 1
x
Giả thiết chung:
0
X là một tập mở trong n
g là một hàm vectơ m chiều xác định trên X0
X x xX g x
- Điều kiện Kuhn-Tucker
Hàm g được gọi là thoả mãn điều kiện Kuhn -Tucker tại xX nếu g khả vi tại x và nếu:
{ ( ̅)
{ 0 1,
( ) ̅
( )
( ) Trong đó: I i g x i 0
- Điều kiện Arrow-Hurwicz-Uzawa
Hàm g được gọi là thoả điều kiện Arrow-Hurwicz-Uzawa tại xX nếu g khả vi tại x và nếu
0 0
W
V
g x z
g x z
có một nghiệm
n
z
Trong đó: V i g i x 0, g i lõm tại x} và W i g x i 0, g i không lõm tại x}
- Điều kiện lồi đảo
Hàmgđược gọi là thoả điều kiện lồi đảo tại xX nếu g khả vi tại x và nếu với mỗi iI
thì hoặc là g i lõm tại x hoặc là g i tuyến tính trên n, trong đó I i g x i 0
Trang 6(i) Nếu g thỏa mãn điều kiện lồi đảo tại x , thì g thỏa điều kiện Arrow-Hurwicz-Uzawa tại x
(ii) Nếu g thỏa mãn điều kiện lồi đảo tại x thì g thỏa điều kiện Kuhn-Tucker tại x
(iii) Cho X0 lồi, g lồi trên 0
X và g khả vi tại x Nếu g thỏa mãn điều kiện Slater trên 0
X ,
điều kiện Karlin trên 0
X hoặc điều kiện nghiêm ngặt trên X0 thì g thỏa điều kiện Arrow-
Hurwicz-Uzawa tại x
Chứng minh:
(i) Cho g thỏa mãn điều kiện lồi đảo tại x
Khi đó với mỗi i I i g x i 0 thì hoặc là g i lõm tại x hoặc là g i tuyến tính trên n, điều này dẫn đến W i g x i 0, g i không lõm tại x} là tập rỗng và có z0 thỏa
Rõ ràng điều kiện (a) và (c) của điều kiện Kuhn-Tucker được thỏa Bây giờ ta sẽ chứng minh rằng điều kiện (b) cũng được thỏa Vì X0 là tập mở, và do g là lõm và khả vi tại I x nên ta có
Trang 7và điều kiện (b) của điều kiện Kuhn-Tucker được thỏa
(iii) Theo bổ đề 1, ta có điều kiện Slater và điều kiện Karlin là tương đương và điều kiện nghiêm ngặt bao hàm cả hai điều kiện Slater và Karlin Vì thế ta chỉ cần thiết lập bổ đề này với điều
kiện Slater Nếu g thỏa điều kiện Slater trên X thì tồn tại 0 ˆx X 0sao cho g x ˆ 0 Vì g khả vi tại
Điều kiện Slater
Điều kiện nghiêm ngặt
Điều kiện lồi đảo
Điều kiện Hurwicz-Uzawa
Arrow-Điều kiện Kuhn-Tucker
Hình 1.3 Mối liên hệ giữa các điều kiện định tính
Trang 82 Các bài toán cực tiểu và các bài toán điểm dừng Fritz John và Kuhn-Tucker
Giả thiết chung:
là một tập mở trong
là hàm số xác định trên
là hàm vectơ m chiều xác định trên
2.1 Bài toán cực tiểu toàn cục (MP)
2.1 Bài toán cực tiểu địa phương (LMP)
Tìm xX (nếu có) sao cho tồn tại quả cầu tâm , bán kính thỏa mãn:
2.3 Bài toán điểm dừng Fritz John (FJP)
Tìm xX ,r0 0 ,r m nếu tồn tại, thỏa mãn:
0
0
00
00
(Ta ngầm hiểu rằng và g khả vi tại x)
2.4 Bài toán điểm dừng Kuhn-Tucker (KTP)
00
x u g x
g x
ug x u
- Trong KTP ta có u 0, g x 0 và ug x 0 nên suy ra u g x i i 0 với i 1, ,m
như vậy bài toán có thể viết lại như sau:
Trang 9Cho xX0, X0mở, và g khả vi và lồi tại x
- Nếu x u, là một nghiệm của KTP thì x là một nghiệm của MP
- Nếu x r r, ,0 là một nghiệm của FJP, và r0 0 thì x là một nghiệm của MP
Chứng minh:
Ý thứ hai của định lý được suy ra từ ý thứ nhất do nhận xét ở mục 2
Giả sử x u, là một nghiệm của KTP Với mọi xX ta có
- Nếu ta đặt I i g x| i 0 , J i g x| i 0 thì do u g x i i 0 với i 1, ,m ta suy
ra u i 0 với i J và từ cách chứng minh trên ta nhận thấy có thể làm định lý chặt hơn bằng cách thay giả thiết g lồi tại x bởi giả thiết g I lồi tại x
Trang 10- Nếu ta đặt M i u| i 0 , N i u| i 0 thì ta cũng có thể thay giả thiết g lồi tại x bởi giả thiết g N lồi tại x
00
x u g x vB
g x
Bx d
ug x u
Cho xX0, X0 mở, khả vi và lồi tại x, g khả vi và lồi nghiêm ngặt tại x Nếu
x r r, ,0 là một nghiệm của FJP thì x là một nghiệm của MP
Trang 11
Trong đó A là ma trận có 1 I hàng và n cột, còn y 1 I (với I là số phần tử của tập I)
Khi đó hệ (I) được viết lại như sau: 0
0
A y y
0 x x x xˆx (do lồi tại x và Định lý 1.2.2 )
0 g I xˆ g I x g I xˆ ˆxx (do lồi nghiêm ngặt tại x và Định lý 1.2.3)
Điều này mâu thuẫn với hệ (II) nếu như ta đặt t xˆ x
Suy ra x x không có nghiệm xX hay x x với mọi xX
Mà g x 0, xX, do vậy x là nghiệm của MP.▐
Nhận xét:
Ta cũng có thể làm định lý này chặt hơn như đối với định lý 1
Trang 124 Các tiêu chuẩn tối ưu cần
Trong các tiêu chuẩn tối ưu cần được đưa ra dưới đây, tính lồi không đóng vai trò quyết định Tính khả vi của các hàm được dùng để tuyến tính hóa bài toán quy hoạch phi tuyến, rồi sau đó bằng cách sử dụng các định lý loại trừ ta thu được các điều kiện tối ưu cần Tiếp theo đó, để có được các điều kiện tối ưu cần quan trọng hơn ta xét thêm các điều kiện định tính ở mục 1.1
Ta sẽ bắt đầu với bổ đề tuyến tính hoá dưới đây, nhằm thiết lập sự không tồn tại nghiệm của một hệ các bất đẳng thức tuyến tính với giả thiết rằng bài toán cực tiểu địa phương (LMP) có nghiệm
4.1 Bổ đề tuyến tính hoá
Cho x là một nghiệm của LMP, X0 là tập mở, và g khả vi tại x
Đặt V {i g i x 0, g i lõm tại x} và W {i g x i 0, g i không lõm tại x}
Khi đó hệ
W
000
000
Giả sử có z thoả mãn các bất đẳng thức trên Khi đó do 0
X là tập mở nên ˆ 0 sao cho
0
với i0, ,m Do vậy ta suy ra các điều sau:
(i) Tồn tại 0 0 : thoả 0 0 ta đều có . x z0x,z z 0
Do đó: xz x 0 với 0 0
(ii) Tương tự, với iW luôn tồn tại i sao cho:
Trang 13 được định nghĩa ở trên Khi
đó với mọi thoả 0 ta có:
000
Dựa vào bổ đề tuyến tính hóa ở trên ta đưa ra một loạt các tiêu chuẩn tối ưu cần dưới đây:
4.2 Định lý tối ưu cần cho điểm dừng Fritz John
Cho x là một nghiệm của LMP hoặc của MP, 0
X là tập mở, và g khả vi tại x Khi đó tồn tại r0 và r m sao cho x r r, ,0 là nghiệm của FJP, và r r0, W0
Trong đó W {i g i x 0, và g i không lõm tại x}
Trang 14không có nghiệm z trong n
Do đó theo Định lý Motzkin, tồn tại r r0, W,r V sao cho
r r r
00
Hơn nữa xX (do xlà nghiệm của LMP) nên g x 0
Vậy x r r, ,0 là nghiệm của FJP, và r r0, W0.▐
x xX , g x lồi (trừ khi g V tuyến tính)
- Không có gì đảm bảo rằng r0 0 trong định lý trên Nhưng điều này vẫn có thể xảy ra, ví
dụ khi nghiệm x của LMP hoặc của MP nằm ở đỉnh, Hình 4.1 a, hoặc khi miền khả thi X
bị suy biến thành 1 điểm duy nhất, Hình 4.1 b Trong trường hợp mà r0 0, hàm sẽ không có mặt trong FJP, và ta có một trường hợp suy biến Nhưng ta có thể loại trừ các trường hợp như vậy bằng các đặt thêm điều kiện định tính cho các ràng buộcg x 0
Hình 4.1 Ví dụ về các bài toán cực tiểu mà r 0 0 (trong FJP)
Trang 154.3 Định lý tối ưu cần cho điểm dừng Kuhn-Tucker
Cho X0 là tập mở trong n, là hàm số xác định trên X0, và g là hàm vectơ m chiều xác
định trên 0
X , x là một nghiệm của LMP hoặc MP, và g khả vi tại x và g thỏa mãn:
(i) Điều kiện Kuhn-Tucker tại x, hoặc
(ii) Điều kiện Arrow-Hurwicz-Uzawa tại x, hoặc
(iii) Điều kiện lồi đảo tại x
Khi đó tồn tại m
u sao cho ( , )x u là nghiệm của KTP
Chứng minh:
Theo bổ đề 2 mục 1.3, nếu g thỏa mãn điều kiện lồi đảo tại x thì g thỏa điều kiện
Kuhn-Tucker tại xvì vậy ta chỉ cần thiết lập định lý với giả thiết (i) hoặc (ii)
(i) Cho x là một nghiệm của LMP với
| i( ) 0 | i( ) 0
Ta phải xem xét hai trường hợp: I rỗng và I khác rỗng
- Trường hợp I
Lấy y là một vectơ bất kỳ trong n
sao cho yy1 Khi đó
Vì y là một vectơ tùy ý trong n thỏa yy1, bằng cách cho y ei, trong đó i n
e là một vectơ mà vị trí thứ i là 1 còn vị trí khác là 0, từ bất đẳng thức cuối này ta kết luận rằng:
Cho g thỏa điều kiện Kuhn-Tucker tại x và y nthỏa g x y I( ) 0 Khi đó tồn tại một
hàm vec tơ n chiều e xác định trên [0,1] sao cho (0) e x, ( )e X với 0 1, e khả vi tại 0
và de(0) /d y với 0 nào đó Do đó với 0 1
Trang 16Do đó theo quy tắc tính đạo hàm hàm hợp và sự khả vi của tại x và của e tại 0, ta có
Vậy ( , )x u là nghiệm của KTP
(ii) Cho x là nghiệm của MP hoặc của LMP
Khi đó theo Định lý Fritz John 4.2, tồn tại r0 và r m sao cho ( , , )x r r0 là nghiệm của FJP và ( ,r r0 w) 0 trong đó W{ |i g x i( )0, và g không lõm tại } i x
Đặt V{ |i g x i( )0, và g lõm tại } i x và J { |i g x i( )0}
Theo nhận xét ở mục 2, ta chỉ phải chứng tỏ rằng r0 0 Vì ( ,r r0 w) 0 , ta sẽ có r00 nếu
W rỗng Bây giờ giả sử rằng W khác rỗng, ta sẽ dùng phản chứng để chứng tỏ rằng r0 0 Thật vậy giả sử r0 0, khi đó vì r J 0, ta có
00
W V
Trang 17( ) 0
W V
X , x là một nghiệm của LMP hoặc MP, và g khả vi tại x và g thỏa mãn:
(i) Điều kiện Slater trên 0
X , hoặc (ii) Điều kiện Karlin trên X0, hoặc
(iii) Điều kiện nghiêm ngặt trên X0
Khi đó tồn tại u m sao cho ( , )x u là nghiệm của KTP
Chứng minh:
Theo bổ đề 2 mục 1.3, nếu g thỏa mãn điều kiện Slater trên 0
X , điều kiện Karlin trên X0
hoặc điều kiện nghiêm ngặt trên X0 thì g thỏa điều kiện Arrow-Hurwicz-Uzawa tại x Áp dụng định lý trên ta suy ra điều phải chứng minh.▐
Nhận xét:
Từ các định lý trên ta có thể suy ra các hệ quả dưới đây, các hệ quả này cũng đóng một vai trò đáng
kể trong việc kết luận nghiệm của thuật toán ở mục 6
4.5 Hệ quả 1
Cho X0 là tập mở trong n, là hàm số xác định trên X0, và g là hàm vectơ m chiều xác định
trên X0 Đặt * | + Giả sử không tồn tại x u, thỏa bài toán KTP trong đó ̅ và m
u khi đó :
(i) g thỏa cả hai điều kiện Kuhn-Tucker và Arrow-Hurwicz-Uzawa tại mọi xAMP
không có nghiệm trong A
(ii) g không thỏa điều kiện lồi đảo tại mọi xAchưa thể kết luận gì về nghiệm của MP
Chứng minh:
Hệ quả này là một mệnh đề phản đảo của định lý 4.3
Trang 184.6 Hệ quả 2
Cho X0 là tập lồi, mở trong n, là hàm số xác định trên X0, và g là hàm vectơ lồi m
chiều xác định trên X0 Đặt * | + Giả sử không tồn tại x u, thỏa bài toán KTP trong đó ̅ và m
u khi đó :
(i) g thỏa điều kiện Slater hoặc điều kiện Karlin trên 0
X bài toán MP không có nghiệm
trong A
(ii) g không thỏa điều kiện nghiêm ngặt trên 0
X chưa thể kết luận gì về nghiệm của MP
kiện định tính nào được thỏa, có thể sẽ không tồn tại một tổ hợp tuyến tính không âm của ( )x và ( )
Trang 195 Minh họa sơ lược mối liên hệ giữa nghiệm của các bài toán
Hình 5.1 Mối liên hệ giữa các nghiệm của LMP, MP, FJP và KTP
Hình 5.2 Mối liên hệ giữa các nghiệm của LMP, MP, FJP, KTP và các bài toán điểm yên ngựa
Fritz John (FJSP) và Kuhn - Tucker (KTSP) ở chương 5
Trang 206 Thuật toán và các ví dụ minh họa
6.1 Thuật toán giải bài toán MP bằng cách giải bài toán KTP tương ứng
Cho là một tập mở trong , là hàm số xác định trên , gg g1, 2, ,g m là hàm vectơ
m chiều xác định trên (Trong nhiều bài toán quy hoạch phi tuyến X0là n)
Xét bài toán cực tiểu toàn cục (MP):
- Nếu A , ta thực hiện tiếp bước 2
Bước 2: Tính x ,g x với x A rồi viết bài toán KTP
Bước 3: Xét các trường hợp sau:
- Nếu bài toán KTP ở trên vô nghiệm, ta sử dụng Hệ quả 1 ở mục 4.5 hoặc Hệ quả 2 ở mục 4.6 để kết luận nghiệm của MP
- Nếu x u, là một nghiệm của bài toán KTP, ta tiếp tục bước 4
Bước 4: Kiểm tra tính lồi của , g i tại x (trong đó iN j u| j 0)
- Nếu không lồi tại x hoặc tồn tại iN sao chog i không lồi tại x ta vẫn chưa kết luận được gì về nghiệm bài toán MP
- Nếu , g i lồi tại x với mọi iN, theo phần nhận xét ở định lý 1 mục 3.1 ta kết luận x là nghiệm của bài toán MP
Trang 21 là các hàm sơ cấp nên khả vi trên 3
g g là các hàm sơ cấp nên khả vi trên 1, 2 3, do đó g khả vi trên 3
2
g
x x x
, 1
2 2
2
g
x x x
Trang 22Bước 3: Giải hệ (I)
Từ (1) và (8), suy ra: x1 0 Thay x1 0 vào (4) suy ra: u1 0 hoặc x2 1
- Trường hợp u1 0 thay vào (2) suy ra x2 2
Thay x1 0, u1 0, x2 2 vào (I) ta có:
3 2
2 3 3 2
x Ta thấy x3 1 không thỏa (7)
Với x3 0 thay vào (3) suy ra u2 2 Nghiệm u2 2 thỏa (9)
Vậy x 0, 2, 0 , u 0, 2 thỏa hệ (I)
Bước 4:
Do N j u| j 0 2 nên ta chỉ cần kiểm tra tính lồi của và g tại x 2
Để thực hiện điều này ta dùng định nghĩa 1.2.1 về hàm số lồi trên tập lồi 3
Với 0 1, x 0, 2, 0 , kí hiệu 3
1, 2, 3
x x x x
Trang 24 g g g g là hàm các sơ cấp nên khả vi trên 1, 2, 3, 4 2
Trang 25Bước 3: Tìm nghiệm x u, thỏa hệ (I)
Vì x j 0 , j1, 2 và u i 0 ,i 1, , 4 nên từ (1) suy ra u3 0 Với u3 0, từ (5) suy ra
1 0
x Thay x1 0 vào (4) suy ra u2 0
Thay x1 0, u2 0 vào (I) ta có hệ:
Từ (3 ) suy ra u1 0 hoặc x2 1 Giả sử x2 1, từ (6) suy ra u4 0
Thay x2 1, u4 0 vào 1 và 2 , suy ra u1 60 và u3 112
Như vậy x 0,1 , u 60,0,112,0 thỏa (I)
Bước 4:
Do N j u| j 0 1,3 nên ta chỉ cần kiểm tra tính lồi của f g g tại , 1, 3 x 0,1
Để thực hiện điều này ta dùng định nghĩa 1.2.1 về hàm số lồi trên tập lồi 2